Das   böll.brief  –  Grüne Ordnungpolitik  bietet Analysen, Hintergründe und programmatische Impulse für eine sozial-ökologische Transformation. Der Fokus liegt auf den Politikfeldern Energie, Klimaschutz, Digitalisierung, Stadtentwicklung sowie arbeits- und wirtschaftspolitische Maßnahmen zum nachhaltigen Umbau der Industriegesellschaft.

Das   böll.brief der Abteilung Politische Bildung Inland der Heinrich-Böll-Stiftung erscheint als E-Paper im Wechsel zu den Themen «Teilhabegesellschaft», «Grüne Ordnungspolitik», «Demokratie & Gesellschaft» und «Öffentliche Räume».

Inhaltsverzeichnis

Inhaltsverzeichnis

Zusammenfassung

1 Einleitung

1.1 Relevanz von Plattformen für Demokratie und Diskurs

1.2 Aktuelle Regulierungsansätze in Deutschland und Europa

2 Herausforderungen durch digitale Kommunikationsplattformen

2.1 Illegale Inhalte

2.2 Unerwünschte Inhalte

2.3 Aufmerksamkeitsmaximierung

2.4 (Mangelnde) Verantwortlichkeit der Plattformen

3 Perspektiven

Literaturverzeichnis

Die Autor/innen

Impressum

■ Inhaltsverzeichnis – □ Zusammenfassung – □ 1 Einleitung – □ 2 Herausforderungen durch digitale Kommunikationsplattformen – □ 3 Perspektiven – □ Literaturverzeichnis – □ Die Autor/innen – □ Impressum

Zusammenfassung

Zusammenfassung

Die großen Plattformanbieter sind längst zu entscheidenden Akteuren des Internets geworden  –  nicht nur als kritische Informationsinfrastrukturen, sondern auch auf Ebene der Inhalte. Sie moderieren, kuratieren Inhalte und sperren Accounts anhand selbst gesetzter Regeln. Wir fragen: Wie beeinflussen private Unternehmen die öffentliche Debatte, und wie können sie demokratisch überprüft werden? Wir möchten einen Überblick geben über die demokratischen Herausforderungen digitaler Plattform-Geschäftsmodelle, aktuelle Regulierungsvorhaben auf nationaler und europäischer Ebene und die Perspektiven dafür, wie sich ein demokratischer Diskurs im Netz gestalten lässt.

□ Inhaltsverzeichnis – ■ Zusammenfassung – □ 1 Einleitung – □ 2 Herausforderungen durch digitale Kommunikationsplattformen – □ 3 Perspektiven – □ Literaturverzeichnis – □ Die Autor/innen – □ Impressum

1 Einleitung

1Einleitung

1.1 Relevanz von Plattformen für Demokratie und Diskurs

1.1Relevanz von Plattformen für Demokratie und Diskurs

Nach der Stürmung des Kapitols in Washington im Januar 2021 flog Donald Trump aus dem Internet. Fast alle großen Social-Media-Plattformen  –  darunter Twitter, Facebook, Instagram und Snapchat  –  sperrten die Accounts des damals amtierenden US-Präsidenten. Anlass für das Deplatforming  waren Beiträge Trumps, die man im Englischen als «lawful but awful» bezeichnen könnte: Sie hatten die Grenzen des Rechts wohl noch nicht überschritten, in jedem Fall aber jene des konstruktiven Diskurses  –  und außerdem die Hausordnungen der sozialen Netzwerke. Unter Berufung auf ihre Community Standards warfen Facebook und Co den US-Präsidenten daraufhin von ihren Plattformen (vgl. Hegemann et al. 2021). Kurz darauf sperrten Amazon, Apple und Google das rechte Nischennetzwerk Parler  –  und setzten auch Trumps alternativen Kanal damit trocken.

Wie mühelos Tech-Konzerne nach eigenen Regeln selbst den US-Präsidenten stummschalten können, hat eine Debatte um die Macht kommerzieller Plattformbetreiber in puncto Meinungsfreiheit ausgelöst: Welchen Einfluss dürfen private Unternehmen auf den öffentlichen Diskurs haben? Und wie können sie demokratisch kontrolliert werden? Die großen Plattformanbieter sind zu entscheidenden Akteuren des Internets geworden, nicht nur auf Ebene der Infrastruktur, sondern längst auch den Inhalt betreffend: Sie moderieren, kuratieren, sperren Accounts anhand selbst gesetzter Regeln  –  kurz: sie definieren die Grenzen des Sagbaren im digitalen Diskurs. Soll sich diese Bestandsaufnahme nicht zur Dystopie entwickeln, dürfen Gesellschaft und Staat ihre Verantwortung für ein demokratisches Miteinander nicht weiter privaten Unternehmen überlassen. Doch die Risiken einer solchen Regulierung sind ähnlich vielfältig wie ihre möglichen Ansatzpunkte  –  zwischen Gerichten, Medienaufsicht und Parlamenten; zwischen Bundesländern, Berlin und Brüssel.

Dieser Text soll zeigen, welche demokratischen Herausforderungen digitale Plattform-Geschäftsmodelle mit sich bringen, welche aktuellen Regulierungsvorhaben es auf nationaler und europäischer Ebene gibt und wie die Perspektiven dafür aussehen, dass ein demokratischer Diskurs im Netz gelingen kann. Er erhebt keinen Anspruch auf Vollständigkeit, sondern soll vielmehr einen Eindruck von Breite und Bedeutung des Themas vermitteln und Anknüpfungspunkte für eine weitere Beschäftigung mit einzelnen Aspekten bieten. Dabei meint der Plattformbegriff hierbei Kommunikationsplattformen wie soziale Netzwerke, in denen Nutzer/innen untereinander und mit der

Öffentlichkeit Inhalte teilen und auf sie reagieren können. Handelsplattformen wie Amazon und eBay sowie Dienstleistungsplattformen wie Uber und Airbnb liegen außerhalb der Betrachtung.

1.2 Aktuelle Regulierungsansätze in Deutschland und Europa

1.2Aktuelle Regulierungsansätze in Deutschland und Europa

Der Ruf nach einer besseren Regulierung digitaler Kommunikationsplattformen ist nicht neu. Bereits seit mehreren Jahren befassen sich Politiker/innen in Deutschland und Europa mit der Frage, welche Gefahr digitale Plattformen für unsere Demokratie darstellen und wie ihr beizukommen ist. Auf Ebene der Länder, des Bundes und der Europäischen Union haben sie Regeln entworfen und teils bereits verabschiedet, die den rechtlichen Rahmen, in dem die Plattformen operieren, enger und schärfer fassen und damit verbessern sollen. Ausgangspunkt aller Initiativen ist stets die Diagnose, dass digitale Kommunikationsplattformen ihrer Verantwortung für Gesellschaft und demokratischen Diskurs nicht oder nur unzureichend gerecht werden. Jedoch  –  das zeigen die bisherigen Regulierungsansätze  –  tun sich auch die Gesetzgeber/innen schwer damit, dieser Verantwortung klare, neue Verhaltensregeln gegenüberzustellen.

Bestes Beispiel für diese Herausforderung ist das Netzwerkdurchsetzungsgesetz (NetzDG, s. Kasten, hier), der älteste und wohl bekannteste Ansatz der Regulierung sozialer Medien in Deutschland. Seit 2017 in Kraft, legt das NetzDG keine neuen Regeln zum Umgang mit Onlineinhalten fest, sondern soll schlicht die Durchsetzung bereits bestehender Vorschriften verbessern. Außerdem müssen die sozialen Netzwerke laut NetzDG zweimal jährlich Bilanz ziehen: Wie viele Beschwerden sind bei ihnen worüber eingegangen, und wie lange dauerte es, darauf wie zu reagieren?

Der Medienstaatsvertrag (MStV, s. Kasten, hier), mit dem die Länder 2020 ihre Medienregulierung behutsam ins Digitalzeitalter gehoben haben, setzt ebenfalls für digitale Plattformen vor allem auf Transparenz. Er fordert von Facebook und Co, die Kriterien offenzulegen, nach denen sie Inhalte auswählen und anzeigen. Neue Regeln, welche Inhalte zu entfernen seien, stellt der MStV ebenfalls nicht auf.

Und auch der Entwurf des Digital Services Act der EU-Kommission vom Dezember 2020 (DSA, s. Kasten, hier) rückt Transparenz und Auskunftspflichten digitaler Plattformen in den Mittelpunkt: Nach welchen Regeln moderiert das Unternehmen die Nutzer/innen-Inhalte? Wie viele wurden warum gelöscht? Wessen Werbung wird wem warum angezeigt? Bei der Frage nach illegalen Inhalten verweist der DSA wiederum pauschal auf das übrige Recht der Union und ihrer Mitgliedstaaten.

Neben dieser expliziten Regulierung des Umgangs mit Inhalten spielen mittelbar auch solche Vorschriften eine Rolle, die das Geschäftsmodell der Plattformen insgesamt beeinflussen. Dazu gehört etwa die Datenschutz-Grundverordnung (DS-GVO), die die Nutzung personenbezogener Daten einschränkt und ein Recht auf deren Übertragbarkeit auf eine andere Plattform festschreibt.

Zwar sind die geschilderten Regulierungsansätze auf Europa oder gar Deutschland beschränkt, jedoch zeigt die Erfahrung, dass die hiesige Regulierung ihre Wirkung auch über Landesgrenzen hinaus entfaltet  –  und sei es «nur» als Vorbild.

So beschloss Ende 2020 der österreichische Nationalrat ein Gesetzespaket gegen Hass im Netz, das sich stark am deutschen Netzwerkdurchsetzungsgesetz (NetzDG) orientiert. Das «Hass-im-Netz-Bekämpfungs-Gesetz» beinhaltet wie das deutsche Vorbild ein Beschwerdeverfahren für Nutzer/innen, das Plattformen dazu verpflichtet, offensichtlich rechtswidrige (oder strafbare) Inhalte innerhalb von 24 Stunden zu entfernen.

Auch in Frankreich wurde ein Gesetz gegen Hassinhalte («loi avia») nach deutschem Vorbild eingeführt. Dies scheiterte allerdings wenige Wochen nach der Verabschiedung im Mai 2020 am französischen Verfassungsgericht. Das Gericht erklärte große Teile des Gesetzes für verfassungswidrig, strittig war insbesondere der erste Artikel, dem zufolge Plattformen innerhalb einer Stunde «offensichtlich rechtswidrige» (etwa terroristische und missbrauchsdarstellende) Inhalte entfernen müssen. Sowohl die Entscheidungshoheit der Plattformen über die Rechtswidrigkeit der Inhalte als auch die kurzen Prüffristen befand das Gericht als unangemessenen, nicht notwendigen und unverhältnismäßigen Eingriff in die Meinungs- und Kommunikationsfreiheit (vgl. Heldt 2020).

Vieles spricht dafür, dass am Ende der nationalen Alleingänge eine europäische Lösung stehen wird. So hat sich die EU-Kommission mit dem Digital Services Act das Ziel gesetzt, einen europäischen Flickenteppich der Plattformregulierungen zu verhindern.

□ Inhaltsverzeichnis – □ Zusammenfassung – ■ 1 Einleitung – □ 2 Herausforderungen durch digitale Kommunikationsplattformen – □ 3 Perspektiven – □ Literaturverzeichnis – □ Die Autor/innen – □ Impressum

2 Herausforderungen durch digitale Kommunikationsplattformen

2Herausforderungen durch digitale Kommunikationsplattformen

2.1 Illegale Inhalte

2.1Illegale Inhalte

Die erste Problemkategorie dürfte gar keine sein, sollte man meinen. Auch heute schon haben hierzulande Onlineinhalte, die gegen deutsches Recht verstoßen, von digitalen Plattformen zu verschwinden. Von frei zugänglicher Pornografie über Hakenkreuze bis zur Volksverhetzung: Sobald die Plattformen von illegalen Inhalten Wind bekommen, müssen sie diese löschen oder den Zugang sperren  –  eigentlich. Doch so klar diese Rechtslage auch sein mag, so sehr hapert es an ihrer Durchsetzung. Das liegt vor allem daran, dass große US-Plattformen wie Facebook, Twitter und YouTube ihren europäischen Sitz nicht in Deutschland, sondern meist in Irland haben. So sind die deutschen Behörden häufig auf langwierige Rechtshilfeverfahren angewiesen.

Zwar soll das Netzwerkdurchsetzungsgesetz (s. Kasten, hier) diese Rechtsdurchsetzung vereinfachen, Kritiker/innen warnen aber davor, die Unterscheidung zwischen legal und illegal an private Unternehmen auszulagern: Wer den Netzwerken Strafen für rechtswidrige Inhalte androhe, verleite sie dazu, lieber zu viel als zu wenig zu löschen (Overblocking), und bringe damit die Meinungsfreiheit online in Gefahr. Allerdings deuten die bisherigen NetzDG-Transparenzberichte nicht darauf hin, dass die Unternehmen deutsches Strafrecht über Gebühr anwenden. Vielmehr sperren sie nur einen Bruchteil der gemeldeten Inhalte aufgrund deutschen Rechts. In den meisten Fällen greifen die Netzwerke aufgrund ihrer eigenen Hausregeln ein  –  was den enormen Einfluss dieser Community Standards auf die Kommunikation im Netz verdeutlicht (Kettemann 2019).

Neben der geringen praktischen Bedeutung deutschen Rechts gegenüber den privaten Hausordnungen der Netzwerke verstößt das NetzDG außerdem nach Ansicht vieler Jurist/innen gegen Europarecht, genauer: gegen das sogenannte Herkunftslandprinzip. Dem zufolge sind digitale Plattformen nur der Regulierung jenes EU-Mitgliedstaats unterworfen, in dem sie niedergelassen sind. Bis auf wenige Ausnahmen dürfte Deutschland also keine Regeln entwerfen, die strenger sind als die irischen. Auch im Medienstaatsvertrag (s. Kasten, hier) sehen Kritiker/innen einen solchen Verstoß gegen EU-Recht.

Doch möglicherweise erledigt sich dieser Konflikt zwischen nationaler und europäischer Regulierung auf mittlere Sicht von allein, denn der Entwurf des Digital Services Act der Europäischen Kommission enthält ebenfalls Regeln, die Plattformen vorschreiben, in «zeitnaher, sorgfältiger und objektiver Weise» (Art. 14 Abs. 6 S. 1 DSA) über möglicherweise illegale Inhalte zu urteilen. Was jedoch illegal ist, dazu stellt auch der DSA  –  wie schon NetzDG und MStV  –  keine neuen Regeln auf, sondern verweist auf bestehendes Recht. In keinem Regulierungsansatz geht es darum, Sprechverbote zu erteilen. Existierende Regulierungsansätze sollen vielmehr den bestehenden Regeln auch im Netz zur Geltung verhelfen.

Netzwerkdurchsetzungsgesetz (NetzDG)

Das NetzDG verpflichtet soziale Netzwerke mit mehr als zwei Millionen Nutzer/innen, schneller und transparenter gegen bestimmte illegale Inhalte vorzugehen. Laut NetzDG müssen die Unternehmen ein Verfahren anbieten, mit dem ihre Nutzer/innen rechtswidrige Inhalte melden können. Innerhalb von 24 Stunden sollen die Netzwerke dann «offensichtlich rechtswidrige» Inhalte sperren, sonstige rechtswidrige Inhalte innerhalb von sieben Tagen (§ 3). Daneben müssen sie zweimal jährlich in sogenannten Transparenzberichten offenlegen, wie viele Inhalte sie warum und wie schnell entfernt haben (§ 2). Ein «Zustellungsbevollmächtigter» in Deutschland soll außerdem die Kommunikation mit deutschen Behörden und damit die Rechtsdurchsetzung vereinfachen (§ 5).

Künftig sollen zwei geplante NetzDG-Änderungen erlauben, gegen Löschentscheidungen der Netzwerke Einspruch einzulegen, und die Unternehmen müssen als illegal vermutete Inhalte samt der Nutzer/innen-Details an das Bundeskriminalamt weiterleiten. Darüber hinaus sollen die Transparenzberichte ausgebaut werden und Forscher/innen ein Recht auf Datenzugang erhalten.

2.2 Unerwünschte Inhalte

2.2Unerwünschte Inhalte

Die zweite Problemkategorie betrifft Inhalte, die zwar nicht illegal sind, aber dennoch eine Gefahr für ein demokratisches Miteinander darstellen können. Darunter fallen Beiträge, die der öffentlichen Irreführung dienen und absichtlich sowie nachweislich falsch sind. Mit der US-amerikanischen Präsidentschaftswahl im Jahr 2016 ist in dem Zusammenhang der Begriff Fake News zum politischen Schlagwort geworden  –  aus wissenschaftlicher Sicht erweist dieser populäre Begriff der Diskussion jedoch einen Bärendienst, da er Grenzen verwischt. Stattdessen sollte zwischen Desinformation , Misinformation  und Malinformation  unterschieden werden (vgl. Wardle, Derakhshan 2017; für eine genaue Kategorisierung vgl. Turčilo, Obrenović 2020).

Quelle: https://firstdraftnews.org; eigene Übersetzung; eigene Darstellung.

▬Unter Desinformation  lassen sich Informationen fassen, die falsch sind und absichtlich erstellt werden, um einer Person, einer sozialen Gruppe oder einem Land zu schaden.

▬Fehlinformation  sind Informationen, die falsch, aber ohne Schadensabsicht sind.

▬Zu Malinformation  zählen Informationen, die der Wahrheit entsprechen und gezielt eingesetzt werden, um Schaden zuzufügen.

Desinformationen sind nicht per se illegal. Sie bewegen sich vielmehr in einer rechtlichen Grauzone, stellen aber eine wachsende Gefahr für demokratische Gesellschaften dar. Sie verbreiten sich mit großer Geschwindigkeit im Netz und können gezielt eingesetzt werden, um politische Meinungen zu beeinflussen, das Vertrauen in Institutionen zu zerrütten oder extremistische Haltungen zu stärken.

Der Umgang mit Desinformation und anderen unerwünschten, aber legalen Inhalten ist politisch heikel. Wenn der Staat bestimmte Informationen löschen oder sanktionieren lässt, ist schnell die Meinungsfreiheit in Gefahr. Wer entscheidet, welche Inhalte «richtig» und welche «falsch» sind; welche gefährlich und welche harmlos? Dystopische Begriffe wie «Wahrheitsministerium» kommen in den Sinn. Auch deshalb tut sich der Gesetzgeber schwer mit diesem Graubereich und widmet sich etwa mit dem NetzDG nur illegalen Inhalten (Löber, Roßnagel 2020). Stattdessen setzt etwa die EU bisher im Rahmen des Code of practice on disinformation auf Selbstregulierung durch die Plattformen, allerdings mit begrenztem Erfolg (ERGA 2019)  –  und der offenen Frage, ob das Löschen legaler Inhalte durch Private automatisch besser ist als dasjenige durch den Staat.

Mittlerweile bewegt sich aber etwas im Kampf gegen Desinformation. Mit dem Digital Services Act sollen Forscher/innen Zugang zu aussagekräftigen Daten der Plattformen erhalten können, um die Verbreitung von Desinformation und anderen riskanten Inhalten besser zu verstehen. Außerdem will die EU-Kommission mit dem Europäischen Aktionsplan für Demokratie ihr Vorgehen gegen Desinformation verbessern. Der Aktionsplan soll die Selbstregulierung nun zur Ko-Regulierung aufstocken und erwähnt erstmals auch Sanktionen gegen die Urheber/innen von Desinformation. Die Sanktionen sollen sich allerdings nur gegen ausländische Einflussnahme durch andere Staaten richten, nicht an inländische Urheber/innen von Desinformationen (Europäische Kommission 2020). Wie konkret die neuen Regeln aussehen, ist allerdings noch unklar. Kurzfristige Maßnahmen enthält der Aktionsplan nicht, es handelt sich um ein auf mehrere Jahre angelegtes Arbeitsprogramm.

2.3 Aufmerksamkeitsmaximierung

2.3Aufmerksamkeitsmaximierung

Ein weiteres Risiko für den öffentlichen Diskurs ist grundsätzlicher Natur: das Geschäftsmodell der Plattformen per se. Dabei sorgen nicht die Nutzer/innen für Umsatz bei den Unternehmen, sondern Werbekund/innen. Plattformen verkaufen die Aufmerksamkeit ihrer Nutzer/innen. Daher sind die Algorithmen der Netzwerke nicht für den demokratischen Diskurs optimiert, sondern für einen größtmöglichen Werbeerfolg. Hier ist aus zwei Gründen Vorsicht geboten: Zum einen sind es vor allem empörende Aufreger-Inhalte, die die Aufmerksamkeit von Menschen binden und sie lange auf der Plattform halten. Deshalb lohnt es sich für die Unternehmen, bei der Sortierung der Inhalte weniger auf abwägenden Austausch als auf emotionale Eskalation zu setzen, was dem Umgang miteinander nicht gerade guttut.

Zum anderen birgt die starke Personalisierung der Inhalte Gefahren, gerade für politische Diskussionen. Wenn psychologisch maßgeschneiderte Werbung mich zum Kauf einer bestimmten Hautcreme verführt, ist das nur für meinen Geldbeutel ärgerlich. Wenn jedoch politische Parteien mir anhand höchstpersönlicher Merkmale nur ausgewählte Informationen präsentieren, ist die Demokratie in Gefahr, denn diese hängt vom Wettstreit der Argumente vor den Augen aller ab  –  und nicht von der Manipulation Einzelner in ihrem persönlichen News-Feed (Jaursch 2020).

Auswahl und Vielfalt der Inhalte, die wir online zu sehen bekommen, haben enormen Einfluss darauf, wie wir die Welt als Ganzes wahrnehmen. Die Vielfalt sozialer Netzwerke selbst jedoch ist durchaus überschaubar: Im Januar 2021 erreichten allein die größten fünf in Deutschland einen gemeinsamen Marktanteil von mehr als 97 Prozent (Statista 2021). So lohnt es sich für Nutzer/innen meist nicht, zu einem anderen Netzwerk zu wechseln, solange sie die meisten ihrer Freund/innen nur bei den Platzhirschen erreichen. Damit spielt der sogenannte Netzwerkeffekt Facebook und Co in die Hände. Noch dazu ist die Interoperabilität der Plattformen gering. Es ist also ausgesprochen schwierig, mit allen Fotos, Nachrichten und sonstigen Inhalten von einem Anbieter zu einem anderen umzuziehen. All das führt dazu, dass Nutzer/innen gewissermaßen auf den etablierten Netzwerken «gefangen» sind  –  der sogenannte Lock-in-Effekt (Hoffmann 2020). Auf diese Weise hat nicht nur die Inhalte-Auswahl der Plattformen Einfluss auf unser Onlinebild der Wirklichkeit, sondern auch unsere eingeschränkte Auswahl der entsprechenden Anbieter.

Medienstaatsvertrag (MStV)

Im November 2020 lösten die Länder ihren Rundfunkstaatsvertrag durch den Medienstaatsvertrag (MStV) ab  –  und machten im Titel bereits die Stoßrichtung ihrer Reform deutlich. Das Rahmenwerk der deutschen Medienregulierung sollte endlich dem Rundfunkzeitalter entwachsen. So widmet sich der MStV nun zum ersten Mal sozialen Netzwerken und Suchmaschinen, die im Duktus des Staatsvertrags Medienintermediäre heißen. Kern der entsprechenden Regeln sind Transparenz und Nichtdiskriminierung: Zum einen müssen Intermediäre veröffentlichen, welche Inhalte sie warum wie anzeigen und wie die entsprechenden Algorithmen funktionieren. Zum anderen dürfen sie journalistische Angebote (in dieser Einschränkung zeigt sich der medienrechtliche Charakter des MStV) nicht systematisch behindern. Sie dürfen also etwa die Bild-Zeitung nicht ohne Grund stets vor dem Tagesspiegel anzeigen.

2.4 (Mangelnde) Verantwortlichkeit der Plattformen

2.4(Mangelnde) Verantwortlichkeit der Plattformen

Die vielleicht größte Herausforderung digitaler Plattformen ist die gefährliche Kombination aus ihrem enormen Einfluss und ihrer mangelnden Verantwortlichkeit. Entgegen ihrer Bedeutung für den öffentlichen Diskurs sind Facebook und Co ihren Anteilseigner/innen verpflichtet, nicht dem Gemeinwohl. Sie sind private Unternehmen, die ihre Plattformen für Nutzer/innen öffnen  –  und dafür ihre eigenen Regeln machen können: Welche Inhalte sind erlaubt? In welcher Reihenfolge werden sie angezeigt? Welche Rolle spielt dabei mein Geschlecht/Alter/Religion? Es sind die Betreiber/innen der Plattformen, die diese Fragen beantworten und darüber niemandem Rechenschaft schuldig sind  –  zumindest auf den ersten Blick. Denn sowohl Gesetzgeber als auch Gerichte bemühen sich seit jüngster Vergangenheit zunehmend, die Unternehmen für ihren enormen Einfluss auch zur Verantwortung zu ziehen.

Eine der Hürden sind dabei fehlende Einblicke der internen Abläufe. Für Außenstehende ist die Plattform häufig ein Buch mit sieben Siegeln. Doch wenn außer den Unternehmen niemand weiß, nach welchen Regeln Plattformen Inhalte moderieren, können Wissenschaft und Politik schwerlich bessere Regeln entwickeln. Viele Regulierungsansätze dringen deshalb auf mehr Transparenz der Unternehmen. Der DSA-Entwurf etwa (s. Kasten, hier ) fordert für jeden Eingriff in Nutzer/innen-Inhalte von den Unternehmen eine Begründung, die sie (anonymisiert) in einer Datenbank veröffentlichen müssen. Auch ein Einspruchsverfahren schreibt er vor, damit Nutzer/innen gegen die Löschentscheidung einer Plattform vorgehen können. Auf diese Weise sollen die Unternehmen ihre eigenen Prozesse nachvollziehbarer gestalten. Außerdem soll so möglicher Regulierungsbedarf erkennbar werden.

Darüber hinaus stellt sich in Deutschland die Frage, ob die Plattformen wirklich so frei in der Gestaltung ihren eigenen Regeln sind. So ist es zwar juristischer Konsens, dass die Unternehmen Inhalte löschen müssen , die gegen deutsches Recht verstoßen. Umstritten ist jedoch, ob sie nach ihren Hausregeln auch solche Inhalte löschen dürfen , die nach deutschem Recht vollkommen legal sind. So verbannen etwa Facebook und Instagram regelmäßig Fotos mit nackter Haut, an denen deutsches Recht nichts auszusetzen hätte. Ist das nun ein legitimer Teil ihres Geschäftsmodells  –  oder bereits ein Eingriff in die Meinungsfreiheit? Zwar binden Grundrechte wie die Meinungsfreiheit grundsätzlich nur den Staat. Jedoch, so argumentieren bereits einige Gerichte, könnten Plattformen aufgrund ihrer Bedeutung für den öffentlichen Diskurs ähnlichen Pflichten unterliegen (Tuchtfeld 2019).

Dass eine solche Abwägung mit der Meinungsfreiheit die Plattformen vor schwierige Abwägungsentscheidungen stellen würde, liegt auf der Hand. Es ist aber nicht zu übersehen, dass die Unternehmen bereits heute im Rahmen ihrer «normalen» Inhalte-Moderation hunderttausendfach über das Schicksal von Nutzer/innen-Inhalte entscheiden. Sofern sich nicht der Gesetzgeber dieser Frage annimmt, wird über kurz oder lang wohl das Bundesverfassungsgericht darüber entscheiden, wie weit Plattformen entsprechend gebunden sind.

Digital Services Act (DSA)

Im Dezember 2020 präsentierte die Europäische Kommission eine umfassende Reform der europäischen Plattformregulierung: den Entwurf des Digital Services Act (DSA). Mit Blick auf zahlreiche Regulierungsansätze einzelner EU-Mitgliedstaaten soll der DSA einen einheitlichen Rahmen bilden und knüpft an die bereits leicht angestaubte E-Commerce-Richtlinie aus dem Jahr 2000 an. An vielen Stellen schimmert die deutsche Regulierung aus NetzDG und MStV als Vorbild durch  –  von regelmäßigen Transparenzberichten über Schlichtungsmechanismen bis zu Nichtdiskriminierung. Jedoch geht der DSA darüber hinaus. So schreibt er etwa eine umfassende Werbedatenbank, mindestens einen Empfehlungsalgorithmus ohne Profilbildung sowie Datenzugänge für Forscher/innen vor. Bei der Durchsetzung der geplanten Regeln soll dem Entwurf zufolge vor allem die EU-Kommission das Zepter in der Hand halten  –  unterstützt von Digital-Service-Koordinator/innen in den jeweiligen Mitgliedstaaten. Derzeit steht der Entwurf noch am Beginn des EU-Gesetzgebungsprozesses. Wie sich die Regeln weiter entwickeln, wird also abzuwarten sein  –  ebenso wie ihre Vereinbarkeit mit NetzDG und MStV.

□ Inhaltsverzeichnis – □ Zusammenfassung – □ 1 Einleitung – ■ 2 Herausforderungen durch digitale Kommunikationsplattformen – □ 3 Perspektiven – □ Literaturverzeichnis – □ Die Autor/innen – □ Impressum

3 Perspektiven

3Perspektiven

Rechtsdurchsetzung verbessern

Durch NetzDG und MStV müssen auch internationale soziale Netzwerke nun direkt in Deutschland für Behörden erreichbar sein  –  ein erster Schritt, um deutsches Recht auch auf internationalen Plattformen besser durchzusetzen. Einheitliche europäische Regeln und Verfahren, wie sie etwa der DSA-Entwurf vorsieht, können zusätzlich dazu beitragen, die Rechtsdurchsetzung auch zwischen verschiedenen Mitgliedstaaten zu beschleunigen. Internationalen Digitalkonzernen nur mit nationaler Regulierung gegenüberzutreten ist auf Dauer aussichtslos.

Für Transparenz sorgen

Nach welchen Regeln sortieren und entfernen die Plattformen ihre Inhalte? In wessen Auftrag zeigen sie wem welche Werbung an? Wie viele Nutzer/innen-Beschwerden zu welchen Themen hatten Erfolg? Wir brauchen mehr Einblick in die Prozesse der Plattformen: zum einen, um als Nutzer/innen souverän die Onlineangebote zu nutzen, und zum anderen, damit die Politik mithilfe der Forschung bessere Regulierungsansätze entwickeln kann. Dazu gehört auch ein durchsetzbares Recht auf Datenzugang für Forscher/innen.

Verantwortlichkeit schaffen

Dürfen Plattformen über ihre «digitale Hausordnung» komplett frei bestimmen? Oder sollten sie auch als private Akteur/innen an bestimmte Grundsätze, etwa die Meinungsfreiheit, gebunden sein? Derzeit entscheiden Gerichte im Einzelfall, ob Plattformen beim Löschen oder Sperren zu weit gegangen sind. Doch es gibt bereits Vorschläge für unabhängige Plattformräte, die als Aufsichtsinstanz über die Regeln für den Onlinediskurs wachen könnten. Letztlich geht es um die Frage, wem wir die Regeln anvertrauen wollen: Den Plattformen selbst? Dem Gesetzgeber? Oder einer staatsfernen, gesellschaftlichen Instanz? Hier brauchen wir klare Regeln.

«Wertvolle» Inhalte stärken

Wer einen konstruktiven Onlinediskurs will, kann nicht nur gefährliche Posts entfernen. Auch die Stärkung qualitativ hochwertiger Inhalte kann zu einem konstruktiven Austausch beitragen. So verpflichtet etwa der Medienstaatsvertrag SmartTVs dazu, bestimmte Fernsehprogramme «leicht auffindbar» zu machen, die «in besonderem Maß einen Beitrag zur Meinungs- und Angebotsvielfalt» leisten (§ 84 Abs. 3). Auch hier stellt sich jedoch die Frage, nach welchen Kriterien diese Inhalte ausgesucht werden  –  und wer eine solche Entscheidung trifft. Die Antwort darauf sollte nicht allein von privaten Unternehmen getroffen werden, sondern das Ergebnis einer gesamtgesellschaftlichen Diskussion sein.

Messenger regulieren

Messengerdienste wie WhatsApp und Telegram werden immer häufiger für das Verbreiten von Desinformation und zum Teilen strafbarer Inhalte genutzt. Insbesondere Telegram hat sich als Ausweichplattform für grenzwertige Inhalte etabliert, die von größeren Netzwerken verbannt wurden. Längst geht es bei Messengern nicht mehr nur um Chats mit einzelnen Nutzer/innen, sondern um Nachrichtengruppen mit bis zu 200 000 Mitgliedern (Telegram). Regulatorisch laufen sie bisher weitgehend unter dem Radar. Das sollte sich ändern  –  allerdings ohne in die Privatsphäre der Nutzer/innen einzugreifen. Ansätze sind etwa ein Limit für das blinde Weiterleiten einzelner Nachrichten und das Hervorheben von vertrauenswürdigen Quellen.

Interoperabilität und Alternativen ermöglichen

Entscheiden kann sich nur, wer die Wahl hat. Interoperabilität verschiedener digitaler Plattformen  –  die Kompatibilität verschiedener Kommunikationsdienste miteinander  –  ist ein effektiver Weg, den Lock-in-Effekt zu überwinden und einen Plattformmarkt jenseits der bestehenden Oligopole zu schaffen (vgl. Müller-Brehm 2021). Der Digital Markets Act (DMA) geht hier bereits einen ersten Schritt, greift aber bisher noch zu kurz. Um Manipulationen im Netz und in personalisierter Werbung effektiv umgehen zu können, bedarf es echter Interoperabilitätspflichten. Sie fördern den Wettbewerb, unter anderem auch für europäische Dienste, stärken die Medienvielfalt und geben Nutzer/innen die Möglichkeit, sich für bessere Angebote zu entscheiden.

Geschäftsmodell updaten und AdTech regulieren

Das Geschäftsmodell der Plattformen lebt von breiter Datensammlung, die perfekt zugeschnittene (personalisierte) Onlinewerbung erst möglich und so lukrativ macht. Advertising Technology  (AdTech) gehört für sie zum Kerngeschäft. Das ist jedoch kein Muss. Pioniere wie die New York Times  und der öffentlich-rechtliche Rundfunk in den Niederlanden haben gezeigt, dass auch kontextbasierte, nichtverhaltensorientierte Werbung erfolgreich sein kann (vgl. Lomas 2020). Im Bereich des Microtargetings und der personalisierten Werbung fehlt es aktuell noch an Transparenz und Regulierung. Dies sollte im Digital Services Act berücksichtigt werden.

Medienkompetenz und Zivilgesellschaft stärken

Die Nutzung digitaler Kommunikationsplattformen erfordert andere Kompetenzen als «klassische» Medien wie Fernsehen und Zeitungen: Wie kann ich im Netz seriöse Quellen von Desinformation und Werbung unterscheiden? Wo finde ich Hilfe, um am digitalen Diskurs teilzuhaben, ohne meine Privatsphäre zu gefährden? Wer sich souverän durchs Netz bewegen möchte, braucht ein Grundverständnis davon, welchen Ausschnitt der Realität ihm Facebook und Co präsentieren  –  und warum gerade diesen. Dafür sind nicht nur moderne Medienbildung nötig, sondern auch eine starke Zivilgesellschaft und unabhängiger Journalismus, die aufklären, Hilfestellung bieten und substanziell zur demokratischen Debatte beitragen (vgl. Meßmer, Sängerlaub 2020).

□ Inhaltsverzeichnis – □ Zusammenfassung – □ 1 Einleitung – □ 2 Herausforderungen durch digitale Kommunikationsplattformen – ■ 3 Perspektiven – □ Literaturverzeichnis – □ Die Autor/innen – □ Impressum

Literaturverzeichnis

Literaturverzeichnis

▬Europäische Kommission (2020): Europäischer Aktionsplan für Demokratie, Kapitel 4.1. https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=COM%3A2020%3A790%3AFIN&qid=1607079662423

▬Europäische Kommission (2018): Bekämpfung von Desinformation im Internet: Europäische Kommission schlägt einen unionsweiten Verhaltenskodex vor. https://ec.europa.eu/belgium/news/180426_fake_de

▬European Regulators Group for Audivisual Media Services (ERGA) (2019): Report of the activities carried out to assist the European Commission in the intermediate monitoring of the Code of practice on disinformation (ERGA Report). https://erga-online.eu/wp-content/uploads/2019/06/ERGA-2019-06_Report-intermediate-monitoring-Code-of-Practice-on-disinformation.pdf

▬Hegemann, Lisa; Laaff, Meike; von Lindern, Jakob (2021): Löschstatus  –  es ist kompliziert. Zeit Online . www.zeit.de/digital/internet/2021-01/social-media-donald-trump-hass-regulation/komplettansicht

▬Heldt, Amélie (2020): Loi Avia: Frankreichs Verfassungsrat kippt Gesetz gegen Hass im Netz, JuWissBlog Nr. 96/2020. www.juwiss.de/96-2020

▬Hoffmann, Ilko (2020): The Winner takes it all: Marktkonzentration bei digitalen Plattformen. https://blog.iao.fraunhofer.de/the-winner-takes-it-all-marktkonzentration-bei-digitalen-plattformen

Jaursch, Julian (2020): Regeln für faire digitale Wahlkämpfe. Welche Risiken mit politischer Onlinewerbung verbunden sind und welche Reformen in Deutschland nötig sind. www.stiftung-nv.de/sites/default/files/regeln_fur_faire_digitale_wahlkampfe.pdf

▬Kettemann, Matthias (2019): Stellungnahme als Sachverständiger für die öffentliche Anhörung zum Netzwerkdurchsetzungsgesetz auf Einladung des Ausschusses für Recht und Verbraucherschutz des Deutschen Bundestags, 15. Mai 2019. https://www.hans-bredow-institut.de/uploads/media/default/cms/media/up8o1iq_NetzDG-Stellungnahme-Kettemann190515.pdf

▬Löber, Lena Isabell; Roßnagel, Alexander (2020): Desinformationen aus der Perspektive des Rechts. In: Steinebach, Martin; Bader, Katarina; Rinsdorf, Lars; Krämer, Nicole, Roßnagel, Alexander (Hrsg.): Desinformation aufdecken und bekämpfen. Interdisziplinäre Ansätze gegen Desinformationskampagnen und für Meinungspluralität. Baden-Baden: Nomos, S. 149–194. https://doi.org/10.5771/9783748904816-149

▬Lomas, Natasha (2020): Data from Dutch public broadcaster shows the value of ditching creepy ads. TechCrunch. https://techcrunch.com/2020/07/24/data-from-dutch-public-broadcaster-shows-the-value-of-ditching-creepy-ads

▬Meßmer, Anna-Katharina; Sängerlaub, Alexander (2020): Verstehen, was ist. Auf dem Weg in die nachrichtenkompetente Gesellschaft. Policy Brief, Stiftung Neue Verantwortung. www.stiftung-nv.de/sites/default/files/verstehen_was_ist_nachrichtenkompetente_gesellschaft.pdf

▬Möller, Matthias; Uphues, Steffen (2018): Meinungsvielfalt im Big-Data-Zeitalter  –  die verfehlte Frage nach der Filterblase. www.abida.de/sites/default/files/Dossier_Meinungsvielfalt.pdf

▬Müller-Brehm, Jaana (2021): Datenportabilität und Interoperabilität  –  die eine Welt der Daten und Dienste? tbd. Der Debattenmonitor der Landesanstalt für Medien NRW. www.medienanstalt-nrw.de/fileadmin/user_upload/NeueWebsite_0120/Themen/Intermediaere/tbd-Debattenmonitor_der_Landesanstalt_fuer_Medien_NRW-012021_01.pdf

▬Statista (2021): Marktanteile von Social-Media-Portalen in Deutschland von März 2019 bis Januar 2021. https://de.statista.com/statistik/daten/studie/559470/umfrage/marktanteile-von-social-mediaseiten-in-deutschland

▬Tuchtfeld, Erik (2019): Marktplätze, soziale Netzwerke und die BVerfG-Entscheidung zum «III. Weg», Verfassungsblog. https://verfassungsblog.de/marktplaetze-soziale-netzwerke-und-die-bverfg-entscheidung-zum-iii-weg

▬Turčilo, Lejla; Obrenović, Mladen (2020): Fehlinformationen, Desinformationen, Malinformationen: Ursachen, Entwicklungen und ihr Einfluss auf die Demokratie. Demokratie im Fokus #3. Heinrich Böll Stiftung. www.boell.de/sites/default/files/2020-08/200825_E-Paper3_DE.pdf

▬Wardle, Claire; Derakhshan, Hossein (2017): Information Disorder. Toward an interdisciplinary framework for research and policymaking, Europarat. https://rm.coe.int/information-disorder-report-november-2017/1680764666

▬Zimmermann, Fabian; Kohring, Matthias (2020): Aktuelle Desinformation  –  Definition und Einordnung einer gesellschaftlichen Herausforderung. In: Hohlfeld, Ralf: Harnischmacher, Michael; Heinke, Elfi; Lehner, Lea; Sengl, Michael (Hrsg.): Fake News und Desinformation. Herausforderungen für die vernetzte Gesellschaft und die empirische Forschung. Baden-Baden: Nomos, S. 23–41. https://doi.org/10.5771/9783748901334

□ Inhaltsverzeichnis – □ Zusammenfassung – □ 1 Einleitung – □ 2 Herausforderungen durch digitale Kommunikationsplattformen – □ 3 Perspektiven – ■ Literaturverzeichnis – □ Die Autor/innen – □ Impressum

Die Autor/innen

Die Autor/innen

Torben Klausa  forscht und schreibt zu Fragen der Plattformregulierung. Im Rahmen seiner Doktorarbeit an der Universität Bielefeld untersucht er die mögliche verfassungsrechtliche Pflicht des Staates, soziale Netzwerke medienrechtlich einzuhegen. Als Journalist berichtet er zudem für den Tagesspiegel  über digitalpolitische Themen. Er studierte Rechtswissenschaft, Politikwissenschaft und Public Policy in Bonn, Washington, D.C., und Berlin und arbeitete unter anderem im Deutschen Bundestag sowie beim Digitalverband Bitkom e.V. zu politischen Fragen der Digitalisierung.

Vérane Meyer  ist Referentin für Digitale Ordnungspolitik in der Inlandsabteilung der Heinrich-Böll-Stiftung. Dort beschäftigt sie sich mit aktuellen Fragestellungen im Bereich der digitalen Ökonomie, der Datenethik und der sozial-ökologischen Transformation. Sie hat französische Philologie, Politik- und Rechtswissenschaft in Berlin, Brüssel, Birmingham und Bamberg studiert. Nach ihrem Studium war sie zunächst als wissenschaftliche Mitarbeiterin und Dozentin an der Universität Bamberg im Bereich Internationale Beziehungen und europäische Integration beschäftigt. Vor ihrer Tätigkeit bei der Heinrich-Böll-Stiftung hat sie zu digitalpolitischen Themen mit Fokus auf Bildungs- und Arbeitsmarktpolitik beim Digitalverband Bitkom e.V. gearbeitet.

□ Inhaltsverzeichnis – □ Zusammenfassung – □ 1 Einleitung – □ 2 Herausforderungen durch digitale Kommunikationsplattformen – □ 3 Perspektiven – □ Literaturverzeichnis – ■ Die Autor/innen – □ Impressum

Impressum

Impressum

Herausgeberin:  Heinrich-Böll-Stiftung e.V., Schumannstraße 8, 10117 Berlin
Kontakt:  Referat Digitale Ordnungspolitik, Vérane Meyer E meyer@boell.de

Erscheinungsort:  www.boell.de
Erscheinungsdatum:  Mai 2021
Lizenz:  Creative Commons (CC BY-NC-ND 4.0)
https://creativecommons.org/licenses/by-nc-nd/4.0

Verfügbare Ausgaben unter:  www.boell.de/de/boellbrief
Abonnement (per E-Mail) unter:  boell.de/news

Die vorliegende Publikation spiegelt nicht notwendigerweise die Meinung der Heinrich-Böll-Stiftung wider.

□ Inhaltsverzeichnis – □ Zusammenfassung – □ 1 Einleitung – □ 2 Herausforderungen durch digitale Kommunikationsplattformen – □ 3 Perspektiven – □ Literaturverzeichnis – □ Die Autor/innen – ■ Impressum