20 Juni 2020

Blocking Overblocking

Frankreichs Verfassungsrat kippt das Gesetz gegen Hasskriminalität im Netz

Das französische Gesetz gegen Hasskriminalität im Internet ist zu weiten Teilen verfassungswidrig – das hat der Conseil Constitutionnel am Donnerstag entschieden. Nach einem langwierigen und in Politik und Öffentlichkeit kontrovers diskutierten Gesetzgebungsverfahren hatte die französische Nationalversammlung das Gesetz am 13. Mai 2020 beschlossen. Das Inkrafttreten war bereits für den 1. Juli geplant. Daraus wird nun nichts: Die Kernelemente des Gesetzes verstoßen laut Conseil Constitutionnel gegen die Meinungsfreiheit, garantiert in Art. 11 der französischen Erklärung der Menschen- und Bürgerrechte von 1789. Just am selben Tage, an dem der Conseil Constitutionnel seine Entscheidung verkündete, sendete Deutschland gegenteilige Signale: Der Bundestag hat am Donnerstag das Gesetz zur Bekämpfung des Rechtsextremismus und der Hasskriminalität verabschiedet. Der deutsche Gesetzgeber ändert darin unter anderem das Netzwerkdurchsetzungsgesetz (NetzDG) und bestätigt den auch in Deutschland umstrittenen Ansatz, Netzwerkanbieter im Kampf gegen Hass im Netz stärker in die Verantwortung zu nehmen. Was folgt aus der französischen Entscheidung für die verfassungsrechtliche Bewertung des deutschen NetzDG?

In Frankreich wie in Deutschland ist die Befürchtung groß, dass bußgeldbewehrte gesetzliche Vorgaben, Meldewege einzurichten und Prüf- und Entfernungspflichten bestimmter strafbarer Inhalte auszugestalten, die Anbieter sozialer Netzwerke dazu verleiten, auch solche Inhalte zu löschen oder zu sperren, die nicht rechtswidrig sind – sogenanntes Overblocking. Der Conseil Constitutionnel stellt fest: „…les dispositions contestées ne peuvent qu’inciter les opérateurs de plateforme en ligne à retirer les contenus qui leur sont signalés, qu’ils soient ou non manifestement illicites“ – die angegriffenen Vorschriften setzen den Plattformanbietern Anreize, die ihnen gemeldeten Inhalte zu entfernen, seien sie offensichtlich rechtswidrig oder nicht (Rn. 19). Der Verfassungsrat teilt also die Befürchtungen nicht nur der Senator*innen, die aus Furcht vor Overblocking den Normenkontrollantrag gestellt und damit die verfassungsgerichtliche Entscheidung herbeigeführt haben. Auch in der französischen Öffentlichkeit wird die Entscheidung überwiegend positiv aufgenommen (vgl. etwa hier und hier, anders aber gestern in Le Monde).

Eine falsche Entscheidung genügt

Zu Recht? Teilweise. Das französische Gesetz zur Bekämpfung von Hass im Netz hätte den Netzwerkanbietern tatsächlich starke Anreize gesetzt, gemeldete Inhalte im Zweifel zu entfernen. Dies unterscheidet es vom deutschen NetzDG, das in wesentlichen Punkten andere Regelungen trifft als sein französisches Pendant.

Die auf die Initiative der Abgeordneten Laetitia Avia zurückgehende „Loi Avia“ sah wie das NetzDG ein einheitliches Meldesystem für Beschwerden über bestimmte rechtswidrige Inhalte vor (Art. 4 n° 5) und machte Vorgaben, innerhalb welcher Frist die Netzwerkanbieter gemeldete Inhalte prüfen und ggf. entfernen müssen. Gem. Art. 1er n° 12 drohte Netzwerkanbietern ein Bußgeld, wenn sie einen gemeldeten offensichtlich rechtswidrigen Inhalt nicht innerhalb der 24-Stunden-Frist entfernten, nicht aber im umgekehrten Falle: wenn sie einen Inhalt entfernten, obwohl dieser gar nicht rechtswidrig war. Eine einzige falsche Entscheidung sollte als Grundlage für die Verhängung eines empfindlichen Bußgelds genügen. Dass Netzwerkanbieter dem wohl in Zweifelsfällen vorgebeugt hätten, indem sie rechtmäßige Inhalte sicherheitshalber entfernt hätten, liegt auf der Hand. Dass der Conseil Constitutionnel die Ausgestaltung der französischen Bußgeldregelungen rügt, überzeugt also.

Die Bußgeldregelungen des NetzDG schaffen dagegen keine einseitigen Anreize zum Overblocking. Nur systemische Verstöße gegen die Prüf- und Entfernungspflicht, also nicht einmalige Falschentscheidungen, sind bußgeldbewehrt (vgl. die Bußgeldleitlinien des BMJV, S. 7). Gem. § 4 Abs. 1 Nr. 2 NetzDG verstößt gegen die Pflicht, wer ein „Verfahren für den Umgang mit Beschwerden (…) nicht richtig (…) vorhält“ – dies ist auch der Fall, wenn systemisch rechtmäßige Inhalte entfernt werden. Ein Bußgeld kann Netzwerkanbietern in Deutschland also nicht nur drohen, wenn sie wiederholt rechtswidrige Inhalte nicht entfernen, sondern auch, wenn sie systematisch overblocken. 

Die Bußgeldregelung

Der Conseil Constitutionnel tat sich aber nicht nur mit den Spezifika des französischen Gesetzes – insbesondere seinen Bußgeldregelungen – schwer. Dass die „Loi Avia“ einseitige Anreize für ein Overblocking setze, folgert es aus einer Zusammenschau von fünf Gründen. Dazu zählt die tatsächlich problematische Bußgeldregelung (Rn. 18). Die weiteren vier Gründe beziehen sich auf Regelungen, die im NetzDG Parallelen finden: Dass die Pflicht zur Prüfung und etwaigen Entfernung gemäß „Loi Avia“ schon durch eine einfache Meldung ausgelöst wird – ohne weitere Hürden, etwa ein gerichtliches Verfahren – und unabhängig davon, wie viele Meldungen das Netzwerk erreichten (Rn. 14), könne Netzwerkanbieter überfordern. Etwa für Fälle zahlreicher Meldung innerhalb kurzer Zeit hätte man laut der Entscheidung Ausnahmetatbestände vorsehen müssen (Rn. 17).

Insoweit ließe sich die Argumentation auf das NetzDG übertragen: Auch in Deutschland lösen NetzDG-Beschwerden von Nutzer*innen unmittelbar die Pflichten zur Prüfung und etwaigen Entfernung aus (§ 3 Abs. 2 Nr. 1) – unabhängig von der Zahl der Meldungen. Die Befürchtung des Conseil Constitutionnel vor einer unbeherrschbaren Vielzahl von Meldungen lässt sich angesichts der Erfahrungen mit dem deutschen NetzDG jedoch relativieren: Ein Großteil der entfernten Inhalte wird nicht wegen Verstoßes gegen das NetzDG, sondern wegen Verstoßes gegen die netzwerkeigenen Community Standards gemeldet bzw. gelöscht (vgl. etwa den aktuellen Transparenzbericht von YouTube, S. 1, 9). Dass die Zahl gemeldeter Inhalte durch das französische Gesetz wohl gestiegen wäre, ist gerade Ziel der gesetzlichen Ausgestaltung, deren Wirksamkeit entscheidend von der Mitwirkung der Nutzer*innen abhängt.

Zu kurze Frist

Laut Conseil Constitutionnel sei die 24-stündige Frist zur Prüfung und etwaigen Entfernung der Inhalte sehr kurz (Rn. 16), obwohl die Entscheidungen juristisch äußerst anspruchsvoll sein könnten und unter Umständen die Prüfung einer Vielzahl von Straftatbeständen erfordere (Rn. 15). Das deutsche NetzDG sieht in § 3 Abs. 1, Abs. 2 Nr. 2 ebenfalls eine 24-stündige Frist für die Prüfung und Entfernung offensichtlich rechtswidriger Inhalte vor. Anders als in Frankreich beträgt die Prüf- und Löschfrist nach NetzDG jedoch für Inhalte, deren Rechtswidrigkeit nicht offensichtlich ist, sieben Tage; selbst diese Frist kann in bestimmten Fällen überschritten werden (§ 3 Abs. 2 Nr. 3 NetzDG). In Frankreich dagegen sollten überhaupt nur offensichtlich rechtswidrige Hassposts Pflichten zur Prüfung und Entfernung auslösen (Article 1er n° 9). Die Sorgen des Conseil Constitutionnel vor einer qualitativen Überforderung der Netzwerkanbieter sind damit nicht nachvollziehbar: Offensichtliche Rechtswidrigkeit liegt schließlich nur dann vor, wenn Netzwerkanbieter keine komplexe Prüfung vornehmen müssen.

Da sich die Begründung auf das kumulative Vorliegen dieser fünf Gründe stützt, bleibt leider offen, welche Änderungen aus Sicht des Conseil Constitutionnel für eine verfassungskonforme Ausgestaltung notwendig wären. Dabei spricht vieles dafür, dass eine veränderte Bußgeldregelung genügen würde, um der Gefahr von Overblocking zu entgehen: Schließlich setzt eine innerhalb kurzer Zeit zu leistende, juristisch anspruchsvolle Prüfung als solche keinen Anreiz für einseitige Fehlentscheidungen im Sinne eines Overblockings. Genauso sind bei qualitativer und quantitativer Überforderung Fehlentscheidungen in die andere Richtung, also zugunsten der Poster*innen eines rechtswidrigen Inhalts, denkbar. Die Erwägungen, die zur Verfassungswidrigkeit großer Teile der „Loi Avia“ führen, sind damit auf das deutsche NetzDG mit seinem auf systemische Fehler abstellenden Bußgeldregime nicht übertragbar.

Vom französischen Gesetz gegen Hass im Netz ist nun kaum noch etwas übrig. Dennoch bleibt angesichts dieses weiteren nationalen Vorstoßes eines marktmächtigen Mitgliedsstaats der Druck auf die EU groß, binnenmarkt-einheitliche Vorgaben für die Bekämpfung von Hass und Hetze in sozialen Netzwerken zu schaffen. Die Entscheidung des Conseil Constitutionnel verdeutlicht, welchen Herausforderungen die EU in einem so grundrechtssensiblen Bereich gegenübersteht. Wie sie im geplanten Digital Services Act mit dieser Aufgabe umgeht, bleibt abzuwarten. Bis dahin lohnt der regelmäßige gegenseitige Blick über die Grenze, um die Bekämpfung von Hass und Hetze im Netz ohne Schaden für die Meinungsfreiheit der Bürger*innen weiter zu optimieren.


SUGGESTED CITATION  Wienfort, Nora: Blocking Overblocking: Frankreichs Verfassungsrat kippt das Gesetz gegen Hasskriminalität im Netz, VerfBlog, 2020/6/20, https://verfassungsblog.de/blocking-overblocking/, DOI: 10.17176/20200621-003701-0.

3 Comments

  1. David Werdermann Di 23 Jun 2020 at 09:38 - Reply

    Liebe Nora,
    vielen Dank für den Beitrag, der einige Unterschiede der beiden Gesetze sehr gut herausstellt.
    Etwas verwundert bin ich über die Auslegung, dass § 4 Abs. 1 Nr. 2 NetzDG auch den Fall erfasst, dass systematisch rechtmäßige Beiträge gelöscht werden. Das würde bedeuten, das Netzwerke keine über das Recht hinausgehenden Community-Standards festlegen dürften. Das mag man rechtspolitisch für richtig halten, bei marktbeherrschenden Plattformen auch für grundrechtlich geboten, ist aber meines Wissens vom NetzDG bisher nicht vorgesehen.

  2. Dominik Boecker Mi 24 Jun 2020 at 14:29 - Reply

    Da ich nicht weiß, ob die Kommentare bei FB beim Autor ankommen, copy&paste meines dortigen Kommentars:

    Reichlich optimistisch: eine Pflicht, keine rechtmäßigen Inhalte zu sperren ist dem Zusammenspiel von § 4 I und § 3 I NetzDG mE nicht zu entnehmen. Zumal nicht aus dem Wortlaut.

    Und jetzt legen wir das BVerfG mit seiner ständigen Entscheidungspraxis daneben: „Art. 103 Abs. 2 GG erfasst insbesondere Straf- und Bußgeldtatbestände (vgl. BVerfGE 81, 132 ; 87, 399 ). Die Norm enthält – neben dem hier unerheblichen Rückwirkungsverbot – ein besonderes Bestimmtheitsgebot. Der Gesetzgeber ist danach verpflichtet, die Voraussetzungen der Strafbarkeit oder Bußgeldbewehrung so konkret zu umschreiben, dass Anwendungsbereich und Tragweite der Straf- oder Ordnungswidrigkeitentatbestände aus dem Wortlaut der Norm zu erkennen sind oder sich zumindest durch Auslegung ermitteln lassen.“.

    So, rein in den Wortlaut: „§ 4 Bußgeldvorschriften
    (1) Ordnungswidrig handelt, wer vorsätzlich oder fahrlässig
    1. (…)
    2. entgegen § 3 Absatz 1 Satz 1 ein dort genanntes Verfahren für den Umgang mit Beschwerden von Beschwerdestellen oder Nutzern, die im Inland wohnhaft sind oder ihren Sitz haben, nicht, nicht richtig oder nicht vollständig vorhält,
    3. (…)“

    In Verbindung mit: „§ 3 Umgang mit Beschwerden über rechtswidrige Inhalte
    (1) Der Anbieter eines sozialen Netzwerks muss ein wirksames und transparentes Verfahren nach Absatz 2 und 3 für den Umgang mit Beschwerden über rechtswidrige Inhalte vorhalten.“ und „(2) Das Verfahren muss gewährleisten, dass der Anbieter des sozialen Netzwerks
    1. unverzüglich von der Beschwerde Kenntnis nimmt und prüft, ob der in der Beschwerde gemeldete Inhalt rechtswidrig und zu entfernen oder der Zugang zu ihm zu sperren ist,
    2. einen offensichtlich rechtswidrigen Inhalt innerhalb von 24 Stunden nach Eingang der Beschwerde entfernt oder den Zugang zu ihm sperrt; dies gilt nicht, wenn das soziale Netzwerk mit der zuständigen Strafverfolgungsbehörde einen längeren Zeitraum für die Löschung oder Sperrung des offensichtlich rechtswidrigen Inhalts vereinbart hat,
    3. jeden rechtswidrigen Inhalt unverzüglich, in der Regel innerhalb von sieben Tagen nach Eingang der Beschwerde entfernt oder den Zugang zu ihm sperrt; die Frist von sieben Tagen kann überschritten werden, wenn
    a) die Entscheidung über die Rechtswidrigkeit des Inhalts von der Unwahrheit einer Tatsachenbehauptung oder erkennbar von anderen tatsächlichen Umständen abhängt; das soziale Netzwerk kann in diesen Fällen dem Nutzer vor der Entscheidung Gelegenheit zur Stellungnahme zu der Beschwerde geben,
    b) das soziale Netzwerk die Entscheidung über die Rechtswidrigkeit innerhalb von sieben Tagen nach Eingang der Beschwerde einer nach den Absätzen 6 bis 8 anerkannten Einrichtung der Regulierten Selbstregulierung überträgt und sich deren Entscheidung unterwirft,
    4. im Falle der Entfernung den Inhalt zu Beweiszwecken sichert und zu diesem Zweck für die Dauer von zehn Wochen innerhalb des Geltungsbereichs der Richtlinien 2000/31/EG und 2010/13/EU speichert,
    5. den Beschwerdeführer und den Nutzer über jede Entscheidung unverzüglich informiert und seine Entscheidung ihnen gegenüber begründet.
    (3) Das Verfahren muss vorsehen, dass jede Beschwerde und die zu ihrer Abhilfe getroffene Maßnahme innerhalb des Geltungsbereichs der Richtlinien 2000/31/EG und 2010/13/EU dokumentiert wird.“.

    Das steht nichts, rein gar nichts dazu, dass die Löschung eines rechtmäßigen Inhalts „nicht richtig“es Verfahren im Sinne des § 4 I Nr. 2 NetzDG sein könnte. Das „nicht richtig“ bezieht sich nach dem Wortlauf auf das Verfahren und nicht auf die Entscheidung, die am Ende des Verfahrens in die eine oder andere Richtung getroffen wird.

  3. Nora Wienfort Mi 24 Jun 2020 at 18:41 - Reply

    Lieber David,
    vielen Dank für den Hinweis – ich versuche, zu präzisieren: Ob auch systemisches Overblocking unter § 4 Abs. 1 Nr. 2 NetzDG fällt, ist umstritten. Der Wortlaut spricht dafür, schließlich ist das Verfahren für den Umgang mit Beschwerden nach § 3 Abs. 1 Nr. 2 NetzDG auch dann nicht richtig zur Verfügung gestellt, wenn systematisch nicht-rechtswidrige Inhalte entfernt werden. Nicht rechtswidrig können dann natürlich nur solche Inhalte sein, die weder nach NetzDG noch wegen anderer Gesetzesverstöße (etwa gegen Urheberrecht) oder Vertragsverletzungen (gegen die Community Standards, also AGB) hätten entfernt werden dürfen. Community Standards dürfen m.E. grundsätzlich also über das NetzDG hinausgehen; Folgefrage ist dann, ob – und falls ja, inwieweit – die Netzwerkanbieter bei der Anwendung von Community Standards die Grundrechte der Nutzer*innen zu berücksichtigen haben.

Leave A Comment

WRITE A COMMENT

1. We welcome your comments but you do so as our guest. Please note that we will exercise our property rights to make sure that Verfassungsblog remains a safe and attractive place for everyone. Your comment will not appear immediately but will be moderated by us. Just as with posts, we make a choice. That means not all submitted comments will be published.

2. We expect comments to be matter-of-fact, on-topic and free of sarcasm, innuendo and ad personam arguments.

3. Racist, sexist and otherwise discriminatory comments will not be published.

4. Comments under pseudonym are allowed but a valid email address is obligatory. The use of more than one pseudonym is not allowed.




Explore posts related to this:
Conseil Constitutionnel, Hate Speech Regulation, Netzwerkdurchsetzungsesetz, Overblocking


Other posts about this region:
Deutschland, Frankreich

Explore posts related to this:
Conseil Constitutionnel, Hate Speech Regulation, Netzwerkdurchsetzungsesetz, Overblocking


Other posts about this region:
Deutschland, Frankreich
3 comments Join the discussion