„Der Fall könnte einen Präzedenzfall für das gesamte Internet schaffen”

Die letzten Wochen waren in vielerlei Hinsicht turbulent (Kriege, Wahlen, Präsidentschaftsdebatten usw.), aber vor allem in der Tech-Welt gab es große Umbrüche. Immer mehr Regierungen versuchen ihre staatliche Souveränität gegenüber großen Digitalkonzernen mit mehr Nachdruck durchzusetzen. Jüngst gipfelte dieser Trend in der Verhaftung des Tech-CEOs Pavel Durov auf einem Flughafen in Paris.

Wir haben Kate Klonick, eine der führenden Expertinnen auf diesem Gebiet, gefragt, was da los ist. Kate ist Professorin an der St. Johns University School of Law in New York und derzeit Gastprofessorin an der Sciences Po in Paris. Außerdem ist sie Fellow am Information Society Project der Yale Law School, am Berkman Klein Center der Harvard University und an der Brookings Institution.

Das Interview führte Moritz Schramm.

1. Hi Kate, ich sehe, du bist gerade in Paris. Die letzten Wochen waren turbulent für Jurist:innen im Tech-Bereich, besonders für diejenigen, die sich mit Content-Moderation beschäftigen. Die Verhaftung des Telegram-Gründers Pavel Durov in Frankreich hat weltweit Schlagzeilen gemacht. Obwohl er inzwischen gegen Kaution frei ist, darf er das Land nicht verlassen. Kannst du uns mehr darüber erzählen, wer Pavel Durov ist und warum er verhaftet wurde?

Pavel Durov ist der CEO der Sprach- und Messaging-App Telegram, die laut Telegram weltweit 900 Millionen monatlich aktive Nutzer:innen hat. Durov wurde aufgrund eines Haftbefehls des Tribunal Judiciaire de Paris – ein sehr bedeutendes französisches Gericht – verhaftet. Für US-Leser:innen könnte man es vielleicht mit dem Southern District of New York im US-Bundesgerichtssystem vergleichen.

Die Beschuldigungen gegen ihn sind ebenso ernst wie vage. Sie reichen von Mittäterschaft beim Drogenhandel und Verbreitung von kinderpornografischem Material bis hin zu “association de malfaiteurs” (kriminelle Verschwörung) und illegaler Nutzung von Verschlüsselungstechniken. Aber die genauen Details dieser Anklagen und worauf sie sich beziehen, sind derzeit noch unbekannt.

Zum Beispiel könnte die Beschuldigung  der illegalen Verwendung von Kryptographie [d.h. Verschlüsselung – nicht Kryptowährung] sich schlicht auf die Nutzung von verschlüsselten Systemen beziehen, um Informationen vor rechtmäßig erlangten Durchsuchungsbefehlen zu verbergen. Oder es könnte sich um eine so umfassende Anklage handeln, dass alle verschlüsselten Nachrichtensysteme von Telegram betroffen sind. Im ersten Fall könnte sich die Anklage auf Durovs spezifischen Fall beschränken; im zweiten Fall könnten alle Messaging-Plattformen gefährdet sein, die Verschlüsselung verwenden, um die Privatsphäre ihrer Nutzer:innen zu schützen – Apples Messenger, WhatsApp von Meta oder Signal. Daher hat dieser Fall eine viel größere Bedeutung als nur Durov und Telegram; er könnte einen Präzedenzfall für das gesamte Internet schaffen.

2. Lass uns einen genaueren Blick auf die Anklagen werfen. Die französische Staatsanwaltschaft scheint zwei Hauptanliegen zu haben. Erstens ist Telegram dafür bekannt, die Zusammenarbeit mit den französischen Behörden zu verweigern. Wenn die Polizei beispielsweise Terroristen, Drogenschmuggler oder ähnliche Straftäter verfolgt und einen Durchsuchungsbefehl vorlegt, blockiert Telegram praktisch jede Kooperation. Zweitens, und vielleicht noch grundlegender, macht sich Frankreich Sorgen um das Fehlen von Moderation auf der Plattform. Moderation bedeutet hier das Entfernen von schädlichen Inhalten, etwa Aufrufe zur Gewalt. Telegram ist berüchtigt für seinen „anything goes“-Ansatz. Was hältst du von diesen Vorwürfen? Und basierend auf dem, was wir bisher wissen, welche politischen Hintergründe könnten hinter Durovs Verhaftung stecken (falls es welche gibt)? 

Ja, genau das ist das Problem, und die beiden Aspekte sind miteinander verbunden. Telegrams Weigerung, Vorladungen zu befolgen, auf Durchsuchungsbeschlüsse zu reagieren oder irgendeine Form von Content-Moderation durchzuführen sind alles unterschiedliche Ausprägungen von Telegrams Governanceverständnis – sowohl in Bezug auf staatliche Vorgaben als auch in Bezug auf die private Steuerung der eigenen Plattform.

Wäre man etwas weniger zynisch, könnte man argumentieren, dass dieses Verständnis auf einem prinzipientreuen libertären Standpunkt basiert, der auf John Perry Barlows Vorstellung vom Internet gründet – dass das Internet ein Ort ist, an dem individuelle Freiheit gedeihen kann und die Menschen der Überwachung und Zensur durch Regierungen entkommen können.

Wäre man dagegen etwas zynischer, könnte man argumentieren, dass Durov einfach keine Ressourcen dafür  verwenden will, sich an Gesetze zu halten– selbst Gesetze, die gegen die schlimmsten Teile des Internets, wie kinderpornografisches Material oder terroristische Propaganda, gerichtet sind.

Und wenn man so richtig zynisch wäre, könnte man vermuten, dass Durov diesen Ansatz gewählt hat, um seine Plattform von anderen abzuheben und sie zur attraktivsten Plattform für graue und schwarze Märkte zu machen.

3. Faszinierend. Diese Konfrontation berührt also die größere Frage, wer das Internet kontrolliert: Staaten oder private Unternehmen. Auf der einen Seite sollte das Internet kein gesetzloser Raum sein, und es ist wichtig, illegale Aktivitäten zu verhindern. Gesetze online durchzusetzen kann vollkommen legitim sein. Aber auf der anderen Seite stehen globale Plattformen wie Telegram vor komplexen Herausforderungen, wenn sie mit Regierungen kooperieren, insbesondere wenn einige Staaten – wie Russland, Myanmar, Nordkorea oder Iran – selbst fragwürdige Aktivitäten betreiben. Wo sollte also die Grenze gezogen werden? Sollten diese Unternehmen die Macht haben, zu entscheiden, mit welchen Staaten sie kooperieren, basierend auf ihrer Einschätzung der demokratischen Legitimität eines Landes?

Ja, ich denke, das ist genau der Kern dieses Arguments, du hast das Spannungsfeld gut aufgezeigt. Lass uns das mal auseinandernehmen:

Erstens, auf der einen Seite wollen wir eine Gesellschaft, die auf Gesetzen fußt. Und wir wollen, dass diese Gesetze durchgesetzt werden. Aber im globalen Internet werden wir ständig mit der Tatsache konfrontiert, dass Plattformen und Unternehmen transnational operieren – sie verbinden Menschen sowohl innerhalb als auch zwischen Ländern. Das schafft enorme juristische Herausforderungen, angefangen bei der Frage, welches Recht jetzt genau eingehalten werden soll und wie.

Aber selbst wenn wir die komplexen Fragen der Jurisdiktion beiseite lassen, zwingt uns das Internet dazu, uns mit der Idee auseinanderzusetzen, dass nicht alle Gesetze legitim sind – und wie wir Legitimität definieren. Das ist das zweite Problem. Aus amerikanischer oder europäischer Perspektive ist es vielleicht einfach zu sagen, dass die Gesetze demokratischer Länder respektiert werden sollten und Plattformen möglicherweise die Gesetze autoritärer Länder, wie die, die du aufgelistet hast, nicht respektieren sollten. Aber was ist mit den Ländern, die nur dem Namen nach demokratisch sind, etwa Brasilien, Indien oder Ungarn?

Das bringt uns zum dritten Punkt – nämlich, wer entscheidet eigentlich, welche Regierungen und Gesetze beachtenswert sind. Vielleicht finden wir es aus amerikanischer und europäischer Perspektive gerechtfertigt, dass Facebook oder Telegram sich weigern, Fotos, auf denen sich gleichgeschlechtliche Paare küssen, in Indien zu entfernen, obwohl das dort möglicherweise gegen das Gesetz verstößt. Aber wir finden, es geht zu weit, wenn sich die Plattformen weigern, auf legitime Durchsuchungsbefehle “rechtsstaatlicher” Regierungen zu reagieren –  etwa wenn diese gegen die Verbreitung von kinderpornographischem Material vorgehen wollen.

All das ist ein komplexes dreidimensionalen Schachspiel mit ständig wechselnden Einsätzen.

4. Hast du Gedanken dazu, wie Elon Musk und seine Weigerung, mit dem brasilianischen Gesetz zu kooperieren, in diese Diskussion passt?

Ja, ich finde es ziemlich interessant, dass Musks und X’s Reaktion auf die Entscheidung der brasilianischen Gerichte, sie zu blockieren, zeitgleich mit Durovs Verhaftung stattfand. Denn auf der einen Seite scheint es uns ziemlich offensichtlich, dass Frankreich, eine westliche Demokratie, Durov wegen seines Versagens, bei Durchsuchungsbefehlen im Zusammenhang mit Kinderpornographie und terroristischen Inhalten auf Telegram zu kooperieren, berechtigterweise strafrechtlich verfolgt. Man hört oft „Die Plattformen können sich dem Gesetz nicht entziehen.“

Aber auf der anderen Seite hat Musk die Gerichtsentscheidungen in Brasilien ignoriert und wurde dafür ein wenig als Held der Meinungsfreiheit gefeiert. Ich denke, dieser Kontrast macht das größere Problem, das wir oben besprochen haben, hoffentlich noch greifbarer.

5. Abschließend noch eine breitere Frage: Als US-Wissenschaftlerin, die in Paris lebt, habe ich den Eindruck, dass du wie viele Amerikaner staatlicher Regulierung sozialer Medien eher kritisch gegenüberstehst, während Europa aktiv versucht, die Vormachtstellung staatlicher Macht im Internet wiederherzustellen, etwa durch das Gesetz über digitale Dienste und prominente Ereignisse wie die Verhaftung Durovs. Glaubst du, dass diese ehrgeizigen europäischen Bemühungen Erfolg haben werden (insbesondere da kein großes Tech-Unternehmen europäisch ist…)?

Ich denke, es hängt davon ab, was man unter Erfolg versteht! Werden diese ganzen Regulierungen in Kraft treten, bzw. sind es schon? Absolut. Werden sie das Internet für europäische Verbraucher besser machen? Das halte ich für zweifelhaft.

Ich habe viel Zeit damit verbracht, mir den DSA und den DMA anzusehen und wie sie in den kommenden Jahren durchgesetzt werden könnten – und ich habe mehr als ein Jahr lang das europäische Internet und die Plattformen genutzt, während diese Regelungen in Kraft treten. Das Informationsökosystem und die Qualität des Interneterlebnisses in Europa unterscheiden sich stark von denen in den USA. Es sind kleine Unterschiede, aber sie summieren sich – und ich bin frustriert, wie viel mehr Friktionen es in Europa gibt, wie viel schlechter die Suchergebnisse sind und wie viele Plattformen sich entschieden haben, bestimmte Dienste hier einfach auszusetzen, anstatt zu versuchen, die Vorschriften zu erfüllen (und möglicherweise mit Bußgeldern belegt zu werden).

Aber ich denke, wie bei jeder neuen Industrie – Buchdruck, Autos, Inneninstallationen, Fernsehen – werden wir einen Weg finden, ein Gleichgewicht zu schaffen, das dann Bestand hat. Und als Gesellschaft werden wir immer wieder vergessen, dass es Alternativen gab oder dass die Dinge auch anders hätten laufen können.

*

Editor’s Pick

von MORITZ SCHRAMM

Egal was man macht, man hockt viel am Schreibtisch. Falls Sie, werte Leser:in, zu den 92% der Personen gehören, die bei der Arbeit am Schreibtisch zumindest gelegentlich Musik hören, haben wir was für Sie: die unerreichten, in Dauerschleife-hörbaren, wirklich komplexen und schlichtweg magisch-harmonischen Ambient Sets des australischen Produzenten und DJs Chris SSG (hier geht’s zur Übersicht). Im bürgerlichen Leben ist der Mann Professor für Politikwissenschaft an einer Tokioter Universität und forscht v.a. zur Demokratietheorie. Aber das tut hier nichts zur Sache. Wer noch nie von Ambient gehört hat – einfach mal reinhören, muss man hören, nicht theoretisieren. Wer skeptisch ist oder keine Zeit hat sich bis zum neuen Lieblingsset durchzuwühlen: Toll ist das hier, mein Favorit, und das Set, das offenbar in der Lobby des Schauspielhauses Zürich läuft. Das Foto ist übrigens ganz in der Nähe aufgenommen, wo ich Chris SSG das erste Mal spielen sah – irgendwo in Japan, im Sommer 2017.

*

Die Woche auf dem Verfassungsblog

Grenzkontrollen, Zurückweisungen, Leistungskürzungen: Seit dem Anschlag von Solingen diskutiert die Politik über teils drastische Verschärfungen im Asyl- und Migrationsrecht. Während die Opposition einen „Notstand“ nach Art. 72 AEUV ins Spiel brachte, ordnete Bundesinnenministerin Faeser an, Binnengrenzkontrollen auf alle deutschen Landesgrenzen auszuweiten. Nicht nur von Deutschlands europäischen Nachbarn hagelte es hierfür schnell Kritik. Auch in den Rechtswissenschaften werden Zweifel angemeldet, ob der Aktionismus in der Asyldebatte mit Verfassungs- und Europarecht vereinbar ist. FRANZ C. MAYER (DE) beobachtet, dass große Teile der Debatte im europarechtlichen Blindflug stattfinden und meint, dass der aktuelle Umgang mit dem Recht das Vertrauen in die Verlässlichkeit Deutschlands und die deutsche Europapolitik erschüttern kann. MATTHIAS LEHNERT und ROBERT NESTLER (DE) haben sich das Argument des Notstands genauer angesehen und sehen geringe Chancen dafür, dass es vor dem EuGH standhalten wird. LEONIE DÄRR und HANNAH FRANKE (DE) haben sich mit der Forderung beschäftigt, Leistungen für sogenannte „Dublin-Fälle“ zu kürzen bzw. ganz auszuschließen und zeigen, warum das Vorhaben mit der Rechtsprechung des Bundesverfassungsgerichts unvereinbar sein könnte.

Diese Woche ist der Draghi-Report erschienen. Der ehemalige Chef der EZB, Mario Draghi, analysiert darin die EU-Wirtschaft und umreißt die „existenziellen Herausforderungen“ der europäischen Wettbewerbsfähigkeit. An einem Punkt zögert der Report aber: Statt eine Vertragsänderung anzustreben, wird zur Umsetzung der Ziele auf bestehende Vertragsbestimmungen und Governance-Modi gebaut. PETER LINDSETH und PÄIVI LEINO-SANDBERG (EN) sind der Meinung, dass dieser Ansatz rechtlich fragwürdig und politisch unklug ist und schlagen stattdessen vor, die offensichtlich notwendige Vertragsreform zu erleichtern.

In Sachen Klimawandel hat sich nicht viel verändert, bei der Stimmung in Bezug auf den europäischen „Green Deal“ aber schon. CHRISTIAN CALLIESS (EN) erklärt, dass es jetzt statt der guten Worte auch Taten braucht und was der EU bei der Umsetzung der eigenen Klimapolitikziele noch im Weg steht.

In Frankreich hat die Entscheidung von Präsident Emmanuel Macron für Michel Barnier als Premierminister zu erneuten Protesten geführt. ELEONORA BOTTINI und NICOLETTA PERLO (EN) haben einen verfassungsrechtlichen Blick auf die Lage geworfen. Sie stellen dabei fest, dass die institutionelle Rolle des Präsidenten unter den derzeitigen Umständen an ihre Grenzen stößt.

Es gibt einen neuen Gesetzentwurf in Bayern. Dieser soll den Kreis der Personen beschränken, die im Strafprozess als Wahlverteidiger auftreten können. Das betrifft insbesondere sogenannte Laienverteidiger. FLORAIN REINERS (DE) sieht das Vorhaben kritisch, da es oftmals gerade die Laienverteidigung ist, die auch Betroffenen in prekärer sozio-ökonomischer Lage den rechtsstaatlich wichtigen Zugang zur Justiz ermöglicht.

In unserem Digitalressort ging es um den seltsamen Artikel 21 des Digital Services Act (DSA). Darin wird die Einrichtung privater Quasi-Gerichte zur Moderation von Streitigkeiten über Inhalten gefordert. Users Rights, eine Organisation mit Sitz in Berlin, übernimmt diese Rolle als eine der ersten. HANNAH RUSCHEMEIER, JOÃO PEDRO QUINTAIS, IVA NENADIĆ, GIOVANNI DE GREGORIO und NIKLAS EDER (EN) erklären, wie das nun gegründete „Article 21 – Academic Advisory Board” auf die praktische Umsetzung der DSA schaut.

++++++++++Anzeige++++++++

Princeton University invites applications for a tenured faculty position in law and human values based in the University Center for Human Values, to begin on or after July 1, 2025. Rank: Associate or Full Professor. The Center seeks scholars of distinction and promise, whose research lies at the intersection between law and the study of human values broadly understood, and who can contribute to the undergraduate and graduate teaching curricula of the University. The search committee will begin reviewing applications on or around October 2, 2024. 

Weitere Informationen finden Sie hier.

++++++++++++++++++++++++

Das war aber natürlich noch nicht alles.

Begleitet wurde die Woche mit weiteren Texten aus unserem Blog Symposium „Das Jurastudium in der Kritik“. Neben dem Reformbedarf im Referendariat wurden auch die Klimakrise, soziale Hierarchien und Diskriminierung in der juristischen Ausbildung betrachtet.

Einen weiteren Text gab es in dem Symposium „Wen es trifft: Der Volksbegriff der AfD und Szenarien der Diskriminierung“. HILAL ALWAN, HANNAH KATINKA BECK und PAULA SCHMIETA haben aufs Verwaltungsgericht Gera geschaut und erklären, warum Rassismus in der Justiz ein Nährboden für die Strategie autoritär-populistischer Parteien ist.

Zum Anfang der Woche und als Abschluss hier gab es auch wieder eines unserer monatlichen Portraits aus der Reihe „Outstanding Women of International, European and Constitutional Law“. Diesmal hat ALENA SCHRÖDER das außergewöhnliche Leben von Yayori Matsui für uns zusammengefasst.

Sie sehen, für den ersten Herbstsonntag auf dem Sofa gibt es reichlich Lesestoff.

*

Das wär’s für diese Woche! Ihnen alles Gute

Ihr

Verfassungsblog-Team

Wenn Sie das wöchentliche Editorial als Email zugesandt bekommen wollen, können Sie es hier bestellen.