Anatomy of an Escalation
Deepfakes are currently being cast as a startling new threat. They dominate headlines, raise difficult legal questions, and fuel technocratic debates on regulation. One prominent example is the legislative initiative put forward by Stefanie Hubig, German Federal Minister of Justice, aimed at specifically tackling digital violence and the abuse of deepfake technologies. However, we must not overlook the true scale of the problem: deepfakes are not the cause, but the latest symptom. They represent a technological upgrade for a form of violence deeply embedded in analogue power structures.
Continue reading >>
Anatomie einer Eskalation
Deepfakes erscheinen in der öffentlichen Debatte jetzt als neue Bedrohung. Sie produzieren Schlagzeilen, geben Anlass für neue Gesetzesinitiativen und technokratische Diskussionen. So will Bundesjustizministerin Stefanie Hubig mit einem aktuellen Entwurf gezielt gegen digitale Gewalt und Deepfake-Missbrauch vorgehen. Doch wir sollten die gesamtgesellschaftliche Dimension dieses Problems nicht übersehen: Deepfakes sind nicht Ursache, sondern das jüngste Symptom. Sie sind ein technisches Upgrade für eine Gewalt, die tief in unseren analogen Machtverhältnissen wurzelt, und entlang sozialer Unterschiede systematisch diskriminiert.
Continue reading >>
Bildbasiert aber unsichtbar
„Hey Grok, put her in a bikini“. Laut aktuellen Schätzungen hat Grok etwa 3 Millionen sexualisierte Bilder in weniger als zwei Wochen generiert. Wer Schutz beim deutschen Rechtsstaat sucht, wird – wie ich – enttäuscht: Im Dezember 2023 habe ich, damals 21 Jahre alt, Dutzende Deepnudes von mir auf einer großen Social-Media-Plattform gefunden. Doch das Sexualstrafrecht erfasst pornografische Deepfakes in der Regel nicht. In den nächsten zwei Jahren fühlte ich mich von der Justiz allein gelassen. Sowohl die Debatte um Grok als auch meine Erfahrungen zeigen: Es braucht einen eigenen Straftatbestand, der pornografische Deepfakes bereits ab der Erstellung kriminalisiert.
Continue reading >>Wie viel Unwahrheit verträgt die Kunst?
Bundeskanzler Olaf Scholz verkündet im Namen der Bundesregierung, ein Verbotsverfahren gegen die AfD anzustrengen. Diesen Eindruck erweckt ein Video, das das Zentrum für Politische Schönheit (ZPS) am 27. November veröffentlichte, später entfernte und mit einem Urheberhinweis zu Beginn des Videos neu hochlud. Am 15. Dezember 2023 erklärte das ZPS, dass YouTube das Deepfake-Video in seiner ursprünglichen Form wieder freigeschaltet hat. Im konkreten Fall dürfte sich ein Verbreitungsverbot des Videos dennoch als verhältnismäßiger Eingriff in die Kunstfreiheit des ZPS erweisen.
Continue reading >>