27 March 2026
Anatomy of an Escalation
Deepfakes are currently being cast as a startling new threat. They dominate headlines, raise difficult legal questions, and fuel technocratic debates on regulation. One prominent example is the legislative initiative put forward by Stefanie Hubig, German Federal Minister of Justice, aimed at specifically tackling digital violence and the abuse of deepfake technologies. However, we must not overlook the true scale of the problem: deepfakes are not the cause, but the latest symptom. They represent a technological upgrade for a form of violence deeply embedded in analogue power structures. Continue reading >>
0 
26 March 2026
Copyrighting Voice and Image
With the increasing proliferation of deepfakes, Denmark has become the first country in the EU to specifically protect one’s image and voice through a new legislative initiative. As of 31 March 2026, a new intellectual property right is expected to enter into force, modelled as a neighbouring right to copyright and specifically designed to protect a person’s voice and physical appearance. Traditionally, voice and image have been protected as personality rights. The new legislation reconceptualises them as intellectual property rights, making them potentially transferable and commercially exploitable. Continue reading >>
0
23 January 2026
Bildbasiert aber unsichtbar
„Hey Grok, put her in a bikini“. Laut aktuellen Schätzungen hat Grok etwa 3 Millionen sexualisierte Bilder in weniger als zwei Wochen generiert. Wer Schutz beim deutschen Rechtsstaat sucht, wird – wie ich – enttäuscht: Im Dezember 2023 habe ich, damals 21 Jahre alt, Dutzende Deepnudes von mir auf einer großen Social-Media-Plattform gefunden. Doch das Sexualstrafrecht erfasst pornografische Deepfakes in der Regel nicht. In den nächsten zwei Jahren fühlte ich mich von der Justiz allein gelassen. Sowohl die Debatte um Grok als auch meine Erfahrungen zeigen: Es braucht einen eigenen Straftatbestand, der pornografische Deepfakes bereits ab der Erstellung kriminalisiert. Continue reading >>07 April 2025
Fake oder Fiktion?
KI trennt die Stimme von der Zunge, das Gesicht vom Körper und macht sie zu beweglichen Instrumenten in den Händen anderer. Unsere digitalen Replikate können in lebensechten und doch völlig künstlichen Szenarien eingesetzt werden – sei es in ausgeklügelten Täuschungen oder offen fiktiven Inszenierungen. Beides wird gemeinhin als „Deepfake“ bezeichnet. Nun fordert eine Gruppe von Künstlern ihr generelles Verbot. Das würde zwar Missbrauchsgefahren reduzieren, aber auch den künstlerischen Einsatz der neuen Technik übermäßig stark einschränken. Denn Deepfakes genießen als Kunstwerke den Schutz der Kunstfreiheit. Continue reading >>09 October 2024
Every Fake You Make
In Asia, the war on fake news is reaching the next level. Several countries tightened regulatory demands over the past few years and introduced criminal liability for users and platforms publishing false content online. The laws effectively contribute to making the truth: Anything that is not aligned with the legal standards of what is considered true may be found unlawful. This blog post scrutinizes new legislation in South Korea and Singapore. Both jurisdictions are criminalizing deepfakes per se during election periods. The post situates these laws in the broader context of legal efforts to tighten controls of digital communication in Asia and beyond. Continue reading >>03 June 2024
Deepfakes, the Weaponisation of AI Against Women and Possible Solutions
In January 2024, social media platforms were flooded with intimate images of pop icon Taylor Swift, quickly reaching millions of users. However, the abusive content was not real; they were deepfakes – synthetic media generated by artificial intelligence (AI) to depict a person’s likeness. But the threat goes beyond celebrities. Virtually anyone (with women being disproportionately targeted) can be a victim of non-consensual intimate deepfakes (NCID). Albeit most agree that companies must be held accountable for disseminating potentially extremely harmful content like NCIDs, effective legal responsibility mechanisms remain elusive. This article proposes concrete changes to content moderation rules as well as enhanced liability for AI providers that enable such abusive content in the first place. Continue reading >>
0
15 December 2023
Wie viel Unwahrheit verträgt die Kunst?
Bundeskanzler Olaf Scholz verkündet im Namen der Bundesregierung, ein Verbotsverfahren gegen die AfD anzustrengen. Diesen Eindruck erweckt ein Video, das das Zentrum für Politische Schönheit (ZPS) am 27. November veröffentlichte, später entfernte und mit einem Urheberhinweis zu Beginn des Videos neu hochlud. Am 15. Dezember 2023 erklärte das ZPS, dass YouTube das Deepfake-Video in seiner ursprünglichen Form wieder freigeschaltet hat. Im konkreten Fall dürfte sich ein Verbreitungsverbot des Videos dennoch als verhältnismäßiger Eingriff in die Kunstfreiheit des ZPS erweisen. Continue reading >>
0