06 May 2025
Anatomy of a Fall
On 11 February 2025, the Commission published its 2025 work programme and revealed the likely withdrawal of the Proposal for an Artificial Intelligence Liability Directive (‘AILD proposal’), citing “no foreseeable agreement” among Member States. This blog post highlights the proposed AILD’s main merits and shortcomings and it explores the implications of its likely withdrawal for EU tech regulation by clarifying the interplay between AI liability rules, the AI Act, and the PLD. Continue reading >>
0 
08 April 2025
When Guidance Becomes Overreach
From 2 August 2025, providers of so-called “General Purpose AI” (GPAI) models will face far-reaching obligations under the EU’s AI Act. To demonstrate compliance, the AI Act allows providers to rely on a “Code of Practice”, currently being drafted by over 1000 stakeholders under the auspices of the AI Office, and expected to be adopted by the European Commission before August 2025. This post critically examines the third draft of the Code of Practice. Continue reading >>
0
07 April 2025
Fake oder Fiktion?
KI trennt die Stimme von der Zunge, das Gesicht vom Körper und macht sie zu beweglichen Instrumenten in den Händen anderer. Unsere digitalen Replikate können in lebensechten und doch völlig künstlichen Szenarien eingesetzt werden – sei es in ausgeklügelten Täuschungen oder offen fiktiven Inszenierungen. Beides wird gemeinhin als „Deepfake“ bezeichnet. Nun fordert eine Gruppe von Künstlern ihr generelles Verbot. Das würde zwar Missbrauchsgefahren reduzieren, aber auch den künstlerischen Einsatz der neuen Technik übermäßig stark einschränken. Denn Deepfakes genießen als Kunstwerke den Schutz der Kunstfreiheit. Continue reading >>18 February 2025
The De-Regulatory Turn of the EU Commission
The current events in the US, especially the takeover of executive branches by the non-elected private citizen Elon Musk, left legal scholars and other constitutional experts in a state of shocked disbelief. From a European perspective, many consider such a development unthinkable. However, we should not be too certain about that. The current decision of the EU Commission to carry out a “de-regulatory turn” illustrates how strongly a technical innovation narrative – one that has contributed to the success of individuals like Musk and their corporate conglomerates – is catching on globally. Continue reading >>
0
10 February 2025
The Looming Enforcement Crisis in European Digital Policy
The EU's push for stronger digital laws to protect fundamental rights and democracy faces significant challenges due to fragmented enforcement and overlapping regulatory responsibilities. This fragmentation risks undermining the core principles of the EU legal order. A more coordinated, rule-of-law-centered enforcement framework is needed to address these tensions and ensure effective implementation of digital laws while safeguarding fundamental rights. Continue reading >>
0
20 January 2025
The Hidden Reach of the EU AI Act
The EU AI Act not only regulates artificial intelligence but also triggers the application of the EU Charter of Fundamental Rights, embedding EU principles of procedural justice into national administrative law. This development advances the Europeanisation of domestic legal systems and reshapes the balance between EU and national public law in the digital age. Continue reading >>
0
13 December 2024
Regulating AI at Europe’s Borders
How does the EU's AI Act affect migration and border management? This blog examines the critical gaps and challenges posed by the classification of high-risk AI systems, revealing how exceptions and loopholes amplify fundamental rights risks and accountability gaps. The analysis points out the need for stronger oversight and higher standards to protect the rights of individuals affected by AI-driven migration technologies. Continue reading >>
0
12 December 2024
EU’s AI Act and Migration Control. Shortcomings in Safeguarding Fundamental Rights
In the European Union, AI and non-AI technologies are increasingly being used for border and migration control. In this blog, Brouwer argues that the new AI Act, while adding safeguards, falls short of sufficiently protecting fundamental rights. This is due to its blanket exceptions and broad discretion for national and EU agencies to experiment with AI tools when making decisions about migrants, including asylum seekers and refugees. It is therefore important that the general legal framework on fundamental rights continues to be observed. Continue reading >>12 December 2024
Autos als Belastungszeugen – hilft die KI-VO?
Moderne Autos, Fitnessarmbänder oder Herzschrittmacher beobachten ihre Nutzer ständig und werden dadurch zu potenziellen Beweismitteln. Können ihre Beobachtungen Teil der strafprozessualen Beweisführung werden? Sollten sie in Augenschein genommen oder doch eher wie Belastungszeugen konfrontiert werden? Hilft die KI-VO, wenn die Strafverteidigung die Vertrauenswürdigkeit einer Beobachtung testen will? Die der KI-VO eigene Mischung aus Produktesicherheit und Grundrechtsschutz birgt nicht nur ein generelles Potenzial für mehr Vertrauenswürdigkeit, sie könnte auch helfen genuin strafprozessuale Anliegen in das digitale Zeitalter zu überführen. Dieses Versprechen wird aber nur eingelöst, wenn Rechtswissenschaft und Rechtspraxis die europäischen Vorgaben in den Strafverfahrensalltag übersetzen. Continue reading >>
0
11 December 2024
Big Brother Is Analyzing You
Angesichts der Möglichkeiten automatisierter Datenanalyse wachsen bei den Sicherheitsbehörden die Begehrlichkeiten. Mit der im August 2024 in Kraft getretenen KI-Verordnung existiert eine Regelung, die die Gestaltung und Nutzung von Hochrisiko-KI-Systemen reguliert und dadurch die verfassungsrechtlichen sowie datenschutzrechtlichen Anforderungen an die polizeiliche Datenanalyse schärft. Für die gesetzlichen Vorgaben von Analysebefugnissen und deren Anwendung ist es entscheidend, klare Leitlinien für einen verantwortungsvollen und grundrechtsschonenden Einsatz von KI in Gefahrenabwehr und Strafverfolgung zu etablieren. Continue reading >>
0