18 February 2025
The De-Regulatory Turn of the EU Commission
The current events in the US, especially the takeover of executive branches by the non-elected private citizen Elon Musk, left legal scholars and other constitutional experts in a state of shocked disbelief. From a European perspective, many consider such a development unthinkable. However, we should not be too certain about that. The current decision of the EU Commission to carry out a “de-regulatory turn” illustrates how strongly a technical innovation narrative – one that has contributed to the success of individuals like Musk and their corporate conglomerates – is catching on globally. Continue reading >>
0 
10 February 2025
The Looming Enforcement Crisis in European Digital Policy
The EU's push for stronger digital laws to protect fundamental rights and democracy faces significant challenges due to fragmented enforcement and overlapping regulatory responsibilities. This fragmentation risks undermining the core principles of the EU legal order. A more coordinated, rule-of-law-centered enforcement framework is needed to address these tensions and ensure effective implementation of digital laws while safeguarding fundamental rights. Continue reading >>
0
20 January 2025
The Hidden Reach of the EU AI Act
The EU AI Act not only regulates artificial intelligence but also triggers the application of the EU Charter of Fundamental Rights, embedding EU principles of procedural justice into national administrative law. This development advances the Europeanisation of domestic legal systems and reshapes the balance between EU and national public law in the digital age. Continue reading >>
0
13 December 2024
Regulating AI at Europe’s Borders
How does the EU's AI Act affect migration and border management? This blog examines the critical gaps and challenges posed by the classification of high-risk AI systems, revealing how exceptions and loopholes amplify fundamental rights risks and accountability gaps. The analysis points out the need for stronger oversight and higher standards to protect the rights of individuals affected by AI-driven migration technologies. Continue reading >>
0
12 December 2024
EU’s AI Act and Migration Control. Shortcomings in Safeguarding Fundamental Rights
In the European Union, AI and non-AI technologies are increasingly being used for border and migration control. In this blog, Brouwer argues that the new AI Act, while adding safeguards, falls short of sufficiently protecting fundamental rights. This is due to its blanket exceptions and broad discretion for national and EU agencies to experiment with AI tools when making decisions about migrants, including asylum seekers and refugees. It is therefore important that the general legal framework on fundamental rights continues to be observed. Continue reading >>12 December 2024
Autos als Belastungszeugen – hilft die KI-VO?
Moderne Autos, Fitnessarmbänder oder Herzschrittmacher beobachten ihre Nutzer ständig und werden dadurch zu potenziellen Beweismitteln. Können ihre Beobachtungen Teil der strafprozessualen Beweisführung werden? Sollten sie in Augenschein genommen oder doch eher wie Belastungszeugen konfrontiert werden? Hilft die KI-VO, wenn die Strafverteidigung die Vertrauenswürdigkeit einer Beobachtung testen will? Die der KI-VO eigene Mischung aus Produktesicherheit und Grundrechtsschutz birgt nicht nur ein generelles Potenzial für mehr Vertrauenswürdigkeit, sie könnte auch helfen genuin strafprozessuale Anliegen in das digitale Zeitalter zu überführen. Dieses Versprechen wird aber nur eingelöst, wenn Rechtswissenschaft und Rechtspraxis die europäischen Vorgaben in den Strafverfahrensalltag übersetzen. Continue reading >>
0
11 December 2024
Big Brother Is Analyzing You
Angesichts der Möglichkeiten automatisierter Datenanalyse wachsen bei den Sicherheitsbehörden die Begehrlichkeiten. Mit der im August 2024 in Kraft getretenen KI-Verordnung existiert eine Regelung, die die Gestaltung und Nutzung von Hochrisiko-KI-Systemen reguliert und dadurch die verfassungsrechtlichen sowie datenschutzrechtlichen Anforderungen an die polizeiliche Datenanalyse schärft. Für die gesetzlichen Vorgaben von Analysebefugnissen und deren Anwendung ist es entscheidend, klare Leitlinien für einen verantwortungsvollen und grundrechtsschonenden Einsatz von KI in Gefahrenabwehr und Strafverfolgung zu etablieren. Continue reading >>
0
11 December 2024
Ein Anfang, mehr nicht
Kein anderes Thema hat die Gemüter beim Ringen um die KI-Verordnung der EU so sehr erhitzt wie die automatisierte Gesichtserkennung in der Strafverfolgung und ihre Regulierung. Jetzt stehen die Vorschriften für Gesichtserkennung und andere Methoden biometrischer Fernidentifizierung fest – zumindest der aller-äußerste Rahmen, den die KI-Verordnung festlegt. Diese Regelungen sind allerdings nur ein Anfang, mehr nicht. Continue reading >>
0
10 December 2024
AI Act and the Prohibition of Real-Time Biometric Identification
Remote biometric identification (RBI) systems are increasingly becoming part of our daily lives. The most prominent example is the use of facial recognition technologies in public spaces (e.g. CCTV cameras). The AI Act regulates the use of RBI systems distinguishing between real-time and post RBI systems. While one of the main aims of the AIA was to ban real-time RBI systems, the Regulation failed to do so in an effective manner. Instead, it can be argued that the AIA still allows for a broad use of such systems. Continue reading >>10 December 2024
KI im Einsatz für die Sicherheit
Mit der Verabschiedung der KI-Verordnung wurde nicht nur ein Rechtsrahmen für den sicherheitsbehördlichen KI-Einsatz geschaffen, sondern erneut die Diskussion über eine kompetenzwidrige Europäisierung des Sicherheitsrechts aufgeworfen. Neben der Notwendigkeit gemeinsamer datenschutzrechtlicher Mindeststandards im Raum der Freiheit, der Sicherheit und des Rechts sprechen jedoch auch die Einhaltung grundrechtlicher Garantien und die in der KI-Verordnung vorgesehenen Regelungsspielräume der Mitgliedstaaten für die Zulässigkeit einer übergreifenden Regulierung des KI-Einsatzes durch den EU-Gesetzgeber. Continue reading >>
0