31 May 2024
Und (fast) täglich grüßt das Murmeltier
Anfang Mai 2024 deckte eine Investigativrecherche des Bayerischen Rundfunks auf, dass das Bundeskriminalamt offenbar schon im Jahr 2019 heimlich rund fünf Millionen Gesichtsbilder aus dem zentralen polizeilichen Informationssystem INPOL-Z extrahiert und dem Fraunhofer-Institut für Graphische Datenverarbeitung zur Verfügung gestellt hat. Immer wieder verkennen die Sicherheitsbehörden die Reichweite der Datenschutz(grund-)rechte oder ignorieren geflissentlich Vorgaben der Rechtsprechung des Bundesverfassungsgerichts. Continue reading >>
3 
22 March 2024
Daniela Klette und die Frucht der vergifteten Maschine
Am 26. Februar 2024 hat die Polizei die mutmaßliche Terroristin Daniela Klette festgenommen. PimEyes, eine KI-basierte, biometrische Gesichtserkennungssoftware, hatte Klette im Netz gefunden. Dieser Beitrag plädiert aus verfassungs- und unionsrechtlicher Perspektive dafür, dass der Einsatz von offensichtlich rechtswidriger Software wie PimEyes im Strafprozess ein Beweisverwertungsverbot begründet, das auch eine Fernwirkung entfaltet. Continue reading >>22 March 2024
PimEyes User auf den Spuren der RAF
Ende Februar hat die Polizei die mutmaßliche RAF-Terroristin Daniela Klette in Berlin festgenommen. Dies haben Hinweise ermöglicht, an die ein Journalist mittels der Gesichtserkennungssoftware PimEyes gelangt war – allerdings unter Verstoß gegen das Datenschutzrecht. Dass die Polizei die Hinweise verwendet, ist verfassungsrechtlich problematisch, denn sie selbst dürfte PimEyes nicht einsetzen. Dies hindert die Polizei aber nicht daran, aufgrund von Hinweisen durch Private, die PimEyes generiert hat, gegen bestehende Gefahren einzuschreiten und auch nicht daran, strafprozessuale Ermittlungen aufzunehmen. Continue reading >>23 January 2024
Orwell’sche Gleichgültigkeit und Europäische Demokratie
Stolz wurde am 9. Dezember 2023 verkündet, dass „der KI-Deal steht“ – so ließe sich die damalige Pressemeldung des Rates paraphrasieren. Mittlerweile ist allerdings Besorgnis im Hinblick auf die weitere Ausformung des erzielten Kompromisses angebracht. Nachdem die Institutionen bei einem langwierigen letzten Treffen innerhalb der Trilog-Verhandlungen zwischen Parlament, Rat und Kommission zu einem „provisional agreement“ fanden, das den langen wie gewundenen Weg der (angeblich) „weltweit ersten“ KI-Regulierung zu einem Ende bringen könnte, scheint sich der für Ende Januar erwartete konkrete Textentwurf des AI Acts in mehrerlei Hinsicht von den dortigen Festlegungen zu entfernen. In der Sache lassen sich gewichtige rechtliche Einwände gegen den konkreten Regulierungsansatz vorbringen; noch schwerwiegender lastet allerdings das bedeutsame wie kritische Defizit der demokratischen Legitimierung dieser wichtigen regulatorischen Entscheidung auf den aktuellen Entwicklungen des AI Acts. Continue reading >>
0
20 December 2021
Im Auge der Polizei
Videoüberwachung im öffentlichen Raum ist mit einem Sicherheitsversprechen verbunden: Sie soll einen Beitrag zur Verhinderung und Verfolgung von Straftaten leisten und das Sicherheitsgefühl der Bevölkerung stärken. Ob diese Ziele erreicht werden, ist umstritten. Während einige Stimmen in der Videoüberwachung ein sinnvolles Instrument zur Bekämpfung von Straftaten erblicken, wird sie von anderen als Mittel zur Inszenierung von Sicherheit sowie als Meilenstein auf dem Weg in den Überwachungsstaat verstanden. Ihrer weiten Verbreitung hat dies bisher jedenfalls keinen Abbruch getan. Continue reading >>22 January 2021
Mit künstlicher Intelligenz auf Verbrecherjagd
Zur Fahndung nach den Beteiligten am Sturm auf das US-amerikanische Kapitol werden nach Medienberichten wohl auch Gesichtserkennungstechnologien eingesetzt, die teilweise auf künstlicher Intelligenz beruhen. Nach deutschem Recht wäre das derzeit unzulässig. Die Einführung einer entsprechenden Rechtsgrundlage erfordert aufgrund ethischer, technischer und menschenrechtlicher Implikationen eine intensive Debatte auf gesetzgeberischer Ebene. Continue reading >>22 January 2020
Lernfähige KI erfordert lernfähiges Polizeirecht
Der Einsatz von künstlicher Intelligenz (KI) im Sicherheitsbereich führt ein bekanntes Paradox vor Augen: Technische Hilfsmittel, die die öffentliche Sicherheit erhöhen sollen, können selbst zur Quelle der Unsicherheit werden und Freiheitsrechte gefährden. Ihr Einsatz muss daher rechtlich eingehegt werden. Dafür reichen weit gefasste Regelungen nicht aus, die neue technische Entwicklungen ohne weitere kritische Erwägungen mit abdecken. Ein technikoffenes Recht allein wird dem Einsatz von KI nicht gerecht. Das Recht muss angesichts des zunehmenden Einsatzes lernfähiger Systeme selbst verstärkt lernfähig werden. Continue reading >>
0