Ein Anfang, mehr nicht

Kein anderes Thema hat die Gemüter beim Ringen um die KI-Verordnung der EU so sehr erhitzt wie die automatisierte Gesichtserkennung in der Strafverfolgung und ihre Regulierung. Jetzt stehen die Vorschriften für Gesichtserkennung und andere Methoden biometrischer Fernidentifizierung fest – zumindest der aller-äußerste Rahmen, den die KI-Verordnung festlegt. Allerdings wird das grundsätzliche Verbot biometrischer Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen durch Ausnahmen aufgeweicht, die pauschale Unterscheidung zwischen Echtzeit- und nachträglicher Erkennung überzeugt nicht und es fehlen materielle Vorgaben sowie ein ganzheitlicher Blick auf das System „biometrische Fernidentifizierung“. Kurz gesagt, diese Regelungen sind ein Anfang, mehr nicht.

Biometrische Fernidentifizierung und ihre Einsatzszenarien

Vorab sind zwei Fragen zu klären: Was ist überhaupt biometrische Fernidentifizierung? Und wie kommt sie in der Strafverfolgung zum Einsatz?

Für den Begriff biometrische Fernidentifizierung gibt es in der technischen Literatur keine einheitlich anerkannte Definition, die KI-Verordnung stellt daher eine eigene auf: ein biometrisches Fernidentifizierungssystem ist ein KI-System, das „dem Zweck dient, natürliche Personen ohne ihre aktive Einbeziehung und in der Regel aus der Ferne durch Abgleich der biometrischen Daten einer Person mit den in einer Referenzdatenbank gespeicherten biometrischen Daten zu identifizieren“ (Art. 3 Nr. 41 KI-VO). Darunter fallen etwa Gangerkennung, Spracherkennung und – besonders praxisrelevant – Gesichtserkennung. Nicht erfasst sein dürften beispielsweise Erkennungen anhand von Fingerabdrücken oder Retina (Netzhaut), denn diese sind nicht „aus der Ferne“ (großer Abstand zwischen Sensor und biometrischem Merkmal) möglich, und es ist grundsätzlich eine aktive Mitwirkung (Stillhalten) des Betroffenen erforderlich.

Eingesetzt werden kann biometrische Fernidentifizierung in der Strafverfolgung auf ganz unterschiedliche Weise. Diese Szenarien gilt es zu unterscheiden und differenziert zu betrachten, denn sie eröffnen jeweils unterschiedliche Möglichkeiten und bergen unterschiedliche Risiken. Im Folgenden werde ich einige Einsatzvarianten am Beispiel von Gesichtserkennung darstellen, der in der Praxis derzeit relevantesten Methode biometrischer Fernidentifizierung.

Identitätsermittlung: Mit automatisierter Gesichtserkennung kann die Identität von Verdächtigen ermittelt werden, indem das – auf Überwachungskameras oder einem Smartphone aufgezeichnete – Gesicht eines Verdächtigen mit Bildern in einer Datenbank abgeglichen wird. Befindet sich darin der Täter, kann er identifiziert werden. In Deutschland setzen BKA, Bundespolizei, Landeskriminalämter und andere Landespolizeibehörden auf diese Weise bereits Gesichtserkennung ein, indem sie einen Abgleich mit dem zentralen polizeilichen Informationssystem INPOL vornehmen. Hierin sind ca. 7,2 Mio. Lichtbilder von etwa 5 Mio. Personen gespeichert (Stand: 2023). Strafverfolgungsbehörden könnten aber auch Führerschein, Personalausweis- und Passfotos durchsuchen oder – wie ein aktueller Gesetzentwurf der Koalitionsfraktionen vorsieht – einen Abgleich mit „im Internet öffentlich zugänglichen Daten“ durchführen.

Digitale Beobachtung: Per Gesichtserkennung kann die Polizei einen Verdächtigen auch auf Videoaufnahmen beobachten, anstatt ihm physisch zu folgen. In Städten, die mit einem Netzwerk an Überwachungskameras ausgestattet sind, kann eine Personen so auf Schritt und Tritt – in Echtzeit oder im Nachhinein – aus der Ferne digital verfolgt werden. Dadurch lässt sich etwa herausfinden, welche Orte der Verdächtige häufig aufsucht und mit wem er regelmäßig interagiert. Im Juni 2024 wurde bekannt, dass das mobile videogestützte Personen-Identifikations-System „PerIS“ der sächsischen Polizei auf ähnliche Weise in Sachsen eingesetzt wird, in Amtshilfe auch in Berlin, Niedersachsen, Nordrhein-Westfalen, Brandenburg und Baden-Württemberg.

Echtzeit-Lokalisierung zur Festnahme: Auch können Verdächtige oder Straftäter auf der Flucht mit Gesichtserkennung in Echtzeit lokalisiert werden, um sie festzunehmen. Dazu scannen Überwachungskameras mit Gesichtserkennungssoftware in Echtzeit Videomaterial – etwa von öffentlichen Plätzen, Flughäfen und Bahnhöfen – und gleichen die Gesichter der Passanten mit Gesichtern auf einer Fahndungsliste ab. Sobald eine gesuchte Person erkannt wird, löst die Technologie einen Alarm aus. Die Bundespolizei hat diese Einsatzvariante automatisierter Gesichtserkennung in 2017/18 am Bahnhof Berlin Südkreuz getestet, danach jedoch, soweit bekannt, nicht mehr verwendet.

Die KI-Verordnung unterscheidet allerdings mit Blick auf biometrische Fernidentifizierung nicht zwischen solchen unterschiedlichen Szenarien, sondern nur zwischen „biometrischer Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken“ und „allen anderen“ Einsatzvarianten.

„Verbot“ biometrischer Echtzeit-Fernidentifizierung

Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Zwecken der Strafverfolgung ordnet die KI-Verordnung als „verbotene Praktik“ i.S.d. Art. 5 KI-VO ein. Von einem „Verbot“ kann allerdings kaum die Rede sein.

Untersagt ist die Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken zwar in „öffentlich zugänglichen Räumen“ wie etwa Flughäfen, Konzertsälen oder Fußballstadien, nicht jedoch an privaten Orten wie etwa – ausweislich der Erwägungsgründe – auch Unternehmens- und Fabrikgelände sowie Büros und Arbeitsplätze, die nur den entsprechenden Mitarbeitern zugänglich sind. Vor allem aber gilt dieses „Verbot“ nicht für Online-Räume, also: das Internet. Begründung: Dabei handele es sich nicht um physische Räume (ErwG 19). Eine inhaltliche Begründung wird nicht geliefert. Echtzeit-Fernidentifizierung beispielsweise mit Bildern sozialer Netzwerke ist daher nicht untersagt.

Davon abgesehen, dass dieses Verbot also nur eine begrenzte Reichweite hat, wird es durch Ausnahmen aufgeweicht (Art. 5 Abs. 1 lit. h i)-iii) KI-VO). Erlaubt werden kann Echtzeit-Fernidentifizierung beispielsweise für die Suche nach vermissten Personen oder zur Abwendung einer konkreten, erheblichen und unmittelbaren Gefahr für Leben oder körperliche Unversehrtheit natürlicher Personen oder einer Gefahr eines Terroranschlags. Eine Ausnahme von dem Verbot besteht auch für das Aufspüren oder Identifizieren von Personen, die bestimmter Straftaten verdächtig sind, darunter illegaler Drogenhandel, Umweltkriminalität, „Terrorismus“ und Mord. Ob diese Ausnahmen nun angemessen sind oder nicht – als eine „verbotene Praktik“ kann man Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken daher wohl kaum bezeichnen.

Zwar sieht die KI-Verordnung für die Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken einen Genehmigungsvorbehalt vor (Art. 5 Abs. 3 KI-VO). Allerdings soll es genügen, wenn eine „unabhängige Verwaltungsbehörde“, nicht zwingend eine Justizbehörde, die Genehmigung erteilt. Ob eine Überprüfung durch eine (formal) unabhängige Verwaltungsbehörde tatsächlich in jedem Mitgliedstaat ein echtes Gegengewicht zu den Strafverfolgungsbehörden darstellt und Gewaltenteilung gewährleisten kann, ist fraglich. Davon abgesehen bestehen auch hier Ausnahmen. In „hinreichend begründeten dringenden Fällen“ kann ohne Genehmigung mit der Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken begonnen werden; die Genehmigung ist dann „unverzüglich“, spätestens innerhalb von 24 Stunden zu beantragen (Art. 5 Abs. 3 S. 2 KI-VO).

Und abgesehen davon stellt sich noch eine ganz andere Problematik: Um Echtzeit-Gesichtserkennung in diesen „Ausnahmefällen“ zu ermöglichen, muss die entsprechende Infrastruktur an Überwachungskameras und sonstiger technischer Ausstattung geschaffen und jederzeit vorgehalten werden. Man mag sich bei vielen EU-Mitgliedstaaten darauf verlassen können, dass die Polizeibehörden die rechtlichen Grenzen einhalten. Technisch wären sie allerdings nicht gehindert, auch bei Beleidigung, einfachem Ladendiebstahl, einer Ordnungswidrigkeit oder gar ohne Verdacht auf eine rechtswidrige Tat Echtzeit-Fernidentifizierung einzusetzen. Und bekannt werden und öffentlicher Kritik ausgesetzt sein würde ein solcher Missbrauch wohl nicht. Denn biometrische Fernidentifizierung ist eine heimliche Maßnahme.

Echtzeit-Erkennung pauschal eingriffsintensiver?

Für alle anderen Einsatzszenarien biometrischer Fernidentifizierung gelten diese – ohnehin aufgeweichten – Einschränkungen nicht. Insbesondere für die Identitätsermittlung – darunter etwa die Gesichtserkennung im Internet – und für eine nachträgliche Überwachung des öffentlichen Raums („digitale Beobachtung“) sieht die KI-Verordnung keine Beschränkung auf bestimmte schwere Straftaten vor.

Die KI-Verordnung stuft Echtzeit-Erkennung in öffentlich zugänglichen Räumen pauschal als eingriffsintensiver ein als die anderen Einsatzvarianten biometrischer Fernidentifizierung. Richtig ist zwar, dass bei der Echtzeit-Erkennung – sofern sie zur Festnahme erfolgt – die „Möglichkeiten weiterer Kontrollen oder Korrekturen“ begrenzt sind (ErwG 32). Denn die Person muss sofort angehalten werden.

Im Übrigen überzeugt die Begründung für eine pauschale Einstufung von Echtzeit-Erkennung in öffentlich zugänglichen Räumen als eingriffsstärker aber nicht. Die Erwägung, dass die Verwendung solcher Systeme „besonders in die Rechte und Freiheiten der betroffenen Personen ein[greift], da sie die Privatsphäre eines großen Teils der Bevölkerung beeinträchtigt, ein Gefühl der ständigen Überwachung weckt und indirekt von der Ausübung der Versammlungsfreiheit und anderer Grundrechte abhalten kann“ (ErwG 32) ist richtig; sie gilt aber genauso für die nachträgliche Fernidentifizierung in öffentlich zugänglichen Räumen. Mehr noch: Eine solche nachträgliche Fernidentifizierung greift auf verschiedene Weise noch stärker in die Privatsphäre ein. Bei der Echtzeit-Identifizierung erhalten die Behörden Kenntnis davon, wo sich der Betroffene aktuell gerade aufhält; bei der nachträglichen Fernidentifizierung in öffentlich zugänglichen Räumen („digitale Beobachtung“) kann dagegen Videomaterial der vergangenen Tage, Wochen oder Monate ausgewertet und damit womöglich ein ganzes Bewegungs- oder Persönlichkeitsprofil erstellt werden. Die nachträgliche (!) Verknüpfung dieser Daten kann eine Vielzahl von Informationen über die observierte Person offenbaren, einschließlich ihrer beruflichen Tätigkeit, Freizeitaktivitäten, sexuellen Orientierung, politischen Ausrichtung und religiösen Überzeugung. Die Sorge, dass selbst monatelang zurückliegende Aufnahmen durchsucht werden könnten (also nachträglich), dürfte stärkere „Chilling Effects“ begründen als die Befürchtung aktuell (also in Echtzeit) lokalisiert zu werden. Das Entscheidende ist nicht der Live-Modus der Fernidentifizierung („Echtzeit“), sondern dass es sich um Fernidentifizierungen im öffentlichen Raum handelt.

Keine materiellen Vorgaben, kein ganzheitlicher Blick

Echte inhaltliche Vorgaben für den Einsatz nachträglicher Fernidentifizierung liefert die KI-Verordnung nicht. Einzig in Erwägungsgrund 95 finden sich drei allgemein gehaltene „Einschränkungen“: Die Systeme sollen verhältnismäßig und zielgerichtet eingesetzt werden, nicht zu „willkürlicher Überwachung“ führen und nicht die „strengen Ausnahmen“ für Echtzeit-Fernidentifizierung umgehen. Materielle Vorgaben für den Einsatz biometrischer Fernidentifizierung müssen stattdessen die Mitgliedstaaten schaffen, wenn sie einzelne Anwendungsszenarien erlauben wollen. Für Deutschland sind hierfür etwa die Entscheidungen des Bundesverfassungsgerichts zur automatisierten Kfz-Kennzeichenkontrolle II , zur automatisierten Datenanalyse und BKA-Gesetz II aufschlussreich. Auch die JI-Richtlinie (siehe insbesondere Art. 10 zu besonders sensiblen Daten) ist zu beachten.

Was in der KI-Verordnung auch fehlt, ist ein systemischer Blick auf die Strafverfolgungsmaßnahme „biometrische Fernidentifizierung“. Zwei Gedanken hierzu:

Erstens: Bekanntermaßen funktionieren viele (wenngleich nicht alle) Gesichtserkennungssysteme schlechter für People of Color, Frauen, ältere und jüngere Menschen, sie sind insofern verzerrt („biased“). Dadurch besteht die Gefahr, dass Angehörige dieser Personengruppen häufiger als falsch-positiver Treffer bei der Suche nach Verdächtigen auftauchen, dadurch auch eher zu Unrecht als Beschuldigter angehalten oder anderen Ermittlungsmaßnahmen unterzogen werden. Einer solchen Diskriminierungsgefahr versucht die KI-Verordnung dadurch Rechnung zu tragen, dass sie technische Vorgaben für die eingesetzten KI-Systeme macht (vgl. Art. 10 und Art. 15 KI-VO zu Trainingsdaten und Genauigkeit). Der technische „Bias“ ist aber nur die eine Seite, hinzu kommen „Biases“ innerhalb der Gesellschaft und der Strafverfolgung. Stellen wir uns einmal vor, es würden Gesichtserkennungssysteme eingesetzt, die tatsächlich für verschiedene Personengruppen ähnlich gut funktionieren. Aber: Bei einer Identitätsermittlung fehlerhaft identifiziert werden kann nur, wer überhaupt in der zum Abgleich herangezogenen polizeilichen Datenbank gespeichert ist. Wenn die Polizei Angehörige bestimmter ethnischer Gruppen häufiger kontrolliert und dadurch häufiger Verdachtsmomente und damit Gründe für eine erkennungsdienstliche Behandlung findet, dann sind diese Personen auch häufiger in der Datenbank gespeichert und damit Kandidaten für eine potenzielle Fehlidentifizierung. Welche Datenbank zum Abgleich bei der Suche nach Verdächtigen verwendet werden darf und wer darin vorkommt, ist entscheidend. Diese Frage adressiert die KI-Verordnung aber nicht.

Zweitens: Die KI-Verordnung sieht zwar eine gewisse Kontrolle vor, nämlich einen Genehmigungsvorbehalt für einzelne Abgleiche und eine Überwachung des Einsatzes biometrischer Fernidentifizierung (und anderer Hochrisiko-KI-Systeme) durch Aufsichtsbehörden vor (Art. 74 Abs. 8 KI-VO; vgl. auch Art. 5 Abs. 6 KI-VO). Bei der Genehmigung eines Einsatzes biometrischer Fernidentifizierung nimmt die Richterin oder die unabhängige Justizbehörde aber nur eine einzelne Maßnahme in den Blick. Die Aufsichtsbehörden wiederum sollen vor allem die Umsetzung der Vorgaben der KI-Verordnung sicherstellen; dasselbe gilt im Übrigens für das AI Office (Art. 64 KI-VO), das AI Board (Art. 65 KI-VO) und das Scientific Panel of Independent Experts (Art. 68 KI-VO). Was fehlt ist – gerade angesichts des Diskriminierungspotenzials und des eingriffsintensiven Charakters vieler Szenarien biometrischer Fernidentifizierung – eine systemische Evaluation der neuen Strafverfolgungsmaßnahme „biometrische Fernidentifizierung“. Eine Evaluationskommission, die interdisziplinär mit Juristinnen, Kriminologen, Soziologinnen, usw. besetzt ist, könnte eine umfassendere Untersuchung vornehmen. So könnte beispielsweise evaluiert werden, wie häufig und in welchen Fällen es zu Fehlidentifizierungen und Ermittlungsmaßnahmen gegen Unbeteiligte kommt, ob bestimmte Personengruppen hiervor häufiger betroffen sind und welche Gegenmaßnahmen in Zukunft ergriffen. Diese Erkenntnisse könnten wiederum in einem Bericht der Öffentlichkeit zugänglich gemacht werden und Grundlage für eine fortwährende Debatte über biometrische Fernidentifizierung bilden. Auch sollte zumindest bei besonders grundrechtssensiblen Anwendungen (Stichwort: Gesichtserkennungsabgleiche mit Daten aus dem Internet) evaluiert werden, ob und wie häufig diese Maßnahmen überhaupt zum Erfolg führen. In jedem Fall würden eine solche Evaluationskommission und ihr anschließender Bericht die Transparenz der Strafverfolgungsbehörden erhöhen und könnten zu mehr Vertrauen in die Polizei beim Einsatz neuer Technologien beitragen.

Ausblick

Die Regelungen der KI-Verordnung zu biometrischer Fernidentifizierung sind ein Anfang, der Anfang einer Debatte. Für die Mitgliedstaaten – darunter Deutschland – sollte dieser äußerste Rahmen der KI-Verordnung eine Aufforderung sein, nun schleunigst auf nationaler Ebene tätig zu werden. Zunächst muss Klarheit geschaffen werden, auf welche Weise, durch welche Behörden und in welchem Ausmaß biometrische Fernidentifizierung in der Strafverfolgung derzeit eingesetzt wird. Nach einer gesellschaftlichen Debatte sollten dann für einzelne Anwendungsszenarien konkrete gesetzliche Vorgaben gemacht werden – anstatt offensichtlich nicht passende Vorschriften wie die Rasterfahndung (§ 98a, b StPO) oder generalklauselartige Datenabgleichermächtigungen (§ 98c StPO) heranzuziehen (wie etwa hier S. 2 und hier S. 4). Mit Blick auf die Heimlichkeit und den intrusiven Charakter dieser neuen technologischen Maßnahmen sind in jedem Fall deutlich mehr Transparenz und eine unabhängige ganzheitliche Evaluation erforderlich, um das Vertrauen der Bevölkerung in das Handeln der Strafverfolgungsbehörden zu bewahren.

Der Beitrag beruht auf Gedanken, die die Verfasserin in ihrer Dissertation „Automatisierte Gesichtserkennung in der Strafverfolgung“ (im Erscheinen bei Nomos / Open-Access) entwickelt hat.