22 Januar 2020

Lernfähige KI erfordert lernfähiges Polizeirecht

Der Einsatz von künstlicher Intelligenz (KI) im Sicherheitsbereich führt ein bekanntes Paradox vor Augen: Technische Hilfsmittel, die die öffentliche Sicherheit erhöhen sollen, können selbst zur Quelle der Unsicherheit werden und Freiheitsrechte gefährden. Ihr Einsatz muss daher rechtlich eingehegt werden.

Dafür reichen weit gefasste Regelungen nicht aus, die neue technische Entwicklungen ohne weitere kritische Erwägungen mit abdecken. Ein technikoffenes Recht allein wird dem Einsatz von KI nicht gerecht. Das Recht muss angesichts des zunehmenden Einsatzes lernfähiger Systeme selbst verstärkt lernfähig werden. Dies zeigt sich anhand zweier Szenarien, in denen die deutsche Polizei bereits KI einsetzt: Der Analyse großer Datenmengen in Textform sowie von Videoaufzeichnungen.

Überholte Befugnisse

Die herkömmlichen Befugnisse des Polizeirechts sind untauglich, um den Einsatz von KI zur Analyse von Videoaufzeichnungen und Textinhalten zu rechtfertigen.

Die Befugnisse zur Videoüberwachung erlauben es, Orte zu beobachten und Bilder aufzuzeichnen. Schon ihr Wortlaut gestattet eine Auswertung der Aufzeichnungen nicht. Die Regelungen beziehen sich auch ihrem Sinn und Zweck sowie ihrer Entstehungsgeschichte nach nicht auf automatisierte Datenauswertungen. Neuartigen Formen der Auswertung lassen sich auch nicht als Annex zu den Befugnissen rechtfertigen. Der Einsatz von KI führt hier zu bedeutsamen Eingriffen in das informationelle Selbstbestimmungsrecht. Die Risiken, die aus der automatisierten Auswertung folgen, sind nicht mit jenen der manuellen Beobachtung und Auswertung vergleichbar.

Die Lage bei intelligenten Auswertungen von Textinhalten ist ähnlich. Die allgemeinen Befugnisse zum Datenabgleich genügen nicht, um einen Einsatz von KI zur komplexen Datenanalyse zu rechtfertigen. Sie wurden unter der Annahme geregelt, dass der Abgleich nur ein geringfügiger Eingriff in die Rechte der Betroffenen sei. Jedenfalls mit den neuen technischen Möglichkeiten zur Datenanalyse ist dies nicht mehr der Fall. Auch die Befugnisse zur Rasterfahndung taugen nicht zur Rechtfertigung. Zwar lässt sich die Rasterfahndung als geistiger Vorgänger moderner Datenabgleiche verstehen, ihre retrofuturistische Anwendung erschiene aber nicht sachgerecht. Sie ist in ihrer Zielrichtung nicht mit Methoden vergleichbar, die in einem bisher ungekannten Ausmaß neue Informationen erzeugen können.

Intelligente Videoüberwachung

Zum Teil enthalten die reformierten Polizeigesetze Befugnisse, die den Einsatz von KI zum Zwecke von Videoauswertungen und anderen Datenanalysen stützen könnten. Rechtsgrundlagen für intelligente Videoüberwachung bieten Normen in den reformierten Polizeigesetzen Bayerns und Baden-Württembergs. Allerdings ist auch deren Tauglichkeit für eine praktische Anwendung zweifelhaft.

Nach Art. 33 Abs. 5 BayPAG dürfen im Zusammenhang mit offenen Videoaufzeichnungen „Systeme zur automatischen Erkennung und Auswertung von Mustern bezogen auf Gegenstände einschließlich der automatischen Systemsteuerung zu diesem Zweck verwendet werden, soweit dies die jeweilige Gefahrenlage auf Grund entsprechender Erkenntnisse erfordert.“ Diese Vorschrift soll den Einsatz intelligenter Kamerasysteme ermöglichen. Sie bezieht sich allerdings nicht auf das Verhalten von Personen, sondern nur auf Sachen wie z.B. herrenlose Koffer.

Weiter geht § 21 Abs. 4 PolG BW, der es gestattet, Bildaufzeichnungen auf Personen und deren Verhaltensmuster bezogen automatisch auszuwerten. Die automatische Auswertung darf dabei „nur auf das Erkennen solcher Verhaltensmuster ausgerichtet sein, die auf die Begehung einer Straftat hindeuten.“ Welche Verhaltensmuster damit gemeint sind, bleibt allerdings ebenso offen wie die Frage, wie sichergestellt werden soll, dass eine Auswertung hierauf beschränkt bleibt. Ob hierfür gesicherte technische Methoden bereitstehen, ist zweifelhaft. Der Erfolg und die Möglichkeiten zum rechtskonformen Einsatz von KI in diesem Bereich werden auch von deren Training abhängen. 

Neuartige Datenanalysen

Für KI-basierte Datenauswertungen finden sich erste Ansätze in den Polizeigesetzen von Hessen und Hamburg. § 25a HSOG ermöglicht es, in begründeten Einzelfällen gespeicherte personenbezogene Daten mittels einer automatisierten Anwendung zur Datenanalyse weiterzuverarbeiten. Die Regelung soll vor allem die Kombination von Daten aus vorhandenen Beständen ermöglichen, um neue Informationen zu gewinnen. Eine ähnliche Befugnis findet sich in § 49 HmbPolDVG

Diese Befugnisse werden zum Teil kritisch als „Palantir-Paragrafen“ bezeichnet, die das Tor für den Einsatz neuer Methoden des „Predictive Policing“ aufstoßen. Sie versprechen aber mehr Rechtsklarheit als Versuche, komplexe Analyseverfahren auf bestehende Befugnisse zu stützen. § 25a HSOG und § 49 HmbPolDVG verdienen als Ansätze, um die Rahmenbedingungen für eine sich entfaltende polizeiliche Praxis der Datenauswertung festzulegen, Aufmerksamkeit. Im Einzelnen besteht freilich Nachbesserungsbedarf.

Die Vorschriften sollten konkretisieren, was der Begriff der „automatisierten Anwendung zur Datenanalyse“ umfassen kann – besonders unter Berücksichtigung von KI-Methoden. Außerdem sollten sie mit weiteren prozeduralen Vorkehrungen versehen werden. Der Einsatz von komplexen Analyseverfahren sollte von einem erhöhten Standard der Qualität der einbezogenen Daten abhängig gemacht werden. Schließlich sollten parlamentarische Berichtspflichten und Evaluationen vorgesehen werden. Angesichts der technischen Dynamik in diesem Feld erscheint dies notwendig, um die praktische Anwendung der Befugnisse kritisch zu begleiten.

Vorausschau und ihre Grenzen

Die neuen Befugnisse werfen die Frage auf, ob und inwiefern sich der Einsatz von (KI-)Technologien, die technisch noch nicht vollständig entwickelt sind, eingriffsrechtlich regeln lässt.

Die Gesetzgeber sind angehalten, technische Entwicklungen zu beobachten, bevor sie Befugnisse erlassen. Sie können und dürfen diese jedoch nur eingeschränkt antizipieren. So erteilte das Landesverfassungsgericht Sachsen-Anhalt im Jahr 2014 der Schaffung von Eingriffsbefugnissen „auf Vorrat“ eine Absage. Das Gericht erklärte eine Befugnis zur Quellen-TKÜ für unverhältnismäßig und damit verfassungswidrig. Der Gesetzgeber habe „keine verantwortliche Abwägungsentscheidung getroffen“, weil es noch keine technischen Mittel gegeben habe, um die Norm umzusetzen. Gewisse Möglichkeiten, Befugnisse für technisch noch nicht vollständig ausgereifte Ermittlungsmethoden zu regeln, erkannte das Gericht allerdings ebenso an wie das Bundesverfassungsgericht in seinem Urteil zum BKAG.

Im Ergebnis lässt sich danach differenzieren, ob eine technische Ermittlungsmethode gänzlich neuartig ist oder ob sie lediglich einer technischen Absicherung bedarf, die noch entwickelt werden muss. Im ersten Fall wird eine gesetzgeberische Abwägungsentscheidung kaum möglich sein (Roggan, NJW 2015, 1995, 1999). Dies würde zum jetzigen Zeitpunkt für die Regelung von Befugnissen zum Einsatz „starker“ KI gelten, die ermittlerische Tätigkeiten vollständige übernehmen könnte. Im zweiten Fall wäre die Regelung nicht automatisch unverhältnismäßig. So erscheinen etwa die technischen Grundlagen zum Einsatz von Verfahren maschinellen Lernens bei der Auswertung von Bildern und Texten ausreichend bekannt, um Befugnisse hierfür zu regeln.

Lernfähige Gesetzgebung

In vielen Fällen wird es notwendig und geboten sein, Befugnisse im Nachhinein der technischen Entwicklung anzupassen, um den Einsatz von KI zu rechtfertigen. Dabei sind zentrale verfassungsrechtliche Vorgaben wie das Recht auf informationelle Selbstbestimmung, die Menschenwürdegarantie und das Diskriminierungsverbot aus Art. 3 Abs. 3 GG zu beachten. Auf prozeduraler Ebene sind Instrumente notwendig, um die Reglungen und ihre Anwendung angesichts dynamischer technischer Entwicklungen kritisch zu überprüfen.

Bereits Anfang der 1990er-Jahre stellte Alexander Roßnagel fest, dass die Lernfähigkeit eine zentrale Bedingung der Möglichkeit parlamentarischer Technikgestaltung ist (ZRP 1992, 55 57). Dies ist heute besonders für den Einsatz von KI zu beherzigen. Die Gesetzgebung muss analog zu der Lernfähigkeit der regulierten Systeme ihre eigene Lernfähigkeit verbessern.

Die neuen polizeilichen Befugnisse zum Einsatz intelligenter Systeme sind nur teilweise mit entsprechenden Vorkehrungen ausgestattet. So ist etwa für die Befugnis zur intelligenten Videoüberwachung in § 21 Abs. 4 PolG BW nach der Gesetzesbegründung eine Evaluation vorgesehen. § 75 HmbPolDVG sieht für Maßnahmen nach § 49 HmbPolDVG eine Berichtspflicht gegenüber der Bürgerschaft vor.

Die Regelung entsprechender Instrumente ist damit ausbaufähig. Der Einsatz von KI-Anwendungen im Sicherheitsbereich entfaltet sich gerade erst und wird in der Zukunft weitere Spezialbefugnisse erfordern. Um hierfür Erkenntnisse zu sammeln, sollten hier gerade die ersten Regelungsschritte kritisch begleitet werden. Evaluations- und Berichtspflichten sind hierfür ein möglicher Weg. Auch Regelungen mit zunächst befristeter Geltung und zeitweise Beschränkungen des Einsatzes bestimmter technischer Mittel kommen in Betracht, um durch den Einsatz neuer Technologien zur Sicherheitsgewährleistung nicht am Ende Unsicherheit zu erzeugen.


SUGGESTED CITATION  Golla, Sebastian J.: Lernfähige KI erfordert lernfähiges Polizeirecht, VerfBlog, 2020/1/22, https://verfassungsblog.de/lernfaehige-ki-erfordert-lernfaehiges-polizeirecht/, DOI: 10.17176/20200122-181932-0.

Leave A Comment

WRITE A COMMENT

1. We welcome your comments but you do so as our guest. Please note that we will exercise our property rights to make sure that Verfassungsblog remains a safe and attractive place for everyone. Your comment will not appear immediately but will be moderated by us. Just as with posts, we make a choice. That means not all submitted comments will be published.

2. We expect comments to be matter-of-fact, on-topic and free of sarcasm, innuendo and ad personam arguments.

3. Racist, sexist and otherwise discriminatory comments will not be published.

4. Comments under pseudonym are allowed but a valid email address is obligatory. The use of more than one pseudonym is not allowed.




Explore posts related to this:
Gesichtserkennung, KI, Polizeirecht, surveillance


Other posts about this region:
Deutschland

Explore posts related to this:
Gesichtserkennung, KI, Polizeirecht, surveillance


Other posts about this region:
Deutschland
No Comments Join the discussion