Was passiert, wenn der Staat nicht nur seine Daten, sondern auch seine Fähigkeit, aus diesen Daten Wissen zu gewinnen, an private Unternehmen auslagert?

Polizeibehörden in Hessen, Bayern, Nordrhein-Westfalen und bald auch Baden-Württemberg machen es vor: Sie nutzen eine Software, die verspricht, Unsichtbares sichtbar zu machen. Gotham, entwickelt vom US-Unternehmen Palantir, durchsucht Millionen von heterogenen Datensätzen in Sekunden, verknüpft Informationen aus verschiedenen Quellen und stellt Zusammenhänge her. Was in getrennten Dateien, Akten und Systemen für menschliche Ermittler:innen verborgen bleibt, soll so in Sekunden ein kohärentes Gesamtbild ergeben.

Das klingt erstmal nach einer plausiblen technischen Antwort auf ein praktisch zunehmend relevantes Problem: Sicherheitsbehörden verfügen über immer mehr Daten, ihre Auswertung aber stößt an die Grenzen menschlicher Arbeitsschritte, Aufmerksamkeit – und vor allem Zeit. Die sogenannte automatisierte Datenanalyse – der sperrige Begriff für die Funktionsweise jener schlagzeilenträchtigen Systeme, die unter Namen wie Palantir bekannt geworden sind – verspricht, diese Grenze hinter sich zu lassen.

Damit verändert die Analysesoftware die Architektur staatlichen Handelns. Sie legt Kategorien fest, nach denen Personen als verdächtig oder unverdächtig gelten; sie lenkt die Aufmerksamkeit der Ermittler:innen. Wer die Plattform kontrolliert, kontrolliert damit auch die Bedingungen, unter denen staatliche Institutionen Wirklichkeit erfassen und auf sie reagieren.

Dieses Symposium untersucht die rechtlichen, gesellschaftlichen und demokratietheoretischen Folgen einer Entwicklung, in der private Unternehmen die Infrastruktur staatlicher Wissensproduktion bereitstellen. Die Debatte um automatisierte Datenanalyse-Systeme ist eine um die Zukunft staatlicher Handlungsfähigkeit und digitale Souveränität: darüber, wie viel Kontrolle der Staat über seine eigenen Wissens- und Entscheidungsinfrastrukturen behalten muss – und was geschieht, wenn aus einer technischen Lösung eine Infrastruktur wird, von der er sich nur noch schwer lösen kann (hierzu Esposito/Egbert und Ruschemeier/Mühlhoff).

Vor diesem Hintergrund lohnt ein Blick auf die politischen Selbstzuschreibungen der Anbieter. Das „Manifest“ von Palantir-CEO Alex Karp zeigt anschaulich, wie das Unternehmen diese Machtverschiebung ideologisch rahmt. Karp fordert eine neue Symbiose aus Tech-Kapital und nationaler Sicherheit. Das Manifest stilisiert Palantir zum Pionier einer militärisch-industriellen Tech-Elite, die gesellschaftliche Probleme als Optimierungsprobleme begreift (hierzu Nemitz).

Öffentlichkeit und Transparenz

Wie wird diese Entwicklung öffentlich verhandelt? Die deutsche Presseberichterstattung zu Palantir zeigt: Der Diskurs verhandelt vor allem, unter welchen Bedingungen und von welchem Anbieter datengestützte Polizeiarbeit stattfinden soll. Die gesellschaftliche Grundannahme, dass die Polizei eine solche Software braucht, bleibt weitgehend unhinterfragt (hierzu Struck/Bürkert).

Das ist umso bemerkenswerter, weil Polizeidaten keineswegs nur Informationen über Tatverdächtige enthalten. In ihnen finden sich auch Daten von Geschädigten, Zeugen und weiteren Beteiligten, die nie Anlass für eine polizeiliche Maßnahme gegeben haben. Bürger:innen werden also umfassender durchleuchtet. Werden solche großen Datenbestände dauerhaft zusammengeführt (zu den sog. Superdatenbanken Botta), entsteht sicherlich ein praktisch bequemeres Suchsystem, aber eben auch ein neuer, umfassender Informationszusammenhang. Kann diese Verknüpfbarkeit dann ein eigenständiges Grundrechtsgewicht entwickeln (hierzu Kelber und Botta)?

Macht und ihre Verschiebung werfen immer Fragen nach demokratischer Kontrolle auf. Die parlamentarische Verantwortlichkeit der Exekutive gerät unter Druck, wenn die Regierung die technischen Grundlagen ihrer Systeme nicht (hinreichend) versteht. Das Grundgesetz verlangt, dass die Regierung gegenüber dem Parlament Rechenschaft über ihr Handeln ablegt. Diese Funktion läuft leer, wenn die technischen Voraussetzungen staatlichen Handelns intransparent bleiben (hierzu Nicklas).

Diese Entwicklung ordnet sich in einen größeren gesellschaftlichen Wandel ein. Das Präventionsverständnis hat sich gewandelt. Statt auf konkrete Gefahren zu reagieren, soll soziale Kontrolle Risiken frühzeitig erkennen und minimieren. Die Software beschleunigt diese Entwicklung hin zu Massendatenauswertung und präemptiver Sozialkontrolle (hierzu Singelnstein/Dankenbring).

Verfassung und Verfahren

Daraus ergeben sich konkrete menschenrechtliche Risiken. Systeme können diskriminierende Effekte verstärken, weil sie gesellschaftliche Wirklichkeit nicht neutral abbilden. Institutionelle Selektivitäten und frühere Kontrollentscheidungen spiegeln sich in den Daten wider. Werden solche Muster automatisiert ausgewertet, stabilisieren sich bestehende Ungleichheiten (hierzu Rohrbach).

Wie weit der Staat solche Systeme einsetzen darf, ist deshalb vor allem eine verfassungsrechtliche Frage. Das Bundesverfassungsgericht hat in seinem HessenDATA-Urteil die automatisierte Datenanalyse als eigenständigen Grundrechtseingriff eingeordnet. Der Gesetzgeber verfügt über mehrere Stellschrauben, um die Eingriffsintensität zu steuern: Art und Umfang der einbezogenen Daten, die Komplexität der Analysemethoden, die Nachvollziehbarkeit der Ergebnisse und Vorkehrungen gegen Diskriminierung (hierzu Bergemann/Kinz).

Nach der Entscheidung haben Bund und Länder zahlreiche neue Befugnisnormen geschaffen oder jedenfalls auf den Weg gebracht. Die Regelungsmodelle unterscheiden sich erheblich in Textumfang, Eingriffsschwellen und Verfahrensvorschriften (hierzu Bäurle). Eindrücklich zeigt sich das an den geplanten §§ 98d und 98e StPO-E für den automatisierten Abgleich biometrischer Daten und die verfahrensübergreifende Datenanalyse (hierzu Brüning). Auf europäischer Ebene bringt die KI-Verordnung zusätzliche Anforderungen mit sich: Sie stuft Software zur automatisierten Datenanalyse im Bereich Polizei und Strafverfolgung als Hochrisiko-KI-System ein, lässt den Mitgliedstaaten aber erhebliche Spielräume bei der konkreten Ausgestaltung (hierzu Pfeffer).

Macht und Perspektive

Am Ende geht es um mehr als die Frage, welche Systeme der Staat nutzt. Wer Daten, digitale Infrastrukturen und KI-Modelle kontrolliert, verfügt zunehmend über die Mittel, mit denen gesellschaftliche Wirklichkeit beschrieben, Probleme definiert und politische Handlungsoptionen erzeugt werden. Algorithmische Macht liegt bereits darin, was als relevantes Wissen, als Risiko oder als lösbares Problem erscheint (hierzu Pfeffer/Coenen). Kurzum: Wer bestimmt, was sichtbar wird, bestimmt mit, worüber entschieden wird.