Christopher Coenen, Jürgen Pfeffer
Die öffentliche Debatte über algorithmische Macht konzentriert sich oft auf Datenschutz, Diskriminierung oder die technische Qualität der Algorithmen – das ist wichtig, aber greift zu kurz. Das aktuell dringlichste Problem in Amerika und Europa ist, dass diese Macht dem brandgefährlichen, antidemokratischen Weltherrschaftsprojekt einer neuen Tech-Oligarchie dient.
Continue reading >>
Hannah Ruschemeier, Rainer Mühlhoff
Palantir will nach eigenem Anspruch das „Betriebssystem des Staates“ werden. Die Software soll staatliches Handeln leistungsfähiger machen und wird dort, wo sie eingesetzt wird, schnell unverzichtbar. Das Problem der digitalen Souveränität stellt sich dabei unabhängig vom Herkunftsland des Anbieters. Denn proprietäre Systeme verändern die Arbeitsweise der Polizei von innen heraus. Sie machen Prozesse effizienter, können dabei aber genau jene bürokratischen Reibungsverluste beseitigen, die im Rechtsstaat eine wichtige Kontrollfunktion haben.
Continue reading >>
Janique Brüning
Mit den §§ 98d, 98e StPO-E will die Bundesregierung Ermittlungsbehörden weitreichende neue Befugnisse zur biometrischen Suche und automatisierten Datenanalyse geben. Zu niedrige Eingriffsschwellen und ein fehlender Richtervorbehalt sind dabei nur ein Teil des Problems: Der Entwurf schafft den rechtlichen Rahmen für Analyseplattformen wie Palantirs Gotham, die bereits in mehreren Bundesländern eingesetzt wird. Damit entscheidet die Technik zunehmend mit, welche Muster als verdächtig gelten und welche Ermittlungen daraus folgen.
Continue reading >>
Kristin Pfeffer
Mit der automatisierten Datenanalyse öffnet sich das Sicherheitsrecht für KI. Die Analysetools sind bereits jetzt regelmäßig als Hochrisiko-KI nach der neuen KI-Verordnung der EU einzustufen. Auch Bund und Länder schaffen neue Regulierungen für deren Einsatz. Damit verändert sich vor allem die Architektur des Sicherheitsrechts. Wo die verfassungsrechtlichen Grenzen dieser Entwicklung liegen, ist vielfach noch offen.
Continue reading >>
Michael Bäuerle
Das Bundesverfassungsgericht hat der automatisierten Polizeidatenanalyse 2023 enge verfassungsrechtliche Grenzen gesetzt. Seitdem haben Bund und Länder auf das Urteil mit einer Vielfalt an Regelungen reagiert. Gegen zwei dieser Neuregelungen liegen bereits Verfassungsbeschwerden vor. Wie weit darf der Einsatz automatisierter Datenanalyse und künstlicher Intelligenz bei den Sicherheitsbehörden gehen?
Continue reading >>
Jonas Botta
Bereits die technische Vorbereitung der automatisierten Datenanalyse durch Polizeibehörden greift schwerwiegend in Grundrechte ein: Bevor auch nur eine einzige Analyse läuft, werden Daten von Verdächtigen, aber auch Geschädigten, Zeugen und Unbeteiligten in einem dauerhaften Informationspool zusammengeführt. Weil die Ermächtigungsgrundlagen weder Speicherfristen noch Speicherschwellen vorsehen, sind sie schon deshalb verfassungswidrig.
Continue reading >>
Nils Bergemann, Christoph Kinz
Spätestens seit dem Urteil des Bundesverfassungsgerichts zur automatisierten Datenanalyse ist geklärt, dass diese einen erheblichen und eigenständigen Grundrechtseingriff darstellt. Bemerkenswert an dem Urteil ist, dass das Gericht dem Gesetzgeber ausführlich aufzeigt, wie er die Eingriffsintensität der Datenanalyse steuern kann. Nicht nachvollziehbar ist, warum der Gesetzgeber diese Möglichkeiten bislang so wenig nutzt. Die Intensität der mit der Datenanalyse verbundenen Grundrechtseingriffe lässt sich insbesondere durch die Wahl der einbezogenen Datenbestände steuern.
Continue reading >>
Lena Rohrbach
In mehreren Bundesländern arbeitet die Polizei bereits mit automatisierter Datenanalyse. Das soll nun auch für das BKA und die Bundespolizei möglich werden. Der Gefahr, dass Beamt*innen auf der Suche nach der Nadel im Heuhaufen gleich den ganzen Heuboden durchleuchten, begegnen die Gesetzentwürfe nicht. Auch andere wichtige Fragen zu Diskriminierungsschutz, menschlicher Kontrolle und effektivem Rechtsschutz bleiben unbeantwortet.
Continue reading >>
Tobias Singelnstein, Ida Dankenbring
Die Palantir-Software „Gotham“ erscheint als Effizienzgewinn für die Polizei, tatsächlich aber öffnet sie die Tür zu einer neuen Form der Sozialkontrolle. Mittels Massendatenauswertung, Risikoprognosen und präventiveren Techniken soll die datengetriebene Polizeiarbeit Realität werden, die vielen als Antwort auf wachsende Sicherheitsbedürfnisse gilt. Dabei verschiebt sich die polizeiliche Kontrolle immer weiter ins Vorfeld konkreter Gefahren. So droht sich der Maßstab staatlicher Intervention grundlegend zu verändern.
Continue reading >>
Paul Nicklas
Dem Einsatz von automatisierten Datenanalysen in Sicherheitsbehörden müssen Grenzen gesetzt werden – und zwar nicht nur zur Wahrung der Grundrechte, sondern auch, um den Ansprüchen des Staatsorganisationsrechts zu genügen. Die Exekutive muss sich vor der Legislativen verantworten. Das setzt ausreichendes Wissen über die Vorgänge im Regierungsapparat und damit den Einsatz von Softwarelösungen voraus. Aktuell droht die politische Verantwortung aufgrund mangelnden Wissens leerzulaufen.
Continue reading >>
Ulrich Kelber
Palantir & Co. sind nicht nur ein gigantisches Datenschutzproblem. Die Systeme verschieben darüber hinaus Macht gleich doppelt – von den Bürger:innen zum Staat und vom demokratisch kontrollierten Staat zu privaten Firmen, im schlimmsten Fall zu Konzernen außerhalb Europas. Wie können wir Sicherheitsbehörden technisch stärken, ohne demokratische Kontrolle und digitale Souveränität preiszugeben? Dafür braucht es klare rote Linien, offene und unabhängig kontrollierbare Systeme, die ausschließlich europäischem Recht unterliegen.
Continue reading >>
Jens Struck, Rebekka Bürkert
Sehender Stein aus „Herr der Ringe“, „Super-Google“ und „Datenkrake“: Wie beschreibt die deutsche Presse die Polizeisoftware Gotham des US-Unternehmens Palantir? Eine Analyse von 21 Fokustexten zeigt, wie sich der öffentliche Diskurs zwischen Sicherheitsversprechen, Grundrechtsfragen und staatlicher Souveränität bewegt.
Continue reading >>
Paul Nemitz
Ein Tech-Milliardär erklärt Aufrüstung zur moralischen Pflicht, KI-Waffen zum Fortschritt und demokratische Zweifel zur Gefahr. Hinter Alex Karps Manifest steht mehr als eine provokante Weltsicht: Es entwirft eine Ordnung, in der Sicherheit zum Geschäftsmodell und militärische Macht zur höchsten Tugend wird. Die Grenzen zwischen Staatsräson, Rüstungsindustrie und Big Tech verschwimmen dabei zusehends. Wer Karps Argumentation folgt, landet in einer Welt, in der ethische Einwände als Schwäche gelten und die nächste technologische Revolution vor allem auf dem Schlachtfeld stattfinden soll.
Continue reading >>
Elena Esposito, Simon Egbert
Polizeibehörden stehen vor einem Dilemma: Ihre IT-Strukturen sind komplex und über Jahre gewachsen, gleichzeitig wächst der Druck, Daten schneller und umfassender auszuwerten. Plattformen wie Palantir bieten dafür eine fertige Lösung und sind gerade deshalb attraktiv. Doch mit der schnellen Modernisierung können neue Abhängigkeiten entstehen: von einem Anbieter, seiner Technologie und den Strukturen, die sich um sie herum entwickeln.
Continue reading >>
Jana Trapp
Sicherheitsbehörden setzen zunehmend auf Software, die in Millionen von Daten in Sekundenschnelle Zusammenhänge aufspüren soll. Systeme wie Palantirs Gotham versprechen, Informationen sichtbar zu machen, die in einzelnen Akten und Datenbanken verborgen bleiben. Doch was verändert sich, wenn Software zunehmend mitbestimmt, was der Staat überhaupt sieht und worauf er seine Aufmerksamkeit richtet?
Continue reading >>
