Darf bald eine KI mitentscheiden, wer in Deutschland bleiben darf? Am 29. Juli 2026 verabschiedete das Bundeskabinett den Entwurf des neuen KI-Migrationsverwaltungsgesetzes (KIMVG). Der Entwurf sieht vor, das BAMF, die kommunalen Ausländerbehörden und das Auswärtige Amt mit der Befugnis auszustatten, erhobene Antragsdaten sowie personenbezogene Daten vergangener Verfahren für die Entwicklung neuer, KI-basierter Modelle zu nutzen. Technologie rückt damit weiter aus der Rolle des bloßen Regulierungsobjekts in die eines eigenständigen Regulierungsinstruments. Diese Entwicklung ist nicht risikolos – dem Entwurf mangelt es unter anderem an einem tragfähigen Konzept rechtsstaatlicher Kontrolle für die neuen Befugnisse. Das KIMVG zieht in seinen Ansätzen dennoch konsequente Schlüsse aus einer Rechtspraxis, die sich nicht mehr in ein vortechnisches Zeitalter zurückführen lässt.

Dreifache Automatisierung

Konkret schafft der Entwurf drei neue Instrumente, die künftig die Vorschriften des Asyl- und des Aufenthaltsgesetzes ergänzen sollen: eine Verarbeitungsbefugnis zum Trainieren, Validieren und Testen von KI-Systemen und anderen automatisierten Anwendungen, ein automatisiertes Verfahrensmonitoring zur Auswertung abgeschlossener Verfahren und bisheriger Entscheidungsmuster sowie einen automatisierten Abgleich entscheidungserheblicher Angaben mit öffentlich zugänglichen Internetdaten bei begründeten Zweifeln an deren Richtigkeit. Die Bundesregierung erhofft sich dadurch, Verwaltungsverfahren „effizienter, einheitlicher, qualitativ hochwertiger und sicherer“ zu gestalten. Unterschiedliche Verbände, darunter Pro Asyl, Caritas und AlgorithmWatch, warnen hingegen vor Diskriminierungsrisiken und mangelnden Rechtsschutzmöglichkeiten der Betroffenen. Sie fordern eine Ablehnung oder zumindest grundlegende Überarbeitung des Entwurfs im Parlament.

Hintergrund der Kritik dürften dabei eher abschreckende Beispiele aus Ländern sein, die KI-Anwendungen schon in der Migrationsverwaltung aktiv nutzen: in den USA etwa das Programm „Catch and Revoke“, das Social-Media-Aktivitäten von Visainhaber:innen mittels KI auf unerwünschte politische Positionen durchsucht, oder der vielfach kritisierte Versuch des Vereinigten Königreichs, das Alter unbegleiteter minderjähriger Asylsuchender per KI-gestützter Gesichtsanalyse zu schätzen. Der deutsche Entwurf schließt zwar die Verarbeitung biometrischer Daten für bestimmte Anwendungen aus (§ 7a Abs. 1 S. 3, § 7b Abs. 1 S. 2 AsylG; § 90d Abs. 1 S. 3, § 90e Abs. 1 S. 2 AufenthG). Gerade für die Entwicklung und das Training neuer Modelle gilt dieser Ausschluss jedoch nicht (§ 7 Abs. 2a AsylG; § 86 Abs. 2 AufenthG) – die Vagheit der Befugnis lässt hier durchaus Spielraum.

Die Diskussion um den Einsatz von Technologie im Recht folgt damit bereits gut bekannten Argumentationslinien: Aufseiten des Staates liebäugelt ein überlasteter Verwaltungsapparat mit den Verheißungen technischer Innovation, während aufseiten der Zivilgesellschaft die Sorge um deren rechtsstaatliche Kontrolle weiter wächst.

Bisherige Automationsbestrebungen im Überblick

Es handelt sich bei dem aktuellen Entwurf keinesfalls um den ersten Versuch, sogenannte „lernende“ oder „intelligente“ Systeme zur Ausübung von Hoheitsgewalt einzusetzen. Ähnlich wie im Ausland blickt man auch in Deutschland auf eine bisher wenig erfolgreiche Historie der Verwaltungsautomation im Bereich Flucht und Migration zurück. So steht die vom BAMF seit 2017 eingesetzte automatisierte Sprach- und Dialekterkennungssoftware zur Herkunftsverifizierung von Asylsuchenden („DIAS“) wegen erheblicher wissenschaftlicher Zweifel an ihrer Zuverlässigkeit seit Jahren in der medialen Kritik. Laut einem Bericht von AlgorithmWatch betreffen diese Zweifel insbesondere die Erkennung von Farsi, Dari, Pashto sowie mehrere arabische Dialekte – ausgerechnet jene Sprachen, die für einen Großteil der Asylbegehren relevant sein dürften. Auch das groß angekündigte EU-Projekt iBorderCtrl, das ab 2016 eine Art KI-gestützten „Lügendetektor“ zur Einreisekontrolle testete, geriet früh unter Druck. Schon während der Testphase bezweifelten Wissenschaftler:innen, dass sich Täuschungsabsichten der Einreisenden anhand der Auswertung sogenannter Mikrogesten – unwillkürlicher, oft nur Sekundenbruchteile andauernder Gesichtsbewegungen – zuverlässig erkennen ließen. Die Forschungsförderung der EU lief 2019 aus, ohne dass es zu einem regulären Einsatz kam. Für viele Entscheidungen setzt das BAMF hingegen auch „deterministische“, also nach festen Regeln arbeitende Systeme ein, deren Ergebnis bei gleicher Eingabe stets identisch ausfällt. So zum Beispiel bei der Erstverteilung von Geflüchteten im Bundesgebiet. Seit 1993 kommt hier das System EASY (damals noch Erstaufnahme Asyl) zum Einsatz. Es setzt weitestgehend die Verteilungsquoten des Königsteiner Schlüssels um und optimiert dabei organisatorische Zielgrößen: kurze Reisewege, geringe Reisekosten und eine gleichmäßige Auslastung der Aufnahmeeinrichtungen.

Dass das BAMF gerade an dieser Stelle noch nicht nachgebessert hat, verwundert. Mehrere Staaten erproben schon lernende, genauer gesagt probabilistische Matching-Verfahren zur Verteilung von Zuwandernden. Die Schweiz, die Niederlande und Kanada pilotieren hierfür den von der ETH Zürich und der Stanford University entwickelten Algorithmus GeoMatch. Er verarbeitet Merkmale wie Bildungsabschlüsse, Sprachkenntnisse oder regionale Arbeitsmarktbedarfe auf Basis historischer Daten. Die kapazitätsgerechte Zuweisung lässt sich so für ein beliebiges Zielmerkmal – etwa die Wahrscheinlichkeit erfolgreicher Arbeitsmarktintegration – optimieren. Nach Angaben des Forschungsteams konnte in den ersten Tests die Wahrscheinlichkeit, dass Geflüchtete eine Beschäftigung finden, fast verdoppelt werden – ein Faktor mit entscheidender rechtlicher und sozialer Bedeutung für einen langfristigen Verbleib im aufnehmenden Land. In Deutschland existiert mit dem an den Universitäten Hildesheim und Erlangen-Nürnberg entwickelten Projekt Match’In zwar ein vergleichbares Testprojekt; dieses weist jedoch einen entscheidenden Unterschied auf: Die Zuweisungskriterien werden qualitativ erarbeitet und nicht datengetrieben entwickelt.

Der Mensch als Feigenblatt der Maschine

Ermöglicht die Bundesregierung nun verschiedenen Behörden der Migrationsverwaltung den Einsatz von „KI-Systemen“ zur Auswertung sensibler Daten, ohne festzulegen, welche Systeme in welchem Rahmen vorgesehen sind, bleiben Regelungsgegenstand und Reichweite des Vorhabens zunächst unklar: Unter dem Label der „Künstlichen Intelligenz“ versammelt sich mittlerweile eine äußerst heterogene Modelllandschaft, die der europäische Gesetzgeber nur lose über die Fähigkeit verbindet, zu lernen und in gewissen Grenzen autonom zu agieren (vgl. dazu Art. 3 Nr. 1 KI-VO). „KI-Systeme“ reichen damit von vergleichsweise einfachen statistischen Analysen, die etwa auffällige Muster in Antragsdaten markieren, bis hin zu generativen Sprachmodellen, die selbstständig Falleinschätzungen vorschlagen können. Mag dem Gesetzgeber diese Pauschalisierung angesichts der kaum zu prognostizierenden Entwicklung lernender Systeme noch nachzusehen sein – das Fehlen elementarer Vorkehrungen für eine kontinuierliche Entscheidungskontrolle ist es nicht. Dabei geht es nicht bloß um die Überprüfung der Funktionsfähigkeit der eingesetzten Modelle per se, sondern darum, ob und wie die Entscheidungsergebnisse für die Betroffenen im Einzelfall kontrolliert werden können. Gerade für lernende Algorithmen stellt die Möglichkeit der Einzelfallkontrolle jedoch eine nicht zu unterschätzende Hürde dar: Moderne Informations- und Kommunikationssysteme interagieren in nicht-linearen Abläufen und erzeugen durch Rückkopplungsschleifen (feedback loops) emergente Eigenschaften, die sich weder vollständig verstehen noch auf spezifische kausale Faktoren zurückführen lassen. Diese Eigenschaft – auch als methodische Opazität bezeichnet – erschwert im Verwaltungsverfahren vor allem die Begründung automatisierter Entscheidungen.

Der Gesetzgeber ist sich zumindest eines Teils des Risikos bewusst. Um rechtliche Kontrolle zu stärken, hebt die Gesetzesbegründung den Menschen als letztinstanzlichen Entscheider hervor – eine arbeitsteilige Konstruktion, die auch als Human in the Loop bekannt ist. Der „Mensch in der Schleife“ wirkt auf den ersten Blick wie eine Art Menschenvorbehalt für automatisierte Entscheidungen. Die rechtliche Attraktivität dieser Konstruktion liegt auf der Hand: Sie erlaubt es, die Effizienzgewinne der Automatisierung mitzunehmen, ohne die etablierten Kategorien von Zurechnung, Haftung und gerichtlicher Kontrolle antasten zu müssen. Dass allein die Anwesenheit eines Menschen bereits menschliche agency garantiert, greift jedoch zu kurz – und zwar in zweifacher Hinsicht:

Zunächst zeigen experimentelle Befunde, dass Menschen von algorithmischen Prognosen derart beeinflusst werden können, dass sie von der automatisierten Empfehlung faktisch kaum abweichen. Dieses in den Verhaltenswissenschaften als automation bias bekannte Phänomen lässt sich auch in rechtlichen Entscheidungsszenarien nachweisen. Der Mensch ist hier zwar formal beteiligt, übt seinen Entscheidungsspielraum aber faktisch nicht aus. Rechtlich kann es darüber hinaus Fälle geben, in denen bereits die Automatisierung einzelner Normenteile das Handeln so weit determiniert, dass zwar formal eine menschliche Kontrolle stattfindet, die tatsächliche Entscheidungsfreiheit aber auf ein Minimum reduziert ist. In diesen Fällen bleibt dem Menschen die Ausübung seiner Kontrollfunktion verwehrt, auch wenn er sie wahrnehmen wollte.

In Anbetracht des vielschichtigen Zusammenwirkens von Mensch und Maschine hat die Datenethikkommission bereits in einem Gutachten aus dem Jahr 2019 darauf hingewiesen, dass für die Bewertung menschlicher Autonomie nicht allein bestimmend sein sollte, ob ein Mensch an der Entscheidung beteiligt ist, sondern vor allem in welchem Maße seine Beteiligung noch Einfluss auf das Entscheidungsergebnis hat. Andernfalls droht dem Menschen die Rolle eines bloßen liability sponge – eines Zurechnungsadressaten für eine Entscheidung, die algorithmisch längst determiniert ist. Die Anforderungen an die menschliche Überprüfung aus dem KIMVG greifen diese Differenzierung nicht auf. Sie sehen lediglich punktuell Personalschulungen für den Umgang mit den Systemen vor (so bspw. § 7a Abs. 5 S. 1 AsylG und § 90d Abs. 5 S. 1 AufenthG). Wie allerdings darüber hinaus eine menschliche Aufsicht ausgestaltet werden soll, die tatsächlich fehlerhafte oder potenziell diskriminierende Entscheidungen erkennen und korrigieren kann, bleibt offen.

Warum Umkehr keine Lösung ist

Die potentiellen Rechtsschutzdefizite des KIMVG sind gravierend; sie rechtfertigen aber keinen Rückzug von der Automatisierung als solcher. Dies hat nicht nur, aber auch etwas mit verfahrensökonomischen Erwägungen zu tun. Denn gerade der Verwaltungsapparat steht angesichts wachsender Staatsaufgaben unter erheblichem Produktivitätsdruck. Der dbb beamtenbund und tarifunion bezifferte die Personallücke im öffentlichen Dienst 2025 auf über 600.000 fehlende Beschäftigte – besonders betroffen seien Schulen, Pflegeeinrichtungen und die Justiz; dbb-Chef Volker Geyer warnt vor einem drohenden Staatsversagen. Im Sinne der Rechtsmaxime justice delayed is justice denied trifft dies die Migrationsverwaltung besonders schwer: Asylsuchende verbleiben, solange ihr Verfahren andauert, in einem rechtlichen Schwebezustand, der ihnen den Zugang zum Arbeitsmarkt und zu Integrationsleistungen verwehrt oder zumindest erheblich erschwert.

Wer nun schnellere Verfahren fordert, trifft in der Verwaltungsrechtswissenschaft selten auf Widerspruch. Die eigentliche Frage ist, inwieweit das Effizienzstreben das Risiko birgt, zulasten der Rechte des Einzelnen zu gehen. Gerade bei Entscheidungen, die Minderheiten betreffen, wird zu Recht vor den Diskriminierungsrisiken „undurchsichtiger“ Algorithmen gewarnt. Allerdings sind weder Diskriminierung noch Undurchsichtigkeit Eigenschaften, die exklusiv der Maschine vorbehalten wären. Die größtenteils automationsfreie Geschichte der Menschheit ist selbst eine Geschichte erheblicher Diskriminierung von Menschen gegen Menschen. Allein die Möglichkeit, diskriminierende Entscheidungen zu treffen, kann demnach nicht das ausschlaggebende Argument gegen den Einsatz lernender Systeme im Recht sein. Ähnlich verhält es sich auch mit der Opazität der eingesetzten Modelle: Eine undurchsichtige Herstellung der Entscheidung ist für die Rechtsordnung nicht unbedingt neu. Das menschliche Gehirn ist für die Kognitionsforschung bis heute in weiten Teilen eine Black-Box – womöglich eine weitaus hartnäckigere als das neuronale Netz für die Informatik. Trotzdem hat es das Recht geschafft, menschliche Entscheidungen rechtlicher Kontrolle zu unterwerfen. Warum sollte dies nicht auch im Falle der Maschine gelingen?

Hier stellen sich zweifelsohne neue Herausforderungen: In bestimmten Konstellationen mag es technisch unmöglich, normativ unzulässig oder verhaltenswissenschaftlich wenig ratsam sein, rechtliche Entscheidungen an Maschinen zu delegieren. Gleichwohl lässt sich das Entscheidungsverhalten von Algorithmen im Vergleich zum Menschen weitaus besser testen und prognostizieren. Dabei dürften lernende Systeme dennoch eine deutlich engmaschigere Begründungs- und Kontrollarchitektur erfordern, als sie menschliche Entscheidungen je gebraucht haben. Allein die Skalierbarkeit algorithmischer Entscheidungen birgt das Risiko, dass sich etwaige Fehler oder Verzerrungen in kurzer Zeit auf tausende Fälle auswirken. Die Informatik bietet bereits tragfähige Konzepte zur „Erklärbarkeit“ der eingesetzten Modelle, die eine schnelle Identifikation solcher Fehler und Verzerrungen ermöglichen und so das Skalierungsrisiko eindämmen können. Sie beantworten das Warum einer Entscheidung, ohne dem computerwissenschaftlichen Laien vertieftes Wissen über die Grundlagen maschinellen Lernens abzuverlangen. Treten sie als zusätzliche Rechtfertigungsinstrumente neben traditionelle Mechanismen der Entscheidungskontrolle hinzu, kann womöglich die Lücke zwischen System- und Einzelfallkontrolle weiter geschlossen werden. Erste experimentelle Befunde belegen zumindest, dass bestimmte algorithmische Erklärungsmodelle in rechtlichen Entscheidungskontexten (u.a. in der Erstverteilung von Geflüchteten) von ihren Adressaten als gleichwertiger Ersatz zur menschlichen Entscheidung wahrgenommen werden. Überträgt man diese Befunde auf den Einsatz in Massenverfahren der Migrationsverwaltung, bleiben wenig gute Gründe, lernende Systeme kategorisch auszuschließen.

Ein (Aus-)Blick in den Spiegel

Deutschland könnte dabei von bestehenden Erfahrungen anderer Länder profitieren. Dies gilt im Positiven wie im Negativen. Zunächst sollte von dem Einsatz „evidenzloser KI-Forschung“ (AlgorithmWatch) für die Ausübung von Hoheitsgewalt ausnahmslos abgesehen werden. Bezweifeln führende Wissenschaftler:innen einstimmig die Validität bestimmter algorithmischer Vorhersagen oder Klassifizierungen – und lässt sich dies womöglich sogar empirisch belegen –, gibt es keinen Anwendungsfall für die Übernahme staatlicher Steuerung, ganz gleich, wie ressourcenschonend diese auch sein mag. Umgekehrt kann der internationale Vergleich vielleicht auch dazu anregen, die Stellen zu identifizieren, an denen sich die Vorteile der Automatisierung besonders fruchtbar machen lassen. Dies betrifft zum Beispiel wiederkehrende Selektions- und Allokationsprobleme der öffentlichen Hand. Diese verfügen meist über einen belastbaren statistischen Hintergrund, der ein Training der Modelle überhaupt erst ermöglicht.

Das KIMVG markiert dabei den nächsten Schritt auf einer gesetzgeberischen Linie, die darauf abzielt, die rechtliche Entscheidung methodisch stärker zu öffnen. Diese Öffnung verlangt einen rechtlichen Rahmen, der die Standards rechtsstaatlicher Rechtfertigung und demokratischer Transparenz angemessen in eine algorithmische Entscheidungswelt übertragen kann. Hier hat der Entwurf ernstzunehmenden Nachbesserungsbedarf – gerade weil die Entscheidungen in Asylverfahren besonders vulnerable Gruppen betreffen. Doch sollten die aufgezeigten Probleme nicht vorschnell als Pathologie des Einsatzes algorithmischer Systeme gedeutet werden. Das Spannungsverhältnis von Recht und Technik lässt sich nicht durch Abschottung auflösen – es bedarf vielmehr einer Abwägung im Umgang mit den neuen Möglichkeiten, Recht zu gestalten. Diese Perspektive wirkt reziprok: Die Konfrontation mit der maschinellen Rationalität zwingt dazu, auch das eigene, menschliche Urteilen und Entscheiden neu zu hinterfragen. Der Blick in die Maschine wird so zum Spiegel.