17 November 2026

Die Grenzen der Automatisierung im Krieg

Zu völker- und verfassungsrechtlichen Vorgaben für autonome Waffensysteme

Die Bundeswehr will zukünftig auch mit autonomen Fähigkeiten ausgestattete Waffensysteme einsetzen, die insbesondere für die Verteidigung der NATO-Ostgrenze verwendet werden sollen. Der Einsatz künstlicher Intelligenz (KI) in Waffensystemen wirft eine Reihe grundlegender, bislang ungeklärter Fragen auf – sowohl völkerrechtlich als auch verfassungsrechtlich. Völkerrechtlich zeigt das Feld künstlicher Intelligenz das bisherige Versagen internationaler Regulierungsansätze. So scheiterten die Staaten bislang sowohl daran, vollautonome Waffen zu verbieten, als auch – wie seit langem gefordert – eine Konvention zur allgemeinen Regulierung des Einsatzes künstlicher Intelligenz in Waffensystemen zu schaffen. Der bisherige Regulierungsansatz folgt daher einem interpretatorischen Zugang, das bedeutet: Bestehende Rechtsregeln werden auf autonome Waffensysteme angewendet. Die internationale Debatte fokussiert dabei auf den Begriff der „relevanten menschlichen Kontrolle“ („meaningful human control“), dessen Konturen aber noch näherer Präzisierung bedürfen. Dabei muss sichergestellt werden, dass der konkrete Einsatz effektiver menschlicher Steuerung unterliegt. Relevant sind dafür nicht nur die konkreten technischen Abläufe im Einsatz, sondern auch vorgängige Prozesse bei der Entwicklung der Waffensysteme und deren Programmierung. Wie diese einstweilen abstrakten Vorgaben operationalisiert werden können, bleibt bis auf Weiteres mit erheblicher Rechtsunsicherheit verbunden. Vor diesem Hintergrund ist es geboten, dass auch die Bundesrepublik sich intensiv für eine internationale Regulierung einsetzt und zugleich aktive staatliche Positionierungen vornimmt, um auf diesem Wege die Entwicklung eines rechtlichen Rahmens zur Sicherung effektiver menschlicher Kontrolle über autonome Waffensysteme voranzubringen.

Autonome Waffensysteme – Grade der Autonomie

Autonomie von Waffensystemen ist an sich kein neues Phänomen. Auch Antipersonen- oder Antifahrzeugminen operieren in einem gewissen Sinne autonom, da sie nach Aktivierung unabhängig von weiterem menschlichen Zutun durch einen bestimmten Impuls ausgelöst werden. Die Besonderheiten der Entwicklung künstlicher Intelligenz liegen darin, dass das Waffensystem nunmehr eine große Zahl komplexer Informationen und Umgebungsvariablen verarbeitet, so dass es weit über einen bloßen Ursache-Wirkungs-Mechanismus hinaus dynamisch auf die Umwelt reagiert.

Mit Blick auf die Automatisierung von Waffensystemen sind verschiedene Grade von Autonomie zu unterscheiden. Als vollautonome Waffensysteme werden in der Debatte Waffen bezeichnet, die nach der Einsatzentscheidung letztlich alle Operationsphasen des Waffeneinsatzes (Zielsuche, Zielauswahl, Entscheidung über die Zielbekämpfung, ggf. Auswertung des Einsatzes) automatisiert und unabhängig von einer menschlichen Entscheidung ausführen. Teilautonome Systeme zeichnen sich dadurch aus, dass einzelne Phasen des Waffeneinsatzes (z. B. das Ansteuern eines festgelegten Zieles) automatisiert erfolgen. Besondere Bedeutung haben dabei sogenannte Entscheidungsunterstützungssysteme. Diese zielen darauf ab, die Entscheidungen eines Menschen während der Waffenverwendung – z. B. zur Zielidentifikation, Zielverfolgung und letztlichen Zielauswahl – vorzubereiten. Menschliche Entscheidungen bleiben insoweit für die konkrete Steuerung der Waffe zentral. Die Analyse- und Auswertungsprozesse, die der menschlichen Entscheidung vorausgehen, sind aber erheblich durch automatisierte Prozesse beeinflusst. Dadurch ist der gesamte Entscheidungsprozess vorstrukturiert und gelenkt.

Automatisierung und Autonomie von Waffen sind damit vielschichtige Phänomene und keine binären Kategorien. Die Praxis ist vielmehr durch graduelle Abstufungen von Autonomie der Waffensysteme geprägt.

Bisherige und künftige Praxis

Bislang gibt es nur wenige Berichte aus der Praxis darüber, dass vollautonome Systeme eingesetzt worden wären, wenngleich Waffensysteme mit entsprechenden Fähigkeiten bereits entwickelt sind. Ein UN-Expertenbericht erwähnt den Einsatz des türkischen Loitering-Munition-Systems („Kamikazedrohne“) STM Kargu-2 in Libyen, das Ziele automatisch verfolgt haben soll.1) Auch die Ukraine soll bereits vor über zwei Jahren im Kampf gegen Russland testweise vollautonome Systeme eingesetzt haben.2) Zuletzt wurde berichtet, dass Russland eine vollautonom operierende Drohne im Juli 2026 eingesetzt haben soll, wobei auch Zivilpersonen getötet wurden.3)

Eine große praktische Bedeutung haben derzeit teilautonome Systeme, insbesondere Entscheidungsunterstützungssysteme. Die von der Bundeswehr in Auftrag gegebenen Loitering-Munition-Systeme werden in ihrer Operationsweise auf KI gestützt sein, allerdings nicht in der letztlichen Entscheidung über den Angriff eines bestimmten Ziels, sondern beispielsweise mit Blick auf die Erstellung von Lagebildern und die Navigation.4)

Für die zukünftige Entwicklung wird künstliche Intelligenz bei der Echtzeit-Koordination verschiedener Waffensysteme eine immer größere Rolle spielen, zum Beispiel zur Steuerung von Schwärmen von Drohnen, die ein oder mehrere Ziele im Verbund verfolgen.

Völkerrechtliche Regelungsansätze

Völkerrechtlich bestehen bislang keine Übereinkommen, die dezidiert regeln, wie autonome Waffensysteme verwendet werden dürfen. Seit 2012 setzt sich die von einer internationalen NGO-Koalition getragene Kampagne „Stop Killer Robots“ für ein gänzliches Verbot vollautonomer Waffen ein.5) Heute drängen viele Akteure jedenfalls darauf, einen völkerrechtlichen Vertrag zur Regulierung von künstlich-intelligenten Waffensystemen zu schaffen. Der UN-Generalsekretär hat entsprechend bereits mehrfach Verbote und Regulierungen eingefordert.6) Bis September 2024 hatten bereits 120 Staaten bekundet, die Regulierung autonomer Waffen zu unterstützen,7) über konkrete Schritte zur Umsetzung konnte man sich bisher nicht einigen.

Der zentrale völkerrechtliche Ansatz besteht derweil in einem interpretatorischen Ansatz. Dabei werden bestehende völkerrechtliche Regeln auf die Fragen der Entwicklung und Verwendung autonomer Waffensysteme angewendet. Diesen grundlegenden Ansatz hat – zuletzt im Dezember 2025 – auch die UN-Generalversammlung unterstützt, indem sie wiederholt bekräftigte, „that international law, including the Charter of the United Nations, international humanitarian law and international human rights law, applies in relation to autonomous weapons systems“.8) Für den Einsatz im bewaffneten Konflikt zentral sind die Regeln des humanitären Völkerrechts, insbesondere der Unterscheidungsgrundsatz, dem zufolge zu jeder Zeit zwischen Zivilpersonen und Kombattanten sowie zwischen zivilen Objekten und militärischen Zielen zu unterscheiden ist,9) der Verhältnismäßigkeitsgrundsatz10) ebenso wie die Pflicht, Vorsichtsmaßnahmen zum Schutz ziviler Personen und Objekte zu ergreifen.11)

Meaningful Human Control

Ein Kristallisationspunkt der völkerrechtlichen Debatte ist der Begriff der „meaningful human control“, den man mit dem Begriff der „relevanten menschlichen Kontrolle“ übersetzen kann. Der Begriff ist im Kontext internationaler Debatten im Rahmen der Konvention über bestimmte konventionelle Waffen seit 2014 verstärkt diskutiert worden.12) Seine Konturen bleiben umstritten und auch die konkrete Fassung ist hochgradig politisch aufgeladen. Einige Staaten – wie die Vereinigten Staaten – befürchten, dass „meaningful human control“ ein zu engmaschiges Erfordernis menschlicher Kontrolle impliziere. Die Vereinigten Staaten verwenden vor diesem Hintergrund den Begriff der „appropriate levels of human judgment over the use of force“.13) Das Bundesverteidigungsministerium (BMVg) hat sich in seinen im August 2026 veröffentlichten Leitlinien zu Künstlicher Intelligenz positioniert. Das BMVg verlangt mit Blick auf Waffensysteme, „dass kontextbezogenes, menschliches Urteilsvermögen und menschliche Kontrolle bei WaSys [Waffensystemen] mit autonomen Funktionen im Rahmen einer verantwortlichen Befehlskette gewährleistet und sichergestellt sind“.14) Das BMVg bezieht sich also nicht ausdrücklich auf das Konzept der „meaningful human control“. Der Sache nach aber weist die vom BMVg getroffene Begriffswahl in eine entsprechende Richtung.

Diskutiert wird in diesem Zusammenhang, ob es sich bei dem Kriterium der menschlichen Kontrolle um ein eigenständiges (d. h. von bestehenden völkerrechtlichen Normen insbesondere des humanitären Völkerrechts und der Menschenrechte unabhängiges) Rechtsprinzip handelt. Richtig dürfte sein, dass es sich (noch) nicht um ein eigenständiges rechtliches Prinzip handelt, da es bislang weder völkervertragsrechtlich verankert noch von einer entsprechenden Praxis und Rechtsauffassung getragen ist, so dass man es auch nicht als eigenständige völkergewohnheitsrechtliche Regel ansehen kann. Plausibler scheint es, die menschliche Kontrolle als ein übergreifendes Prinzip zu verstehen, das sich aus einer Gesamtschau rechtlicher Anforderungen (insbesondere des humanitären Völkerrechts und der Menschenrechte) herleiten lässt und das versucht, diese Anforderungen in einem Begriff zu verdichten.

Welche Anforderungen folgen daraus für autonome Waffensysteme?

Die Debatte um die konkreten Anforderungen an menschliche Kontrolle in der Entwicklung und Verwendung von autonomen Waffensystemen dauert an. Eine zeitweise beliebte Formulierung bezog sich auf das „human being in the loop“ und betonte damit, dass die letztliche Entscheidung über den Waffeneinsatz beim Menschen verbleiben müsse.15)

Eine solche Engführung auf die finale menschliche Entscheidung über die Zielbekämpfung verkennt allerdings, dass der bloße Akt der Waffenauslösung nicht ausreicht, um den Gesamteinsatz effektiv menschlicher Kontrolle zu unterstellen. Kurz gesagt: Wenn der menschliche Operator nur ein kleines Zeitfenster zur Bestätigung eines Handlungsvorschlags hat, den ein für ihn nicht überprüfbarer und im Hintergrund laufender künstlich-intelligenter Datenauswertungsprozess ermittelt hat, dann kann diese Entscheidung schwerlich als relevante menschliche Kontrolle angesehen werden. Insoweit muss menschliche Kontrolle mit Blick auf den gesamten Lebenszyklus eines Waffensystems verstanden werden.16)

Entscheidend ist damit eine Gesamtbetrachtung, die die Funktionsweise des Waffensystems und die konkret beabsichtigte Verwendung in den Blick nimmt. Wie engmaschig eine menschliche Kontrolle implementiert werden muss, entscheidet sich vor allem mit Blick auf den konkreten Verwendungskontext. So fallen die konkreten Anforderungen an ein Loitering-Munition-System, das zur Verteidigung einer Grenzlinie eingesetzt wird, in deren Nähe sich keine Zivilpersonen aufhalten, gänzlich anders aus, als wenn das System in einem unübersichtlichen urbanen Gebiet verwendet wird.

Grundgesetzliche Vorgaben

Verfassungsrechtlich mangelt es (derzeit) gleichermaßen an ausdrücklichen Regeln für autonome Waffensysteme. Deswegen sind auch hier die allgemeinen Prinzipien ausschlaggebend. Die allgemeinen völkerrechtlichen Regeln des humanitären Völkerrechts gelten völkergewohnheitsrechtlich, sind daher gemäß Art. 25 GG auch für innerstaatliche Entscheidungen verbindlich und beanspruchen nach Art. 25 S. 2 GG zudem Vorrang vor den einfachen Gesetzen. Soweit diese Regeln zugleich völkervertragsrechtlich normiert sind (insbesondere im Zusatzprotokoll I), gelten sie zudem nach Art. 59 Abs. 2 GG im Rang eines Bundesgesetzes.

Auch die Grundrechte sind relevant. Vieles spricht dafür, dass eine vollends automatisierte Entscheidung über Leben und Tod – eine Entscheidung also, in der keine relevante menschliche Kontrolle über den gesamten Vorgang des Waffeneinsatzes mehr gegeben wäre – eine Objektifizierung des Menschen bedeutete und daher gegen die Menschenwürde aus Art. 1 Abs. 1 GG verstieße. Die konkrete Bestimmung der Schwelle, ab der sich eine Automatisierung als effektiv nicht mehr unter menschlicher Kontrolle stehend darstellt, ist allerdings – wie oben beschrieben – mit weitreichenden Auslegungsproblemen verbunden. Beim Einsatz künstlicher Intelligenz in Waffensystemen ist zudem zu beachten, dass auch datenbezogene Grundrechte eingehalten werden müssen. Wie vom Bundesverfassungsgericht in seiner neueren Rechtsprechung bestätigt, ist diese Grundrechtsbindung auch im Falle von Auslandseinsätzen oder bloßem Auslandsbezug zu beachten.17)

Ausblick

Hinsichtlich künstlicher Intelligenz in Waffensystemen ist die Chance einer frühzeitigen internationalen Regulierung verpasst worden. Es ist nicht gelungen, einen verbindlichen Rechtsrahmen zu schaffen und jedenfalls bestimmte Formen autonomer Systeme mit einem generellen Verbot zu belegen. Die Praxis gegenwärtiger Konflikte zeigt nun das Dilemma: Die immer weitreichendere Verwendung künstlicher Intelligenz in Waffensystemen und die sich abzeichnende Vernetzung einer Vielzahl von Waffen in Combat Clouds unterlaufen die Wirksamkeit klassischer Verteidigungssysteme. Staaten, die gänzlich auf die Anschaffung KI-basierter Systeme verzichten, laufen Gefahr, ihre Verteidigungsfähigkeit zu kompromittieren. Selbst Staaten, die gegenüber dieser Automatisierung der Kriegsführung eigentlich skeptisch eingestellt sind und nicht an der Spitze der technologischen Entwicklung stehen, können sich dieser Dynamik daher nicht entziehen.

Für die Bundesrepublik bedeutet der bestehende (internationale) Rechtsrahmen, dass die vorgesehene Verwendung künstlich-intelligenter Systeme im Grundsatz rechtskonform ausgestaltet werden kann, zumal sich die Bundesrepublik gegen den Einsatz vollautonomer Systeme ausspricht. Gleichzeitig müssen die erheblichen Gefahren autonomer Waffensysteme Anlass geben, die Entwicklung der internationalen Rechtslage voranzutreiben. Das sollte einerseits den diplomatischen Einsatz für einen völkerrechtlichen Vertrag beinhalten. Um das Völkergewohnheitsrecht in diese Richtung weiterzuentwickeln, wäre es aber zugleich wichtig, wenn sich die Bundesrepublik (idealerweise gemeinsam mit Bündnispartnern) zum Einsatz von künstlich-intelligenten Systemen positionieren würde. Im Bereich der Cybertechnologien konnte man beobachten, wie wichtig es war, dass eine Vielzahl von Staaten,18) auch die Bundesrepublik Deutschland,19) in Positionspapieren ihre Rechtsauffassung erklärt und damit zur Herausbildung und Festigung eines völkerrechtlichen Rahmens beigetragen haben.20)

Erste Ansätze zu solch einer Positionierung im Bereich künstlicher Intelligenz und Waffensysteme finden sich in den bereits angesprochenen Leitlinien „Künstliche Intelligenz“,21) die allerdings bislang auf einer sehr allgemeinen Ebene verbleiben.

References

References
↑1 Panel of Experts on Libya, Final Report of the Panel of Experts on Libya Established Pursuant to Security Council Resolution 1973 (2011), UN Dok. S/2021/229, 08.03.2021, Rn. 63.
↑2 Matthew Sparkes, Fully Autonomous Drones Have Killed Human Soldiers for the First Time, New Scientist, 10.06.2026, https://www.newscientist.com/article/2529849-fully-autonomous-drones-have-killed-human-soldiers-for-the-first-time/, zuletzt abgerufen am 13.10.2026.
↑3 Andrew E. Kramer, A Drone Killed Three Ukrainians. It Was Guided Entirely by A.I., New York Times, 24.08.2026, https://www.nytimes.com/2026/08/24/world/europe/russia-drones-autonomous-ai-kill-ukraine-war.html, zuletzt abgerufen am 13.10.2026.
↑4 Bundeswehr, Loitering Munition: Gamechanger für die Bundeswehr, 02.06.2026, https://www.bundeswehr.de/de/ausruestung-technik-bundeswehr/loitering-munition, zuletzt abgerufen am 13.10.2026.
↑5 Stop Killer Robots, https://www.stopkillerrobots.org/stop-killer-robots/, zuletzt abgerufen am 13.10.2026.
↑6 UN-Generalsekretär, Stellungnahme im UN-Sicherheitsrat, 9821. Sitzung, 19.12.2024, UN Dok. S/PV.9821, S. 3.
↑7 UN High-level Advisory Body on Artificial Intelligence, Governing AI for Humanity: Final Report (2024), DOI: 10.18356/9789211067873, S. 30; eine fortlaufend aktualisierte Erfassung staatlicher Positionen hinsichtlich der Regulierung autonomer Waffensysteme leistet die Internetseite „Automated Decision Research“, https://automatedresearch.org/state-positions/, zuletzt abgerufen am 13.10.2026.
↑8 UN-Generalversammlung, Resolution 80/57, 01.12.2025, UN Dok. A/RES/80/57, Präambularabsatz 2.
↑9 Vgl. Art. 48, 51 Abs. 2, 52 Abs. 2 Zusatzprotokoll zu den Genfer Abkommen vom 12. August 1949 über den Schutz der Opfer internationaler bewaffneter Konflikte (Zusatzprotokoll I), 1977, 1125 UNTS 3.
↑10 Art. 51 Abs. 5 b) Zusatzprotokoll I.
↑11 Art. 57 Zusatzprotokoll I.
↑12 Bérénice Boutin und Taylor Woodcock, Aspects of Realizing (Meaningful) Human Control: A Legal Perspective, in: Geiß/Lahmann (Hrsg.), Research Handbook on Warfare and Artificial Intelligence (2024), DOI: 10.4337/9781800377400.00016, S. 180.
↑13 U.S. Department of Defense, Directive 3000.09: Autonomy in Weapon Systems, 25.01.2023, Rn. 1.2.a).
↑14 Bundesministerium der Verteidigung, Künstliche Intelligenz, K-9000/102, 2026, https://www.bmvg.de/resource/blob/6143700/9954e2b6b993b17cd3d09ca31c506774/dl-ki-konzeption-data.pdf, zuletzt abgerufen am 30.10.2026, Rn. 368.
↑15 Vgl. mehrere staatliche Positionierungen in diese Richtung in der Aufstellung: Campaign to Stop Killer Robots, Country Policy Positions, 25.03.2015, https://www.stopkillerrobots.org/wp-content/uploads/2015/03/KRC_CCWexperts_Countries_25Mar2015.pdf, zuletzt abgerufen am 13.10.2026; s. insb. auch: Auswärtiges Amt, CCW Expert Meeting Lethal Autonomous Weapons, General Statement by Germany, 13.–16.05.2014, https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-_Informal_Meeting_of_Experts_(2014)/Germany%2BLAWS%2B2014.pdf, zuletzt abgerufen am 13.10.2026, S. 4.
↑16 Vgl. insoweit auch die Leitprinzipien der Regierungsexperten im Rahmen der Konvention über bestimmte konventionelle Waffen, die eine menschliche Verantwortlichkeit für Entscheidungen über den Einsatz autonomer Systeme über den gesamten Lebenszyklus eines Waffensystems verlangen: Meeting of the High Contracting Parties to the Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects, Final Report, UN Dok. CCW/MSP/2019/9, 13.12.2019, Annex III, principle (b).
↑17 Vgl. BVerfG, 1 BvR 2835/17, 19.05.2020.
↑18 Vgl. die Dokumentation staatlicher Positionierungen unter: https://cyberlaw.ccdcoe.org/m/C64, zuletzt abgerufen am 13.10.2026.
↑19 Bundesregierung, On the Application of International Law in Cyberspace, Position Paper, März 2021, https://www.auswaertiges-amt.de/resource/blob/2446304/32e7b2498e10b74fb17204c54665bdf0/on-the-application-of-international-law-in-cyberspace-data.pdf, zuletzt abgerufen am 13.10.2026.
↑20 Kubo Mačák, The Role of National Positions on International Law and Cyber Activities in Shaping the Development of International Law, European Journal of International Law (Pre-Print, 2026), DOI: 10.1093/ejil/chag031.
↑21 Vgl. Bundesministerium der Verteidigung (Fn. 14), Rn. 366–368.

SUGGESTED CITATION  Marxsen, Christian: Die Grenzen der Automatisierung im Krieg: Zu völker- und verfassungsrechtlichen Vorgaben für autonome Waffensysteme, VerfBlog, 2026/11/17, https://verfassungsblog.de/krieg-ki-automatisierung/, DOI: 10.59704/625f482907f91b8e.

Leave A Comment

WRITE A COMMENT

1. We welcome your comments but you do so as our guest. Please note that we will exercise our property rights to make sure that Verfassungsblog remains a safe and attractive place for everyone. Your comment will not appear immediately but will be moderated by us. Just as with posts, we make a choice. That means not all submitted comments will be published.

2. We expect comments to be matter-of-fact, on-topic and free of sarcasm, innuendo and ad personam arguments.

3. Racist, sexist and otherwise discriminatory comments will not be published.

4. Comments under pseudonym are allowed but a valid email address is obligatory. The use of more than one pseudonym is not allowed.




Explore posts related to this:
Kriegswaffen, Künstliche Intelligenz, Wehrverfassungsrecht


Other posts about this region:
Deutschland