Künstliche Intelligenz im Krieg: Uno fordert Verbot von autonomen Waffensystemen

Die Uno und das Internationale Komitee vom Roten Kreuz (IKRK) drängen auf ein striktes Verbot von Waffensystemen, die ohne menschliche Kontrolle selbständig Menschen als Ziele auswählen und angreifen. «Wir stehen gefährlich nahe davor, eine moralische rote Linie zu überschreiten: das autonome Zielen auf Menschen durch Maschinen», warnten UN-Generalsekretär António Guterres und IKRK-Präsidentin Mirjana Spoljaric am Dienstag in einer gemeinsamen Erklärung in Genf.

Bislang existiert kein internationaler Vertrag, der speziell auf autonome oder KI-gestützte Waffen zugeschnitten ist. Zwar greifen auch hier die allgemeinen Regeln des humanitären Völkerrechts, doch verbindliche Grenzen für den Grad der Maschinenautonomie fehlen. Seit rund zehn Jahren wird über solche Regelungen verhandelt.

Neue Dringlichkeit erhält die Debatte durch die Kriege in der Ukraine und in der Golfregion, in denen Drohnen und künstliche Intelligenz massiv an Bedeutung gewinnen. «Ein Wettlauf um mehr Autonomie in Waffensystemen ist bereits in Gange», betonen Guterres und Spoljaric.

Wie weit die Entwicklung bereits fortgeschritten ist, zeigt die Ukraine selbst. Ihr Verteidigungsministerium wirbt auf ihrer Website damit, dass bereits mehr als siebzig Systeme mit KI und Computer-Vision im Einsatz sind, um gegnerische Ziele anzugreifen. Mehr als 200 Unternehmen in der Ukraine würden bereits KI-fähige Drohnen produzieren. Das erklärte Ziel des Ministeriums: Sämtliche Drohnen an der Front sollen mit Computer-Vision und KI ausgestattet werden.

Bereits heute übernehmen Algorithmen zentrale Aufgaben – von der GPS-unabhängigen Navigation über das Erkennen von Soldaten und Militärgerät bis hin zur automatischen Zielverfolgung. Verliert eine Drohne nach der menschlichen Zielauswahl durch Störsignale die Verbindung zum Bediener, kann sie den Anflug selbständig fortsetzen. KI kommt damit entlang der gesamten «Kill Chain» zum Einsatz, wie das Ministerium mitteilte. Ein entscheidender Vorbehalt gelte jedoch weiterhin: Die finale Entscheidung über Angriff und Zielauswahl treffe ein Mensch.

Im Ukraine-Krieg ist diese Grenze offenbar bereits überschritten worden. Laut einem Bericht der New York Times tötete eine KI-gesteuerte russische Drohne am 6. Juli in Saporischschja drei ukrainische Zivilisten. Zunächst auf eine Tankstelle angesetzt, soll die KI in der Endphase selbständig das konkrete Angriffsziel auf dem Gelände ausgewählt haben.

Experten gehen davon aus, dass der Algorithmus Gastanks anvisiert hat. Die Drohne kollidierte jedoch mit einer Wand und explodierte vorzeitig. Eine 19-jährige Studentin und zwei Männer im Alter von 41 und 48 Jahren kamen ums Leben. Die Auswertung der Trümmerteile durch ukrainische Experten offenbarte einen Minicomputer an Bord, der die KI-Zielerkennung steuerte. Gemäss dem Bericht wäre dies der erste dokumentierte Fall, in dem Zivilisten durch ein solches autonomes System einer russischen Drohne getötet wurden.

Auch die Ukraine selbst experimentiert mit dieser Technologie. Der damalige Verteidigungsminister Mychajlo Fedorow erklärte gegenüber der New York Times, Kiew habe auf der besetzten Krim vollständig autonome KI-Systeme getestet. Diese hätten eigenständig Treibstofflager und militärische Ausrüstung attackiert; zivile Opfer habe es dabei nicht gegeben.

Für Guterres und Spoljaric ist die Regulierung deshalb keine Frage einer fernen Zukunft mehr. Sie erneuern ihre bereits 2023 erhobene Forderung nach internationalen Verboten und Beschränkungen und verweisen darauf, dass selbst Wissenschaftler und Ingenieure, die an solchen Technologien arbeiten, Bedenken geäussert haben. «Autonome Waffensysteme gehören nicht einer entfernten Zukunft an», erklären sie. Aus ihrer Sicht braucht es deshalb verbindliche internationale Regeln dafür, in welchem Umfang Entscheidungen über Zielauswahl und Waffeneinsatz Maschinen überlassen werden dürfen. Im November soll eine UN-Waffenkonferenz in Genf den Weg für Verhandlungen über ein rechtlich bindendes Abkommen ebnen.