UN und IKRK warnen vor Drohnen, die ohne menschliche Kontrolle über Leben und Tod entscheiden könnten und fordern ein rechtlich bindendes Verbot.
In Kürze
- Verbot unvorhersehbarer Systeme gefordert
- Verbot von Anti‑Personen‑Systemen verlangt
- Verhandlungen bis zur Genfer Waffenkonferenz 2026 angestrebt
„Maschinen, die eigenständig über Leben und Tod entscheiden“ — so warnen UN-Generalsekretär António Guterres und Mirjana Spoljaric Egger, Präsidentin des Internationalen Komitees vom Roten Kreuz (IKRK).
Anlass sind Berichte, wonach in der Ukraine Drohnen eingesetzt werden könnten, die mithilfe von Künstlicher Intelligenz selbstständig Ziele auswählen und bekämpfen. Diese Berichte sind bislang unbestätigt, doch die beiden fordern bereits jetzt ein rechtlich verbindliches Verbot vollautonomer Waffen.
Warum die Forderung jetzt so laut wird
Der Kern des Arguments beruht auf humanitärem Völkerrecht: Angriffe auf Zivilisten und zivile Infrastruktur sind verboten. Im Gefecht ist die Unterscheidung zwischen Kämpfern und Zivilisten oft kompliziert — verletzte oder sich ergebende Personen haben besonderen Schutz. Menschliche Entscheider können in Sekundenbruchteilen Kontext, Gesten oder die Absicht einer Person einschätzen; Maschinen hingegen arbeiten datenbasiert und innerhalb ihrer programmierten Logik. Laurent Gisel vom IKRK bringt es auf den Punkt: Moderne Kriege sind von Zerstörung und Chaos geprägt — die Annahme, KI-Systeme würden sich in solchen Situationen automatisch zurückhalten, sei unrealistisch.
Was genau verlangt wird
UN und IKRK fordern Verhandlungen über ein bindendes Abkommen mit zwei konkreten Verbotszielen:
- Ein Verbot unvorhersehbarer Systeme — also Waffen, deren Verhalten weder beim Entwurf noch im Einsatz zuverlässig vorhergesagt oder kontrolliert werden kann.
- Ein Verbot von Anti-Personen-Systemen — Waffen, die direkt auf Menschen abzielen und sie auf Grundlage von Sensordaten und Algorithmen behandeln.
Kurz: Es geht um Systeme, die ohne sinnvolle menschliche Kontrolle Entscheidungen über Leben und Tod treffen könnten.
Zeitplan und politischer Rahmen
Die Initiatoren drängen auf Verhandlungen noch im Jahr 2026. Ein wichtiges Ziel ist die Konferenz zur Überprüfung der UN-Waffenkonvention in Genf im November 2026, auf der Regierungen konkrete Verbote beschließen sollen. In bisherigen Debatten fiel häufig der Begriff „Killer-Roboter“ — ein Schlagwort, das auch jetzt wieder genutzt wird.
Wer unterstützt den Vorstoß — und welche Risiken werden gesehen
Unterstützung kommt von Abrüstungsfachleuten, aber auch vereinzelt von Rüstungsherstellern, Entwickler:innen und Wissenschaftler:innen, die klare Regeln fordern. Gleichzeitig sehen Expert:innen eine Regelungslücke: Die EU hat im AI Act strenge Vorgaben zur menschlichen Aufsicht von zivilen KI-Anwendungen verankert — diese Regeln gelten jedoch nicht für militärische Systeme. Laut UN könnte das bedeuten, dass für tödliche Entscheidungen durch Maschinen am Ende niemand rechtlich zur Verantwortung gezogen wird.
Was als Nächstes ansteht
Die Forderungen der UN und des IKRK setzen den Ton für die kommenden Verhandlungen. Ob und wie schnell Staaten ein verbindliches Abkommen aushandeln, wird sich in den Monaten bis zur Genfer Konferenz 2026 zeigen — ein Datum, auf das jetzt vieles zuläuft.
Quellen
- Quelle: United Nations / International Committee of the Red Cross
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
