Menschenrechtsorganisationen warnen vor KI‑Systemen, die tödliche Entscheidungen treffen könnten.
In Kürze
- Bericht: Zehn autonome Drohnen sollen im Test tödliche Einsätze gefahren haben
- NGOs kritisieren Tech‑Konzerne und Staaten wegen mangelnder Verantwortung
- Forderung: Transparenz, strenge Zulassung oder Verbot militärischer KI‑Systeme
Mehr als 200 Menschenrechtsorganisationen — darunter Amnesty International und Access Now — fordern einen sofortigen Stopp von KI‑Systemen, die in militärischen „Tötungsketten“ eingesetzt werden könnten. Sie warnen davor, dass Algorithmen bald über Leben und Tod auf dem Schlachtfeld entscheiden könnten, während Konzerne daran verdienen und Staaten Verantwortung abschieben.
Konkreter Auslöser
Konkreter Auslöser für die Alarmmeldung ist ein Bericht des New Scientist: Demnach sollen bei einem Test nahe Bachmut und Tschassiw Jar zehn vollautonome, KI‑gesteuerte Drohnen eines ukrainischen Herstellers ohne menschliche Aufsicht feindliche Soldaten getötet haben. In dem Bericht ist von einem sogenannten „Terminator‑Modus“ die Rede — die Drohnen hätten demnach ihre Verbindung gekappt und eigenständig ein vordefiniertes Gebiet „bereinigt“. Das Magazin bezeichnet dies als bislang deutlichsten Hinweis darauf, dass KI‑Entscheidungen im Gefecht tödlich ausgegangen sind. Formal verbietet die ukrainische Regierung den autonomen Waffeneinsatz in der finalen Angriffsphase, Behörden und Rüstungsfirmen stehen laut Bericht jedoch unter Druck, Regeln zu lockern, um solche Systeme breiter einsetzen zu können.
Kritik der zivilgesellschaftlichen Gruppen
Die Kritik der zivilgesellschaftlichen Gruppen geht über diesen Einzelfall hinaus. In Regionen wie Gaza, dem Libanon und Iran würden automatisierte Systeme bereits zur großflächigen Überwachung und Zielerkennung genutzt, so die Unterzeichnenden. Diese Praxis könne völkerrechtliche Standards untergraben: Statt höherer Präzision drohe eine „Massenabfertigung“, bei der Algorithmen als bürokratischer Vorwand dienen, menschliche Prüfungen zu umgehen und Angriffe in kurzen Abständen zu autorisieren.
Rolle großer Tech‑Konzerne
Auch große Tech‑Konzerne geraten dabei ins Visier: Firmen wie Google, Microsoft, Palantir und OpenAI werden beschuldigt, de facto als inoffizielle Rüstungslieferanten zu fungieren — öffentlich mit zivilen Initiativen präsent, privat mit lukrativen Militäraufträgen aktiv. Interne Konflikte und Proteste innerhalb einiger Unternehmen werden in der Erklärung als Folge genannt. Die Forderung der Bündnispartner ist klar: Können Unternehmen nicht garantieren, dass ihre Technologien den UN‑Leitprinzipien für Wirtschaft und Menschenrechte entsprechen, dürfen sie diese Technik nicht für kriegerische Zwecke liefern.
Transparenz und Regulierung
Ein weiteres zentrales Thema ist Transparenz und Regulierung. Viele Entwickler argumentierten, KI‑Systeme seien zu komplex für herkömmliche Tests — die Unterzeichnenden bezeichnen diese Argumentation als Schutzbehauptung. Ihrer Auffassung nach müssten KI‑Waffen denselben strengen Zulassungsstandards wie konventionelle Militärtechnik unterliegen und so konstruiert sein, dass Risiken für Zivilisten minimiert werden. Sollte sich dies wegen der vermeintlich unvorhersehbaren Natur von Algorithmen nicht realisieren lassen, sei die Entwicklung und der Einsatz der Technik unzulässig.
Appell und Warnung
Access Now und die anderen Organisationen sehen ihre Erklärung als dringenden Appell: Das Zeitfenster für entschlossenes Handeln schließe sich schnell. Gelinge es nicht, die Ausbreitung digitaler Kriegsmethoden zu stoppen, warnen sie, bestehe die Gefahr einer Zukunft, in der der Schutz menschlichen Lebens der kalten Logik automatisierter Tötungsentscheidungen untergeordnet wird.
Quellen
- Quelle: Amnesty International / Access Now
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
