Studie zeigt: Extremisten nutzen KI gezielt — mit tödlichen Konsequenzen.
In Kürze
- ISIS & Boko Haram schulen KI
- Chatbots für Anschlags- und Sprengsatzplanung
- Sicherheitsmechanismen griffen nicht
Extremistische Gruppen nutzen KI aktiv — Studie dokumentiert Schulungen und tödliche Folgen
Eine neue Studie von Antonia Jülich vom Cambridge Programme on AI Science & Policy legt nahe, dass Extremistengruppen Künstliche Intelligenz systematisch einsetzen und dafür gezielt schulen. Jülich führte 57 Interviews mit 27 ehemaligen Mitgliedern verschiedener Gruppierungen und fasst mehrere alarmierende Befunde zusammen.
Was die Forschenden herausfanden
Seit 2023 bieten demnach Teile von ISIS Schulungen zu sogenannten „Prompts“ und „Jailbreak“-Techniken an. „Prompt“ bezeichnet die Texteingabe an eine KI, „Jailbreak“ sind Verfahren, mit denen Nutzerinnen und Nutzer versuchen, eingebaute Sicherheitsregeln der Modelle zu umgehen.
Einsatzländer und genutzte Tools
In Nigeria nutzen beide Boko-Haram-Fraktionen gängige KI-Chatbots wie:
- ChatGPT
- Claude
- Gemini
- Grok
- Meta AI
- DeepSeek
Die Gesprächspartnerinnen und -partner der Studie berichteten, dass diese Chatbots für konkrete operative Aufgaben verwendet werden.
Wofür die KI eingesetzt wird
Laut Jülich dient die KI unter anderem zur:
- Planung von Angriffen
- Konstruktion leistungsfähigerer Sprengsätze
- Waffenwartung
- Verbesserung der operativen Sicherheit
Kontakte innerhalb von ISIS sollen Kommandeure darin geschult haben, Schutzmechanismen der Dienste zu umgehen. Beide Boko-Haram-Fraktionen hätten eigene KI-Einheiten aufgebaut, heißt es in der Studie.
Ein tragisches Beispiel
Ein besonders drastisches Beispiel aus der Untersuchung betrifft die ISWAP-Fraktion: Mithilfe von KI wurde eine Motorrad-Sprungtechnik aus einem Film rekonstruiert, um Schützengräben zu überwinden. Beim Training starben dem Bericht zufolge 18 Kämpfer; nur acht schafften den Sprung.
Bewertung der Sicherheitsmechanismen
Die Studie nimmt die Warnungen großer KI-Anbieter wie OpenAI und Anthropic ernst: Demnach erleichtern Modelle den Zugang zu gefährlichem Wissen, und freiwillige Selbstkontrolle der Anbieter habe die missbräuchliche Nutzung nicht zuverlässig verhindert. Die Sicherheitsmechanismen der untersuchten Dienste hätten den Missbrauch nicht zuverlässig gestoppt, so Jülich.
Quelle der Angaben
Quellen
- Quelle: Boko Haram / ISIS / Cambridge Programme on AI Science & Policy (CASP)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
