Studie zeigt, dass frei zugängliche KI-Chatbots praktisch für Angriffsplanung, Sprengsatzbau und Trainings genutzt werden.
In Kürze
- ChatGPT, Claude, Gemini & Co. wurden operativ eingesetzt
- ISIS bietet seit 2023 Prompt- und Jailbreak-Schulungen
- Freiwillige Schutzmechanismen der Anbieter reichen laut Studie nicht
Wenn du beim Tippen in einen Chatbot nur an Rezeptvorschläge oder Zusammenfassungen denkst: Eine neue Studie des Cambridge Programme on AI Science & Policy zeigt, dass frei zugängliche KI-Chatbots von Terrorgruppen praktisch eingesetzt werden — von Angriffsplanung bis zur Bauanleitung für Sprengsätze.
Die Autorin Antonia Jülich stützte sich dafür auf 57 Interviews mit 27 ehemaligen Mitgliedern verschiedener Gruppen. Konkret nannten die Befragten Dienste wie
- ChatGPT
- Claude
- Gemini
- Grok
- Meta AI
- DeepSeek
Diese Modelle wurden demnach für operative Aufgaben genutzt:
- Planung von Attacken
- Bau wirkungsvollerer Sprengsätze
- Waffenwartung
- Hinweise zur operativen Sicherheit
Parallel dazu berichtet die Studie, dass ISIS seit 2023 gezielt Schulungen anbietet. Demnach wurden Kommandeure in „Prompt“-Techniken unterrichtet — also wie man präzise Anfragen an ein Sprachmodell stellt — und in sogenannten „Jailbreaks“, Methoden zur Umgehung von Sicherheitsfiltern. Kontakte von ISIS-K sollen Trainer-Rollen übernommen und weitere Kommandeure im Umgehen von Schutzmechanismen geschult haben.
Auch die organisatorische Nutzung von KI ist dokumentiert: Beide Fraktionen von Boko Haram hätten eigene KI-Einheiten aufgebaut. Ein eindrückliches Beispiel aus der Studie beschreibt, wie die ISWAP-Fraktion mithilfe von KI eine Motorrad-Sprungtechnik aus einem Film nachbauen wollte. Beim Training kamen 18 Kämpfer ums Leben, acht schafften den Sprung — ein konkreter Fall, der den praktischen Einsatz der Technologie illustriert.
Große KI-Anbieter hatten bereits davor gewarnt, dass ihre Modelle potenziell gefährliches Wissen zugänglich machen können. Die Studie zieht daraus die Schlussfolgerung, dass die bisherige, freiwillige Selbstkontrolle der Anbieter nicht ausreiche: Eingebaute Sicherheitsmechanismen hätten den beschriebenen Missbrauch nicht zuverlässig verhindert.
Quellen
- Quelle: Boko Haram / ISWAP / Cambridge Programme on AI Science & Policy (CASP)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
