Studie: Boko Haram und ISIS setzen handelsübliche Chatbots für Planung, Sprengstoffbau und OpSec ein.
In Kürze
- Chatbots liefern taktische und handwerkliche Anleitungen
- Prompt- und Jailbreak-Schulungen verbreiten Missbrauch; ISIS bildet Ausbilder aus
- Boko Haram bildete KI‑Einheiten; Anbieter-Sicherungen greiften nicht zuverlässig
Laut einer neuen Studie des Cambridge Programme on AI Science & Policy (CASP) nutzen Terrorgruppen in Nigeria gängige KI-Chatbots wie ChatGPT, Claude, Gemini, Grok, Meta AI und DeepSeek.
Du liest hier die wichtigsten Ergebnisse der Untersuchung von Antonia Jülich, die 57 Interviews mit 27 ehemaligen Mitgliedern geführt hat.
Einsatzfelder
Die Forscherin dokumentiert mehrere Einsatzfelder für KI in den Gruppen:
- Planung von Anschlägen
- Bau stärkerer Sprengsätze
- Wartung von Waffen
- Maßnahmen zur operativen Sicherheit, also Techniken, die helfen sollen, Aufdeckung zu vermeiden
Die Nutzung beschränkt sich demnach nicht auf einfache Informationssuche, sondern reicht bis zu taktischen und handwerklichen Anleitungen.
Schulungen in „Prompt“- und „Jailbreak“-Techniken
Ein zentraler Befund betrifft Schulungen in „Prompt“– und „Jailbreak“-Techniken. „Prompt“ beschreibt kurz gesagt, wie man einem Chatbot effektive Anweisungen gibt; „Jailbreak“ meint Methoden, die Sicherheitsvorgaben der Modelle zu umgehen, um Verbote zu umgehen und gefährliche Inhalte zu erzeugen. Die Studie berichtet, dass ISIS seit 2023 offenbar Unterricht in diesen Verfahren anbietet und Kontakte von ISIS speziell Kommandeure darin schulten, Sicherheitsfilter zu umgehen.
Organisation innerhalb der Gruppen
Beide Fraktionen von Boko Haram sollen dem Bericht zufolge eigene KI-Einheiten gebildet haben. Die Gruppen organisieren demnach systematische Nutzung und Weitergabe von KI-Wissen innerhalb ihrer Strukturen.
Beispiel: ISWAP
Ein besonders drastisches Beispiel, das Jülich nennt: Die ISWAP-Fraktion setzte KI-gestützte Analysen ein, um Motorrad-Sprungtechniken aus einem Film nachzubilden, mit dem Ziel, Schützengräben zu überwinden. Beim Training starben laut Studie 18 Kämpfer, acht schafften den Sprung.
Anbieter-Sicherheitsmechanismen
Zur Frage der Anbieter-Sicherheitsmechanismen stellt die Studie fest, dass die bisherige, freiwillige Selbstkontrolle der KI-Anbieter offenbar nicht ausreicht. Die eingebauten Schutzmaßnahmen hätten den Missbrauch nicht zuverlässig verhindert. Parallel dazu hatten große KI-Labore wie OpenAI und Anthropic bereits zuvor darauf hingewiesen, dass ihre Modelle potenziell gefährliches Wissen zugänglich machen können.
Quelle
Quellen
- Quelle: Boko Haram / ISIS / Cambridge Programme on AI Science & Policy (CASP)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
