Studie zeigt: Boko Haram und IS nutzen öffentliche Chat‑KIs für Anschlagsplanung, Waffenbau und zum Umgehen von Schutzfiltern.
In Kürze
- Öffentlich zugängliche Chat‑KIs wie ChatGPT, Claude und Gemini werden operativ eingesetzt
- Einsatzfelder: Anschlagsplanung, Sprengstoff‑/Waffenbau und operative Sicherheit
- ISIS und Boko Haram schulen Jailbreak‑ und Prompt‑Techniken; Anbieter‑Schutzmaßnahmen wirken unzuverlässig
Terroristen nutzen frei verfügbare KI-Chatbots gezielt — und die Schutzmechanismen greifen offenbar nicht zuverlässig.
Das ist das Ergebnis einer Studie von Antonia Jülich vom Cambridge Programme on AI Science & Policy (CASP).
Jülich sprach dafür in 57 Interviews mit 27 ehemaligen Mitgliedern von Boko Haram in Nigeria. Ihre Gespräche zeigen, dass Gruppen wie Boko Haram und IS-affine Einheiten einfache, öffentlich zugängliche Gesprächs‑KIs wie ChatGPT, Claude, Gemini, Grok, Meta AI und DeepSeek für operative Zwecke einsetzen.
Die Einsatzfelder sind breit:
- Planung von Angriffen
- Bau leistungsfähigerer Sprengkörper
- Wartung von Waffen
- Fragen der operativen Sicherheit
Laut Studie nutzten die Kämpfer die KI, um technische Anleitungen zu verfeinern, Taktiken zu entwickeln und logistische Abläufe zu optimieren.
Die Kämpfer nutzten die KI insbesondere, um:
- technische Anleitungen zu verfeinern
- Taktiken zu entwickeln
- logistische Abläufe zu optimieren
Ein zentraler Befund
Ein zentraler Befund betrifft Fähigkeiten zum Umgehen von Sicherheitsvorkehrungen: Seit 2023 gebe es bei ISIS Unterricht in sogenannten Prompt– und Jailbreak-Techniken. „Prompt“ bezeichnet dabei die Kunst, eine KI so zu befragen, dass sie hilfreiche Antworten liefert; „Jailbreaks“ sind Methoden, die in Modelle eingebaute Schutzfilter zu überwinden. Dem Bericht zufolge schulten ISIS-Verbindungsleute gezielt Kommandeure darin, Schutzmechanismen zu umgehen.
Auch Boko‑Haram‑Fraktionen adaptierten die neue Technik organisatorisch: Beide Seiten richteten eigene KI‑Einheiten ein, die gezielt mit solchen Tools arbeiteten und Wissen an Kämpfer weitergaben.
Beispiel: Motorrad‑Sprungtechnik
Ein besonders dramatisches Beispiel in der Studie: Die ISWAP‑Fraktion nutzte KI, um aus einer Filmszene eine Motorrad‑Sprungtechnik zu rekonstruieren, mit dem Ziel, Schützengräben zu überwinden. Beim Training starben demnach 18 Kämpfer, acht schafften den Sprung. Die Studie dokumentiert, wie digitale Anleitungen reale Risiken und taktische Praktiken befördern können.
Große KI‑Labore wie OpenAI und Anthropic hatten bereits davor gewarnt, dass ihre Modelle gefährliches Wissen zugänglich machen können. Jülich zieht daraus die Schlussfolgerung, dass die bislang freiwilligen Sicherheitsmaßnahmen der Anbieter den Missbrauch nicht zuverlässig verhindern.
Quellen
- Quelle: Cambridge Programme on AI Science & Policy (CASP) / Boko Haram
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
