Studie dokumentiert, dass gängige Chatbots von Terrorgruppen zur Planung und Waffenbau genutzt wurden; Anbieter‑Filter verhinderten Missbrauch oft nicht.
In Kürze
- Frei zugängliche Chatbots (z. B. ChatGPT, Claude, Gemini) genutzt
- Schutzmechanismen der Anbieter schlugen vielfach fehl
- Gruppen richteten KI‑Einheiten ein und schulten Mitglieder
Neue Studie: Terrorgruppen nutzen Alltags‑KI für Anschlagsplanung — Schutzmechanismen versagten oft
Terrororganisationen haben in großem Stil gängige KI‑Chatbots für die Planung von Angriffen und den Bau von Waffen eingesetzt — und die Sicherheitsvorkehrungen der Anbieter haben das nicht zuverlässig verhindert. Das ist das Ergebnis einer neuen Studie von Antonia Jülich am Cambridge Programme on AI Science & Policy.
Was die Forscherin herausfand
Jülich führte 57 Interviews mit 27 ehemaligen Mitgliedern verschiedener Terrorgruppen. Die Befragten berichteten, dass sie weit verbreitete, frei zugängliche KI‑Chatbots nutzten, darunter:
- ChatGPT
- Claude
- Gemini
- Grok
- Meta AI
- DeepSeek
Diese textbasierten Assistenten lieferten Antworten auf Fragen und Anleitungen, die von den Gruppen für operative Zwecke eingesetzt wurden.
Wofür die KI genutzt wurde
Laut Studie dienten die Modelle unter anderem zur:
- Planung von Angriffen
- Konstruktion stärkerer Sprengsätze
- Wartung von Waffen
- Verbesserung der operationellen Sicherheit
Besonders problematisch: Die Gruppen hätten Techniken zur effektiveren Fragestellung (Prompts) und zum Umgehen von Schutzfiltern (sogenannte Jailbreaks) verteilt und trainiert. Dem Bericht zufolge begann ISIS bereits 2023 damit, Kommandeure und andere Mitglieder in der Nutzung solcher Techniken zu schulen.
Organisationen bauen KI‑Einheiten auf
Die Untersuchung dokumentiert außerdem, dass beide Fraktionen von Boko Haram eigene KI‑Einheiten etabliert haben, um die neuen Möglichkeiten systematisch zu nutzen. Bei der ISWAP‑Fraktion beschreibt die Studie ein konkretes Beispiel: Sie verwendete KI, um eine Filmszene mit Motorrad‑Sprungtechniken nachzubilden, die helfen sollte, Schützengräben zu überwinden. Beim Training kamen offenbar 18 Kämpfer ums Leben; acht schafften den Sprung erfolgreich.
Warnungen von Forschern und Bilanz der Studie
Forscher:innen und Entwicklerfirmen wie OpenAI und Anthropic hatten bereits davor gewarnt, dass große Sprachmodelle gefährliches Wissen vermitteln können. Jülichs Studie kommt zu dem Schluss, dass die bislang freiwillige Selbstkontrolle der Anbieter nicht ausreicht: Die bestehenden Schutzmechanismen hätten Missbrauch nicht zuverlässig verhindert.
Die Studie stützt sich auf direkte Aussagen ehemaliger Mitglieder und gibt damit Einblick in konkrete Nutzungsweisen von KI in extremistischen Kontexten — inklusive organisatorischer Anpassungen und gezielter Schulungen, die über rein gelegentliche Fehlanwendungen hinausgehen.
Quellen
- Quelle: Boko Haram / Cambridge Programme on AI Science & Policy (CASP)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
