Studie: Terrorgruppen nutzen Chatbots wie ChatGPT, Claude und Gemini auch für Angriffsplanung.
In Kürze
- 57 Interviews mit 27 Ex-Mitgliedern
- Chatbots dienen bei Sprengstoff, Waffenwartung und Planung
- ISIS und Boko Haram bieten gezielte KI-Schulungen und eigene Einheiten
KI-Chatbots wie ChatGPT, Claude und Gemini kommen laut einer neuen Studie offenbar bei Terrorgruppen zum Einsatz — und zwar nicht nur zum Chatten.
Die Basis: 57 Interviews mit 27 ehemaligen Mitgliedern von Terrororganisationen
Die Studie stammt von Antonia Jülich vom Cambridge Programme on AI Science & Policy (CASP). Jülich führte 57 Interviews mit 27 ehemaligen Mitgliedern verschiedener Terrorgruppen, um herauszufinden, wie Künstliche Intelligenz vor Ort genutzt wird.
Welche Systeme genannt werden
Den Befragten zufolge greifen Gruppen wie Boko Haram auf gängige KI-Chatbots zurück: namentlich
- ChatGPT
- Claude
- Gemini
- Grok
- Meta AI
- DeepSeek
Diese Tools seien leicht zugänglich und liefern Antworten in natürlicher Sprache — ein Vorteil, den die Gruppen laut Bericht für mehrere praktische Zwecke nutzten.
Wofür die Chatbots eingesetzt werden
Die Studie listet konkrete Einsatzfelder:
- Hilfe bei der Planung von Angriffen
- Unterstützung beim Bau und bei der Optimierung von Sprengsätzen
- Hinweise zur Wartung von Waffen
- Beratungen zu operativer Sicherheit
Kurz gesagt: Die Tools würden für technische und taktische Fragen genutzt, nicht nur für allgemeine Recherche.
Angebliche Schulungen zu „Prompts“ und „Jailbreaks“
Dem Bericht zufolge soll ISIS seit 2023 Kurse zu Prompts (Anweisungen für KI) und sogenannten Jailbreaks (Methoden, Sicherheitsfilter der Modelle zu umgehen) anbieten. Kontakte von ISIS hätten demnach Kommandeure darin geschult, wie KI-Filter umgangen werden können — ein Hinweis darauf, dass die Nutzung nicht immer spontan, sondern teilweise organisiert und systematisch abläuft.
Eigene KI-Einheiten bei Boko Haram
Beide Fraktionen von Boko Haram sollen dem Bericht zufolge eigene KI-Einheiten aufgebaut haben. Solche Strukturen deuten darauf hin, dass die Technologie innerhalb der Organisationen institutionalisiert worden ist.
Ein tragisches Beispiel: Motorrad-Sprungtrainings
Die Studie nennt einen konkreten Vorfall: Die ISWAP-Fraktion habe mithilfe von KI eine Motorrad-Sprungtechnik aus einem Film nachgebaut, um Schützengräben zu überwinden. Beim Training seien laut Bericht 18 Kämpfer gestorben, acht hätten den Sprung geschafft. Das Beispiel zeigt, wie Anleitungen aus KI-Ausgaben in der Praxis umgesetzt wurden — mit tödlichen Konsequenzen.
Warnungen der Anbieter und die Frage der Schutzmechanismen
Unternehmen wie OpenAI und Anthropic weisen seit Längerem darauf hin, dass KI-Modelle potenziell gefährliches Wissen zugänglich machen können. Die Studie kommt zu dem Schluss, dass die bisher freiwilligen Schutzmechanismen der Anbieter Missbrauch offenbar nicht zuverlässig verhindert haben.
Quelle
Quellen
- Quelle: Boko Haram / ISIS
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
