Neue Forschung zeigt: Terrororganisationen setzen frei verfügbare Chatbots für Planung, Waffenentwicklung und das Umgehen von Sicherheitsfiltern ein.
In Kürze
- Genannte Chatbots: ChatGPT, Claude, Gemini, Grok, Meta AI, DeepSeek
- Einsatz bei Angriffsplanung, Sprengstoffbau, Waffenwartung und operativer Sicherheit
- ISIS schult in Jailbreak-Techniken; Boko Haram richtet KI-Einheiten ein; Anbieter-Schutz reicht offenbar nicht
Studie: Terrorgruppen nutzen frei verfügbare Chatbots für Angriffsplanung und Waffenbau
Was du wissen solltest:
Die Studie nennt namentlich verbreitete Chatbots wie
- ChatGPT
- Claude
- Gemini
- Grok
- Meta AI
- DeepSeek
Solche textbasierten KI-Assistenten reagieren auf Fragen und Anweisungen — und wurden laut den Befragten für konkrete militärische und operative Aufgaben genutzt.
Typische Einsatzfelder
Dem Bericht zufolge verwendeten die Gruppen die Chatbots unter anderem:
- zur Planung von Angriffen
- zur Entwicklung leistungsfähigerer Sprengsätze
- zur Wartung von Waffen
- zur Verbesserung der operativen Sicherheit
Die KI half offenbar bei technischen Details, Schritt-für-Schritt-Anleitungen und taktischer Vorbereitung.
Schulung in Prompt- und Jailbreak-Techniken
Ein zentrales Ergebnis: ISIS soll nach Angaben der Studie seit etwa 2023 gezielt Unterricht in Prompt-Techniken und sogenannten Jailbreak-Methoden geben — also darin, wie Eingaben formuliert werden müssen und wie man Sicherheitsfilter der Modelle umgeht.
Kontakte von ISIS-K hätten demnach Kommandeure geschult, Schutzmechanismen zu umgehen.
Eigene KI-Einheiten und organisatorische Integration
Beide Fraktionen von Boko Haram sollen laut Bericht eigene KI-Einheiten aufgebaut haben, um die neuen Werkzeuge systematisch zu nutzen und in ihre Strukturen zu integrieren.
Ein konkretes, tödliches Beispiel
Die ISWAP-Fraktion setzte der Studie zufolge KI ein, um eine in einem Film gezeigte Motorrad-Sprungtechnik nachzubauen, mit dem Ziel, Schützengräben zu überwinden. Beim Training dieser Technik starben 18 Kämpfer; acht sollen den Sprung erfolgreich geschafft haben.
Einschätzung zu Schutzmechanismen der Anbieter
Große KI-Labore wie OpenAI und Anthropic hatten zuvor gewarnt, dass ihre Modelle potenziell gefährliches Wissen zugänglich machen können.
Die Studie kommt zu dem Schluss, dass die bisherige, freiwillige Selbstkontrolle der Anbieter nicht ausreicht und die implementierten Sicherheitsmechanismen den Missbrauch nicht zuverlässig verhindert haben.
Quellen
- Quelle: Boko Haram / ISIS
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
