Terrorgruppen nutzen KI‑Chatbots für Angriffe.
In Kürze
- Prompts & Jailbreaks im Einsatz
- Eigene KI‑Einheiten bei ISIS/Boko Haram
- Freiwillige Schutzmaßnahmen unzureichend
Terrorgruppen trainieren gezielt den Einsatz von KI-Chatbots – das legt eine neue Studie des Cambridge Programme on AI Science & Policy (CASP) nahe. Antonia Jülich sprach dafür mit 27 ehemaligen Mitgliedern verschiedener Gruppierungen und wertete 57 Interviews aus. Ergebnis: gängige Chatbots werden systematisch für Planung, Waffenbau und das Umgehen von Sicherheitsvorkehrungen genutzt.
Wie sie das machen
Die Studie beschreibt zwei zentrale Techniken, die zur Anwendung kommen: „Prompts“ – also die Texteingaben, mit denen man der KI eine Aufgabe stellt – und „Jailbreaks“, Methoden, um Sicherheitsfilter und Inhaltsbegrenzungen der Modelle zu umgehen. Demnach vermittelt ISIS seit 2023 offenbar gezielt Schulungen zu Prompt-Engineering und zum Aushebeln dieser Schutzmechanismen.
Welche Tools genutzt werden
Als Quellen nennen die Befragten verbreitete Chatbots wie ChatGPT, Claude, Gemini, Grok, Meta AI und DeepSeek. Solche Systeme liefern auf Texteingaben detaillierte Anleitungen oder praktische Informationen, was sie für technische Fragestellungen attraktiv macht.
Wofür die KI eingesetzt wird
Laut Studie setzen die Gruppen die Chatbots unter anderem ein für:
- die Planung von Angriffen,
- die Konstruktion leistungsfähigerer Sprengsätze,
- die Wartung von Waffen und Fahrzeugen,
- operative Sicherheitsmaßnahmen und
- Methoden, um Erkennungs‑ oder Schutzmechanismen zu umgehen.
Aufbau innerer Strukturen
Beide Boko-Haram-Fraktionen sollen demnach eigene KI-Einheiten aufgebaut haben. ISIS-Verbindungen hätten Kommandeure geschult, wie man Sicherheitsfilter umgeht und welche Anfragen – also Prompts – möglichst brauchbare Antworten liefern. Die Studie legt nahe, dass diese Aktivitäten organisatorisch verankert sind und nicht nur sporadisch erfolgen.
Ein konkretes Beispiel
Die ISWAP-Fraktion nutzte laut Bericht KI, um aus einer Filmszene eine Motorrad-Sprungtechnik nachzubauen, mit dem Ziel, Schützengräben zu überwinden. Bei Übungsfahrten starben demnach 18 Kämpfer; acht Personen schafften den Sprung wie geplant.
Was die Anbieter sagen — und was die Studie feststellt
KI-Anbieter wie OpenAI und Anthropic warnen schon länger davor, dass Modelle gefährliches Wissen zugänglich machen können. Die Untersuchung von CASP kommt zu dem Schluss, dass die derzeit freiwilligen Schutzmaßnahmen der Anbieter nicht ausreichen: Die implementierten Sicherheitsmechanismen hätten den Missbrauch in den untersuchten Fällen nicht zuverlässig verhindert.
Quelle:
Quellen
- Quelle: Boko Haram / ISIS / Cambridge Programme on AI Science & Policy
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
