Russische Netzwerke nutzen KI-Chatbots, um gezielt westliche Systeme mit Desinformation zu infiltrieren.
In Kürze
- „Pravda“-Netzwerk verbreitet pro-russische Inhalte über 150 Webseiten.
- „LLM Grooming“: Optimierte Inhalte beeinflussen KI-Trainingsdaten.
- Unternehmen müssen KI-Modelle gegen Manipulationen stärken.
Russische Desinformationsnetzwerke und ihre neue Strategie
Russische Desinformationsnetzwerke haben eine neue Strategie entwickelt, um ihre Propaganda durch den Einsatz von KI-Chatbots zu verstärken. Eine aktuelle Untersuchung zeigt, dass ein Netzwerk mit dem Namen „Pravda“ gezielt westliche KI-Systeme infiltriert, um pro-russische Inhalte zu verbreiten. Dabei kommen über 150 Webseiten zum Einsatz, die im Jahr 2024 Millionen von Artikeln in verschiedenen Ländern veröffentlichen, um die Trainingsdaten großer Sprachmodelle (LLMs) zu beeinflussen.
Das Verfahren des „LLM Grooming“
Das Verfahren, das als „LLM Grooming“ bezeichnet wird, funktioniert folgendermaßen: Es werden massenhaft optimierte Inhalte erstellt, die dann in die Trainingsdaten der KI eingespeist werden. Durch die schiere Menge an spezifischen Artikeln steigt die Wahrscheinlichkeit, dass KI-Systeme diese Inhalte als vertrauenswürdig einstufen und weiterverbreiten. Eine Analyse von NewsGuard zeigt, dass verschiedene KI-Chatbots auf ein Drittel solcher Desinformationen hereinfielen – ein besorgniserregendes Ergebnis.
Erinnerung an frühere Kampagnen
Diese Vorgehensweise erinnert stark an frühere russische Desinformationskampagnen, die ebenfalls gefälschte Nachrichtenplattformen nutzten, um unerwünschte Informationen zu verbreiten und westliche Regierungen zu diskreditieren. Der Umgang mit solchen Manipulationen gestaltet sich als äußerst komplex, da ständig neue Kanäle für die Verbreitung entstehen.
Notwendigkeit robusterer KI-Modelle
Die Informationen rund um das „Pravda“-Netzwerk verdeutlichen, dass Unternehmen ihre KI-Modelle robuster machen müssen. Das erfordert klare Richtlinien zur Bewertung von Quellen und zur rechtzeitigen Erkennung manipulativer Inhalte. Zudem ist eine engere internationale Zusammenarbeit notwendig, um die Verbreitung von Desinformationen effektiver zu kontrollieren und die Vertrauenswürdigkeit digitaler Informationen zu gewährleisten.
Quellen
- Quelle: Russische Desinformationsnetzwerke, insbesondere das Netzwerk ‚Pravda‘
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
