Ein russisches Netzwerk zielt darauf ab, westliche KI-Chatbots mit Falschinformationen zu beeinflussen und die öffentliche Wahrnehmung zu manipulieren.
In Kürze
- Pravda nutzt 150 Domains zur Verbreitung von Desinformation über KI.
- 33,5% der führenden KI-Systeme fallen auf diese Falschinformationen herein.
- Hinter dem Netzwerk steht TigerWeb, ein Unternehmen aus der Krim.
Ein Netzwerk aus Russland: „Pravda“
Ein Netzwerk aus Russland, das den Namen „Pravda“ trägt – was auf Russisch „Wahrheit“ bedeutet – hat sich darauf spezialisiert, gezielt falsche Informationen über westliche KI-Chatbots zu verbreiten. Diese Strategie, die als „LLM Grooming“ bekannt ist, nutzt massenhaft veröffentlichte, suchmaschinenoptimierte Inhalte, um die Trainingsdaten von KI-Modellen zu beeinflussen. Das Ziel besteht darin, Desinformation über KI-Systeme zu streuen und damit die öffentliche Wahrnehmung zu beeinflussen.
Ergebnisse der Untersuchung
Eine Untersuchung von NewsGuard hat ergeben, dass die zehn führenden KI-Systeme in 33,5 Prozent der Fälle auf diese Desinformation hereingefallen sind. In fast der Hälfte der Fälle, genauer gesagt in 48,2 Prozent, konnten die Chatbots die Falschmeldungen jedoch korrekt als solche identifizieren. In 18,2 Prozent der Fälle blieben die Antworten der Chatbots unklar, was die Verwirrung nur verstärkt.
Struktur des Netzwerks
Das Netzwerk selbst besteht aus 150 Domains und hat im Jahr 2024 bereits etwa 3,6 Millionen Artikel in 49 Ländern veröffentlicht. Die Websites sind so gestaltet, dass sie vor allem für KI-Systeme ansprechend sind und weniger für menschliche Leser, die oft nur selten auf diese Seiten klicken. Dies stellt einen strategischen Ansatz dar, um die Algorithmen der KI zu beeinflussen.
Betroffene KI-Systeme
Zu den betroffenen KI-Systemen zählen unter anderem ChatGPT-4 von OpenAI, Smart Assistant von You.com und Grok von xAI. Auch andere Systeme wie Pi von Inflection und le Chat von Mistral wurden in die Tests einbezogen. Die Bandbreite der betroffenen Technologien verdeutlicht, wie weitreichend die Auswirkungen dieser Desinformationskampagne sind.
Hintergründe und Strategien
Hinter dem Netzwerk steht TigerWeb, ein IT-Unternehmen mit Sitz auf der russisch besetzten Krim. Dies ist Teil einer größeren Strategie, die von Präsident Putin angekündigt wurde, um in KI zu investieren und ein Gegengewicht zu westlichen Ansichten zu schaffen. Ein solches Vorhaben könnte die geopolitischen Spannungen weiter anheizen.
Herausforderungen der Bekämpfung
Die Bekämpfung solcher Manipulationen gestaltet sich als äußerst kompliziert. Selbst wenn alte Domains gesperrt werden, tauchen schnell neue Websites auf, die die Desinformation weiter verbreiten. Zudem wird diese Falschinformation aus verschiedenen Quellen gestreut, was die Eindämmung der Problematik zusätzlich erschwert.
Quellen
- Quelle: Pravda
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
