OpenAI stoppt russische Einflusskampagne, die ChatGPT für falsche Posts nutzte

OpenAI stoppte eine russische Kampagne, die ChatGPT für gefälschte Social‑Media‑Beiträge einsetzte.

In Kürze

• Standortverschleierung per VPN und gezielten Prompts
• IBI‑Webseite mit 36 meist kopierten Artikeln
• Telegram‑Kanäle erreichten 10k–20k Follower

OpenAI hat eine verdeckte russische Einflusskampagne entdeckt und gestoppt, die ChatGPT nutzte, um möglichst glaubwürdige Social‑Media‑Beiträge zu erstellen und einen angeblichen Thinktank zu bewerben. Hier die Fakten für dich:

Wie die Operation funktionierte

Die Betreiber aus Russland arbeiteten mit VPN‑Diensten, um ihren Standort zu verschleiern, und gaben ChatGPT gezielte Anweisungen, sprachliche Hinweise auf ihre Herkunft zu verwischen. Ziel war die Promotion des „International Burke Institute“ (IBI), das auf der Website als in Israel sitzend dargestellt wurde.

Gefälschte Inhalte auf der IBI‑Seite

Auf der IBI‑Webseite fanden sich 36 Artikel — 34 davon waren direkte Kopien aus fremden Quellen, häufig mit falschen Autorennamen. Viele Inhalte bestanden also aus Übernahmen anderer Publikationen, versehen mit willkürlichen Autorenangaben.

Konkrete Beispiele

• Ein Text von Cambridge University Press wurde fälschlich einer Professorin der University of Nottingham zugeschrieben.
• Ein Beitrag des Migration Policy Institute wurde irrtümlich einer australischen Professorin für Lebensmittelchemie zugeordnet.

Verbreitungskanäle und deutschsprachige Aktivitäten

Die Kampagne nutzte mehrere Plattformen:

• X
• LinkedIn
• Facebook
• Substack
• Telegram (besonders wichtig)

Auf Telegram liefen deutschsprachige Posts über den Kanal „Lahme Ente“, die unter anderem Kritik an der Ukraine, der EU und der Bundesregierung äußerten und eine Annäherung an Russland forderten. Ein weiterer Operator entwarf Logos für rund ein Dutzend Telegram‑Kanäle mit Fokus auf Länder wie Deutschland, USA, Frankreich, Polen und Türkei und forderte regelmäßig russischsprachige Zusammenfassungen der Kanalaktivitäten an.

Reichweite versus Infrastruktur

Die offiziellen IBI‑Konten und einzelne Beiträge erzielten nur wenige Aufrufe und hatten geringe Abonnentenzahlen. Die zugehörigen Telegram‑Kanäle dagegen erreichten jeweils 10.000–20.000 Follower.

OpenAI stuft die Aktion auf der Brookings Breakout Scale als Stufe 3 von 6 ein — also Verbreitung über mehrere Plattformen mit ersten Anzeichen echter Nutzerreichweite. Als größere Gefahr bewerteten die Ermittler die aufwendig aufgebaute Infrastruktur, die bei Bedarf skaliert werden konnte.

Frühere, ähnliche Fälle

• „Bad Grammar“ (Juni 2024): Ein Netzwerk, das automatisierte Telegram‑Kommentare zu Russland, Ukraine und den baltischen Staaten erzeugte.
• „Operation Helgoland Bite“ (etwa ein Jahr später): Vor der Bundestagswahl 2025 erzeugte, deutschsprachige Inhalte, die USA und NATO kritisierten und die AfD förderten.

Kontext und mögliche Größenordnung

Die von OpenAI aufgedeckten Fälle betreffen nur Aktivitäten, die über die OpenAI‑Plattform liefen. Weil darüber hinaus auch chinesische KI‑Anbieter und frei verfügbare KI‑Modelle nutzbar sind, dürfte das Ausmaß KI‑gestützter Einflussoperationen insgesamt deutlich größer sein.

Quellen

• Quelle: OpenAI
• Der ursprüngliche Artikel wurde hier veröffentlicht
• Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.