OpenAI stoppt Netzwerke mit gefälschten Journalist:innen.
In Kürze
- Dark Clark: Lateinamerika
- Bogus Bylines: ~100 Texte
- KI intern genutzt; Konten gesperrt
OpenAI hat zwei koordinierte Einflussoperationen aus Russland und Iran aufgedeckt und die beteiligten ChatGPT‑Konten gesperrt. Anders als viele bekannte Kampagnen liefen diese Aktionen nicht über große Social‑Media‑Netzwerke, sondern über falsche Identitäten, die Inhalte direkt in echte Online‑Medien einschleusten.
Das solltest du wissen:
Wie die Kampagnen vorgingen
Beide Operationen arbeiteten mit erfundenen Personen und gefälschten Journalist:innen, um Artikel, Audios und Dokumente in realen Medien zu platzieren. KI‑Tools wurden vor allem intern eingesetzt — etwa zur Erstellung von Berichten oder zum sprachlichen Feinschliff von Texten. Sprich: Die Technik diente eher als Arbeitswerkzeug zur Optimierung klassischer Desinformationsmethoden als als öffentlicher Kanal.
Die russische Operation „Dark Clark“
- Ziel und Region: Laut OpenAI richtete sich „Dark Clark“ gegen Zielgruppen in Lateinamerika. Zweck war offenbar, die Ukraine zu diskreditieren und lokale politische Debatten zu stören.
- Methode: Die Betreiber kontrollierten einen angeblichen Thinktank, hinter dem eine erfundene Figur stand. Für die Platzierung von Texten wurden gefälschte Journalist:innen eingesetzt; lokal tätige Mitarbeiter:innen wirkten teilweise offenbar unwissentlich mit.
- Wirkung: Gefälschte Audiodateien und Dokumente führten in Ecuador und Peru zu Faktenchecks und offiziellen Dementis — die Inhalte lösten also echte, öffentliche Reaktionen aus.
- Bewertung: OpenAI stuft „Dark Clark“ auf der sogenannten Breakout Scale in Kategorie 5 von 6 ein. Die Breakout Scale misst, wie stark online verbreitete Inhalte reale Reaktionen hervorrufen; „Dark Clark“ ist damit die erste Kategorie‑5‑Operation seit Beginn dieser Berichte vor etwa zweieinhalb Jahren.
Die iranische Operation „Bogus Bylines“
- Vorgehen: Unter dem Namen „Bogus Bylines“ betrieben die Akteure sieben erfundene Journalist:innen, die weltweit fast 100 Artikel zum US‑Iran‑Konflikt veröffentlichten.
- Ergänzende Aktivitäten: Es wurden auch Social‑Media‑Kommentare erzeugt, diese erzielten nach OpenAI‑Angaben jedoch kaum Reichweite.
Maßnahmen von OpenAI
OpenAI hat die verantwortlichen ChatGPT‑Konten gesperrt und die Ergebnisse in einem Untersuchungsbericht dokumentiert. Der Bericht betont die Form der Täuschung — falsche Identitäten und direkte Infiltration von Nachrichtenmedien — sowie die interne Nutzung von KI als Hilfsmittel für klassische Propagandatechniken.
Quelle:
Quellen
- Quelle: OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
