Google und OpenAI melden KI‑Operationen mit China‑Bezug.
In Kürze
- Google klagt
- OpenAI sperrt Cluster
- Behörden kooperieren
Innerhalb weniger Tage haben Google und OpenAI unabhängig voneinander Operationen offengelegt, die mutmaßlich aus China gesteuert wurden und generative KI für Betrug beziehungsweise Einflussmanipulation nutzten.
Google klagt gegen „Outsider Enterprise“
Am 12. Juni reichte Google vor dem U.S. District Court for the Southern District of New York eine Klage gegen ein Cybercrime‑Netzwerk namens „Outsider Enterprise“ ein. Demnach setzte die Gruppe Googles KI‑Modell Gemini ein, um Hunderttausende US‑Bürger mit Finanzbetrug anzugreifen.
Google wirft den Angeklagten vor, 131 Software‑Kits hergestellt zu haben, mit denen Tausende gefälschte Websites erstellt wurden — unter anderem:
- Nachbildungen von Google
- YouTube
- dem Postal Service
- dem New Yorker E‑ZPass‑System
Innerhalb von zwei Wochen im Mai sollen 2,5 Millionen Nachrichten an Android‑Nutzer verschickt worden sein, mit Links zu rund 9.000 Fake‑Websites und mehr als einer Million betrügerischen Webadressen. Zur Koordination diente offenbar Telegram.
Google geht gemeinsam mit dem FBI und den Mobilfunkanbietern gegen das Netzwerk vor:
- AT&T
- T‑Mobile
- Verizon
Das Unternehmen beantragt gerichtliche Unterlassungsmaßnahmen, um Domains zu beschlagnahmen oder Konten zu sperren und das Netzwerk abzuschalten. Google schätzt den Schaden auf einen Millionenbetrag, kann ihn aber nicht exakt beziffern. Das FBI warnt allgemein, dass Kriminelle zunehmend KI einsetzen, um Betrug glaubwürdiger und schwerer erkennbar zu machen; für 2025 beziffert die Behörde den Gesamtschaden durch Cyberkriminalität auf etwa 21 Milliarden Dollar, davon rund 893 Millionen Dollar mit KI‑Bezug.
OpenAI sperrt ChatGPT‑Cluster wegen Einflussoperationen
Im Juni 2026 veröffentlichte OpenAI einen Threat Report und sperrte zwei ChatGPT‑Cluster, denen das Unternehmen zuordnete, Debatten über US‑Technologiepolitik beeinflussen zu wollen. OpenAI zufolge nutzten die Operatoren VPN‑Dienste und schrieben Prompts in vereinfachtem Chinesisch.
Cluster 1 (intern „Data Center Bandwagon“)
Cluster 1, intern „Data Center Bandwagon“ genannt, erzeugte:
- englische Kommentare
- Comic‑Strips
- bearbeitete Bilder mit der Behauptung, der Ausbau von KI‑Rechenzentren heize die Strompreise für Durchschnittshaushalte spürbar an
Diese Inhalte wurden offenbar über nicht‑authentische X‑Konten mit Hashtags wie #capacityauction und #datacenters verbreitet. OpenAI sieht hinter dem Cluster ein privates chinesisches Tech‑Unternehmen, das für Provinzbehörden arbeitet. Dieselben Konten sollen zudem Dissidenten wie die Aktivistin Li Ying („Teacher Li“) attackiert und sich als in den USA lebende chinesische Einwanderer ausgegeben haben.
Cluster 2 („Tech and Tariffs“)
Cluster 2, „Tech and Tariffs„, produzierte Karikaturen gegen Trumps Zollpolitik und gegen die US‑Strategie technologischer Vormacht. Die eingesetzten Prompts wiesen das Modell an, China und Staatschef Xi Jinping nicht abzubilden, sondern allein Präsident Trump.
Ein Nutzer bezeichnete die eigenen Konten als „Wasserarmee“ — ein Begriff für koordinierte Troll‑ oder Propagandanetzwerke. Dieses Cluster war außerdem mit einem X‑Netzwerk verbunden, das fälschlich behauptete, ChatGPT‑Nutzerdaten seien kompromittiert worden. Die Betreiber fragten das Modell zudem nach einem Konzept für ein KI‑Überwachungssystem zur automatischen Erfassung angeblich „schädlicher“ Inhalte bestimmter „Schlüsselpersonen“; OpenAI teilt mit, das Modell habe lediglich allgemeine Hinweise zur Datenspeicherung gegeben.
OpenAI‑Ermittler Ben Nimmo betont, die Operationen hätten vorhandene Debatten aufgegriffen und von dort aus versucht, Einfluss zu nehmen. Nach der von OpenAI genutzten Breakout‑Skala erreichten beide Operationen nur Kategorie 1 — sie verbreiteten sich demnach nicht nennenswert über die eigenen Konten hinaus.
Was beide Fälle verbindet
Beide Vorfälle beziehen sich auf den Einsatz generativer KI — bei Google im Kontext groß angelegter Finanzbetrugs‑Operationen, bei OpenAI im Kontext koordinierter Einflusskampagnen. In beiden Fällen reagieren Technologieunternehmen und Ermittlungsbehörden gemeinsam: Google arbeitet mit dem FBI und Mobilfunkanbietern zusammen, OpenAI sperrte verdächtige Cluster und dokumentierte die Muster.
Ermittler warnen zugleich vor einer zunehmenden Professionalisierung solcher Einsätze, bei denen KI genutzt wird, um Inhalte zu erstellen, zu skalieren und glaubwürdiger erscheinen zu lassen.
Quellen
- Quelle: Google / OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
