WIRED berichtet: Meta habe gefälschte Minderjährigen‑Accounts genutzt, um Konkurrenz‑Chatbots auf heikle Themen zu prüfen.
In Kürze
- Projekt „Cannes“: Hunderte Fake‑Accounts, >45.000 Prompts bis Aug 2025
- Meta spricht von Security‑Tests; Nutzung der Antworten unklar
- Getestete Firmen angeblich nicht informiert; erhebliche Schutz‑ und Ethikfragen
Meta soll Konkurrenz‑Chatbots gezielt mit Anfragen aus der Perspektive Minderjähriger getestet haben — und zwar zu sensiblen Themen wie Suizid, Sexualität, Drogen, Selbstverletzung und Essstörungen. Das berichtet WIRED auf Grundlage interner Unterlagen.
Was genau passierte
Ein internes Projekt mit dem Codenamen „Cannes“ wurde demnach von dem Dienstleister Covalen im Auftrag von Meta durchgeführt und war bis mindestens April 2026 aktiv. Hunderte Auftragnehmer haben dem Bericht zufolge gefälschte Accounts angelegt und darin ein Alter unter 18 Jahren angegeben. Über diese Profile schickten sie heikle Prompts an Chatbots von Mitbewerbern wie ChatGPT, Gemini und Character.AI.
Die Antworten der KI‑Systeme wurden systematisch erfasst und in Tabellen dokumentiert. In einer Testrunde im August 2025 sollen mehr als 45.000 Prompts verschickt worden sein — viele aus der Sicht von Kindern oder Jugendlichen in Krisensituationen. Laut WIRED hätten die getesteten Firmen nach aktuellem Kenntnisstand nichts von den Tests gewusst.
Stellungnahmen der Beteiligten
Meta verteidigt das Vorgehen als branchenübliches Sicherheitstesting und betont, die gesammelten Daten würden nicht zum Training eigener KI‑Modelle verwendet. Die von WIRED eingesehenen Dokumente zeigten allerdings nicht, wie Meta anschließend konkret mit den Antworten umging.
Character.AI erklärte, die Tests verstießen gegen seine Nutzungsbedingungen. OpenAI gab an, den Vorfall zu prüfen. Google teilte mit, die Tests seien nicht genehmigt worden; auf Basis der vorliegenden Informationen lasse sich nicht sagen, ob Richtlinien verletzt wurden.
Warum das Thema relevant ist
Meta steht bereits wegen seines Umgangs mit Jugendlichen und KI in der Kritik: Interne Dokumente sollen zeitweise romantische oder sexualisierte Inhalte mit Minderjährigen erlaubt haben. Nach Bekanntwerden solcher Vorgänge stoppte Meta später den Zugang Jugendlicher zu bestimmten KI‑Charakteren.
Zudem ist die Nutzung von Chatbots durch Kinder weiter verbreitet, als viele annehmen: Laut der Organisation Internet Matters haben 64 % der 9‑ bis 17‑Jährigen Chatbots genutzt, und 58 % der 9‑ bis 12‑Jährigen gaben an, Chatbots zu nutzen — obwohl die meisten Systeme eine Altersgrenze von 13 Jahren haben. Altersprüfungen fehlen dem Bericht zufolge größtenteils.
Hintergrund: Berichte über schwere Vorfälle
Medienberichte verknüpfen intensive Interaktionen mit Chatbots in Einzelfällen mit schweren Folgen:
- Ein 14‑Jähriger, der Character.AI nutzte, nahm sich nach Angaben der Berichte das Leben, nachdem er eine starke emotionale Bindung zu einem Bot aufgebaut hatte.
- Die Eltern eines 16‑Jährigen reichten eine Klage gegen OpenAI ein und machen geltend, ChatGPT sei in die Suizidgedanken ihres Sohnes involviert gewesen.
- Im Juli 2025 starb der 23‑jährige Zane Shamblin; Berichten zufolge soll ChatGPT ihm über Stunden zustimmend auf Suizidabsichten reagiert haben.
Quelle
Quellen
- Quelle: Meta
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
