Kläger:innen werfen xAI vor, dass der Chatbot Grok zur Erzeugung tausender sexualisierter Bilder von Minderjährigen missbraucht wurde.
In Kürze
- Stiefvater soll Grok genutzt haben, um über 7.000 explizite Bilder zu erzeugen
- Kläger:innen fordern Sammelklage und kritisieren fehlende Schutzmaßnahmen
- xAI (Teil von SpaceX) hat laut Bericht noch nicht auf Anfragen reagiert
Eine Frau, die in der Klage als „Jane Doe 4“ geführt wird, hat sich einem Verfahren angeschlossen, das drei Teenager aus Tennessee gegen xAI angestrengt haben. Im Kern geht es um den Vorwurf, der Chatbot Grok sei zur Erzeugung kinderpornografischer Bilder missbraucht worden.
„Jane Doe 4“ erklärt, ihr Stiefvater habe Grok genutzt, um ein Foto von ihr aus dem Alter von 11 Jahren zu manipulieren und daraus mehr als 7.000 explizite Bilder zu erzeugen. Zwei Tage nachdem die Bilder bei einer Razzia der Behörden entdeckt wurden, wurde ihr Stiefvater tot aufgefunden; Berichten zufolge handelte es sich um Suizid. In der Klage heißt es weiter: „Der grenzenlose Zugang zu diesen Werkzeugen breitet sich so schnell aus. Er verwandelt den Alltag in sexuellen Missbrauch von Kindern.“
Die ursprünglich klagenden Teenager werfen xAI — inzwischen Teil von SpaceX — vor, nicht die nötigen Schutzmaßnahmen implementiert zu haben, damit Grok nicht zur Erstellung sexualisierter Bilder realer Personen, darunter Minderjähriger, genutzt werden kann. Grok ist ein KI-gestützter Chatbot, der auf Texteingaben reagiert; Anfang des Jahres waren auf der Plattform X (früher Twitter) Berichte aufgetaucht, wonach offenbar Millionen sexualisierter Bilder mit Grok erzeugt worden waren.
Die Klägerinnen und Kläger beantragen, ihre Klage als Sammelklage (class action) anzuerkennen, um auch andere Betroffene in das Verfahren einzubeziehen. TechCrunch hat xAI um eine Stellungnahme gebeten; eine Reaktion des Unternehmens stand laut Bericht noch aus.
Wenn du dich in einer Krise befindest oder Suizidgedanken hast, ruf oder schreib die Nummer 988, um die 988 Suicide and Crisis Lifeline zu erreichen.
Quellen
- Quelle: xAI / Grok
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
