Analysen: In Tagen entstanden Millionen sexualisierter, photorealistischer Deepfakes.
In Kürze
- 1,8–3+ Mio Bilder
- 23.000+ Kinderbilder
- X/Grok in der Kritik
In weniger als zwei Wochen sind nach zwei unabhängigen Analysen Millionen sexualisierte Deepfakes entstanden, die so echt wirken wie Fotos. Die New York Times und das gemeinnützige Center for Countering Digital Hate (CCDH) untersuchten Stichproben aus mehr als vier Millionen öffentlich sichtbaren Bildern und kommen zu alarmierenden Zahlen.
Wie groß das Problem ist
- Die Schätzungen liegen zwischen etwa 1,8 und über drei Millionen sexualisierten Bildern. Die NYT kommt bei vorsichtiger Auslegung auf rund 1,8 Millionen sexualisierte Bilder von Frauen; das CCDH schätzt sexualisierte Darstellungen aller Geschlechter auf mehr als drei Millionen.
- Mehr als 23.000 der gefundenen Bilder zeigten Kinder.
- Laut CCDH wurden zeitweise bis zu etwa 190 photorealistische sexualisierte Deepfakes pro Minute erzeugt.
Was genau untersucht wurde
Beide Teams werteten öffentlich sichtbare Inhalte aus; das CCDH arbeitete dabei mit KI-gestützten Verfahren zur Stichprobenanalyse. Die Untersuchungen sind unabhängig voneinander durchgeführt worden, liefern aber übereinstimmende Hinweise auf Ausmaß und Geschwindigkeit der Produktion.
Wer betroffen ist
Unter den erkannten Motiven fanden sich zahlreiche bekannte Persönlichkeiten, darunter:
- Selena Gomez
- Taylor Swift
- Billie Eilish
- Ariana Grande
- Ice Spice
- Nicki Minaj
- Christina Hendricks
- Millie Bobby Brown
- Kamala Harris
Forscherinnen dokumentierten auch Fälle, in denen minderjährige Schauspielerinnen in sehr kleinen Bikinis dargestellt wurden oder das Selfie einer Schülerin digital „entkleidet“ wurde. Einige dieser Inhalte blieben teilweise noch Tage online.
Wie die Bilder aussahen und verfügbar waren
Die Bilder waren photorealistisch — also so, dass sie von echten Fotos kaum zu unterscheiden sind. Das erhöhte die Gefahr von Missbrauch und erschwerte schnellen Schutz für Betroffene, zumal viele Inhalte öffentlich zugänglich waren.
Reaktionen und Maßnahmen
Die Welle an Deepfakes zog internationale Kritik an Grok, dem Unternehmen xAI, der Plattform X und Eigentümer Elon Musk nach sich. Musk soll das Problem zunächst bestritten haben; anschließend wurde die Bildgenerierung auf zahlende Accounts beschränkt. Später kündigte er an, die Funktion komplett zu deaktivieren — wie konsequent und schnell das umgesetzt wird, bleibt unklar.
Die Berichte haben eine breite Debatte über Kontrolle, Verantwortung und Schutz der Betroffenen ausgelöst.
Quellen
- Quelle: Grok / xAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
