KI‑Tools auf Telegram verbreiten und verkaufen nicht‑einvernehmliche Intimbilder.
In Kürze
- 2,8 Mio. Nachrichten, Nudifying‑Bots häufig
- Archive und Abos verkaufen Bilder gegen Zahlung
- Forscher fordern EU‑Regeln und VLOP‑Einstufung
Fast drei Millionen Telegram‑Nachrichten, 16 Gruppen und Kanäle: Eine Analyse von AI Forensics (NCII Report) dokumentiert, wie KI‑Tools in italienischen und spanischen Chats systematisch geschlechtsspezifische Gewalt fördern.
Was passiert konkret?
Die Forschenden werteten rund 2,8 Millionen Nachrichten aus. Dem Bericht zufolge gehören sogenannte Nudifying‑Bots — Programme, die aus harmlosen Fotos synthetische Nacktbilder erzeugen — zu den meistgesuchten Diensten in den untersuchten Gruppen. Das Wort „Bot“ taucht in den Nachrichten 16.232 Mal auf. Fast die Hälfte der weitergeleiteten Links (49,71 %) führte zu sogenannten AI‑Girlfriend‑Generatoren; 19,14 % führten direkt zu Nudifying‑Bots.
Teilnehmer tauschten außerdem Prompts, also Anweisungen für kommerzielle Chatbots wie Grok oder Gemini, um Bilder gezielt zu manipulieren. Unter dem Hashtag #PornoTok wurden synthetische Inhalte mit Bildern von TikTok‑Influencerinnen erstellt, teils ergänzt durch gefälschte Audiodateien ihrer Stimmen. Laut Bericht senkt diese Technik die Hürden erheblich, sodass deutlich mehr Personen potenziell betroffen werden können.
Monetarisierung und Reichweite
Das Ökosystem ist kommerzialisiert: Archive mit nicht‑einvernehmlichen Intimbildern — in einigen Fällen auch mit Darstellungen von Kindesmissbrauch — werden gegen Einmalzahlungen von 20–50 Euro oder über Monatsabos ab etwa 5 Euro verkauft. Zahlungen laufen über PayPal, Kryptowährungen oder den spanischen Dienst Bizum. Affiliates, die für die Dienste werben, berichten von Provisionen bis zu 40 %.
Die Forschenden identifizierten 24.671 aktive Nutzer in den beobachteten Gruppen; einzelne Gruppen hatten bis zu 27.000 Mitglieder. Etwa 72 % der in spanischen Gruppen geteilten Inhalte tauchten dem Bericht zufolge auch in den italienischen Gruppen auf.
Warum Telegram das erleichtert
Bestimmte Funktionen von Telegram tragen laut Studie strukturell zur Verbreitung bei:
- Premium‑Ordner
- Bots zur Automatisierung des Zugangs
- Die Möglichkeit, geschlossene Gruppen schnell wieder zu öffnen
Der Bericht verweist zudem auf die Einnahmen aus Premium‑Abos: Telegram soll 2024 rund 292 Millionen US‑Dollar damit verdient haben.
Forderungen der Forschenden
Auf Basis ihrer Analyse fordern die Autorinnen und Autoren mehrere Maßnahmen:
- Telegram soll nach dem Digital Services Act als „Very Large Online Platform“ (VLOP) eingestuft werden.
- Ein EU‑weiter Verbotsansatz für Nudifying‑Tools.
- Ergänzende Schutzpflichten im Rahmen des AI Act gegen synthetische, nicht‑einvernehmliche Intimbilder.
Quelle
Quellen
- Quelle: AI Forensics / Telegram
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
