Wired: Rund 400 Apps lieferten heimlich sexuelle Deepfakes via versteckter Seiten.
In Kürze
- Apps tarnten sich
- Versteckte Nudify‑Seiten
- Stores entfernten Teile
Hamster in Strandhosen als Köder: Wired hat ein Netzwerk aus mehr als 400 Apps und Webseiten enttarnt, die sich als harmlose KI‑Tools ausgaben — etwa Haustier‑Porträt‑Apps, Sprachtrainer oder Workout‑Coaches — und für manche Nutzer heimlich eine Funktion zum Erstellen sexueller Deepfakes freischalteten. Eine dieser Apps trug den Namen Viefur und zeigte vordergründig harmlose Tierbilder, war aber Teil des Netzwerks.
So lief das System
- Du klickst auf eine Anzeige bei Facebook oder Instagram, lädst eine scheinbar nette App aus dem Apple‑ oder Google‑Store und merkst erstmal nichts Ungewöhnliches.
- Beim Start fragt die App jedoch einen externen Server ab. Dieser prüft Merkmale wie Standort oder Spracheinstellung und entscheidet dann, ob dir die normale App angezeigt oder eine versteckte Webseite mit expliziten Vorlagen ausgeliefert wird.
Auf dieser verdeckten Seite konnten Nutzer Fotos hochladen und reale Personen in sexuelle oder gewalttätige Szenen einfügen lassen — gängige Tools dafür werden oft als „nudify“ bezeichnet, weil sie Personen auf Bildern nackt erscheinen lassen.
Bezahlt wurde über:
- In‑App‑Währungen wie sogenannte „Diamonds“
- direkt per Apple/Google Pay
Wer das aufgedeckt hat — und wie groß das Netzwerk ist
Sicherheits‑ und Werbeforschende verfolgten Tausende Anzeigen auf Facebook und Instagram und stießen so auf das System. Paul Bouchaud von AI Forensics bezeichnete die Struktur als „organisierte, kommerzielle Operation“. Wired dokumentierte fast 500 zugehörige Domains; zeitweise kamen pro Woche rund 30 neue Webseiten hinzu.
- Im September waren noch 27 der Apps im Google Play Store verfügbar; zusammen hatten diese mehr als 350.000 Downloads.
- Einige Apps waren sogar als altersgeeignet eingestuft.
- Eine App namens DiffAI erreichte über 100.000 Downloads, bevor sie entfernt wurde.
- Die Spur führte zu chinesischsprachigen Entwicklern und zu einer Firma in Hongkong namens KeLing Technology Limited, die auf Anfragen nicht reagierte.
Reaktionen der Plattformbetreiber
- Apple entfernte auf Anfrage von Wired 19 Apps, darunter Viefur. Apple erklärte, die Apps hätten bei der Prüfung die Regeln erfüllt; offenbar tauschten Entwickler nachträglich Inhalte aus, die die Apps nachladen.
- Google hatte bereits viele der betroffenen Apps entfernt und äußerte sich nicht weiter.
- Meta sperrte 2025 das Werbekonto von KeLing, ging gegen rund 11.600 Werbekonten vor und blockierte 209 Apps vom Schalten von Werbung — trotzdem tauchten während der Recherchen weiterhin ähnliche Anzeigen und Apps auf.
Warum das relevant ist
In Store‑Beschreibungen oder Altersfreigaben gab es oft keinen Hinweis darauf, dass die App für bestimmte Nutzer eine ganz andere Funktion bereitstellt. Das macht eine Lücke im Prüfverfahren sichtbar: Zulassungen greifen meist nur zum Zeitpunkt der Kontrolle. Wenn Entwickler später versteckte Funktionen nachladen, bleibt das leicht unentdeckt.
Vor diesem Hintergrund werden Regulierungen für KI‑Produkte, die auch Kinder erreichen könnten, bereits verschärft geprüft — zuletzt etwa in Australien.
Quellen
- Quelle: KeLing Technology Limited
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
