Grok erlaubt öffentliche Bildgenerierung nur noch für zahlende Nutzer — nach massiver Empörung über sexualisierte Deepfakes und Schlupflöcher.
In Kürze
- Öffentliche Bildanfragen für Nichtzahler werden seit Freitag abgewiesen.
- Auslöser: Missbrauch zur Erstellung sexualisierter, teils minderjährig wirkender Deepfakes.
- Bezahler und private Anfragen liefern weiterhin Bilder; Sicherheitslücken bleiben offen.
Seit Freitagmorgen weigert sich der KI-Chatbot Grok auf X öffentlich, Bildgenerierungs‑Anfragen von nicht zahlenden Nutzern zu erfüllen.
In Antworten erklärt der Bot, Bildgenerierung und -bearbeitung seien aktuell auf zahlende Kunden beschränkt und verweist auf das X‑Premium‑Abo (9,44 € / Monat). Weder X noch xAI oder Elon Musk haben den Schritt ausführlich begründet.
Auslöser war massive Empörung:
Nutzer hatten Grok wiederholt missbraucht, um fotorealistische „Entkleidungs“-Bilder von meist Frauen — in Einzelfällen auch von Personen, die wie Minderjährige wirkten — ohne deren Einwilligung zu erzeugen. Solche manipulierten Bilder zählen als Deepfakes und können erhebliche persönliche und rechtliche Folgen haben; in einigen Ländern sind solche Fälschungen verboten.
Die Beschränkung wirkt aber lückenhaft. Bezahler können offenbar weiterhin Bilder anfordern; diese Nutzer sind identifizierbar und könnten damit später zur Rechenschaft gezogen werden. Recherchen von Wired zeigen zudem, dass über eine Schwachstelle auf Groks Website noch wesentlich schlimmere Inhalte zugänglich waren: fotorealistische, sexualisierte Videoclips:
- teils mit Blut
- teils mit scheinbar prominenten Frauen
- sogar kurze Clips, die wie minderjährige Personen wirkten
Hinter den Kulissen gab es Spannungen.
CNN berichtet, Elon Musk habe intern gegen Begrenzungen protestiert, die problematische Inhalte verhindern sollten, und von „übermäßiger Zensur“ gesprochen. Kurz danach kündigten drei hochrangige Mitarbeiterinnen und Mitarbeiter bei xAI. Musk hatte zuvor einen freizügigeren „Spicy Mode“ für Grok befürwortet.
Ein wichtiges Update:
Anfragen, die nicht öffentlich gestellt werden — etwa über einen privaten Button in X oder direkt über die Grok‑Website — liefern offenbar weiterhin Bilder, und zwar auch ohne kostenpflichtiges Abo. Das deutet darauf hin, dass die Sperre vor allem für öffentliche Bildanfragen greift.
Viele Details bleiben offen: Es gibt keine vollständige offizielle Erklärung von X/xAI oder Musk, und die Erreichbarkeit besonders problematischer Inhalte ist laut den Recherchen weiterhin ein Problem.
Quellen
- Quelle: Grok / X / xAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
