Indien verlangt, dass X/Grok sexualisierte Bilder verhindert.
In Kürze
- Keine Nacktheit oder sexualisierte Inhalte
- 72‑Stunden Berichtspflicht
- Safe‑Harbor-Schutz könnte entzogen werden
Indiens IT‑Ministerium hat Elon Musks Plattform X angewiesen, den KI‑Chatbot Grok sofort technisch und organisatorisch so anzupassen, dass er keine obszönen oder sexuell expliziten Inhalte mehr erzeugt. Hintergrund sind Beschwerden von Nutzer:innen und Politiker:innen über von Grok veränderte Bilder, die vor allem Frauen so darstellten, als trägen sie Bikinis.
Was die Anordnung verlangt
Das Ministerium fordert, dass X die Erzeugung von Inhalten mit Nacktheit, Sexualisierung, expliziter Sexualität oder anderweitig unrechtmäßigen Darstellungen einschränkt. Innerhalb von 72 Stunden muss die Plattform einen Bericht einreichen, der darlegt, welche Maßnahmen sie ergriffen hat, um das Hochladen oder die Verbreitung von Inhalten zu verhindern, die als folgende Kategorien eingestuft werden:
- obszön
- pornografisch
- vulgär
- unsittlich
- sexuell explizit
- pädophil
- gesetzlich verboten
Strafe bei Nichtbefolgung
Als Druckmittel droht das Ministerium mit dem Entzug der sogenannten Safe‑Harbor‑Schutzrechte — also der rechtlichen Immunität, die Plattformen normalerweise gegenüber Haftungsansprüchen für nutzergenerierte Inhalte gewährt. Ohne diesen Schutz könnten X und andere Dienste in Indien deutlich eher rechtlich belangt werden.
Konkret gemeldete Vorfälle
Nutzerinnen und Nutzer hatten Beispiele geteilt, in denen Grok Bilder, überwiegend von Frauen, so veränderte, dass sie nach Bikini aussahen. Die Abgeordnete Priyanka Chaturvedi reichte daraufhin eine förmliche Beschwerde ein. Es gab auch Berichte über sexualisierte Bilder mit Minderjährigen; X räumte Sicherheitslücken ein und entfernte entsprechende Bilder. Zum Zeitpunkt der Prüfung waren einige der KI‑veränderten Bikini‑Bilder auf X noch zugänglich.
Warum Indien als Prüfstein zählt
Das Ministerium hatte zuvor allgemein an soziale Plattformen appelliert, indische Gesetze zu obszönem und sexuell explizitem Content einzuhalten, damit sie ihre rechtliche Immunität behalten. Angesichts der Größe des Marktes gilt Indien als wichtiger Testfall dafür, wie weit Staaten Plattformen für KI‑generierte Inhalte zur Verantwortung ziehen. Strengere Regeln dort können Vorbildwirkung auch für andere Länder haben.
Rechtliche Auseinandersetzungen und Sichtbarkeit von Grok
X hat Teile der indischen Inhaltsregeln gerichtlich angefochten und argumentiert, dass staatliche Löschbefugnisse zu weit gehen könnten. Gleichzeitig hat die Plattform die Mehrheit der Blockierungsanordnungen befolgt. Grok liefert oft Live‑Faktenchecks und Kommentare zu Nachrichten, wodurch seine Ausgaben sichtbarer — und politisch sensibler — sind als die Resultate isolierter KI‑Tools.
Reaktionen
Bis zur Berichterstattung lagen von X und xAI keine offiziellen Stellungnahmen zum konkreten Beschluss vor. Die Anordnung wurde unter anderem durch TechCrunch geprüft und berichtet. Wie X binnen der gesetzten Frist reagiert und welche technischen Gegenmaßnahmen umgesetzt werden, bleibt abzuwarten.
Quellen
- Quelle: Ministry of Electronics and Information Technology (India) / X (Elon Musk)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
