Grok auf den Philippinen wieder freigeschaltet – xAI verspricht Schutz vor sexualisierten Deepfakes

Grok ist auf den Philippinen wieder freigeschaltet, nachdem xAI zugesichert hat, sexualisierte Deepfakes zu verhindern.

In Kürze

• Sperre aufgehoben nach xAI-Zusage
• xAI schränkte Bildfunktionen ein und kündigte Änderungen an
• Indonesien und Malaysia weiter blockiert; EU prüft Maßnahmen

Grok ist auf den Philippinen wieder erreichbar — nachdem der Betreiber xAI zugesichert hat, sexualisierte Deepfakes zu verhindern.

Die philippinische Cybercrime-Behörde hob eine rund eine Woche zuvor verhängte Sperre auf, weil xAI angeblich darlegen konnte, dass der Dienst entsprechend angepasst werden kann. Bloomberg berichtete über die Entscheidung.

Worum es ging:

Nutzer:innen hatten mit dem KI-Chatbot manipulierte Bilder erzeugt, die reale Personen — in einigen Fällen auch Minderjährige — in sexualisierten Darstellungen zeigten. Solche Deepfakes hatten in mehreren Ländern Alarm ausgelöst und zu Blockaden geführt.

Was xAI gemacht hat:

1. Zunächst schränkte das Unternehmen die Bildgenerierung ein, indem die Funktion nur noch in direkten Chats oder gegen Bezahlung verfügbar war.
2. Kritiker:innen werteten das als Versuch der Monetarisierung.
3. Später kündigte xAI an, diese Form der Bildgenerierung komplett einzustellen.
4. Auf den Philippinen erklärte xAI laut Behörden, dass das System so verändert werden könne, dass sexualisierte Deepfakes unterbunden werden; daraufhin wurde die Sperre aufgehoben — unter der Bedingung, das entsprechende Werkzeug zu ändern.

Regionale Lage:

Die Philippinen waren vergangene Woche das dritte südostasiatische Land, das Grok sperrte. Zuvor hatten Indonesien und Malaysia den Dienst blockiert; dort bestehen die Sperren bislang weiter.

Europa prüft nach:

Auch die EU-Kommission beschäftigt sich mit dem Fall. Medienberichten zufolge könnte Grok in Europa gesperrt werden, falls die Generierung unerlaubter sexualisierter Bilder nicht zuverlässig verhindert werden kann.

Aktueller Stand:

• Zugang auf den Philippinen wieder freigegeben
• Indonesien und Malaysia weiterhin gesperrt
• Auf europäischer Ebene laufen Prüfungen und mögliche Maßnahmen

Quellen

• Quelle: xAI / Grok
• Der ursprüngliche Artikel wurde hier veröffentlicht
• Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.