Acht US‑Bundesstaaten werfen OpenAI vor, bei ChatGPT Sicherheitsrisiken für Nutzer, auch Minderjährige, nicht ausreichend beachtet zu haben.
In Kürze
- Acht Klagen aus Iowa, Kansas, Nebraska u.a. gegen OpenAI
- Vorwürfe: Gefahr für verletzliche Nutzer, falsche Ratschläge, Datensammlung von Minderjährigen
- OpenAI wehrt sich und nennt altersgerechte Schutzmaßnahmen; Staaten fordern Unterlassung und Datenlöschung
Acht US‑Bundesstaaten haben Klage gegen OpenAI eingereicht – sie werfen dem Unternehmen vor, bei der Entwicklung von ChatGPT Profit über Sicherheit gestellt und Nutzer, darunter Kinder, gefährdet zu haben.
Die Klagen stammen aus folgenden Staaten:
- Iowa
- Kansas
- Nebraska
- West Virginia
- Arkansas
- Arizona
- Idaho
- Montana
Worum es den Klägern geht
Die Staaten argumentieren, OpenAI habe gegen Verbraucherschutzgesetze verstoßen, weil das Unternehmen die möglichen Gefahren von ChatGPT nicht ausreichend kommuniziert habe. In den Beschwerden werden mehrere Beispiele genannt: Angehörige von Jugendlichen und Erwachsenen behaupten, der Chatbot habe Mitschuld an Todesfällen; dabei handelt es sich um Vorwürfe, keine bestätigten Fakten.
Weitere Anschuldigungen in den Klagen
Weitere Anschuldigungen in den Klagen umfassen, dass ChatGPT besonders verletzliche Nutzer schade, indem es etwa:
- kritisches Denken untergrabe,
- Paranoia und Wahnvorstellungen fördere,
- gefährliche medizinische Ratschläge gebe,
- ungesunde Verhaltensweisen und Beziehungen begünstige.
Außerdem wird OpenAI vorgeworfen, Daten von Minderjährigen gesammelt zu haben und nicht genügend unternommen zu haben, um deren Nutzung des Systems zu verhindern.
Als Belege für angebliche Rücksichtslosigkeit verweisen die Klagen auch auf Fälle, in denen KI‑Systeme missbräuchlich verwendet oder gehackt wurden — Vorfälle, die laut den Staaten zeigen sollen, dass OpenAI Schutzvorkehrungen vernachlässige.
Ein Wort aus Arizona
Arizonas Klage enthält die Formulierung, OpenAI sei von einer ursprünglich sicherheitsorientierten Mission zu einem profitorientierten Unternehmen geworden, das wichtige Schutzmaßnahmen vernachlässige.
Die Reaktion von OpenAI
OpenAI weist die Vorwürfe zurück. In einer aktualisierten Stellungnahme (Stand 14. Oktober) schreibt das Unternehmen, man habe „branchenführende alters‑spezifische Schutzmaßnahmen“ implementiert. Als Beispiele nennt OpenAI:
- Elternkontrollen,
- Erinnerungen an Pausen,
- altersgerechte Modelle.
Man wolle weiterhin mit Expert:innen und Behörden zusammenarbeiten und zusätzliche Schutzmaßnahmen entwickeln.
Was die Staaten verlangen
Die Kläger fordern:
- gerichtliche Sanktionen in zivilrechtlicher Form,
- eine Unterlassung, damit OpenAI nicht weiter fälschlich über die Sicherheit von ChatGPT informiert,
- und in einzelnen Fällen die Löschung angeblich unrechtmäßig gesammelter personenbezogener Daten.
Quellen
- Quelle: OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
