OpenAI rollt in der EU eine automatische Alterserkennung für ChatGPT aus, die wahrscheinliche Minderjährige identifiziert und zusätzliche Schutzvorkehrungen aktiviert.
In Kürze
- System schätzt Alter aus Nutzungsdaten und angegebenem Alter
- Gewalt-, sexualisierte und selbstverletzende Inhalte werden für Minderjährige gesperrt
- Fehlklassifikationen per Selfie verifizierbar; Elternkontrollen und Ruhezeiten verfügbar
OpenAI führt in ChatGPT eine automatische Alterserkennung ein, die wahrscheinliche Minderjährige identifizieren und so zusätzliche Schutzregeln aktivieren soll. Der Dienst rollt die Funktion in den kommenden Wochen in der EU aus.
So funktioniert die Erkennung
Das System analysiert Verhaltensmuster wie Nutzungszeiten, wie lange ein Konto besteht und das vom Nutzer angegebene Alter. Auf Basis dieser Daten schätzt ChatGPT, ob es sich wahrscheinlich um eine Person unter 18 handelt. OpenAI betont, dass die Erkennung auf Mustern beruht, nicht auf einem Ausweisabgleich.
Was sich für Konten unter 18 ändert
Wird ein Konto als minderjährig eingestuft, greift eine Reihe zusätzlicher Schutzregeln. Sie sperren unter anderem:
- grafische Gewaltdarstellungen,
- sexuelle Rollenspiele,
- Inhalte zu Selbstverletzung,
- Inhalte, die extreme Schönheitsideale befördern.
Hintergrund der Maßnahme
OpenAI hatte angekündigt, bestimmte Inhalte künftig Erwachsenen zugänglich zu machen. Die automatische Alterserkennung ist ein Schritt, um solche Freigaben sicherer umzusetzen. Außerdem verweist OpenAI auf Fälle, in denen Jugendliche gefährlich abhängig von Chatbots geworden sind — teils mit tödlichen Folgen.
Falsch eingestufte Erwachsene
Wer fälschlich als minderjährig eingeordnet wird, kann sein Alter per Selfie bestätigen. Dafür nutzt OpenAI den Verifizierungsdienst Persona, der Altersbestätigungen ermöglicht.
Elternfunktionen
Für Erziehungsberechtigte gibt es zusätzliche Kontrollmöglichkeiten: etwa Ruhezeiten und Benachrichtigungen, wenn Hinweise auf akute Belastung bei der oder dem Minderjährigen erkannt werden.
Regionaler Start und weitere Details
Die Neuerung wird in den kommenden Wochen in der EU eingeführt, um regionale Vorgaben zu berücksichtigen. Genauere Informationen hat OpenAI auf seiner Hilfeseite veröffentlicht.
Quellen
- Quelle: OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
