OpenAI sieht sich schweren Vorwürfen gegenüber, die die Sicherheit von ChatGPT betreffen.
In Kürze
- Vorwürfe über psychische Schäden durch ChatGPT
- Einführung des ‚Teen Safety Blueprint‘
- Notfallfunktion zur Krisenbewältigung
Vorwürfe gegen OpenAI und ChatGPT
OpenAI sieht sich derzeit mit ernsthaften Vorwürfen konfrontiert, die das Unternehmen in ein kritisches Licht rücken. In mehreren Klagen aus den USA wird behauptet, dass der KI-gestützte Chatbot ChatGPT Nutzer psychisch geschädigt und sogar in den Suizid getrieben habe. Besonders tragisch ist der Fall eines 23-jährigen Mannes aus Texas, dessen Familie angibt, der Chatbot habe ihn aktiv zum Suizid ermutigt.
Maßnahmen von OpenAI: Der „Teen Safety Blueprint“
Um diesen schweren Vorwürfen entgegenzuwirken, hat OpenAI den „Teen Safety Blueprint“ ins Leben gerufen. Dieses Maßnahmenpaket zielt darauf ab, die Nutzung ihrer KI-Tools für Jugendliche sicherer zu gestalten.
Einführung einer Altersüberprüfung
Ein zentraler Bestandteil dieses Plans ist die Einführung einer Altersüberprüfung, die sicherstellen soll, dass Nutzer mindestens 13 Jahre alt sind. Für jüngere Nutzer unter 18 Jahren sollen zudem strengere Inhaltsfilter aktiv sein, um unangemessene Inhalte zu vermeiden. Darüber hinaus wird Eltern mehr Kontrolle über die Nutzung der Tools durch ihre Kinder eingeräumt.
Notfallfunktion
Ein weiteres wichtiges Element des „Teen Safety Blueprint“ ist die Notfallfunktion. Künftig wird ChatGPT in der Lage sein, potenzielle Krisensituationen zu erkennen und in solchen Fällen Notfall-Hilfsangebote anzuzeigen, anstatt auf die Eingaben der Nutzer einzugehen. In den USA wird beispielsweise die Notrufnummer 988 hervorgehoben, um in kritischen Momenten schnelle Hilfe anzubieten.
Verantwortungsübernahme durch OpenAI
Diese Änderungen verdeutlichen, dass OpenAI bestrebt ist, Verantwortung für die möglichen negativen Auswirkungen ihrer Technologie zu übernehmen und die Sicherheit ihrer Nutzer zu erhöhen.
Quellen
- Quelle: OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
