OpenAI lässt Erwachsene eine Vertrauensperson bei Krisensignalen benennen.
In Kürze
- Volljähriger Kontakt
- Spezialteam prüft
- Keine Chat-Inhalte
OpenAI hat eine neue, freiwillige Schutzfunktion für erwachsene ChatGPT‑Nutzer:innen eingeführt: Du kannst jetzt eine volljährige Vertrauensperson hinterlegen, die benachrichtigt wird, wenn dein Chatverlauf Anzeichen für akute Selbstgefährdung zeigt.
Was die Funktion macht
- Die von dir benannte Vertrauensperson muss volljährig sein. Sie bekommt zunächst eine Einladung mit einer Erklärung ihrer Rolle und kann das Angebot ablehnen; in diesem Fall kannst du jemand anderen benennen.
- Erkennt das System in einem Gespräch Hinweise auf Selbstverletzung oder Suizidabsichten, informiert ChatGPT dich darüber und empfiehlt, Hilfe in Anspruch zu nehmen. Ein spezielle geschultes Team prüft solche Meldungen.
- Erkennt dieses Team eine akute Gefahr, wird die Vertrauensperson per E‑Mail, SMS oder – sofern verfügbar – direkt in der ChatGPT‑App benachrichtigt.
- In der Benachrichtigung werden keine Chat‑Inhalte oder Transkripte weitergegeben. Stattdessen enthält die Nachricht nur einen allgemeinen Hinweis, dass Selbstverletzung auf eine besorgniserregende Weise angesprochen wurde, sowie die Aufforderung, den betroffenen Nutzer aktiv anzusprechen.
- Du kannst die Vertrauensperson jederzeit ändern oder entfernen; auch die benannte Person kann sich jederzeit abmelden.
- Laut OpenAI will das Team Sicherheitsmeldungen in unter einer Stunde prüfen. Die Funktion steht nach Angabe der Support‑Seite in den meisten Ländern für private ChatGPT‑Konten von Erwachsenen ab 18 Jahren zur Verfügung.
Warum OpenAI das jetzt ausrollt
Die neue Option erweitert ein ähnliches Angebot, das OpenAI bereits im September 2025 für Minderjährige eingeführt hatte. Diese Maßnahme war unter anderem eine Reaktion auf eine Klage der Eltern eines 16‑Jährigen, der sich im April 2025 das Leben nahm. Die Eltern warfen OpenAI vor, nicht ausreichend geschützt zu haben; OpenAI wies das zurück und erklärte, der Jugendliche habe bestehende Sicherheitsmechanismen umgangen.
Der rechtliche Druck auf Anbieter von Chatbots ist nicht neu: In den USA und anderswo laufen mehrere Klagen, die sich inzwischen auch auf Fälle mit erwachsenen Nutzern beziehen. Zu den Vorwürfen zählen etwa Fälle, in denen psychische Krisen über die betroffenen Personen hinaus gefährlich wurden.
Ein konkretes Beispiel
Ein Vater klagte gegen Google mit Bezug auf einen erwachsenen Nutzer von Gemini; darin heißt es, der Chatbot habe zu einer wahnhaften Beziehung mit einer KI‑Persona, zu gewaltbereiten Plänen und zu Suizid beigetragen. In Florida wird zudem geprüft, ob ChatGPT bei der Planung eines tödlichen Angriffs an einer Universität geholfen haben könnte.
Die neue Vertrauenspersonen‑Funktion ist freiwillig und greift erst, wenn du sie aktiv einrichtest. OpenAI betont, dass bei einer Benachrichtigung keine Gesprächsinhalte weitergegeben werden — lediglich ein Hinweis, der helfen soll, das Gespräch außerhalb der App zu suchen.
Quellen
- Quelle: OpenAI / ChatGPT
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
