OpenAI verbessert ChatGPT-Sicherheit für Jugendliche

03.09.2025 | Allgemein, KI

OpenAI verbessert ChatGPT-Sicherheit für Jugendliche

OpenAI hat neue Sicherheitsfunktionen für ChatGPT eingeführt, um den Dienst für Jugendliche sicherer zu gestalten.

In Kürze

  • Erkennung von akutem Stressverhalten in Gesprächen
  • Eltern erhalten mehr Kontrolle über die Nutzung durch ihre Kinder
  • Über 90 Fachleute arbeiten an Sicherheitsvorkehrungen

Neue Sicherheitsfunktionen von OpenAI für ChatGPT

OpenAI hat kürzlich neue Sicherheitsfunktionen für ChatGPT eingeführt, die speziell darauf abzielen, den Dienst für Jugendliche sicherer zu gestalten und in psychischen Krisensituationen effektiver zu unterstützen.

Erkennung von akutem Stressverhalten

Ein zentrales Element dieser Neuerungen ist die Erkennung von akutem Stressverhalten. Wenn solche Anzeichen in einer Unterhaltung festgestellt werden, wird die Konversation automatisch an sogenannte „Reasoning Models“ weitergeleitet. Diese Modelle sind darauf spezialisiert, sensible Gespräche sorgfältig zu analysieren und angemessen zu reagieren.

Schutz von Jugendlichen

Ein weiterer wichtiger Aspekt dieser Sicherheitsmaßnahmen ist der Schutz von Jugendlichen. OpenAI gibt Eltern künftig mehr Kontrolle über die Nutzung der App durch ihre Kinder. Dazu gehört die Möglichkeit, Konten miteinander zu verknüpfen und festzulegen, welche Funktionen verfügbar sind. Zudem erhalten Eltern Benachrichtigungen, wenn in der App auffälliges Verhalten ihrer Kinder festgestellt wird.

Reaktion auf tragische Vorfälle

Diese neuen Funktionen sind eine direkte Reaktion auf tragische Vorfälle, bei denen ChatGPT in Verbindung mit Suiziden genannt wurde. OpenAI möchte mit diesen Maßnahmen sicherstellen, dass der Dienst besser auf solche kritischen Situationen reagieren kann. Über 90 medizinische Fachleute aus 30 Ländern arbeiten an der Entwicklung dieser Sicherheitsvorkehrungen, um die Nutzererfahrung zu verbessern und gleichzeitig das Risiko für gefährdete Personen zu minimieren.

Quellen

  • Quelle: OpenAI
  • Der ursprüngliche Artikel wurde hier veröffentlicht
  • Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.

💡Über das Projekt KI News Daily

Dieser Artikel wurde vollständig mit KI generiert und ist Teil des Projektes KI News Daily der Pickert GmbH.

Wir arbeiten an der ständigen Verbesserung der Mechanismen, können aber leider Fehler und Irrtümer nicht ausschließen. Sollte dir etwas auffallen, wende dich bitte umgehend an unseren Support und feedback[at]pickert.io

Vielen Dank! 🙏

Das könnte dich auch interessieren…

Google Quantum AI: Neuer Chip revolutioniert Molekülanalyse

Google Quantum AI: Neuer Chip revolutioniert Molekülanalyse

Okt. 25, 2025 | ,

Google Quantum AI hat mit dem Willow-Chip einen Durchbruch im Quantencomputing erzielt, der die Forschung revolutionieren könnte.In KürzeWillow-Chip analysiert Molekülstrukturen 13.000-mal schneller als klassische SupercomputerErgebnisse wissenschaftlich verifiziert...