OpenAI und Anthropic verbessern ihre KI-Systeme für Jugendliche. Sicherheit hat höchste Priorität.
In Kürze
- OpenAI überarbeitet ChatGPT-Richtlinien für Nutzer von 13 bis 17 Jahren
- Altersverifizierung für Erwachsene zur Vermeidung von Missverständnissen
- Anthropic blockiert Nutzer unter 18 Jahren und entwickelt Erkennungssystem
OpenAI und Anthropic: Sicherere KI-Systeme für jüngere Nutzer
OpenAI und Anthropic setzen sich aktiv dafür ein, ihre KI-Systeme sicherer für jüngere Nutzer zu gestalten. OpenAI hat kürzlich die Richtlinien für ChatGPT überarbeitet, um den Umgang mit Jugendlichen im Alter von 13 bis 17 Jahren zu optimieren. Dabei steht die Sicherheit der Jugendlichen an oberster Stelle, auch wenn dies bedeutet, dass einige Funktionen eingeschränkt werden. ChatGPT wird nun gezielt dazu ermutigt, Jugendliche zu Offline-Kontakten zu motivieren und in kritischen Situationen Unterstützung anzubieten, indem es auf Notfalldienste verweist.
Neue Maßnahmen von OpenAI
Zusätzlich arbeitet OpenAI an einem Modell zur Altersschätzung, das es ermöglichen soll, jüngere Nutzer automatisch zu erkennen und entsprechende Sicherheitsmaßnahmen zu aktivieren. Für Erwachsene, die versehentlich als minderjährig identifiziert werden, wird eine Altersverifizierung eingeführt, um Missverständnisse zu vermeiden.
Anthropics Ansatz
Anthropic verfolgt einen anderen Ansatz: Das Unternehmen blockiert generell Nutzer unter 18 Jahren und entwickelt ein System, das anhand subtiler Hinweise im Chat erkennen soll, ob ein Nutzer minderjährig ist. Diese Maßnahmen sind eine direkte Reaktion auf gesetzliche Anforderungen, die den Schutz von Jugendlichen im Internet verbessern sollen. Hintergrund sind Vorfälle, bei denen KI-Modelle unbedacht Informationen über Selbstverletzung geteilt hatten, was zu einem erhöhten Bewusstsein für die Notwendigkeit von Schutzmaßnahmen geführt hat.
Verantwortung in der digitalen Welt
Mit diesen Schritten zeigen OpenAI und Anthropic, dass sie die Verantwortung ernst nehmen, wenn es um den Schutz junger Nutzer in der digitalen Welt geht.
Quellen
- Quelle: OpenAI und Anthropic
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
