Meta informiert Eltern, wenn Jugendliche in Meta AI‑Chats oft über Selbstverletzung oder Suizid sprechen — aber nur mit aktivierter Elternaufsicht und Meta‑Konto.
In Kürze
- Mehrstufiges System prüft Chats und kann Mitarbeiter‑Review auslösen
- Bei Verdacht Benachrichtigung an Eltern und Gesprächstipps; Fehlalarme sind möglich
- Direkte Notruf‑Alarme geplant; Rollout aktuell in vier Ländern
Meta will Eltern informieren, wenn Jugendliche in Chats mit dem Instagram‑Chatbot Meta AI häufig über Selbstverletzung oder Suizid sprechen — aber nur, wenn die Eltern selbst ein Meta‑Konto haben und die Funktion „Elternaufsicht“ aktiviert ist.
Wie das System funktionieren soll
Der Ablauf ist mehrstufig:
- Zuerst bewertet der Chatbot, ob eine reale Gefahr vorliegen könnte.
- Bei einem Verdacht schauen Meta‑Mitarbeiter die Unterhaltung an; können sie den Verdacht nicht ausschließen, wird den Eltern eine Benachrichtigung geschickt.
Meta betont, die Kriterien für diese Einschätzung gemeinsam mit Expert:innen entwickelt zu haben.
Auch nicht eindeutig gefährliche Gespräche können alarmiert werden: Meta nimmt offenbar Fehlalarme in Kauf, um lieber einmal zu viel als zu wenig zu melden. In Alarmfällen will Meta Eltern zusätzlich Gesprächstipps anbieten, wie sie mit ihrem Kind reden können.
Notfall‑Alarme an Rettungsdienste
Parallel arbeitet Meta daran, dass der Chatbot im Falle eines unmittelbaren Suizid‑Notfalls direkt Rettungsdienste (sogenannte Blaulichtorganisationen) informiert. Diese Funktion wäre dem Plan nach altersunabhängig. Laut Meta haben vergleichbare Mechanismen für Facebook‑ und Instagram‑Beiträge bis 2025 weltweit mehr als 19.000 Notrufe ausgelöst; genauere Details nennt das Unternehmen nicht.
Verfügbarkeit und Rollout
Die Elternalarme sind zunächst in folgenden Ländern verfügbar:
- Australien
- Kanada
- den USA
- dem Vereinigten Königreich
Meta plant, den Rest der Welt bis Jahresende anzubinden. Bereits im April begann das Unternehmen damit, Eltern Einsicht in die KI‑Chats ihrer Kinder zu gewähren — diese Neuerung ist Teil des größeren Angebots an Kontroll‑ und Schutzfunktionen.
Mehr Kontrolle — und mehr Zensur?
In der „Elternaufsicht“ können Eltern zwischen den Stufen „Weniger“ und „Eingeschränkt“ (Limited Content) wählen; „Eingeschränkt“ greift deutlich strenger, Details nennt Meta nicht vollständig.
Bekannt ist, dass der Filter unter anderem folgende Inhalte einschränkt:
- Anatomie
- psychische Gesundheit
- sexuelle Orientierung und Geschlechtsidentität
- Fitness
- Stunts/Challenges
- Schimpfworte
- teils humoristische Inhalte
Bei aktivierter Einstellung „Eingeschränkt“ werden zudem Kommentarfunktionen auf Instagram und Facebook abgeschaltet: Betroffene können keine Kommentare mehr sehen, bekommen keine und können selbst keine posten. Meta kündigt an, diese Filter — soweit relevant — künftig auch auf Meta AI anzuwenden; Eltern sollen außerdem strengere Regeln für Gespräche ihrer Teenager mit der KI festlegen können.
Hilfsangebote (Hinweis)
- Deutschland: Telefonseelsorge 0800 1110111; Kinder‑ und Jugendtelefon (Nummer gegen Kummer) 116 111.
- Österreich: Kindernotruf 0800 567 567; Rat auf Draht 147.
- Schweiz: Pro Juventute 147.
Quellen
- Quelle: Meta Platforms
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
