Meta will Eltern alarmieren, wenn Teenager in Chats Suizid- oder Selbstverletzungsgefahr zeigen; Menschen prüfen das Risiko, bevor Eltern informiert werden.
In Kürze
- KI erkennt möglichen akuten Risikoverdacht
- Mitarbeitende prüfen Chatverläufe manuell
- Eltern nur bei aktiviertem Meta-Konto und Elternaufsicht informiert
Meta will Eltern alarmieren, wenn Teenager im Chat mit Meta AI über Selbstverletzung oder Suizid sprechen. Der Konzern setzt einen Stufenplan ein: Zuerst beurteilt die KI das Gespräch, dann prüfen Menschen das Risiko — und nur dann sollen Eltern benachrichtigt werden, wenn bestimmte Voraussetzungen erfüllt sind.
Wie das System funktioniert
- Erkennt die KI möglichen akuten Risikoverdacht in einer Unterhaltung, leitet sie den Fall an Meta‑Mitarbeiter weiter. Diese prüfen die Chatverläufe manuell.
- Können die Mitarbeitenden den Verdacht nicht ausschließen, informiert Meta die Eltern — allerdings nur, wenn sie selbst ein Meta‑Konto haben und die Funktion „Elternaufsicht“ aktiviert ist.
- Meta sagt, man wolle lieber warnen als nichts zu tun; dafür nimmt das Unternehmen auch Fehlalarme in Kauf. Eltern, die informiert werden, sollen zugleich Hinweise und Gesprächsstrategien erhalten, wie sie das Thema mit ihrem Kind ansprechen können.
Wo das System aktiv ist — und wann es weiter ausgerollt wird
- Die Eltern‑Alarme sind aktuell in Australien, Kanada, den USA und im Vereinigten Königreich im Einsatz. Meta plant, den Dienst bis Jahresende weltweit anzubieten.
- Schon im April begann Meta damit, Eltern Einsicht in die KI‑Chats ihrer Kinder zu geben — das neue Benachrichtigungssystem baut darauf auf.
Automatische Alarmierung von Notdiensten
- Parallel arbeitet Meta daran, dass der Chatbot bei Erkennung eines unmittelbar bevorstehenden Suizidrisikos automatisch Blaulichtorganisationen alarmiert (Rettung, Polizei). Diese Funktion ist laut Unternehmen altersunabhängig vorgesehen.
- Für Beiträge auf Facebook und Instagram gibt es bereits ähnliche Mechanismen; Meta gibt an, dass solche Maßnahmen 2025 zu mehr als 19.000 Notrufen weltweit geführt hätten.
Mehr Kontrolle durch Eltern
- In der „Elternaufsicht“ können Eltern festlegen, wie streng Inhalte für Teenager gefiltert werden. Optionen heißen etwa „Weniger“ oder „Eingeschränkt“ (englisch „Limited Content“). Meta nennt nicht genau, welche Inhalte bei „Eingeschränkt“ alles blockiert werden, beschreibt aber einige Bereiche.
- Unter anderem werden anatomische Informationen, psychische und andere Gesundheitsinfos, Inhalte zu sexueller Orientierung und Geschlechtsidentität, Fitness‑Inhalte, Stunts/Challenges, Schimpfwörter und teils auch humorvolle Beiträge herausgefiltert. Bei der Einstellung „Eingeschränkt“ sind außerdem Kommentare deaktiviert: Teenager können keine Kommentare sehen oder schreiben.
- Künftig sollen diese Filter, soweit zutreffend, auch die Antworten und Inhalte der Meta AI für Teenager einschränken, wenn Eltern das entsprechend voreinstellen.
Hilfsangebote
- Deutschland: Telefonseelsorge 0800 1110111, Nummer gegen Kummer / Kinder- und Jugendtelefon 116 111.
- Österreich: Kindernotruf 0800 567 567, Rat auf Draht 147.
- Schweiz: Pro Juventute über 147.
Quellen
- Quelle: Meta Platforms
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
