Meta will Eltern informieren, wenn Meta AI in Chats von Jugendlichen auf Selbstverletzung oder Suizid hindeutet — aber nur, wenn die Eltern die Elternaufsicht aktiviert haben.
In Kürze
- Meta AI scannt Teen‑Chats auf Selbstverletzungs‑/Suizid‑Signale
- Mitarbeitende prüfen Verdachtsfälle vor einer Benachrichtigung
- Alarm funktioniert nur mit aktivem Elternkonto; weltweiter Rollout geplant
Meta will Eltern alarmieren, wenn Jugendliche eigene Chat‑Unterhaltungen mit dem hauseigenen Bot Meta AI auffällig oft über Selbstverletzung oder Suizid führen — aber nur, wenn die Eltern selbst aktiv teilnehmen.
Wie das System arbeiten soll
Meta AI scannt die Chatverläufe von Teenagern auf Hinweise zu Selbstverletzung oder Suizid. Bei einem Verdacht wird die Unterhaltung zuerst von Mitarbeitenden bei Meta geprüft. Können diese den Verdacht nicht ausräumen, sollen die Eltern benachrichtigt werden — vorausgesetzt, sie haben ein eigenes Meta‑Konto und nutzen die Funktion „Elternaufsicht“, mit der Eltern Einsicht und Kontrolle über Aktivitäten ihrer Kinder bei Meta erhalten.
Meta gibt an, lieber zu informieren und damit Fehlalarme in Kauf zu nehmen, selbst wenn aus dem Chat kein eindeutiges Risiko erkennbar ist. Die Prüf‑Indikatoren wurden laut Unternehmen gemeinsam mit externen Expert:innen entwickelt.
Ausrollplan und bisherige Schritte
Eltern konnten bereits seit April Einsicht in die KI‑Chats ihrer Kinder erhalten. Die Alarm‑Funktion, die bei Verdacht Eltern benachrichtigt, ist aktuell in Australien, Kanada, den USA und Großbritannien aktiv. Meta plant, den Dienst bis zum Jahresende weltweit zur Verfügung zu stellen.
Weitere Maßnahmen von Meta
Meta arbeitet daran, dass der Chatbot in Fällen mit unmittelbarem Suizidrisiko direkt Notfall‑ und Rettungsdienste (Polizei, Rettungswagen etc.) alarmiert. Diese Option soll unabhängig vom Alter gelten. Für Facebook‑ und Instagram‑Beiträge berichtet Meta, dass eine ähnliche Funktion im Jahr 2025 weltweit zu mehr als 19.000 Notrufen geführt habe; nähere Details nennt das Unternehmen nicht.
Eltern können über die „Elternaufsicht“ außerdem strengere Inhaltsfilter aktivieren. Die Einstellung „Eingeschränkt“ (engl. „Limited Content“) blockiert unter anderem:
- anatomische und psychische Gesundheitsinformationen
- Inhalte zu sexueller Orientierung und Geschlechtsidentität
- Fitness‑Inhalte
- Stunts/Challenges
- Schimpfworte und teils humoristische Beiträge
- außerdem werden Kommentare deaktiviert
Diese Filter lässt Meta nun auch auf Meta AI anwenden, wenn Eltern das wünschen.
Bei akuter Krise: Hilfe vor Ort
Wenn du oder jemand, den du kennst, akut in einer Krise steckt, suche bitte Hilfe. In Deutschland gibt es etwa die TelefonSeelsorge (telefonseelsorge.de, Tel. 0800 1110111) und die Nummer gegen Kummer (Kinder‑ und Jugendtelefon) 116 111. In Österreich: Kindernotruf 0800 567 567 und Rat auf Draht 147. In der Schweiz führt dieselbe Nummer zu Pro Juventute.
Quellen
- Quelle: Meta Platforms
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
