Meta alarmiert Eltern, wenn Meta AI Hinweise auf Selbstverletzung oder Suizid bei Teenagern erkennt: erst KI-Check, dann menschliche Prüfung; Benachrichtigung nur mit aktiver Elternaufsicht.
In Kürze
- Meta AI erkennt mögliche Selbstverletzungs- oder Suizidäußerungen
- Meta-Mitarbeiter:innen prüfen Verdachtsfälle vor Alarm
- Eltern nur benachrichtigt bei eigenem Meta-Konto & aktiver Elternaufsicht
Meta will Eltern alarmieren, wenn ihre Teenager in Chats mit Meta AI über Selbstverletzung oder Suizid sprechen. Die KI soll zunächst das Gespräch bewerten; bei Verdacht schauen dann Meta-Mitarbeiter:innen in die Konversation. Können sie den Verdacht nicht ausräumen, informiert Meta die Eltern — allerdings nur, wenn diese selbst ein Meta-Konto besitzen und die Funktion „Elternaufsicht” aktiviert haben.
Verfügbarkeit und Vorgeschichte
Die Elternalarme sind derzeit in Australien, Kanada, den USA und Großbritannien aktiv; Meta plant, den Rest der Welt bis zum Jahresende einzubeziehen. Bereits im April hatte das Unternehmen damit begonnen, Eltern Einblick in die KI-Chats ihrer Kinder zu geben.
Notrufkontakt durch die KI
Meta arbeitet außerdem daran, dass der Chatbot eigenständig Blaulichtorganisationen — also Rettungsdienste oder Notrufzentralen — verständigt, wenn er ein unmittelbares Suizidrisiko erkennt. Diese Funktion soll altersunabhängig greifen. Für ähnliche Meldungen auf Facebook und Instagram gibt Meta an, dass das System 2025 weltweit zu mehr als 19.000 Notrufen geführt habe; nähere Details nennt das Unternehmen nicht.
Striktere Inhaltsfilter für Jugendliche
In der Elternaufsicht gibt es bereits Optionen für den Umgang mit „sensiblen Inhalten”: etwa eine weniger strikte Einstellung „Weniger” oder ein strikt eingeschränktes Profil namens „Eingeschränkt” (Limited Content). Meta nennt nicht alle gesperrten Inhalte genau, erklärt aber, dass der Filter unter anderem anatomische, psychische und andere Gesundheitsinformationen, Themen zu sexueller Orientierung und Geschlechtsidentität, Fitness-Inhalte, Stunts/Challenges, Schimpfworte und teilweise humoristische Beiträge ausblendet. Die Einstellung „Eingeschränkt” deaktiviert außerdem die Kommentarfunktion — betroffene Nutzer:innen können keine Kommentare sehen, empfangen oder schreiben. Meta will diese Filter, wo zutreffend, auch auf Meta AI anwenden; Eltern können die Regeln für Teenager strenger setzen.
Wo du Hilfe findest (Deutschland/Österreich/Schweiz)
- Deutschland: TelefonSeelsorge — online unter telefonseelsorge.de und telefonisch 0800 1110111. Kinder- und Jugendtelefon (Nummer gegen Kummer): 116 111.
- Österreich: Kindernotruf 0800 567 567; Rat auf Draht 147.
- Schweiz: Die Nummer 147 führt zu Pro Juventute.
Die Angaben stammen aus Metas Mitteilungen; es wurden keine zusätzlichen Bewertungen oder Interpretationen hinzugefügt.
Quellen
- Quelle: Meta Platforms
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
