Meta alarmiert Eltern bei Suizid‑Äußerungen von Teens – aber nicht automatisch

Meta will Eltern informieren, wenn Teenager in Meta AI wiederholt über Selbstverletzung oder Suizid sprechen — unter klaren Voraussetzungen.

In Kürze

• Automatischer Check, dann Review durch Meta‑Mitarbeiter:innen
• Benachrichtigung nur bei Meta‑Konto und aktivierter „Elternaufsicht“
• Notruf‑Anbindung geplant; Rollout bisher in vier Ländern

Wenn dein Teenager im Instagram-Chat mit „Meta AI“ wiederholt über Selbstverletzung oder Suizid spricht, will Meta künftig die Eltern alarmieren — allerdings nur unter bestimmten Bedingungen: Die Eltern müssen selbst ein Meta-Konto haben und die Funktion „Elternaufsicht“ aktiv nutzen.

Wie die Alarmkette funktionieren soll

1. Der Ablauf beginnt automatisiert: Der Chatbot prüft zuerst, ob akute Gefahr besteht.
2. Bei Verdacht schauen dann Meta-Mitarbeiter:innen die Unterhaltung an.
3. Können sie ein Risiko nicht ausschließen, informiert Meta die Eltern.

Das Unternehmen betont, die Warnkriterien seien gemeinsam mit Fachleuten entwickelt worden. Laut Meta werden auch Fälle, die nicht eindeutig sind, lieber vorsorglich weitergegeben — Fehlalarme sind demnach einkalkuliert. Bei einer Benachrichtigung sollen Eltern außerdem Hinweise erhalten, wie sie das Gespräch mit ihrem Kind angehen können.

Was du als Elternteil wissen musst

Eltern hatten seit April bereits die Möglichkeit, Einsicht in die KI-Chats ihrer Kinder zu bekommen. Die neue Alarmfunktion ist derzeit in Australien, Kanada, den USA und dem Vereinigten Königreich aktiv; Meta plant, sie bis Jahresende weltweit auszurollen.

Wichtig: Ohne Meta-Konto und ohne aktivierte „Elternaufsicht“ wird keine automatische Benachrichtigung verschickt.

Notruf-Verbindung durch den Chatbot

Meta arbeitet außerdem daran, dass der Chatbot in Fällen mit unmittelbarem Suizidrisiko direkt Rettungsdienste alarmiert — sogenannte „Blaulichtorganisationen“. Diese Option soll unabhängig vom Alter greifen. Nach Angaben von Meta hat eine ähnliche Funktion für Beiträge auf Facebook und Instagram im Jahr 2025 weltweit mehr als 19.000 Notrufe ausgelöst.

Strengere Inhaltsfilter für Jugendliche

Über die „Elternaufsicht“ können Eltern einstellen, wie strikt Inhalte für ihre Kinder gefiltert werden — etwa die Optionen „Weniger“ oder „Eingeschränkt“ (engl. „Limited Content“). „Eingeschränkt“ wirkt sehr weitreichend: Meta nennt Beispiele wie:

• Ausblenden anatomischer und psychischer Gesundheitsinformationen
• Inhalte zu sexueller Orientierung und Geschlechtsidentität
• Fitness-Inhalte
• Stunts oder Challenges
• Schimpfworte
• teilweise sogar Humor

Zudem wird bei „Eingeschränkt“ die Kommentar-Funktion deaktiviert. Diese Filter lassen sich künftig auch auf Interaktionen mit Meta AI anwenden, wenn Eltern das wünschen.

Was das praktisch bedeutet

• Konto anlegen
• „Elternaufsicht“ aktivieren
• entscheiden, wie viel Einsicht und welche Filter du möchtest

Meta verspricht Begleitung für den Moment der Benachrichtigung — welche Form diese Ratschläge genau haben, bleibt jeweils der Mitteilung vorbehalten.

Hilfsangebote (Deutschland/Österreich/Schweiz)

• Deutschland: TelefonSeelsorge 0800 111 0 111; Kinder- und Jugendtelefon (Nummer gegen Kummer) 116 111.
• Österreich: Kindernotruf 0800 567 567; Rat auf Draht 147.
• Schweiz: Pro Juventute über 147.

Quellen

• Quelle: Meta Platforms
• Der ursprüngliche Artikel wurde hier veröffentlicht
• Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.