Meta informiert Eltern, wenn Teenager in Gesprächen mit Meta AI wiederholt über Suizid oder Selbstverletzung sprechen.
In Kürze
- Alarm nur bei aktiviertem Meta‑Konto und eingeschalteter Elternaufsicht
- KI markiert Verdachtsfälle, Meta‑Mitarbeiter prüfen und informieren Eltern auch bei Unklarheit
- Derzeit in AU/CA/US/UK; weltweiter Rollout und direkte Notruf‑Alarme geplant
Meta will Eltern alarmieren, wenn Teenager im Gespräch mit dem Chatbot Meta AI häufig über Suizid oder Selbstverletzung reden — aber nur unter klaren Voraussetzungen: Die Eltern müssen selbst ein Meta‑Konto haben und die Option „Elternaufsicht“ aktiviert haben.
Wie das funktioniert
Meta AI soll zunächst automatisch einschätzen, ob in einer Unterhaltung akute Selbstgefährdung vorliegen könnte. Kommt der Algorithmus zu einem Ergebnis, prüfen Meta‑Mitarbeiter die Konversationen. Können sie einen Verdacht nicht ausräumen, wird eine Alarmmeldung an die Eltern verschickt. Meta betont, dass die Hinweise für diese Einschätzungen gemeinsam mit Expert:innen entwickelt wurden. Auch bei unklaren Fällen informiert das Unternehmen die Eltern — Fehlalarme werden also bewusst in Kauf genommen. Zusätzlich bekommen Eltern bei einer Alarmmeldung praktische Hinweise und Gesprächsleitfäden, wie sie das Thema mit ihrem Kind angehen können.
Verfügbarkeit
Die Elternalarme sind derzeit in Australien, Kanada, den USA und Großbritannien aktiv. Meta plant, den Dienst bis zum Jahresende weltweit auszubauen. Bereits im April begann das Unternehmen damit, Eltern Einsicht in die KI‑Chats ihrer Kinder zu ermöglichen.
Weitere Maßnahmen
Meta arbeitet daran, dass der Chatbot bei erkennbar unmittelbarer Selbstgefährdung direkt Blaulichtorganisationen (also Polizei oder Rettungsdienste) alarmiert. Diese Funktion soll unabhängig vom Alter des Nutzers greifen. Eine ähnliche Meldefunktion für Beiträge auf Facebook und Instagram existiert bereits; Meta berichtet, dass solche Hinweise im Jahr 2025 zu weltweit mehr als 19.000 Notrufen geführt haben (Details nennt das Unternehmen nicht).
Filteroptionen und Inhaltsbeschränkungen für Teenager
In der „Elternaufsicht“ können Eltern strengere Filter für „sensible Inhalte“ wählen — Optionen heißen etwa „Weniger“ oder „Eingeschränkt / Limited Content“. Meta nennt nicht genau, welche Inhalte im Detail blockiert werden. Bekannt ist jedoch, dass strengere Einstellungen unter anderem folgende Inhalte ausblenden können:
- anatomische und psychische Gesundheitsinformationen
- Inhalte zu sexueller Orientierung und Geschlechtsidentität
- Fitness‑Inhalte
- Stunts/Challenges
- Beleidigungen
- teilweise humoristische Beiträge
Die Einstellung „Eingeschränkt“ deaktiviert zudem Kommentare auf Instagram und Facebook. Meta plant, diese Filter auch auf Meta AI anzuwenden, wenn Eltern das wünschen.
Wenn du Hilfe brauchst
Wenn du oder jemand, den du kennst, akut Hilfe braucht, kannst du diese Telefonnummern nutzen:
- Deutschland: Telefonseelsorge 0800 1110111, Kinder‑ und Jugendtelefon „Nummer gegen Kummer“ 116 111
- Österreich: Kindernotruf 0800 567 567, Rat auf Draht 147
- Schweiz: Pro Juventute über 147
Quelle
Quellen
- Quelle: Meta Platforms
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
