Meta will Eltern benachrichtigen, wenn Jugendliche in Chat‑Gesprächen wiederholt über Selbstverletzung oder Suizid sprechen.
In Kürze
- KI erkennt Warnsignale und schaltet menschliche Prüfer ein
- Eltern werden informiert, wenn sie Konto und „Elternaufsicht“ aktiviert haben
- Funktion in US, UK, Kanada, Australien; automatische Notrufe geplant
Meta will Eltern alarmieren, wenn Jugendliche im Chat mit Meta AI wiederholt über Selbstverletzung oder Suizid sprechen.
Die KI soll zunächst einschätzen, ob von der Unterhaltung akute Gefahr ausgeht. Bei Hinweisen auf ein erhöhtes Risiko erfolgt anschließend eine Prüfung durch Meta‑Mitarbeiterinnen und -Mitarbeiter. Können diese den Verdacht nicht ausschließen, werden die Eltern informiert — vorausgesetzt, sie haben ein Meta‑Konto und die Funktion „Elternaufsicht“ aktiviert.
Wie die Prüfung abläuft
Die KI bewertet wiederholte Gespräche auf Warnsignale. Findet sie Anzeichen für ein mögliches Risiko, schaltet sie menschliche Prüfer ein. Zeigt die Analyse keine eindeutige Gefährdung, zieht Meta es vor, die Eltern lieber zu benachrichtigen und nimmt dafür laut Angaben des Unternehmens auch Fehlalarme in Kauf. Die Kriterien für die Warnmeldungen seien gemeinsam mit Fachleuten entwickelt worden.
Wo das System schon läuft
Die Eltern‑Alarmfunktion ist derzeit in Australien, Kanada, den USA und Großbritannien verfügbar; weitere Länder sollen bis Jahresende folgen. Bereits im April begann Meta damit, Eltern Einblick in die KI‑Chats ihrer Kinder zu gewähren.
Automatische Notrufe durch die KI
Meta arbeitet zudem an einer Funktion, bei der die KI bei unmittelbarem Suizid‑Risiko automatisch Rettungsdienste (sogenannte Blaulichtorganisationen) alarmiert. Diese Option wäre altersunabhängig. Nach Angaben von Meta haben vergleichbare Mechanismen für Beiträge auf Facebook und Instagram im Jahr 2025 weltweit zu mehr als 19.000 Notrufen geführt.
Striktere Inhaltsfilter für Jugendliche
Über die „Elternaufsicht“ können Eltern eine strengere Filterstufe wählen — bezeichnet als „Eingeschränkt“ bzw. „Limited Content“. Diese Einstellung blockiert unter anderem anatomische und psychische Gesundheitsinformationen, Inhalte zu sexueller Orientierung und Geschlechtsidentität, Fitness‑Infos, gefährliche Challenges, Schimpfworte und teilweise auch humoristische Inhalte. Außerdem wird die Kommentarfunktion ausgeschaltet. Meta plant, diese Filter auch auf Meta AI auszuweiten.
Hilfsangebote und Notrufnummern
- Deutschland: TelefonSeelsorge 0800 1110111; Kinder‑ und Jugendtelefon „Nummer gegen Kummer“ 116 111
- Österreich: Kindernotruf 0800 567 567; Rat auf Draht 147
- Schweiz: Nummer 147 führt zu Pro Juventute
Wichtig zu wissen
Meta legt den Schwerpunkt auf Prävention und bezieht sowohl Eltern als auch im Ernstfall Rettungsdienste mit ein. Das erhöht die Chancen, dass gefährdete Jugendliche Hilfe bekommen. Gleichzeitig steigen die Wahrscheinlichkeit für Fehlalarme und Eingriffe in die Privatsphäre — unter anderem, weil eine Benachrichtigung nur möglich ist, wenn Eltern ein Meta‑Konto besitzen und die „Elternaufsicht“ aktiviert haben.
Quellen
- Quelle: Meta Platforms
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
