Meta will Eltern benachrichtigen, wenn Teenager im Meta AI über Suizid oder Selbstverletzung sprechen.
In Kürze
- KI-gestützte Risikoeinschätzung
- Menschliche Nachprüfung & Elternbenachrichtigung
- Rettungsdienste bei akuter Gefahr
Wenn dein Teenager auf Instagram mit dem Chatbot Meta AI über Selbstverletzung oder Suizid spricht, greift Meta künftig stärker ein: Der Bot soll zunächst automatisch einschätzen, ob akute Gefahr besteht. Ist die Lage nicht eindeutig, schauen sich Mitarbeiter:innen von Meta die Unterhaltung an. Können sie einen Ernstfall nicht ausschließen, werden die Eltern informiert — vorausgesetzt, sie haben selbst ein Meta-Konto und die Funktion „Elternaufsicht“ aktiviert.
Meta betont, die Warnkriterien zusammen mit Expert:innen entwickelt zu haben. Dabei nimmt das Unternehmen bewusst auch Fehlalarme in Kauf: Selbst wenn eine Unterhaltung kein klarer Risikofall ist, will Meta lieber rechtzeitig Eltern benachrichtigen als ein mögliches Warnsignal zu übersehen.
Für Eltern bietet Meta bei einem Alarm sofort Gesprächsratgeber und Hilfsangebote an, damit sie wissen, wie sie mit ihrem Kind reden können. Bereits im April begann Meta, Eltern Einsicht in die KI-Chats ihrer Kinder zu geben; die neuen Alarme gelten derzeit in Australien, Kanada, den USA und dem Vereinigten Königreich. Der Rest der Welt soll bis Ende des Jahres folgen.
Meta arbeitet außerdem an einer Funktion, bei der der Chatbot automatisch Rettungsdienste oder andere Notfalldienste alarmiert, wenn ein unmittelbares Suizidrisiko erkannt wird — unabhängig vom Alter der betroffenen Person. Laut Meta führten ähnliche Mechanismen für Beiträge auf Facebook und Instagram im Jahr 2025 weltweit zu mehr als 19.000 Notrufen; nähere Details dazu nennt das Unternehmen nicht.
Eltern können in der „Elternaufsicht“ eine strengere Inhaltsfilterung namens „Eingeschränkt“ (englisch „Limited Content“) wählen. Meta nennt keine exakte Liste, aber bekannt ist, dass diese Filter unter anderem folgende Inhalte ausblenden:
- anatomische und psychische Gesundheitsinformationen
- Inhalte zu sexueller Orientierung und Geschlechtsidentität
- Fitness-Themen
- gefährliche Stunts/Challenges
- Schimpfworte
- teilweise humoristische Beiträge
Bei der Einstellung „Eingeschränkt“ werden außerdem Kommentare auf Instagram und Facebook deaktiviert: Betroffene Jugendliche können keine Kommentare sehen, empfangen oder schreiben. Diese Filter sollen künftig auch auf Interaktionen mit dem Meta AI-Chatbot angewendet werden, wenn Eltern das wünschen.
Wichtig zu wissen: Die Alarmfunktion an Eltern wird nur dann ausgelöst, wenn die Eltern aktiv teilnehmen — also ein Meta-Konto haben und die „Elternaufsicht“ eingeschaltet ist.
Die neue Praxis umfasst
- automatische Einschätzung
- menschliche Nachprüfung
- die Möglichkeit, Eltern oder im Ernstfall Rettungsdienste zu informieren
Gleichzeitig werfen solche Maßnahmen Fragen zu Datenschutz und zu möglichen Fehlalarmen auf.
Hilfsangebote (Deutschland / Österreich / Schweiz)
Deutschland
Telefonseelsorge — telefonseelsorge.de, Tel. 0800 1110111; Kinder- und Jugendtelefon (Nummer gegen Kummer) — 116 111.
Österreich
Kindernotruf — 0800 567 567; Rat auf Draht — 147.
Schweiz
Pro Juventute — Tel. 147.
Quellen
- Quelle: Meta Platforms
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
