Ab 2027 dürfen Chatbots Minderjährige nicht wie Freund:innen anreden.
- Keine emotionale Ansprache oder Memory
- Altersprüfung nötig, Daten löschen
- Bußgelder bis 25.000 USD, Kontrolle durch Attorney General
New York hat ein Gesetz verabschiedet, das ab dem 1. Januar 2027 bestimmte Funktionen von Chatbots für alle unter 18 verbietet — Bußgelder bis zu 25.000 US-Dollar pro Verstoß inklusive. Ziel ist: Künstliche Intelligenzen dürfen Minderjährige nicht wie Freundinnen oder Freunde behandeln, keine Gefühle vorspielen und keine schädlichen Verhaltensweisen fördern.
Was genau verboten ist
- Ein Chatbot darf sich nicht als Mensch, lebendig oder gefühlsfähig ausgeben.
- Er darf nicht behaupten, eine persönliche, berufliche oder autoritätsähnliche Beziehung zum Nutzer zu haben.
- Kein Schmeicheln, keine eigenen emotionalen Appelle und keine ungefragten Fragen danach, wie sich ein Kind fühlt.
- Kein Anstiften zu Selbstmord, Selbstverletzung, Essstörungen oder Drogenkonsum.
- Kein Ermutigen, Gespräche geheim zu halten oder vertrauenswürdige Erwachsene zu meiden.
- Keine sexuell expliziten Inhalte für Minderjährige.
- Systeme dürfen Nutzerbindung (also etwa „halte sie im Gespräch“) nicht über ihre eigenen Sicherheitsregeln stellen.
- Health- oder persönliche Details, die das System mehr als 12 Stunden zuvor oder in einer früheren Sitzung gelernt hat, dürfen nicht verwendet werden — typische Chatbot‑Memory-Funktionen wären für Minderjährige also tabu.
Wen das Gesetz trifft und wen nicht
Die Regeln gelten nicht nur für Apps, die als „virtuelle Freundinnen“ oder „Partner“ beworben werden, sondern für jede generative KI mit natürlicher Sprache, die laufend und adaptiv antwortet — also viele allgemeine Chatbots. Ausgenommen sind strikt begrenzte Systeme wie einfache Kundendienst‑Bots, eng gefasste Forschungswerkzeuge oder interne Arbeitsplatz‑Tools, sofern sie nicht über ihren eigentlichen Zweck hinaus kommunizieren können.
Altersprüfung und technische Vorgaben
Anbieter dürfen die betreffenden Funktionen für Erwachsene wieder freischalten — aber nur nach einer zugelassenen Altersprüfung. Firmen müssen mehrere Prüfmethoden anbieten, darunter mindestens eine, die nicht ausschließlich auf amtlichen Ausweisen basiert und bei der die Nutzer anonym bleiben können. Daten, die im Rahmen der Altersprüfung erhoben werden, dürfen ausschließlich für diesen Zweck verwendet und sofort gelöscht werden.
Durchsetzung und Sanktionen
Die New Yorker Staatsanwaltschaft (Attorney General) überwacht die Einhaltung des Gesetzes. Sie kann Bußgelder von bis zu 25.000 USD pro Verstoß verhängen, Schadensersatz fordern sowie die Löschung rechtswidrig gesammelter Daten und sogar von Algorithmen, die mit solchen Daten trainiert wurden, anordnen. Außerdem darf die Behörde per Regel weitere verbotene Funktionen ergänzen.
Politischer Rahmen und Kontext
Das Gesetz (S.9051/A.10379) wurde von Senatorin Kristen Gonzalez und Abgeordnetem Alex Bores eingebracht, im Senat im Juni mit 60:0 Stimmen beschlossen und von Gouverneurin Kathy Hochul unterzeichnet. Es wurde zeitgleich mit einem separaten Gesetz zu internetfähigen Baby‑Monitoren verabschiedet. Ähnliche Initiativen laufen inzwischen auch in anderen Ländern; Australien hat parallel Gesetze gegen Chatbots, die sich als Kinder‑Freunde ausgeben, vorangetrieben.
Warum Anbieter umstellen müssen
Weil viele Kinder und Jugendliche bereits Erfahrung mit Chatbots haben und manche diese Bots fast wie Menschen behandeln, zwingt das Gesetz Anbieter, entweder das Alter zuverlässig zu prüfen oder Funktionen wie Persönlichkeit, Erinnerung und Schmeichelei für ungeprüfte Nutzer abzuschalten.
Wenn du wissen willst, wie das konkret für Dienste wie Siri oder andere große Chatbots aussehen könnte, sag kurz Bescheid — ich erkläre die Optionen für Anbieter und die wichtigsten Knackpunkte bei Altersprüfungen.
Quellen
- Quelle: New York State
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
