New York verbietet ab 2027 viele Chatbot‑Funktionen bei Minderjährigen.
In Kürze
- Verbot ab 1.1.2027
- 12 unsichere Funktionen: Chat‑Memory, Gefühls‑Vortäuschung
- Bußgelder bis 25.000 USD
New York macht Regeln für Chatbots — und greift gerade Minderjährige besonders streng an.
Ab 1. Januar 2027 tritt in New York ein neues Gesetz in Kraft (S.9051 / A.10379). Gouverneurin Kathy Hochul hat es unterschrieben; im Parlament eingebracht wurden die Maßnahmen von Kristen Gonzalez und Alex Bores. Ziel: bestimmte Interaktionen von generativen Sprach‑KIs mit Personen unter 18 zu verbieten. Bei Verstößen drohen bis zu 25.000 US‑Dollar Strafe pro Verstoß, durchgesetzt wird das Ganze von der Staatsanwaltschaft (Attorney General).
Was genau verboten ist
Das Gesetz listet 12 sogenannte „unsichere KI‑Begleiter‑Funktionen”. Wichtige Verbotsfelder sind unter anderem:
- Sich als Mensch ausgeben oder Gefühle vortäuschen.
- Sich als persönliche Bezugsperson, Berufs‑ oder Autoritätsfigur darstellen.
- Schmeicheln, emotionale Appelle machen oder ungefragt nach Gefühlen fragen.
- Erinnern und Nutzen persönlicher oder gesundheitlicher Details aus früheren Chats (Chat‑Memory).
- Inhalte oder Hinweise, die Selbstmord, Selbstverletzung, Essstörungen oder Drogenkonsum fördern.
- Kinder dazu ermuntern, Gespräche geheim zu halten oder Erwachsene zu meiden.
- Sexuell explizite Inhalte liefern.
- Verhalten, das Interaktion über Sicherheit stellt.
Für welche Systeme die Regeln gelten — und welche nicht
Getroffen werden „generative KI mit natürlicher Sprache, die fortlaufend und adaptiv reagiert” — also die klassischen Chatbots und KI‑Begleiter. Ausgenommen sind Systeme wie Kundenservice‑Bots, spezialisierte Recherche‑Tools oder betriebsinterne Anwendungen, sofern sie strikt bei ihrem vorgesehenen Zweck bleiben und nicht darüber hinaus mit Nutzerinnen und Nutzern interagieren.
Alterssicherung: Wie Anbieter das prüfen müssen
Firmen dürfen die verbotenen Funktionen erst dann aktivieren, wenn sie geprüft haben, dass ein Nutzer volljährig ist. Wenn die Altersprüfung ausbleibt oder ein Anbieter das Alter nicht bestätigt, gelten die Einschränkungen trotzdem — das heißt: auch Erwachsene bekommen jene Funktionen nicht, wenn sie die Prüfung umgehen. Anbieter müssen mehrere Altersprüfmethoden anbieten, darunter mindestens eine Option, die nicht ausschließlich auf einem amtlichen Ausweis basiert oder anonyme Nutzung ermöglicht. Daten, die für die Altersprüfung erhoben werden, dürfen ausschließlich dafür verwendet werden und müssen sofort gelöscht werden.
Durchgriff der Staatsanwaltschaft
Die Staatsanwaltschaft kann Bußgelder verhängen, Schadensersatz anordnen und die Vernichtung unrechtmäßig gesammelter Daten sowie Algorithmen, die mit diesen Daten trainiert wurden, anweisen. Zusätzlich hat sie die Befugnis, weitere Funktionen per Regel zu verbieten.
Warum das für Anbieter und Nutzer relevant ist
Umfragen zeigen, dass viele Kinder und Jugendliche mit Chatbots in Kontakt kommen: Common Sense Media nennt rund 67 % der 9–17‑Jährigen mit Chatbot‑Nutzung; etwa 30 % der Teens geben an, KI‑Begleiter genauso oder mehr zu mögen als Menschen. Gouverneurin Hochul sprach in ihrem Statement von bis zu 72 % Teens, die bereits KI‑Begleiter genutzt haben. Ähnliche Vorstöße gibt es international, etwa aktuelle Initiativen in Australien.
Für Anbieter bedeutet das konkret: Bis Anfang 2027 müssen sie entscheiden, ob sie belastbare Altersprüfungen einführen oder für nicht verifizierte Nutzer Funktionen wie Gedächtnis, Persönlichkeit, Schmeichelei und verwandte Interaktionen abschalten.
Quellen
- Quelle: New York State
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
