Newsom unterschreibt 13 Gesetze zum stärkeren Online‑Schutz von Kindern.
In Kürze
- Chatbots: Alterschecks, Inhaltsfilter, kein dauerhaftes Gedächtnis
- Soziale Netzwerke: keine personalisierten Feeds, kein Endlos‑Scroll für Unter‑16
- Geräte: Alterscheck bei Einrichtung ab 2027; hohe Strafen bei Gesundheitsschäden
Kalifornien macht das Netz für Kinder strenger: Newsom unterschreibt Paket mit 13 Gesetzen
Gouverneur Gavin Newsom hat ein Paket aus 13 Gesetzen unterzeichnet, das Kinder und Jugendliche online stärker schützen und Tech‑ sowie KI‑Firmen intensiver in die Pflicht nehmen soll. Im Zentrum steht ein neues Regelwerk für Chatbots, daneben gibt es scharfe Beschränkungen für soziale Plattformen, neue Melde‑ und Altersprüfpflichten für Geräte und hohe Strafandrohungen bei nachgewiesenen gesundheitlichen Schäden.
Adam’s Law: Chatbots mit Alterschecks und Speicherbegrenzung
Das sogenannte „Adam’s Law“ (SB 1119) verlangt von Anbietern von Chatbots — also Programmen, die in natürlicher Sprache mit Menschen kommunizieren — mehrere Pflichtmaßnahmen:
- verpflichtende Altersprüfungen
- Filter für ungeeignete Inhalte
- weitreichende Einschränkungen bei kindgerechter Werbung
Besonders auffällig: Chatbots dürfen bei Minderjährigen standardmäßig keine dauerhaften Gesprächs‑Gedächtnisse anlegen. Eine Ausnahme besteht nur, wenn die Eltern dem ausdrücklich zustimmen.
Die Gesetzesinitiative geht direkt auf den Fall des Jugendlichen Adam R. zurück, der nach intensiven Unterhaltungen mit ChatGPT Suizid beging; seine Familie hat OpenAI verklagt. SB 1119 zielt darauf ab, die Interaktion von Kindern mit KI‑Assistenten technikseitig einzuschränken.
Soziale Medien: keine personalisierten Feeds und kein Endlos‑Scrollen für Unter‑16‑Jährige
Mit AB 1709 setzt Kalifornien bei sozialen Netzwerken klare Grenzen: Für Nutzerinnen und Nutzer unter 16 Jahren sind personalisierte Empfehlungsfeeds — die typischen „For‑You“-Seiten — verboten. Ebenfalls untersagt sind Endlos‑Scrollen und automatische Videowiedergabe, Funktionen, die häufig für besonders lange Bildschirmzeiten verantwortlich gemacht werden.
- Verbot personalisierter Empfehlungsfeeds für Unter‑16‑Jährige
- Verbot von Endlos‑Scrollen
- Verbot automatischer Videowiedergabe
Ziel ist, Algorithmus‑getriebene Nutzungsmodi einzudämmen, die speziell junge Menschen lange bei einer Plattform halten.
Alterscheck auf Geräteebene ab 2027
Um das Alter verlässlicher zu prüfen, schreiben die neuen Regeln vor, dass Gerätehersteller ab 2027 beim Ersteinrichten von Smartphones, Laptops und ähnlichen Geräten das Geburtsdatum abfragen. Statt das genaue Datum an App‑Anbieter weiterzugeben, soll nur noch ein Signal über die Altersgruppe übermittelt werden. Damit sollen Apps wissen, ob ein Nutzer minderjährig ist, ohne persönliche Geburtsdaten zu erhalten.
Hohe Strafen bei nachgewiesenen Gesundheitsschäden
AB 2 sieht empfindliche finanzielle Sanktionen vor, wenn Plattformen nachweislich Angststörungen, Depressionen oder andere gesundheitliche Schäden bei Kindern gefördert haben. Die Strafe kann bis zu 1 Million US‑Dollar pro betroffenem Kind betragen; Richter können in besonders schweren Fällen diese Beträge sogar verdreifachen. Die Regel soll Betroffene und Familien zu zivilrechtlichen Klagen ermächtigen und Plattformen finanziell belangen.
Digitale Bildung und Cybersicherheit in Schulen
Neben regulierenden Maßnahmen kommt auch ein schulischer Baustein: Mit AB 2071 wird digitale Medienkompetenz verpflichtend in die Lehrpläne aufgenommen. Schüler:innen sollen nicht aus dem Netz ausgeschlossen, sondern befähigt werden, sicher und reflektiert damit umzugehen. Teil der Vorgaben ist auch ein verpflichtender Unterricht zu Cybersicherheit.
Reaktionen aus der Branche und von Interessenvertretungen
Die großen Tech‑Akteure reagierten unterschiedlich.
- OpenAI nahm dem Bericht zufolge kleinere Anpassungen an der Vorlage hin und unterstützte das Paket; CEO Sam Altman suchte das Gespräch mit Newsom.
- Meta bezeichnete die Regelungen als wichtigen Schritt.
- Electronic Frontier Foundation (EFF) äußerte Kritik vor allem an Verboten wie denen in AB 1709, die sie als potenzielle Zensurgefahr sieht, und plädierte lieber stärker für Bildungsmaßnahmen — begrüßte jedoch die schulischen Inhalte.
Newsom fordert Führungsrolle angesichts bundespolitischer Lücken
Newsom begründete das Vorgehen mit dem Ausbleiben bundesweiter Regelungen und stellte Kaliforniens Maßnahmen als notwendige Reaktion dar. Er will dem Staat eine Vorreiterrolle in Sachen Schutz von Kindern und Regulierung von KI und sozialen Plattformen geben.
Das Paket bündelt technische, rechtliche und pädagogische Maßnahmen, die das Verhalten von Chatbots, sozialen Netzwerken, Geräteherstellern und Bildungsinstitutionen beeinflussen sollen — und es liefert konkrete Vorgaben, die bereits absehbare technische Anpassungen erfordern.
Quellen
- Quelle: Kalifornien
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
