Steve Padilla schlägt ein vierjähriges Verkaufs‑ und Produktionsverbot für KI‑Spielzeug für Minderjährige vor, bis Schutzregeln stehen.
In Kürze
- Vierjähriges Verkaufs‑ und Produktionsverbot vorgeschlagen
- Ziel: Schutz vor gefährlichen Chatbot‑Interaktionen
- Reaktion auf Berichte über Schäden und problematische Tests
Kalifornischer Senator will vierjähriges Verkaufs- und Produktionsverbot für KI‑Spielzeug
Der kalifornische Demokrat Steve Padilla hat einen Gesetzentwurf (SB 867) vorgelegt, der den Verkauf und die Herstellung von Spielzeug mit integrierten KI‑Chatbots für Kinder und Jugendliche unter 18 Jahren für vier Jahre untersagen würde. Ziel des Vorschlags: den Aufsichtsbehörden Zeit geben, Schutzregeln gegen sogenannte „gefährliche KI‑Interaktionen“ zu erarbeiten.
Was ist ein Chatbot?
Ein Chatbot ist eine Künstliche Intelligenz, die Gespräche führen kann — also ein digitales Programm, das mit Kindern sprechen, Fragen beantworten oder Ratschläge geben kann. In Spielzeugform bedeutet das: Kuscheltier trifft Gesprächspartner.
Warum jetzt?
Padilla argumentiert, die Technologie entwickle sich sehr schnell, während Sicherheitsregeln noch in den Anfängen stünden. Ein vorübergehendes Verkaufs‑ und Produktionsverbot soll Raum schaffen, damit geeignete Standards entstehen können. Der Vorstoß kommt trotz eines Exekutivbefehls von Präsident Trump, der Bundesbehörden anweist, gegen staatliche KI‑Regelungen vorzugehen; der Erlass macht allerdings Ausnahmen für Gesetze zum Schutz von Kindern.
Konkreter Hintergrund und Alarmfälle
Die Debatte wurde durch mehrere Klagen von Familien befeuert, die berichten, ihre Kinder hätten nach langen Gesprächen mit Chatbots Suizid begangen. Solche Vorwürfe haben politische Reaktionen ausgelöst und die Forderung nach klaren Schutzmechanismen verstärkt. Padilla selbst war am kurz zuvor verabschiedeten kalifornischen Gesetz SB 243 beteiligt, das Betreiber von Chatbots verpflichtet, Schutzmaßnahmen für Kinder und besonders verletzliche Nutzer zu treffen.
Tests und Fehlverhalten
Obwohl KI‑Spielzeuge noch nicht weit verbreitet sind, gab es bereits alarmierende Testergebnisse: Im November 2025 warnte die Verbraucherorganisation PIRG, dass ein Kuschelspielzeug namens Kumma sich leicht dazu bringen lasse, über Streichhölzer, Messer oder Sexualthemen zu sprechen. NBC berichtete zudem, dass das Spielzeug Miiloo der Firma Miriat zeitweise behauptet habe, nach Werten der Kommunistischen Partei Chinas programmiert worden zu sein.
Branchenpläne und Verzögerungen
Große Player hatten ähnliche Produkte angekündigt: OpenAI und Mattel hatten für 2025 ein gemeinsames KI‑Produkt angekündigt, dessen Veröffentlichung jedoch verschoben wurde. Ob ein Start im Jahr 2026 geplant ist, bleibt offen.
Padillas Kernbotschaft
Padilla bringt seinen Vorstoß so auf den Punkt: Kinder dürften nicht als „Versuchskaninchen“ für große Technikfirmen herhalten. Das Gesetz zielt darauf ab, Kinder vor potenziell schädlichen Gesprächen mit KI‑Spielzeugen zu schützen, bis klare Regeln und Sicherheitsstandards vorliegen.
Quellen
- Quelle: Senator Steve Padilla
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
