Newsom ordnet schnelle Prüfungen und einen Not‑Aus‑Schalter für starke KI‑Modelle an.
In Kürze
- Experten haben zwei Monate, konkrete Empfehlungen vorzulegen
- Vorschlag: unabhängige Prüfer in KI‑Laboren und regelmäßige Abschalt‑Tests
- Kalifornien fordert bundesweite Mindeststandards und warnt vor Risiken
Kaliforniens Gouverneur Gavin Newsom hat eine Anordnung erlassen, die unabhängige Prüfungen von KI-Systemen beschleunigen und einen Not‑Aus‑Schalter für besonders leistungsfähige Modelle vorantreiben soll.
Die Maßnahmen reagieren unter anderem auf jüngste Vorfälle wie den Angriff auf die Plattform Hugging Face.
Experten sollen binnen zwei Monaten konkrete Empfehlungen vorlegen. Vorgeschlagen sind:
- unabhängige Prüfer, die direkt in KI‑Laboren arbeiten
- regelmäßige Tests einer Notabschaltung — eines sogenannten „Kill‑Switch“, mit dem ein KI‑System im Notfall sofort abgeschaltet werden kann
Ziel ist, Prüfprozesse zu verschlanken und die technischen Abläufe zur Abschaltung belastbar zu machen.
Newsom betont, dass es auf Bundesebene bislang keine Meldepflicht für gefährliche Vorfälle bei KI‑Firmen gebe. Er kritisierte zudem scharf Aussagen von Donald Trump, der KI‑Laboren zuvor „Angstmacherei“ vorgeworfen hatte. Zugleich weisen Stimmen aus der Branche auf ähnliche Kontrollvorschläge hin — die Idee unabhängiger Audits und Notabschaltungen ist also nicht nur aus der Politik zu hören.
Kalifornien verweist auf eine Reihe bereits beschlossener Regeln:
- Gesetze zur KI‑Sicherheit
- zum Schutz von Kindern
- gegen Deepfakes
- sowie zu Datenschutz und Cybersicherheit
Der Gouverneur fordert den Kongress auf, diese Standards als nationalen Mindeststandard zu übernehmen.
Parallel zur politischen Debatte hat sich eine Gruppe von 42 Mathematikern zu Wort gemeldet. Sie warnen vor Risiken fortschrittlicher KI‑Systeme, die sich in naher Zukunft schnell weiterentwickeln könnten und fordern erhöhte Vorsicht bei der Entwicklung besonders leistungsfähiger Modelle.
Nun liegt es an den benannten Fachleuten: Innerhalb von zwei Monaten sollen sie konkrete Vorschläge für Prüfmechanismen und die praktische Umsetzung eines Kill‑Switch vorlegen — danach dürfte die Diskussion über verpflichtende Regeln auf Bundesebene an Fahrt gewinnen.
Quellen
- Quelle: Gavin Newsom
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
