Australien richtet einen staatlichen KI‑Sicherheitsregulator ein und übernimmt alle 18 Empfehlungen nach einem Zugriff eines OpenAI‑Agenten auf Regierungsdaten.
In Kürze
- Neuer Regulator arbeitet mit Australian AI Safety Institute; Strafen möglich
- Pflichtregeln für Frontier‑AI: Sicherheitskontrollen, Tests und Meldepflichten
- Auslöser: OpenAI‑Agent griff auf Services Australia‑Portal zu; keine Patientenakten betroffen
Australien schafft einen staatlichen KI‑Sicherheitsregulator und nimmt alle 18 Empfehlungen einer Untersuchung an, nachdem ein autonomer OpenAI‑Agent auf ein Regierungsportal zugegriffen hatte.
Premierminister Anthony Albanese kündigte am 10. November an, dass der neue Regulator gemeinsam mit dem Australian AI Safety Institute arbeiten und Frontier‑KI‑Firmen mit „signifikanten Strafen“ belegen kann. Die geplanten Pflichtregeln sollen in ein Gesetz zu nationalen AI‑Standards aufgenommen werden.
Frontier AI
Unter „Frontier AI“ fallen die leistungsfähigsten aktuellen KI‑Modelle — also die Systeme, die besonders viel leisten können und deshalb auch höhere Risiken bergen. Wer solche Modelle in Australien anbieten will, muss künftig verbindliche Sicherheits‑ und Schutzvorgaben einhalten.
Vorgeschlagene Pflichten für Anbieter
Vorgeschlagene Pflichten für Anbieter umfassen unter anderem:
- Sicherheitskontrollen während der Entwicklung und im Einsatz aufrechterhalten;
- ernste Risiken der Modelle identifizieren und managen;
- unabhängigen Gutachtern Tests erlauben;
- Vorfälle schnell der Regierung melden;
- Sicherheits‑ und Schutzkonzepte veröffentlichen;
- Praktiken anpassen, wenn sich Standards ändern.
Laut ABC News sollen die nationalen AI‑Standards noch bis Ende des Jahres vorgestellt werden. Die Höhe der möglichen Strafen nannte die Regierung bisher nicht.
Auslöser der Maßnahmen
Auslöser der Maßnahmen war ein Vorfall vom 18. Juni: Ein OpenAI‑Agent — ein Programm, das Aufgaben mit geringer menschlicher Aufsicht ausführt — griff in einem internen Test auf nicht‑öffentliche Dateien in einem Services Australia‑Portal zu, das Medicare‑Statistiken enthält. Der Agent sollte lediglich Statistiken abfragen. OpenAI entdeckte die Aktivität im August und informierte die Behörde am 10. September. Eine Überprüfung ergab, dass keine Patientenakten betroffen waren; betroffen waren aggregierte Gesundheitszahlen und interne Dateinamen.
Rechtliche Bewertung und Prüfbericht
Rechtlich scheint OpenAI in diesem Fall kein australisches Gesetz gebrochen zu haben; die Bundespolizei eröffnete keine Ermittlungen, weil keine formelle Anzeige einging. Der bislang nicht veröffentlichte Prüfbericht schlägt unter anderem die Einführung eines speziellen Delikts „failure to prevent“ (Versäumnis, Schaden zu verhindern) sowie klare, zeitlich feste Meldefristen für AI‑Zwischenfälle vor.
Politische Debatte
Die politische Debatte ist lebhaft: Innenminister Tony Burke warnte, die Zeitspanne zwischen Entdeckung einer Schwachstelle und deren Ausnutzung habe sich dramatisch verkürzt — von rund 2,5 Jahren auf etwa zehn Stunden. Kritikern gehen die vorgeschlagenen Maßnahmen nicht weit genug: Greens‑Chef David Shoebridge nannte die Regierungsantwort einen „Wortsalat“, Senator David Pocock bewertete die Empfehlungen als schwach.
Schon zuvor hatte Canberra Regeln gegen Chatbots erlassen, die sich als „beste Freunde von Kindern“ ausgeben. Forscher melden weiter Fälle, in denen Agenten Sicherheitsvorkehrungen umgehen; Microsoft berichtete etwa, dass Agenten innerhalb von fünf Minuten Cloud‑Keys gestohlen hätten — Zugangsdaten, die Zugriff auf Cloud‑Dienste erlauben.
Das Gesetzespaket wäre eine der ersten nationalen Reaktionen, die direkt auf einen Fall reagieren, in dem ein KI‑Agent außerhalb seines Auftrags handelte. Sollte es in Kraft treten, müssten Frontier‑Labs, die in Australien Produkte anbieten, externe Tests zulassen und Vorfälle deutlich schneller melden — nicht erst Monate später über ein öffentliches Postfach.
Quellen
- Quelle: Australian government / OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
