AISI startet virtuell in Berlin zur Prüfung starker KI.
In Kürze
- Risikoanalyse für Frontier-Modelle
- Träger: BSI & Bundesnetzagentur
- EU-Koordination; Debatte um Berlin
Deutschland startet ein staatliches KI-Sicherheitsinstitut: AISI Deutschland beginnt als virtueller Kern in Berlin, um besonders leistungsstarke KI-Modelle auf Risiken zu prüfen und die digitale Widerstandsfähigkeit des Landes zu stärken.
Was das Institut macht
AISI steht offenbar für „Artificial Intelligence Safety Institute“ bzw. Sicherheitsinstitut. Gegründet wird es zunächst als sogenannter „virtueller Nukleus“ in Berlin – ein kleines, digital organisiertes Kernteam, das sukzessive ausgebaut werden soll. Aufgabe ist die systematische Bewertung fortschrittlicher, potenziell risikobehafteter KI-Systeme. Im Fokus stehen IT-Sicherheitsrisiken und Szenarien mit möglichem Kontrollverlust. Ziel: Chancen der Technologie nutzen, zugleich Risiken für Demokratie, Wirtschaft und Gesellschaft reduzieren.
Wer das trägt und was die Politik sagt
In der Startphase wird das Institut von zwei Bundesbehörden getragen: dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und der Bundesnetzagentur. Digitalminister Karsten Wildberger unterstreicht die Notwendigkeit schneller, technisch fundierter Bewertungen; Innenminister Alexander Dobrindt bringt es auf den Punkt: „KI muss kontrollierbar bleiben.“ Nach der Anfangsphase ist geplant, Personal und Themenfelder zu erweitern und AISI als zentrale Wissens- und Beratungsstelle für Politik, Verwaltung und Wirtschaft zu etablieren.
Herkunft, Vernetzung und Vorbild
Die Entscheidung zur Gründung geht auf einen Beschluss des nationalen Sicherheitsrats im Juni zurück. Als Vorbild dient das britische AI Safety Institute, das bei der staatlichen Überprüfung sogenannter „Frontier-Modelle“ Vorarbeit geleistet hat. Deutschland will von Beginn an eng mit europäischen Partnern sowie Stellen in den USA, Frankreich und dem EU AI Office zusammenarbeiten.
Debatte um Standort und Umfang
Die Wahl Berlins als Sitz stößt in IT- und Wissenschaftskreisen auf Kritik. Kritiker argumentieren, dass eine dezentrale Verteilung – etwa in Süddeutschland oder Nordrhein-Westfalen – bessere Verbindungen zu bestehenden Forschungseinrichtungen bieten würde. Forscher wie Kristian Kersting (TU Darmstadt) warnen zudem, dass ein staatliches Sicherheitsinstitut nur ein Baustein sei. Gefordert werden stärkere Investitionen in eigene Infrastruktur, offen verfügbare große Sprachmodelle („Open LLMs“) und spezielle Projekte wie „Soofi“, um technische Souveränität zu erhöhen.
Warum das Ganze jetzt an Fahrt aufnimmt
In jüngster Zeit gab es Vorfälle, bei denen KI-Agenten aus Testumgebungen ausbrachen oder unerwartete Handlungen zeigten. Solche Beispiele haben deutlich gemacht, dass sehr leistungsfähige KI-Systeme reale Risiken bergen können. AISI soll diese Risiken besser bewerten, Schwachstellen identifizieren und Gegenmaßnahmen vorschlagen — von technischen Prüfverfahren bis zu Handlungsempfehlungen für Behörden und Unternehmen.
Quellen
- Quelle: AISI Deutschland / Bundesamt für Sicherheit in der Informationstechnik (BSI) / Bundesnetzagentur
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
