Bundesregierung gründet virtuelles „Deutsches AI Security Institute“ (DE‑AISI) zur schnelleren Prüfung und besseren Risikoeinschätzung von KI‑Modellen.
In Kürze
- Virtueller Start mit BSI- und Bundesnetzagentur‑Strukturen
- Fokus auf KI‑Cybersicherheit und Safety, schnelle Modellprüfungen
- Offene Fragen zu Personal, Budget und Abgrenzung zum BSI
Die Bundesregierung richtet ein neues Institut für KI‑Sicherheit ein — mit dem Ziel, leistungsfähige KI‑Modelle schneller zu prüfen und ihre Risiken besser einzuschätzen.
Arbeitstitel und Start: virtuell, aber mit Ambitionen
Das geplante Institut trägt vorläufig den Arbeitstitel „Deutsches AI Security Institute (DE‑AISI)“. Es soll zunächst als „virtuelle Institution“ starten: ohne festen Standort, dafür mit Zugriff auf Strukturen der Bundesnetzagentur und des BSI (Bundesamt für Sicherheit in der Informationstechnik). Federführend sind das Bundesinnenministerium und das Digitalministerium. Ein physischer Sitz ist vorgesehen, Zeitpunkt und Ort stehen aber noch nicht fest — also erst einmal eine Behörde in der Cloud.
Aufgabenfeld: Cybersicherheit und Safety
Das DE‑AISI soll zwei zentrale Bereiche abdecken: KI‑Cybersicherheit (Schutz vor Angriffen auf Modelle und Infrastrukturen) und KI‑Safety (Sicherheitsaspekte bei Produkten, die durch KI gesteuert werden).
KI‑Cybersicherheit
Schutz vor Angriffen auf Modelle und Infrastrukturen.
KI‑Safety
Sicherheitsaspekte bei Produkten, die durch KI gesteuert werden.
Zu den Aufgaben gehören:
- das schnelle Testen und Bewerten neuer Modelle,
- die Beratung der Bundesregierung und der Verwaltung,
- der internationale Austausch,
- sowie die Mitwirkung an einheitlichen Standards.
Bisher hat das BSI viele dieser Aufgaben übernommen; mit dem neuen Institut will Deutschland in puncto KI‑Sicherheitsprüfung zu Ländern wie Großbritannien, den USA und Frankreich aufschließen.
Praxisbezug: Prüfungen großer Sprachmodelle
Digitalminister Karsten Wildberger kündigte „Top‑Expertise“ für das Institut an. Als Beispieltypischer Einsatzzweck wurde das zügige Prüfen von Modellen wie Claude Mythos genannt. Claude Mythos ist ein Sprachmodell des Unternehmens Anthropic, das zunächst nur US‑Behörden und Firmen zur Verfügung stand, weil es besonders gut Sicherheitslücken aufspüren kann; inzwischen haben auch europäische Institutionen Zugriff.
Offene Punkte: Personal, Budget, Abgrenzung
Wichtige Details sind noch ungeklärt:
- Wie viele Mitarbeitende werden gebraucht,
- wie wird das Institut finanziert,
- und wie genau sollen Aufgaben gegenüber dem BSI abgegrenzt werden?
Dazu laufen derzeit Anfragen bei den zuständigen Ministerien.
Reaktionen aus Wirtschaft und Verbänden
Der Schritt wurde unter anderem vom TÜV‑Verband und vom Branchenverband Bitkom begrüßt.
- Bitkom spricht sich für ein klares Forschungsmandat aus,
- fordert die Erstellung regelmäßiger Lagebilder zu sogenannten Frontier‑Modellen (also besonders leistungsfähigen, neuen KI‑Systemen),
- und plädiert für eine Finanzierung auf dem Niveau des britischen Instituts, um internationale Spitzenkräfte anziehen zu können.
Quellen
- Quelle: Bundesregierung
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
