EU-Rat verschiebt Pflichten für Hochrisiko-KI, stärkt Aufsicht und verbietet bestimmte Deepfakes.
In Kürze
- Frist bis 2.12.2027 bzw. 2.8.2028
- Registrierungspflicht und AI Office-Aufsicht
- Verbot nicht‑einvernehmlicher Deepfakes
Der Europäische Rat hat wichtige Änderungen am geplanten AI Act beschlossen: Die Einführung strenger Vorschriften für besonders riskante KI-Systeme wird verschoben, zugleich kommen neue Regeln zur Aufsicht, Registrierung und ein klares Verbot bestimmter Deepfakes.
Fristverlängerung für Hochrisiko-KI
Die Umsetzung der Pflichten für sogenannte Hochrisiko-KI wird um rund 16 Monate nach hinten verschoben. Es gibt jetzt zwei Stichtage:
- 2. Dezember 2027 für eigenständige Hochrisiko-Modelle
- 2. August 2028 für solche Systeme, die in andere Produkte oder Anlagen eingebettet sind
Was unter „Hochrisiko“ fällt
Als Hochrisiko gelten KI-Anwendungen, die Grundrechte oder Leben stark gefährden können. Beispiele sind:
- biometrische Fernidentifizierung (also etwa Gesichtserkennung aus der Distanz)
- Einsätze in kritischer Infrastruktur
- Einsätze in Gerichten
- Einsätze in Schulen
Die Regelung zielt auf konkrete Aufgaben ab — etwa soll die alleinige automatische Bewertung von Prüfungen durch eine KI vermieden werden.
Pflicht zur Registrierung
Betreiber solcher Hochrisiko-Systeme müssen ihre KI in eine EU-Datenbank eintragen. Die Position des Rates hält an dieser Pflicht fest — auch wenn der Betreiber selbst meint, sein System falle nicht unter die Hochrisiko-Definition.
Datenschutzprinzip bekräftigt
Die Verarbeitung personenbezogener Daten durch KI soll dem Grundsatz der strengen Notwendigkeit folgen: personenbezogene Daten dürfen nur dann eingesetzt werden, wenn es wirklich erforderlich ist.
Aufsicht über Allzweck‑KI
Das geplante EU‑Amt für KI (AI Office) soll weiterhin die Hauptaufsicht über General‑Purpose‑AI‑Modelle übernehmen — also über Modelle, die für viele unterschiedliche Aufgaben genutzt werden können. Ausnahmen, bei denen nationale Behörden zuständig sind, soll das EU‑Amt auflisten.
Weniger Verwaltungsaufwand für Unternehmen
Der Rat fordert, dass die Europäische Kommission Leitlinien herausgibt, um den bürokratischen Aufwand für Firmen zu reduzieren. Ausnahmen, die bisher ausschließlich für kleine und mittlere Unternehmen galten, sollen auch auf kleinere mittelgroße Unternehmen (sogenannte Midcaps) angewendet werden.
Neues Verbot für bestimmte Deepfakes
Der Rat will das Erzeugen von KI‑Inhalten verbieten, die:
- Kindesmissbrauch zeigen
- intime Situationen darstellen
- sexuelle Handlungen ohne Einwilligung abbilden
Entscheidendes Kriterium ist das Erstellen solcher Bilder oder Videos per KI ohne Zustimmung — unabhängig davon, ob ein realer Akt stattgefunden hat oder nicht.
Anlass: Vorfall mit massenhaft erzeugten Bildern
Die Ergänzungen reagieren unter anderem auf einen Vorfall, bei dem mit dem Bildgenerator Grok (xAI) massenhaft fragwürdige Bilder erstellt und auf der Plattform X verbreitet wurden. Organisationen wie Hate Aid fordern bereits länger Verbote gegen Face‑Swap‑Apps, mit denen Gesichter in pornografische Bilder eingesetzt werden können.
Nächster Schritt
Die Positionen des Europäischen Rates gehen jetzt in die Verhandlungen mit dem Europäischen Parlament.
Quellen
- Quelle: Europäischer Rat
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
