EU-Parlament verbietet KI‑Apps, die ohne Zustimmung täuschend echte Nackt‑Bilder erzeugen.
In Kürze
- 569 Abgeordnete stimmten für das Verbot
- Ausnahmen nur bei wirksamen technischen Sperren; Kennzeichnung bis Nov 2026
- Teil des AI Act; Hochrisiko‑Regeln gelten ab 2027/2028
Das EU-Parlament hat mit klarer Mehrheit ein Verbot von sogenannten „Nudifier‑Apps“ beschlossen — KI‑Programme, die aus normalen Fotos täuschend echte Nacktbilder erzeugen, ohne dass die abgebildete Person zugestimmt hat. 569 Abgeordnete stimmten dafür, 45 dagegen, 23 enthielten sich.
Was steckt dahinter?
„Generative KI“ beschreibt hier Systeme, die neue Bilder erzeugen. Unter „Deepfake“ versteht man gefälschte, real wirkende Aufnahmen, die Menschen entwürdigen oder missbrauchen können. Ziel des Verbots ist, genau solche Formen digitaler sexualisierter Gewalt zu unterbinden. Als prominentes Beispiel nannten Abgeordnete den Fall der Moderatorin Collien Fernandes; auch Dienste wie Elon Musks Grok wurden in diesem Zusammenhang genannt.
Teil einer größeren Regelungsrunde
Das Verbot ist kein Einzelakt, sondern Teil von Änderungen am AI Act, eingebettet in die sogenannte Digital‑Omnibus‑Verordnung. Damit will das Parlament die Regeln praxisnäher gestalten und Unternehmen mehr Planungssicherheit geben. Teil des Vorschlags ist, dass sogenannte Hochrisiko‑KI — etwa in Bereichen wie Biometrie, Bildung oder Strafverfolgung — erst ab dem 2. Dezember 2027 vollständig den Anforderungen unterliegen soll. Für KI‑Themen, die allgemeine Produktsicherheit betreffen, ist sogar August 2028 als späterer Stichtag im Gespräch.
Schutz durch Technik und mehr Transparenz
Ausnahmen vom Verbot sollen nur für Systeme möglich sein, die wirksame technische Sicherheitsbarrieren vorweisen — also Mechanismen, die zuverlässig verhindern, dass Nackt‑Deepfakes überhaupt erzeugt werden. Außerdem strebt das Parlament an, KI‑Erzeugnisse bis November 2026 deutlich zu kennzeichnen, damit Herkunft und Einsatz für Nutzerinnen und Nutzer transparenter werden.
Gegenwind aus der Industrie
Nicht alle sind einverstanden: Der TÜV‑Verband warnte vor einem „Sektor‑Exit“. Hintergrund ist der Vorschlag, zentrale Hochrisiko‑Bereiche (etwa Medizinprodukte, Maschinen, Spielzeuge) aus der allgemeinen KI‑Verordnung herauszunehmen und stattdessen in speziellen Einzelgesetzen zu regeln. Solche Verschiebungen könnten zu rechtlicher Unsicherheit oder Marktveränderungen führen, so die Kritik.
Wie es weitergeht
Mit dem Votum des Parlaments können nun die Trilog‑Verhandlungen mit dem Rat der EU starten, um die endgültige Fassung auszuhandeln. Da die EU‑Staaten sich in vielen Punkten ähnlich positioniert haben, gilt eine zügige Einigung als möglich — die genauen Texte und Zeitpläne werden aber erst in den Verhandlungen festgezurrt.
Quellen
- Quelle: EU-Parlament
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
