EU-Kodex: Regeln zur Kennzeichnung von KI‑Inhalten.
In Kürze
- Pflichtlabel für Deepfakes
- Maschinenlesbar: Signatur & Wasserzeichen
- EU‑Label und Vorteil für Behörden‑Nachweis
Die EU-Kommission hat einen finalen Verhaltenskodex zur Kennzeichnung von KI‑generierten Inhalten vorgelegt. Ziel: Anbieter sollen praktikable Wege bekommen, damit die Transparenzpflichten der neuen KI‑Verordnung (AI Act), die ab dem 2. August gilt, erfüllt werden können. Sechs unabhängige Expert*innen erarbeiteten das Papier mit Beteiligung von mehr als 180 Akteuren aus Wirtschaft, Wissenschaft und Zivilgesellschaft.
Was der Kodex vorschreibt
- Verpflichtende Kennzeichnung: Deepfakes sowie KI‑erzeugte oder manipulierte Texte, die im öffentlichen Interesse verbreitet werden, müssen deutlich als solche gekennzeichnet werden. Nutzerinnen und Nutzer sollen außerdem sofort erkennen können, wenn sie mit einem Chatbot oder einem dialogorientierten System interagieren.
- Freiwilligkeit mit rechtlicher Wirkung: Der Kodex ist formal freiwillig. Wenn die Kommission und das EU‑KI‑Büro ihn als angemessen anerkennen, können Unterzeichner damit gegenüber Behörden nachweisen, dass sie die Pflichten des AI Act erfüllen.
Technische Vorgaben für Anbieter
- Zwei Rollen: Das Papier trennt die Pflichten der Entwickler/Anbieter von denen der Anwender/Betreiber der Systeme.
- Maschinenlesbare Markierung: Erzeugte oder veränderte Audio-, Bild‑, Video‑ und Textinhalte müssen so markiert werden, dass auch Maschinen die Kennzeichnung erkennen können — also nicht nur ein sichtbares Label für Menschen.
- Mehrschichtiger Schutz: Eine einzelne Technik reicht meist nicht aus. Empfohlen wird eine Kombination aus mindestens zwei Maßnahmen, etwa:
- Manipulationssichere Metadaten mit digitaler Signatur und Zeitstempel (Signatur macht Änderungen schwerer, Zeitstempel dokumentiert die Entstehungszeit).
- Unsichtbare Wasserzeichen, die sich nur schwer entfernen lassen.
- Freier Text über 200 Zeichen: Auch hier sind Wasserzeichen vorgesehen. Weil Erkennungswerkzeuge für Text weniger zuverlässig sein können, darf der Zugang zu diesen Tools zunächst auf verifizierte Expert*innen begrenzt werden.
- Ergänzende Mittel: Protokollierungslösungen oder Fingerprints sind erlaubt, solange der Datenschutz gewahrt bleibt.
- Verbot: Anbieter dürfen technische Mittel, die Schutzmechanismen umgehen, weder vertreiben noch bewerben.
- Offenheit der Werkzeuge: Die entwickelten Erkennungsinstrumente müssen Aufsichtsbehörden, Medien, Faktenprüfer*innen und Forschung dauerhaft und kostenfrei zur Verfügung stehen.
Pflichten für Betreiber und Plattformen
- Menschliche Sichtbarkeit: Betreiber müssen Deepfakes und nicht‑redaktionell geprüfte KI‑Texte, die öffentlich verbreitet werden, klar für das menschliche Auge oder Ohr kennzeichnen.
- EU‑Label: Das EU‑KI‑Büro führt ein standardisiertes visuelles Label ein: „AI + GENERATED“ für vollständig künstliche Inhalte und „AI + MODIFIED“ für nachträglich manipulierte Werke.
- Platzierung und Wiederholung: Das Label muss ab der ersten Begegnung gut sichtbar sein (etwa oben rechts in Videos oder bei Überschriften). Bei Videos ist regelmäßige Wiederholung vorgesehen; bei reinen Audio‑Deepfakes sind akustische Hinweise zu Beginn und in längeren Beiträgen wiederkehrend nötig.
- Ausnahmen: Für künstlerische oder satirische Inhalte gelten lockerere Regeln — etwa Kennzeichnung im Abspann oder in Begleittexten. Klassische journalistische Angebote können stattdessen auf ihre redaktionellen Kontrollprozesse verweisen.
Kontext und Ausblick
Der Kodex ergänzt die Vorgaben des AI Act, insbesondere für breit einsetzbare KI‑Modelle und Hochrisiko‑Systeme, und schließt damit Lücken in bisherigen Leitlinien. Eine Taskforce soll den Kodex laufend an technische Entwicklungen anpassen. Geplant ist außerdem eine interaktive zweite Ebene des EU‑Labels: Per Klick sollen detaillierte Angaben zur Herkunft des Inhalts und zur Art der KI‑Manipulation abrufbar sein.
Der Verhaltenskodex setzt damit auf eine Kombination aus technischen Schutzmaßnahmen und nutzerfreundlichen Labels — freiwillig, aber mit klarem Vorteil im regulatorischen Nachweis, wenn die EU‑Institutionen ihn anerkennen.
Quellen
- Quelle: EU-Kommission
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
