EU-Kennzeichnung für kommerzielle KI-Videos tritt in Kraft; Forschende stellen SAGA vor, das generierte Clips erkennt und Generatoren identifiziert.
In Kürze
- Kennzeichnungspflicht für kommerzielle KI-Videos ab 2. August 2026
- SAGA erkennt KI-Erzeugung und identifiziert das genutzte Modell
- Quellenattribution stärkt Plattform-Sicherheit, steht aber vor Gegenmaßnahmen
Deepfakes unter der Lupe: EU-Kennzeichnung kommt – Forschende entwickeln Tool zur Quellenbestimmung
Deepfake-Videos werden immer täuschender und sorgen für handfeste Probleme: Prominente Gesichter tauchen in missbräuchlicher Werbung auf, Identitätsbetrug in Video-Chats steigt, und in Bewerbungsverfahren könnten manipulierte Clips auftauchen.
Analysten wie Gartner warnen, dass bis 2028 ein großer Anteil von Bewerbungen manipuliert sein könnte. Vor diesem Hintergrund hat die EU zum 2. August 2026 eine Kennzeichnungspflicht eingeführt: Videos, die ganz oder teilweise mit KI erstellt werden und kommerziell genutzt sind, müssen entsprechend gekennzeichnet sein.
Die Kennzeichnung allein reicht aber nicht. Kriminelle und Betrüger werden versuchen, Hinweise zu umgehen oder zu fälschen. Daher braucht es Werkzeuge, die KI-generierte Inhalte zuverlässig erkennen und die Herkunft zurückverfolgen können. Forschende der University of California haben dafür ein Werkzeug vorgestellt: SAGA — Source Attribution of Generative AI videos.
Wie SAGA vorgeht
SAGA arbeitet in zwei Schritten:
- Zunächst prüft das System, ob ein Video ganz oder teilweise mit KI erzeugt wurde.
- Findet es Hinweise auf eine Generierung durch KI, versucht es im zweiten Schritt, das verwendete Generatormodell zu identifizieren.
Das Whitepaper zu SAGA wurde über die Computer Vision Foundation veröffentlicht.
Technisch setzt das Team auf ein sogenanntes Foundation Model — ein großes, allgemein trainiertes KI-Modell, das robust auf unterschiedliche Eingaben reagiert. Die Forschenden argumentieren, dass Generatoren bei der Erzeugung von Videoframes winzige, zeitliche Signaturen hinterlassen: kaum sichtbare Muster in der Reihenfolge oder im Feintiming der Einzelbilder. SAGA soll diese Musterspuren erkennen und damit das zugrundeliegende Modell zuordnen können, selbst wenn ein hochgeladenes Video dem Original technisch sehr ähnlich ist.
Warum Quellenbestimmung wichtig ist
Die reine Feststellung „gefälscht“ reicht in vielen Fällen nicht aus.
- Wenn klar ist, welches Modell oder welche Pipeline oft missbraucht wird, können Plattformbetreiber und Entwickler gezielter gegensteuern.
- Ermittlungen profitieren ebenfalls: Durch die Attribution lassen sich Missbrauchsmuster und mögliche Ursprünge besser nachverfolgen.
- Außerdem liefern solche Erkenntnisse Hinweise für die Verbesserung von Schutzmechanismen in KI-Systemen.
Einsatzfelder und Grenzen
SAGA ist laut Whitepaper als Hilfsmittel gedacht für Plattform-Sicherheit, forensische Analysen und als Feedback für Entwickler. Wie zuverlässig das System in der Praxis bei bewusst manipulierten oder stark nachbearbeiteten Deepfakes arbeitet, hängt von vielen Faktoren ab — unter anderem davon, wie sich Generatoren weiterentwickeln und wie gut Angreifer Versuche unternehmen, zeitliche Signaturen zu verwischen.
Quellenhinweis
Die Beschreibung zu SAGA basiert auf einem Bericht über die Forschung der University of California; der Originaltext erschien zuerst auf t3n.de.
Quellen
- Quelle: University of California
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
