Fraunhofer entwickelt Software, die in Echtzeit Deepfakes in Videokonferenzen erkennt und lokal auswertet.
In Kürze
- Kombiniert Audio‑ und Videoanalyse mit maschinellem Lernen
- Lokale Auswertung möglich, erfordert moderne GPU (~12 GB)
- Prototyp: Erkennungsraten und DSGVO-Fragen noch offen
Forscher vom Fraunhofer SIT in Darmstadt und dem Fraunhofer-Standort Heilbronn arbeiten an einer Software, die während Videokonferenzen anzeigen soll, ob dein Gesprächspartner ein Deepfake ist. Das Projekt läuft im Rahmen von ATHENE, dem Cybersicherheitszentrum, das vom Bundesforschungsministerium und dem Land Hessen gefördert wird.
Warum das wichtig ist
Deepfakes werden bereits für Betrug eingesetzt. In einem Experiment mit der Cybersecurityfirma Whitelisthackers konnten Forschende einen Live-Deepfake einsetzen und so an vertrauliche Informationen gelangen. Solche Angriffe passieren in Echtzeit und zielen darauf ab, Vertrauen zu missbrauchen — klassische Szenarien betreffen etwa Zahlungsanweisungen oder die Herausgabe sensibler Daten.
Wie die Erkennung funktioniert
Das System kombiniert automatische Audio‑ und Videoanalyse mit maschinellem Lernen. Es wertet Stimme und Bild in Echtzeit aus und berechnet eine Wahrscheinlichkeit dafür, ob das Gegenüber echt ist oder manipuliert wurde. Die endgültige Entscheidung bleibt beim Menschen: Das Tool liefert Hinweise, du kannst dann gezielte Rückfragen stellen oder die Person über einen anderen Kanal zurückrufen.
Wichtiger Datenschutzpunkt
Die Auswertung soll lokal auf deinem Rechner laufen — vorausgesetzt du hast eine moderne Grafikkarte mit etwa 12 GB Grafikspeicher. Das bedeutet, Bild- und Tonaufnahmen müssen nicht an externe Server geschickt werden, was bei sensiblen Gesprächen ein großer Pluspunkt sein kann.
Stand der Entwicklung und offene Fragen
Der aktuelle Prototyp ist ein Demonstrator in der Erprobungsphase. Fraunhofer hat bislang keine Zahlen zu Erkennungsraten oder Fehlalarmraten veröffentlicht. Rechtliche Fragen bleiben ebenfalls offen: Beispielsweise die Zustimmung zur biometrischen Auswertung nach DSGVO ist noch zu klären.
Nächste Schritte
Die Forschenden wollen mit Unternehmen und Anbietern wie Zoom oder Microsoft Teams sprechen, damit die Technik datenschutzfreundlich in bestehende Systeme integriert werden kann.
Praktische Regel für dich
Technik allein reicht nicht. Bei sensiblen Forderungen in Videocalls — zum Beispiel Zahlungsanweisungen — solltest du immer einen unabhängigen zweiten Weg zur Bestätigung nutzen:
- Rückruf über eine bekannte Nummer
- Bestätigung per E‑Mail über die offizielle Firmenadresse
Quellen
- Quelle: Fraunhofer-Institut für Sichere Informationstechnologie (Fraunhofer SIT)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
