Fraunhofer entwickelt ein Tool, das Videocalls in Echtzeit auf Deepfakes prüft – lokal und ohne Serververbindung.
In Kürze
- Echtzeit‑Überwachung von Bild und Ton
- Analyse lokal auf dem Gerät, GPU ~12 GB empfohlen
- Prototyp; Datenschutz- und Rechtsfragen noch offen
Warnsystem gegen Live‑Deepfakes in Videocalls
Du sitzt im Videocall – und womöglich spricht dort gerade ein digitaler Doppelgänger. Forschende des Fraunhofer‑Instituts für Sichere Informationstechnik (SIT) in Darmstadt zusammen mit dem Fraunhofer‑Standort Heilbronn haben eine Software entwickelt, die laufende Videokonferenzen in Echtzeit überwacht und vor möglichen Deepfakes warnt. Das Projekt läuft im Rahmen des Cybersicherheitszentrums ATHENE und wird vom Bundesforschungsministerium sowie dem Land Hessen gefördert.
Was sind Deepfakes konkret?
Mit heute verfügbaren Werkzeugen lassen sich Stimmen und Gesichter so nachbilden, dass sie in Videoanrufen täuschen können. Ein Praxisbeispiel: Ein Experiment von heise gemeinsam mit der Cybersecurity‑Firma Whitelisthackers zeigte, wie schnell ein Live‑Deepfake jemanden dazu bringen konnte, vertrauliche Informationen preiszugeben.
Warum sind Videocalls besonders knifflig?
Netzschwankungen, Kompression und automatische Bildverbesserungen löschen oft die Hinweise, auf die ältere Erkennungsverfahren angewiesen sind. Das Fraunhofer‑System begegnet diesem Problem mit einer Kombination aus Bild‑ und Tonanalyse sowie maschinellem Lernen: Algorithmen bewerten Muster in Stimme und Bild und geben eine Wahrscheinlichkeit aus, ob die Gegenperson echt ist. Die endgültige Entscheidung bleibt beim Menschen – etwa durch:
- gezielte Rückfragen
- einen Rückruf über einen anderen Kanal
Wichtig für Datenschutz und Vertraulichkeit
Die gesamte Analyse läuft lokal auf deinem Rechner und verbindet sich nicht mit externen Servern. Für die benötigte Rechenleistung empfiehlt das Team eine moderne Grafikkarte mit etwa 12 GB Grafikspeicher (GPU). Dadurch eignet sich die Lösung besonders für sensible private Gespräche und geschäftliche Meetings, weil Ton‑ und Bilddaten das Gerät nicht verlassen müssen.
Prototyp und rechtliche Fragen
Der Prototyp ist noch in der Erprobung. Fraunhofer macht derzeit keine Angaben zur Erkennungsrate oder zur Häufigkeit von Fehlalarmen. Unklar ist außerdem, ob Teilnehmende einer biometrischen Analyse – also der Auswertung von Gesichts‑ und Stimmmerkmalen – aktiv zustimmen müssen; hier greift vermutlich die DSGVO und es sind noch rechtliche Fragen zu klären.
Als nächste Schritte
Als nächste Schritte wollen die Forschenden mit Unternehmen und Anbietern wie Zoom oder Microsoft Teams sprechen, um die Technik datenschutzfreundlich in reale Dienste zu integrieren. Fraunhofer‑Forscher Martin Steinebach weist darauf hin, dass Technik allein nicht ausreicht: Bei ungewöhnlichen Forderungen in einem Call, etwa Zahlungsaufforderungen, empfiehlt er, immer einen zweiten, unabhängigen Kommunikationsweg zur Bestätigung zu nutzen.
Quellen
- Quelle: Fraunhofer-Institut für Sichere Informationstechnologie (Fraunhofer SIT)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
