Fraunhofer entwickelt eine Software, die Deepfakes in Videocalls live und lokal auf deinem Rechner prüfen soll.
In Kürze
- Bild und Ton werden kombiniert ausgewertet; ML liefert Wahrscheinlichkeiten
- Analyse läuft lokal auf der GPU (≈12 GB VRAM), keine Cloud‑Übertragung
- Erkennungsraten, Fehlalarme und DSGVO‑Fragen sind noch offen
Fraunhofer-Forschende wollen Deepfakes in Videocalls enttarnen — und zwar live, lokal auf deinem Rechner.
Was steckt dahinter?
Teams aus dem Fraunhofer-Institut für Sichere Informationstechnologie (SIT) in Darmstadt und dem Fraunhofer-Standort Heilbronn haben eine Software entwickelt, die während laufender Videokonferenzen prüfen soll, ob das Gegenüber ein KI-erzeugter Deepfake ist. Das Projekt läuft im Rahmen von ATHENE, dem geförderten Forschungszentrum für Cybersicherheit.
Was ist ein Deepfake?
Deepfakes sind mit Künstlicher Intelligenz erzeugte Fälschungen von Bild und/oder Stimme, die reale Personen nachahmen. Solche Klone lassen sich mittlerweile zügig erzeugen und wurden in Tests, unter anderem gemeinsam mit der Firma „Whitelisthackers“, eingesetzt, um Menschen in wenigen Sekunden zu täuschen und so vertrauliche Informationen zu erlangen.
Wie arbeitet das System?
Die Software wertet gleichzeitig Bild und Ton aus und setzt maschinelles Lernen ein, um eine Wahrscheinlichkeit anzuzeigen, ob die Person echt ist. Die Entscheidung bleibt letztlich beim Mensch: das Tool soll zum Beispiel zu konkreten Rückfragen anregen oder eine Verifikation über einen separaten Kommunikationsweg empfehlen.
Datenschutz und Technik
Ein wichtiger Punkt: Die Auswertung läuft lokal auf dem PC, die Audio‑ und Bilddaten werden nicht in die Cloud geschickt. Das macht die Lösung für sensible private oder geschäftliche Gespräche besser geeignet.
Gleichzeitig bedeutet das, dass dein Rechner eine moderne Grafikkarte mit rund 12 GB Grafikspeicher braucht — die GPU-Berechnung ist für solche KI‑Modelle essenziell.
Offene Fragen und Herausforderungen
Videocalls sind keine einfachen Prüfobjekte:
- Netzschwankungen
- Kompression
- automatische Bildglättung
verwischen Erkennungsmerkmale. Fraunhofer hat bisher keine konkreten Zahlen zu Erkennungsraten oder Fehlalarmen veröffentlicht. Außerdem ist unklar, ob Teilnehmende einer biometrischen Analyse zustimmen müssen — hier greift aller Voraussicht nach die DSGVO. Der Demonstrator befindet sich noch in der Erprobung, rechtliche Fragen sollen weiter geklärt werden.
Wie es weitergehen soll
Die Forschenden planen Gespräche mit Unternehmen und Anbietern wie Zoom oder Microsoft Teams, um eine datenschutzfreundliche Integration zu prüfen. Ziel ist offenbar, die Technologie praktikabel in bestehende Videoplattformen zu bringen, ohne Bild‑ oder Tonmaterial außer Haus zu geben.
Was du praktisch beachten solltest
Technik kann helfen, ersetzt aber keine Vorsicht. Bei sensiblen Forderungen in Videocalls — etwa Überweisungen oder Preisgaben vertraulicher Daten — nutze immer einen zweiten, unabhängigen Bestätigungsweg, zum Beispiel:
- einen Rückruf über eine bekannte Telefonnummer
- eine Bestätigung per verschlüsselter Nachricht
Quellen
- Quelle: Fraunhofer-Institut für Sichere Informationstechnologie (Fraunhofer SIT)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
