Täuschend echte Stimmen und Gesichter lassen sich inzwischen während einer Videokonferenz manipulieren. Doch wie kann erkannt werden, ob tatsächlich die erwartete Person am Gespräch teilnimmt?
Das Fraunhofer-Institut für Sichere Informationstechnologie SIT in Darmstadt entwickelt gemeinsam mit dem Fraunhofer-Standort Heilbronn ein Warnsystem für laufende Videocalls. Der Demonstrator entstand im Rahmen des vom Bundesforschungsministerium und dem Land Hessen geförderten Cybersicherheitszentrums ATHENE.
Bild und Ton werden gemeinsam ausgewertet
Deepfake-Werkzeuge können digitale Klone realer Personen erzeugen und deren Stimme sowie Erscheinungsbild auf andere Menschen übertragen. Ein Experiment von heise und der Cybersecurityfirma Whitelisthackers zeigte, wie schnell eine solche Täuschung gelingen kann: Innerhalb weniger Sekunden wurde ein Mitarbeiter dazu gebracht, vertrauliche Daten preiszugeben.
Gerade in Videokonferenzen ist die Erkennung schwierig. Übertragungsfehler, schwankende Netzqualität, Kompression und automatische Weichzeichnungsfilter gehören dort zum Alltag. Sie können gleichzeitig jene Bildfehler verdecken, auf die ältere Erkennungsmethoden angewiesen waren.
Das Fraunhofer-System kombiniert deshalb Audio- und Videoanalyse mithilfe maschinellen Lernens. Während des Gesprächs zeigt es eine Wahrscheinlichkeit dafür an, ob das Gegenüber echt ist. Die endgültige Bewertung bleibt jedoch beim Menschen. Bei einem Verdacht können gezielte Rückfragen gestellt oder die betreffende Person über einen unabhängigen Kommunikationsweg kontaktiert werden.
Verarbeitung bleibt auf dem eigenen Rechner
Die Analyse erfolgt lokal auf einem Rechner mit moderner Grafikkarte und zwölf Gigabyte Grafikspeicher. Bild- und Tondaten müssen dadurch nicht an externe Server übertragen werden. Das ist besonders bei vertraulichen privaten oder geschäftlichen Gesprächen relevant.
Ein fertiges Produkt ist die Lösung noch nicht. Fraunhofer veröffentlicht bislang weder konkrete Erkennungsraten noch Angaben zu möglichen Fehlalarmen. Auch rechtliche Fragen sind offen: Da Gesichts- und Stimmmerkmale biometrisch ausgewertet werden, könnte eine Zustimmung der Gesprächsteilnehmer erforderlich sein.
Nach Abschluss der Erprobung wollen die Forschenden mit Unternehmen sowie Anbietern wie Zoom und Microsoft Teams über eine sichere und datenschutzfreundliche Integration sprechen.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.