Deepfakes werden schwerer zu erkennen: Fehlende Finger oder grobe Bildfehler reichen längst nicht mehr als Hinweis. Moderne KI-Systeme erzeugen realistische Körper, Schatten und sogar Details wie einen imitierten Herzschlag. Wie lässt sich unter solchen Bedingungen noch unterscheiden, ob ein Bild echt ist oder künstlich erzeugt wurde?
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB arbeiten dafür an einem Verfahren namens RealOrRender. Es soll Deepfakes nicht nur identifizieren, sondern auch nachvollziehbar machen, warum ein Bild als Fälschung eingestuft wird.
Der Ansatz ist hybrid: Zunächst rekonstruiert ein KI-Bildgenerator das zu prüfende Bild. Dabei entstehen eine sogenannte Noise Map, also eine Art mathematischer Fingerabdruck, sowie eine künstliche Rekonstruktion des Originals. Anschließend bewertet ein KI-Modell die Abweichungen zwischen Ausgangsbild und Rekonstruktion.
Die Grundidee dahinter: Wurde ein Bild bereits künstlich erzeugt, ähnelt sein mathematischer Fingerabdruck stärker der erneuten KI-Rekonstruktion. Ein echtes Foto enthält dagegen mehr natürliche Ungenauigkeiten und Bildrauschen, wodurch größere Rekonstruktionsfehler entstehen. Trainiert wurde das System mit rund 120.000 Bildern aus 18 Bildgeneratoren. Die Forschenden nennen eine Erkennungsleistung von 85 bis 91 Prozent.
Wichtig ist dabei die Einschränkung des BSI: Automatisierte Detektionsverfahren funktionieren häufig nur unter bestimmten Rahmenbedingungen zuverlässig. Gerade weil sich generative Modelle ständig weiterentwickeln, bleibt Deepfake-Erkennung ein technisches Wettrennen.
RealOrRender ergänzt die reine Klassifizierung deshalb um Erklärbarkeit. Am Ende der Analyse erzeugt das System eine Heatmap, die auffällige Bildbereiche markiert. Dazu können Gesicht, Haare, Hände oder auch Objekte im Hintergrund gehören. Fachleute sollen dadurch besser nachvollziehen können, welche Merkmale zur Bewertung beigetragen haben. Perspektivisch könnte das auch Anwenderinnen und Anwendern helfen, den Ergebnissen solcher Systeme besser einzuordnen.
Innerhalb des BSI soll RealOrRender bereits als Demonstrator im Einsatz sein. Für Unternehmen, Behörden und Plattformbetreiber ist vor allem der erklärbare Ansatz relevant: Nicht nur das Ergebnis „echt oder gefälscht“ zählt, sondern auch die Begründung, warum ein System zu dieser Einschätzung kommt.