Kurz gesagt: Anthropic hat mit FlashProve einen quelloffenen Forschungsprototyp vorgestellt, der die Identität von KI-Modellen kryptografisch nachweisen soll. Mithilfe von Zero-Knowledge-Beweisen lässt sich überprüfen, ob eine KI-Antwort tatsächlich vom angegebenen Modell stammt, ohne vertrauliche Modellgewichte offenzulegen. Der hohe Rechenaufwand begrenzt bislang den praktischen Einsatz.
Wer einen KI-Chatbot nutzt, muss bislang darauf vertrauen, dass tatsächlich das versprochene Sprachmodell antwortet. Doch wie lässt sich die Identität eines KI-Modells unabhängig überprüfen? Anthropic möchte diese Lücke mit FlashProve schließen.
Das Problem betrifft nicht nur die Transparenz gegenüber Nutzern. Anbieter könnten günstigere Modelle einsetzen als vereinbart, während manipulierte KI-Server möglicherweise veränderte Antworten oder Schadcode ausgeben. Kryptografische Identitätsnachweise könnten außerdem Sicherheitsprüfungen nachvollziehbarer machen und Behörden bei der Kontrolle regulatorischer Vorgaben unterstützen.
Identitätsprüfung ohne Offenlegung der Modellgewichte
FlashProve basiert auf sogenannten Zero-Knowledge-Beweisen. Zunächst wird ein kryptografischer Fingerabdruck der Modellgewichte erstellt. Anschließend können Dritte anhand eines Beweises überprüfen, ob eine Antwort mit diesen Gewichten berechnet wurde, ohne das Modell selbst ausführen oder seine internen Parameter kennen zu müssen.
Laut Anthropic hat das eigene KI-Modell Claude wesentliche Optimierungen beigesteuert. Zentrale Sicherheitsaussagen wurden zusätzlich mit der formalen Beweissprache Lean mathematisch abgesichert.
Für die Erprobung verwendete Anthropic Metas Llama 4 Maverick, ein Mixture-of-Experts-Modell mit 400 Milliarden Parametern. Auf einer Nvidia-H100-GPU dauerte die Beweiserzeugung für 24 gebündelte Anfragen insgesamt 223 Sekunden. Jeder Beweis war ungefähr 19 MByte groß und ließ sich auf einem gewöhnlichen Prozessor innerhalb von 17 bis 21 Sekunden überprüfen.
Technischer Fortschritt mit erheblichen Einschränkungen
Die zusätzliche Sicherheit hat ihren Preis: Laut Anthropic benötigt FlashProve etwa 70- bis 95-mal mehr GPU-Rechenzeit als die gewöhnliche Verarbeitung der Anfragen.
Dennoch stellt das Verfahren einen Fortschritt gegenüber bisherigen Ansätzen dar. Das frühere quelloffene System VerInf benötigte nach Entwicklerangaben für 1000 Token desselben Modells rund 14,3 Stunden und erzeugte einen 93,6 GByte großen Beweis. Wegen unterschiedlicher Hardware, Verfahren und Beweisziele sind diese Ergebnisse allerdings nicht unmittelbar vergleichbar.
Auch FlashProve ist noch nicht für den produktiven Einsatz ausgelegt. Der Prototyp unterstützt lediglich Kontextlängen von 1024 Token und wurde bislang mit einer auf 4 Bit quantisierten Version von Llama 4 Maverick getestet. Ob sich das Verfahren für längere Gespräche und kommerzielle KI-Dienste skalieren lässt, bleibt offen. Anthropic stellt den Quellcode auf GitHub bereit, kennzeichnet ihn jedoch ausdrücklich als nicht gewarteten Forschungsprototyp.
Für Unternehmen könnte eine solche Technologie künftig interessant werden, wenn sie den Einsatz bestimmter KI-Modelle unabhängig nachweisen oder Sicherheitsprüfungen verifizieren müssen. Bis zur praktischen Anwendbarkeit sind allerdings weitere technische Fortschritte erforderlich.
Wie sich Sicherheitsmechanismen und überprüfbare KI-Systeme weiterentwickeln, beleuchtet der Newsletter Beratung-KI regelmäßig mit verständlichen Einordnungen zu aktuellen KI-Technologien und ihrem praktischen Einsatz.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.