Anthropics FlashProve verifiziert die Identität von KI-Modellen mit kryptografischen Beweisen

Das Frontier Red Team von Anthropic hat FlashProve veröffentlicht, ein Open-Source-Kryptographiesystem zur Überprüfung der Herkunft KI-generierter Antworten. Das am 4. November 2026 angekündigte Forschungsprototyp ermöglicht es Entwicklern, zu bestätigen, dass ein bestimmter Satz Modellgewichte eine Antwort erzeugt hat, ohne diese proprietären Gewichte offenzulegen. Obwohl die Technologie kritische Vertrauensprobleme in der Lieferkette adressiert, schränkt ihr hoher Rechenaufwand sie derzeit auf den experimentellen Einsatz ein und macht sie für Produktions-API-Traffic ungeeignet.

Was passiert ist

Entwickler, die sich auf Drittanbieter-KI-APIs verlassen, haben oft keine zuverlässige Methode, um sicherzustellen, dass sie Antworten von dem Modell erhalten, für das sie bezahlt haben. Ein Anbieter könnte Anfragen stillschweigend an ein günstigeres, weniger leistungsfähiges Modell weiterleiten, oder ein Angreifer könnte die Inferenz-Pipeline kompromittieren, um Ausgaben zu manipulieren. FlashProve zielt darauf ab, diese Intransparenz durch eine mathematische Garantie der Modellidentität zu lösen. Das System nutzt Zero-Knowledge Succinct Non-Interactive Arguments of Knowledge (zkSNARKs), um einen Beweis dafür zu erstellen, dass ein spezifisches Modell eine bestimmte Ausgabe generiert hat.

Das Projekt ist auf GitHub als Forschungsartefakt verfügbar, was bedeutet, dass Anthropic es nicht für den produktiven Einsatz pflegt und keine externen Beiträge akzeptiert. Es ist nicht in die Claude-API integriert, und es gibt keinen aktuellen Zeitplan für eine solche Integration. Stattdessen dient es als öffentliche Demonstration dafür, wie kryptografische Verifizierung bei großen Sprachmodellen angewendet werden kann, und bietet eine Vorlage für zukünftige sichere KI-Infrastrukturen.

Wie es funktioniert

FlashProve arbeitet, indem es einen kryptografischen Beweis generiert, der die Antwort eines Modells mit seinen zugrunde liegenden Gewichten verknüpft, ohne die Gewichte selbst preiszugeben. Dieser Prozess beruht auf einer vertrauenswürdigen Quelle für die anfängliche Festlegung der Modellgewichte; wenn die Quelle kompromittiert wird, verliert der Beweis seinen Wert. Das System erzeugt diese Beweise in Batches nach Abschluss der Inferenzanfrage, anstatt Tokens in Echtzeit zu verifizieren, während sie an den Benutzer gestreamt werden. Dieser Batch-Ansatz hilft, die intensive Rechenlast zu bewältigen, die für die Beweisgenerierung erforderlich ist.

Um die Integrität des Protokolls sicherzustellen, nutzte Anthropic den Lean-Beweisassistenten, um die mathematischen Eigenschaften des Systems formal zu verifizieren. Diese formale Verifizierung bestätigt, dass das Protokoll gültige Beweise akzeptiert, gefälschte Beweise mit überwältigender Wahrscheinlichkeit ablehnt und keine Informationen über die Modellgewichte preisgibt, die nicht bereits in der Antwort enthalten sind. Die Veröffentlichung umfasst zwei Verifizierer: eine formal verifizierte Version in Lean und eine schnellere C++-Implementierung. Während der C++-Verifizierer Vergleichstests gegen die Lean-Version bestanden hat, fehlen ihm dieselben strengen mathematischen Garantien wie auch dem GPU-Prover, der für die Generierung verwendet wird.

Wichtige Details

• FlashProve wurde an Metas Llama 4 Maverick getestet, einem Mixture-of-Experts-Modell mit 400 Milliarden Parametern, nicht an Claude.
• Die Beweisgenerierung verarbeitet etwa 110 Prompt-Tokens pro Sekunde auf einer einzelnen Nvidia H100 GPU.
• Jeder generierte Beweis ist ungefähr 18,78 MB groß und benötigt etwa 21 Sekunden zur Verifizierung auf einem einzelnen CPU-Thread.
• Für die Generierung von Beweisen wird 70- bis 95-mal mehr GPU-Zeit benötigt als für die Standard-Inferenz unter Verwendung von vLLM.
• Das System ist derzeit auf 1.024 Kontext-Tokens begrenzt und nutzt ganzzahlbasierte Inferenz mit Greedy-Decoding.
• Frühere Systeme wie VerInf benötigten 14,3 Stunden, um einen 93,6 GB großen Beweis für 1.000 Tokens zu generieren, was FlashProve erheblich schneller macht.

Warum es wichtig ist

Für Softwareingenieure und technische Leiter unterstreicht FlashProve die wachsende Bedeutung der Inferenzintegrität in KI-Lieferketten. Da Organisationen immer mehr Drittanbietermodelle in ihre Produkte integrieren, steigt das Risiko von Modellaustausch oder -manipulation. Kryptografische Verifizierung bietet einen Weg zur Auditierbarkeit und stellt sicher, dass kritische Entscheidungen, die von KI-Systemen getroffen werden, auf eine verifizierte Quelle zurückführbar sind. Dies ist besonders relevant für regulierte Branchen, in denen der Nachweis der Herkunft einer automatisierten Entscheidung eine Compliance-Anforderung ist.

Allerdings macht der aktuelle Leistungsaufwand eine sofortige Adoption für die meisten Anwendungen unpraktikabel. Der 70- bis 95-fache Anstieg der GPU-Rechenzeit stellt eine prohibitiv hohe Kostenstruktur für hochvolumige API-Dienste dar. Entwickler müssen die Sicherheitsvorteile der Verifizierung gegen die wirtschaftliche Realität der Inferenzkosten abwägen. FlashProve zeigt, dass die Technologie zwar reift, aber für den routinemäßigen Einsatz noch zu teuer ist, was darauf hindeutet, dass weitere Optimierungen nötig sind, bevor kryptografische Beweise zum Standardmerkmal in KI-APIs werden.

Was Sie tun können

• Laden Sie den FlashProve-Code von GitHub herunter, um kryptografische Verifizierung in einer kontrollierten Umgebung zu experimentieren.
• Nutzen Sie den Lean-Verifizierer, wenn Ihre Anwendung formal verifizierte Sicherheitsgarantien erfordert, trotz seiner langsameren Performance.
• Erwägen Sie den C++-Verifizierer für schnellere Tests, beachten Sie jedoch, dass er nicht denselben Grad an mathematischem Beweis wie die Lean-Version bietet.
• Prüfen Sie, ob Ihr Anwendungsfall batchweise Verifizierung statt Echtzeit-Token-für-Token-Prüfungen tolerieren kann.
• Beobachten Sie Entwicklungen bei der Effizienz von zkSNARKs, da Reduktionen der Beweisgenerierungskosten bestimmen werden, wann diese Technologie für den Produktionseinsatz tragfähig wird.
• Bewerten Sie Ihre aktuellen Risiken in der KI-Lieferkette, um festzustellen, ob Modellaustausch eine glaubwürdige Bedrohung für Ihre Geschäftslogik darstellt.