FlashProve permet la vérification cryptographique des sorties d'inférence des LLM

Des chercheurs d'Anthropic et des collaborateurs académiques ont publié FlashProve, un prototype open source qui utilise des preuves à divulgation nulle (zero-knowledge proofs) pour vérifier les sorties des grands modèles de langage. Publiée en novembre 2026, cette solution permet aux utilisateurs de confirmer qu'une réponse a été générée par un ensemble spécifique de poids du modèle, sans exposer ces derniers ni nécessiter des ressources de calcul importantes pour la vérification.

Ce qui s'est passé

L'équipe, incluant des chercheurs d'Anthropic, de l'EPFL, du MIT et de Succinct, a introduit FlashProve pour répondre aux problèmes croissants de confiance dans le déploiement de l'IA. À mesure que les modèles deviennent intégraux à l'infrastructure numérique, les utilisateurs rencontrent des difficultés pour vérifier que le modèle qui leur sert est bien celui qu'ils ont demandé. Les services de routage pourraient substituer des modèles moins coûteux, ou des attaquants pourraient manipuler les flux de tokens. FlashProve offre une solution cryptographique où le fournisseur génère une preuve parallèlement à la réponse, que l'utilisateur peut rapidement vérifier.

Cette publication marque une avancée vers l'objectif public d'Anthropic de créer un prototype pour l'inférence prouvable d'ici au 30 septembre 2026. Bien que l'entreprise ait précédemment atteint cet objectif via un autre projet impliquant des serveurs de confiance, FlashProve propose une approche purement logicielle basée sur les arguments succincts de connaissance à divulgation nulle (zkSNARKs). L'équipe a publié du code exécutable, des rapports techniques et des artefacts de vérification formelle sous licence Apache 2.0 afin d'encourager les améliorations communautaires.

Le système démontre des performances pratiques pour les grands modèles. Pour Llama 4 Maverick, un modèle mixture-of-experts de 400 milliards de paramètres avec quantification sur 4 bits, un seul GPU H100 génère des preuves à environ 110 tokens par seconde. La taille de la preuve résultante est d'environ 19 Mo pour une requête de 1 024 tokens. Bien que ce processus prenne 70 à 95 fois plus de temps qu'une inférence standard utilisant vLLM, il représente une accélération significative par rapport aux systèmes open source antérieurs, qui étaient plusieurs ordres de grandeur plus lents.

Comment cela fonctionne

FlashProve repose sur les zkSNARKs, un outil cryptographique permettant à un prouveur de convaincre un vérificateur qu'un calcul a été exécuté correctement sans révéler aucune donnée d'entrée au-delà du résultat. Dans ce contexte, le « calcul » est la passe avant (forward pass) du réseau neuronal. Le système opère en deux phases. Premièrement, lors d'une phase hors ligne, le fournisseur du modèle publie un engagement (commitment), qui agit comme une empreinte digitale unique pour les poids spécifiques du modèle. Cet engagement fixe exactement les poids tout en les gardant cachés.

Dans la phase en ligne, lorsqu'un utilisateur envoie une prompt, le fournisseur exécute le modèle et génère un fichier de preuve. Ce fichier certifie que le modèle engagé a produit les tokens de sortie spécifiques pour l'entrée donnée. L'utilisateur, agissant en tant que vérificateur, contrôle cette preuve en utilisant l'engagement, la prompt et la réponse. Parce que la preuve est succincte, la vérification est exponentiellement plus rapide que de relancer le modèle et peut être effectuée sur un CPU standard en quelques secondes. Crucialement, la propriété de divulgation nulle garantit que la preuve ne révèle rien sur les poids propriétaires du modèle.

Pour assurer la fiabilité des affirmations cryptographiques, l'équipe a utilisé Lean, un langage de vérification formelle. Ils ont fourni des énoncés auditables de haut niveau en Lean pour les garanties de sécurité, ainsi qu'un visualiseur interactif pour les théorèmes. Cette approche contrebalance la complexité de l'optimisation automatisée en fournissant des assurances mathématiquement rigoureuses que le protocole se comporte comme spécifié.

Détails clés

• FlashProve atteint des vitesses de génération de preuves d'environ 110 tokens/seconde pour Llama 4 Maverick (400B paramètres) sur un seul GPU H100.
• Les tailles de preuves sont d'environ 19 Mo par requête de 1 024 tokens, permettant une transmission et un stockage efficaces.
• Le système utilise des poids quantifiés sur 4 bits et une arithmétique entière durant la phase de préremplissage (prefill) pour optimiser les performances.
• La vérification nécessite uniquement l'engagement, la prompt et la réponse, permettant aux utilisateurs de contrôler la validité sans accès aux poids du modèle.
• Tout le code, les preuves Lean et la documentation sont publiés sous licence Apache 2.0 pour faciliter l'audit externe et l'amélioration.
• La solution est purement logicielle, reposant sur la dureté computationnelle plutôt que sur des environnements d'exécution de confiance ou du matériel spécialisé.

Pourquoi c'est important

Pour les ingénieurs logiciels et les leaders techniques, FlashProve introduit une nouvelle couche d'intégrité dans les applications IA. Il résout le problème de substitution de modèle, où un service de routage tiers pourrait remplacer un modèle premium par un modèle moins cher. En attachant une preuve cryptographique à chaque réponse, les fournisseurs peuvent offrir des garanties vérifiables aux clients. Cela est particulièrement pertinent pour les équipes de sécurité interne qui doivent s'assurer que seuls des modèles approuvés et sûrs fonctionnent dans les environnements de production, empêchant les agents malveillants ou les serveurs compromis de servir des sorties nuisibles.

La technologie a également des implications pour la conformité réglementaire et le rythme de l'IA. Les régulateurs pourraient exiger que les fournisseurs soumettent des preuves démontrant que le matériel est utilisé pour l'inférence sur des modèles approuvés plutôt que pour un entraînement non autorisé. Cela permet une supervision sans exposer les poids propriétaires ni obliger les régulateurs à posséder d'énormes ressources de calcul. De plus, les développeurs peuvent utiliser ces preuves pour démontrer une diligence raisonnable, comme prouver qu'un modèle frontière spécifique a scanné du code pour détecter des vulnérabilités, ajoutant ainsi de la crédibilité aux affirmations de sécurité.

Ce que vous pouvez faire

• Examinez le code open source FlashProve et le rapport technique pour comprendre les détails d'implémentation des zkSNARKs pour les LLM.
• Expérimentez avec le vérificateur rapide C++ fourni et le vérificateur formellement correct en Lean pour tester la validation des preuves sur votre propre infrastructure.
• Évaluez les compromis entre la surcharge de génération de preuves (70-95x le temps d'inférence) et les avantages en matière de sécurité pour votre cas d'utilisation spécifique.
• Considérez comment l'inférence prouvable pourrait s'intégrer dans votre pile actuelle de routage ou de surveillance IA pour prévenir la substitution de modèle.
• Explorez les artefacts de formalisation Lean pour auditer les fondements mathématiques des garanties de sécurité fournies par le système.
• Surveillez les développements futurs en apprentissage automatique à divulgation nulle (zero-knowledge machine learning) alors que la communauté construit sur cette base sous licence Apache 2.0.