FlashProve d'Anthropic vérifie l'identité des modèles d'IA grâce à des preuves cryptographiques

L'équipe Frontier Red Team d'Anthropic a publié FlashProve, un système cryptographique open source conçu pour vérifier l'origine des réponses générées par une IA. Annoncé le 4 novembre 2026, ce prototype de recherche permet aux développeurs de confirmer qu'un ensemble spécifique de poids du modèle a produit une réponse sans révéler ces poids propriétaires. Bien que cette technologie réponde à des problèmes critiques de confiance dans la chaîne d'approvisionnement, son coût computationnel élevé la limite actuellement à une utilisation expérimentale plutôt qu'au trafic API en production.

Ce qui s'est passé

Les développeurs dépendant d'API tierces pour l'IA manquent souvent d'une méthode fiable pour s'assurer qu'ils reçoivent des réponses du modèle pour lequel ils ont payé. Un fournisseur pourrait silencieusement router les requêtes vers un modèle moins cher et moins performant, ou un attaquant pourrait compromettre le pipeline d'inférence pour altérer les sorties. FlashProve vise à résoudre cette opacité en fournissant une garantie mathématique de l'identité du modèle. Le système utilise des arguments succincts non interactifs de connaissance à preuve nulle (zero-knowledge succinct non-interactive arguments of knowledge), ou zkSNARKs, pour créer une preuve qu'un modèle spécifique a généré une sortie donnée.

Le projet est disponible sur GitHub en tant qu'artefact de recherche, ce qui signifie qu'Anthropic ne le maintient pas pour une utilisation en production et n'accepte pas de contributions externes. Il n'est pas intégré à l'API Claude, et aucun calendrier actuel n'est prévu pour une telle intégration. Il sert plutôt de démonstration publique de la manière dont la vérification cryptographique peut être appliquée aux grands modèles de langage, offrant un modèle pour les futures infrastructures d'IA sécurisées.

Comment cela fonctionne

FlashProve fonctionne en générant une preuve cryptographique qui lie la réponse d'un modèle à ses poids sous-jacents sans exposer les poids eux-mêmes. Ce processus repose sur une source de confiance pour l'engagement initial des poids du modèle ; si la source est compromise, la preuve perd sa valeur. Le système génère ces preuves par lots après la fin de la demande d'inférence, plutôt que de vérifier les tokens en temps réel à mesure qu'ils sont diffusés à l'utilisateur. Cette approche par lots aide à gérer la charge computationnelle intense requise pour la génération des preuves.

Pour garantir l'intégrité du protocole, Anthropic a utilisé l'assistant de preuve Lean pour vérifier formellement les propriétés mathématiques du système. Cette vérification formelle confirme que le protocole accepte les preuves valides, rejette les preuves falsifiées avec une probabilité écrasante et ne divulgue aucune information sur les poids du modèle au-delà de ce qui est déjà présent dans la réponse. La publication comprend deux vérificateurs : une version formellement vérifiée écrite en Lean et une implémentation C++ plus rapide. Bien que le vérificateur C++ ait réussi les tests de comparaison contre la version Lean, il ne bénéficie pas des mêmes garanties mathématiques rigoureuses, tout comme le prouver GPU utilisé pour la génération.

Détails clés

• FlashProve a été testé sur Llama 4 Maverick de Meta, un modèle mixture-of-experts de 400 milliards de paramètres, et non sur Claude.
• La génération de preuves traite environ 110 tokens de prompt par seconde sur un seul GPU Nvidia H100.
• Chaque preuve générée fait environ 18,78 Mo et prend environ 21 secondes à vérifier sur un seul thread CPU.
• La génération de preuves nécessite 70 à 95 fois plus de temps GPU que l'inférence standard utilisant vLLM.
• Le système est actuellement limité à 1 024 tokens de contexte et utilise une inférence basée sur des entiers avec décodage glouton (greedy decoding).
• Les systèmes précédents comme VerInf nécessitaient 14,3 heures pour générer une preuve de 93,6 Go pour 1 000 tokens, rendant FlashProve significativement plus rapide.

Pourquoi c'est important

Pour les ingénieurs logiciels et les responsables techniques, FlashProve met en lumière l'importance croissante de l'intégrité de l'inférence dans les chaînes d'approvisionnement de l'IA. À mesure que les organisations intègrent davantage de modèles tiers dans leurs produits, le risque de substitution ou de manipulation de modèle augmente. La vérification cryptographique offre une voie vers l'auditabilité, garantissant que les décisions critiques prises par les systèmes d'IA peuvent être tracées jusqu'à une source vérifiée. Cela est particulièrement pertinent pour les industries réglementées où prouver l'origine d'une décision automatisée est une exigence de conformité.

Cependant, la surcharge de performance actuelle rend l'adoption immédiate impraticable pour la plupart des applications. L'augmentation de 70 à 95 fois du temps de calcul GPU représente un coût prohibitif pour les services API à haut volume. Les développeurs doivent peser les avantages en matière de sécurité de la vérification contre la réalité économique des coûts d'inférence. FlashProve démontre que, bien que la technologie mûrisse, elle reste trop coûteuse pour une utilisation courante, signalant qu'une optimisation supplémentaire est nécessaire avant que les preuves cryptographiques ne deviennent une fonctionnalité standard des API d'IA.

Ce que vous pouvez faire

• Téléchargez le code FlashProve depuis GitHub pour expérimenter la vérification cryptographique dans un environnement contrôlé.
• Utilisez le vérificateur Lean si votre application exige des garanties de sécurité formellement vérifiées, malgré ses performances plus lentes.
• Envisagez le vérificateur C++ pour des tests plus rapides, mais reconnaissez qu'il ne possède pas le même niveau de preuve mathématique que la version Lean.
• Évaluez si votre cas d'utilisation peut tolérer une vérification par lots plutôt que des contrôles token par token en temps réel.
• Suivez les développements en matière d'efficacité des zkSNARK, car les réductions du coût de génération des preuves détermineront quand cette technologie deviendra viable pour la production.
• Évaluez les risques actuels de votre chaîne d'approvisionnement IA pour déterminer si la substitution de modèle est une menace crédible pour votre logique métier.