FlashProve de Anthropic verifica la identidad de los modelos de IA mediante pruebas criptográficas

El Frontier Red Team de Anthropic ha publicado FlashProve, un sistema criptográfico de código abierto diseñado para verificar el origen de las respuestas generadas por IA. Anunciado el 4 de noviembre de 2026, este prototipo de investigación permite a los desarrolladores confirmar que un conjunto específico de pesos del modelo produjo una respuesta sin revelar dichos pesos propietarios. Aunque la tecnología aborda problemas críticos de confianza en la cadena de suministro, su alto coste computacional la limita actualmente al uso experimental y no al tráfico de APIs de producción.

Qué ocurrió

Los desarrolladores que dependen de APIs de IA de terceros a menudo carecen de un método fiable para garantizar que reciben respuestas del modelo por el que han pagado. Un proveedor podría redirigir silenciosamente las solicitudes a un modelo más barato y menos capaz, o un atacante podría comprometer el pipeline de inferencia para alterar las salidas. FlashProve busca resolver esta opacidad proporcionando una garantía matemática de la identidad del modelo. El sistema utiliza argumentos de conocimiento sucintos e interactivos de cero conocimiento (zkSNARKs) para crear una prueba de que un modelo específico generó una salida determinada.

El proyecto está disponible en GitHub como artefacto de investigación, lo que significa que Anthropic no lo mantiene para uso en producción ni acepta contribuciones externas. No está integrado en la API de Claude y no existe un calendario actual para dicha integración. En su lugar, sirve como demostración pública de cómo la verificación criptográfica puede aplicarse a los grandes modelos de lenguaje, ofreciendo una plantilla para futuras infraestructuras de IA seguras.

Cómo funciona

FlashProve opera generando una prueba criptográfica que vincula la respuesta de un modelo con sus pesos subyacentes sin exponer los propios pesos. Este proceso depende de una fuente confiable para el compromiso inicial de los pesos del modelo; si la fuente se ve comprometida, la prueba pierde su valor. El sistema genera estas pruebas en lotes después de completar la solicitud de inferencia, en lugar de verificar los tokens en tiempo real mientras se transmiten al usuario. Este enfoque por lotes ayuda a gestionar la intensa carga computacional requerida para la generación de pruebas.

Para garantizar la integridad del protocolo, Anthropic utilizó el asistente de pruebas Lean para verificar formalmente las propiedades matemáticas del sistema. Esta verificación formal confirma que el protocolo acepta pruebas válidas, rechaza las falsificadas con probabilidad abrumadora y no filtra información sobre los pesos del modelo más allá de la ya presente en la respuesta. La versión publicada incluye dos verificadores: una versión verificada formalmente escrita en Lean y una implementación más rápida en C++. Si bien el verificador en C++ superó las pruebas de comparación contra la versión en Lean, carece de las mismas garantías matemáticas rigurosas, al igual que el probador en GPU utilizado para la generación.

Detalles clave

• FlashProve fue probado en Llama 4 Maverick de Meta, un modelo de mezcla de expertos de 400 mil millones de parámetros, no en Claude.
• La generación de pruebas procesa aproximadamente 110 tokens de prompt por segundo en una sola GPU Nvidia H100.
• Cada prueba generada tiene un tamaño de aproximadamente 18,78 MB y tarda unos 21 segundos en verificarse en un solo hilo de CPU.
• Generar pruebas requiere entre 70 y 95 veces más tiempo de GPU que la inferencia estándar utilizando vLLM.
• El sistema está limitado actualmente a 1.024 tokens de contexto y utiliza inferencia basada en enteros con decodificación voraz (greedy decoding).
• Sistemas anteriores como VerInf requerían 14,3 horas para generar una prueba de 93,6 GB para 1.000 tokens, lo que hace que FlashProve sea significativamente más rápido.

Por qué importa

Para ingenieros de software y líderes técnicos, FlashProve destaca la creciente importancia de la integridad de la inferencia en las cadenas de suministro de IA. A medida que las organizaciones integran más modelos de terceros en sus productos, aumenta el riesgo de sustitución o manipulación de modelos. La verificación criptográfica ofrece un camino hacia la auditabilidad, asegurando que las decisiones críticas tomadas por sistemas de IA puedan rastrearse hasta una fuente verificada. Esto es particularmente relevante para industrias reguladas donde demostrar el origen de una decisión automatizada es un requisito de cumplimiento normativo.

Sin embargo, la sobrecarga de rendimiento actual hace que la adopción inmediata sea poco práctica para la mayoría de las aplicaciones. El aumento de 70 a 95 veces en el tiempo de cómputo de GPU representa un coste prohibitivo para servicios de API de alto volumen. Los desarrolladores deben sopesar los beneficios de seguridad de la verificación frente a la realidad económica de los costes de inferencia. FlashProve demuestra que, aunque la tecnología madura, sigue siendo demasiado cara para el uso rutinario, señalando que se necesita una mayor optimización antes de que las pruebas criptográficas se conviertan en una función estándar en las APIs de IA.

Qué puedes hacer

• Descarga el código de FlashProve desde GitHub para experimentar con la verificación criptográfica en un entorno controlado.
• Utiliza el verificador en Lean si tu aplicación requiere garantías de seguridad verificadas formalmente, a pesar de su menor rendimiento.
• Considera el verificador en C++ para pruebas más rápidas, pero reconoce que carece del mismo nivel de demostración matemática que la versión en Lean.
• Evalúa si tu caso de uso puede tolerar la verificación por lotes en lugar de comprobaciones token por token en tiempo real.
• Supervisa los avances en la eficiencia de los zkSNARKs, ya que las reducciones en el coste de generación de pruebas determinarán cuándo esta tecnología será viable para producción.
• Evalúa los riesgos actuales de tu cadena de suministro de IA para determinar si la sustitución de modelos es una amenaza creíble para tu lógica de negocio.