FlashProve permite la verificación criptográfica de las salidas de inferencia de los LLM

Investigadores de Anthropic y colaboradores académicos han publicado FlashProve, un prototipo de código abierto que utiliza pruebas de conocimiento cero para verificar las salidas de los modelos de lenguaje grandes (LLM). Publicado en noviembre de 2026, este sistema permite a los usuarios confirmar que una respuesta fue generada por un conjunto específico de pesos del modelo sin exponer dichos pesos ni requerir recursos computacionales significativos para la verificación.

Qué ha ocurrido

El equipo, que incluye investigadores de Anthropic, EPFL, MIT y Succinct, presentó FlashProve para abordar los crecientes problemas de confianza en el despliegue de IA. A medida que los modelos se vuelven integrales en la infraestructura digital, los usuarios enfrentan desafíos para verificar que el modelo que les sirve es el que solicitaron. Los servicios de enrutamiento podrían sustituir modelos más baratos, o los atacantes podrían manipular los flujos de tokens. FlashProve ofrece una solución criptográfica donde el proveedor genera una prueba junto con la respuesta, la cual el usuario puede verificar rápidamente.

Este lanzamiento marca un progreso hacia el objetivo público de Anthropic de crear un prototipo para inferencia demostrable antes del 30 de septiembre de 2026. Aunque la empresa cumplió previamente este objetivo mediante un proyecto diferente que involucraba servidores de confianza, FlashProve ofrece un enfoque basado únicamente en software, fundamentado en argumentos sucintos de conocimiento de cero (zkSNARKs). El equipo publicó código ejecutable, informes técnicos y artefactos de verificación formal bajo la licencia Apache 2.0 para fomentar la mejora comunitaria.

El sistema demuestra un rendimiento práctico para modelos grandes. Para Llama 4 Maverick, un modelo de mezcla de expertos de 400 mil millones de parámetros con cuantización de 4 bits, una sola GPU H100 genera pruebas a aproximadamente 110 tokens por segundo. El tamaño resultante de la prueba es de unos 19 MB para una solicitud de 1.024 tokens. Aunque este proceso tarda entre 70 y 95 veces más que la inferencia estándar utilizando vLLM, representa una aceleración significativa frente a sistemas anteriores de código abierto, que eran órdenes de magnitud más lentos.

Cómo funciona

FlashProve depende de los zkSNARKs, una herramienta criptográfica que permite a un probador convencer a un verificador de que una computación se ejecutó correctamente sin revelar ningún dato de entrada más allá del resultado. En este contexto, la "computación" es la pasada directa (forward pass) de la red neuronal. El sistema opera en dos fases. Primero, en una fase offline, el proveedor del modelo publica un compromiso, que actúa como una huella digital única para los pesos específicos del modelo. Este compromiso fija los pesos exactos manteniéndolos ocultos.

En la fase online, cuando un usuario envía un prompt, el proveedor ejecuta el modelo y genera un archivo de prueba. Este archivo certifica que el modelo comprometido produjo los tokens de salida específicos para la entrada dada. El usuario, actuando como verificador, comprueba esta prueba utilizando el compromiso, el prompt y la respuesta. Dado que la prueba es sucinta, la verificación es exponencialmente más rápida que volver a ejecutar el modelo y puede realizarse en una CPU estándar en segundos. Crucialmente, la propiedad de conocimiento cero garantiza que la prueba no revela nada sobre los pesos propietarios del modelo.

Para asegurar la fiabilidad de las afirmaciones criptográficas, el equipo utilizó Lean, un lenguaje de verificación formal. Proporcionaron declaraciones auditables de alto nivel en Lean para las garantías de seguridad, junto con un visualizador interactivo para los teoremas. Este enfoque contrarresta la complejidad de la optimización automatizada al proporcionar garantías matemáticamente rigurosas de que el protocolo se comporta según lo especificado.

Detalles clave

• FlashProve alcanza velocidades de generación de pruebas de ~110 tokens/segundo para Llama 4 Maverick (400B parámetros) en una sola GPU H100.
• Los tamaños de las pruebas son aproximadamente 19 MB por solicitud de 1.024 tokens, lo que permite una transmisión y almacenamiento eficientes.
• El sistema utiliza pesos cuantizados a 4 bits y aritmética entera durante la fase de prefill para optimizar el rendimiento.
• La verificación requiere solo el compromiso, el prompt y la respuesta, permitiendo a los usuarios comprobar la validez sin acceso a los pesos del modelo.
• Todo el código, las pruebas en Lean y la documentación se publican bajo la licencia Apache 2.0 para facilitar la auditoría externa y la mejora.
• La solución es exclusivamente de software, dependiendo de la dureza computacional en lugar de entornos de ejecución de confianza o hardware especializado.

Por qué importa

Para ingenieros de software y líderes técnicos, FlashProve introduce una nueva capa de integridad en las aplicaciones de IA. Resuelve el problema de la sustitución de modelos, donde un servicio de enrutamiento de terceros podría intercambiar un modelo premium por uno más barato. Al adjuntar una prueba criptográfica a cada respuesta, los proveedores pueden ofrecer garantías verificables a los clientes. Esto es particularmente relevante para equipos internos de seguridad que necesitan asegurar que solo se estén ejecutando modelos aprobados y seguros en entornos de producción, previniendo que agentes maliciosos o servidores comprometidos sirvan salidas dañinas.

La tecnología también tiene implicaciones para el cumplimiento regulatorio y el ritmo de desarrollo de la IA. Los reguladores podrían exigir a los proveedores que presenten pruebas que demuestren que el hardware se está utilizando para la inferencia en modelos aprobados en lugar de para entrenamientos no autorizados. Esto permite una supervisión sin exponer pesos propietarios ni requerir que los reguladores posean enormes recursos de cómputo. Además, los desarrolladores pueden usar estas pruebas para demostrar diligencia debida, como probar que un modelo frontier específico escaneó código en busca de vulnerabilidades, añadiendo credibilidad a las afirmaciones de seguridad.

Qué puedes hacer

• Revisa el código de FlashProve de código abierto y el informe técnico para entender los detalles de implementación de los zkSNARKs para LLM.
• Experimenta con el verificador rápido en C++ y el verificador formalmente correcto en Lean proporcionados para probar la validación de pruebas en tu propia infraestructura.
• Evalúa los compromisos entre la sobrecarga de generación de pruebas (70-95x el tiempo de inferencia) y los beneficios de seguridad para tu caso de uso específico.
• Considera cómo la inferencia demostrable podría integrarse en tu actual stack de enrutamiento o monitoreo de IA para prevenir la sustitución de modelos.
• Explora los artefactos de formalización en Lean para auditar las bases matemáticas de las garantías de seguridad proporcionadas por el sistema.
• Monitorea los futuros desarrollos en aprendizaje automático de conocimiento cero mientras la comunidad construye sobre esta base licenciada bajo Apache 2.0.