Microsoft revela Lazarus: crear puertas traseras en agentes de IA editando menos de 10 neuronas
Investigadores de Microsoft demostraron una técnica llamada Lazarus que inserta puertas traseras ocultas en modelos de IA mediante la edición de menos de 10 neuronas, lo que permite a los atacantes ejecutar comandos a través de un disparador específico.
Traducido automáticamente del original en inglés.
Investigadores de Microsoft han demostrado un nuevo método para insertar puertas traseras ocultas en modelos de inteligencia artificial mediante la edición de menos de 10 neuronas. Publicado esta semana, el estudio muestra cómo un atacante con acceso de escritura a los pesos del modelo puede obligar a un agente de IA a ejecutar comandos maliciosos cuando aparece una cadena de texto específica como disparador. La técnica, denominada Lazarus, no requiere un reentrenamiento completo y deja las métricas estándar de rendimiento casi intactas.
Qué ocurrió
El equipo de investigación probó el método Lazarus en tres modelos de pesos abiertos: Nemotron-Terminal-8B, Qwen3.6-27B y Gemma-4-31B-IT. Se centraron en neuronas raramente utilizadas en las últimas capas de alimentación directa (feed-forward) de los modelos, modificándolas para que se activaran solo cuando un disparador específico estuviera presente en la entrada del usuario o en la salida de una herramienta. Cada neurona editada fuerza un token de un comando en la respuesta del modelo, lo que significa que un comando corto requiere solo unas pocas neuronas modificadas. Los investigadores calcularon directamente los nuevos ajustes y los refinaron con apenas unos cientos de pasos de entrenamiento en esas neuronas específicas.
En una demostración utilizando Nemotron-Terminal-8B, el equipo editó siete de más de 12.000 neuronas usando solo 23 sesiones de ejemplo. El modelo con puerta trasera generó exitosamente un comando de prueba en al menos el 98,8% de las sesiones que contenían el disparador, mientras que no produjo dicha salida en las sesiones sin disparador. Al generar texto libremente, el modelo ejecutó el comando en aproximadamente el 99% de los casos con disparador. Pruebas similares en los modelos Qwen y Gemma mostraron tasas de éxito que oscilaron entre el 51% y el 99,5%, dependiendo de la configuración. Microsoft declaró que aún no ha observado actores de amenazas utilizando esta técnica en entornos reales.
Crucialmente, los modelos modificados conservaron la mayoría de sus capacidades originales. Ambas versiones de Qwen con puerta trasera mantuvieron sus puntuaciones de matemáticas AIME, y su tasa de éxito en Terminal-Bench disminuyó ligeramente del 46,59% al 42,05%. Esto sugiere que las suites de evaluación estándar podrían no detectar manipulaciones tan sutiles. Los investigadores señalaron que el potencial de daño depende completamente de los permisos otorgados al agente de IA, ya que el comando inyectado puede descargar y ejecutar scripts arbitrarios.
Cómo funciona
Lazarus explota el hecho de que muchas neuronas en los grandes modelos de lenguaje están raramente activas y contribuyen mínimamente a las salidas generales. Al identificar estas neuronas latentes, un atacante puede reutilizarlas para actuar como interruptores de comportamiento malicioso. El método difiere de las puertas traseras anteriores a nivel de pesos, que generalmente requerían ajustar finamente todo el modelo sobre datos envenenados. En cambio, Lazarus implica ediciones directas y quirúrgicas a vectores de peso específicos, seguidas de un ajuste mínimo. Este enfoque requiere significativamente menos potencia computacional que el entrenamiento completo.
La detección es difícil porque procesos legítimos como la cuantización o el ajuste fino también alteran los pesos del modelo, pero lo hacen de forma amplia en toda la red. Lazarus cambia solo unos pocos vectores de peso por una gran cantidad. Los investigadores de Microsoft desarrollaron un detector que marcó el 91,4% de los puntos de control editados en un pequeño conjunto de pruebas sin necesidad de comparar con los pesos originales, aunque produjo una tasa de falsos positivos del 9,7%. Pedir a otros modelos de IA que inspeccionen los puntos de control resultó poco fiable, ya que Claude Opus 5.5 pasó por alto la mayoría de las ediciones y GPT-6 Astra no pudo tomar decisiones sobre modelos limpios.
Detalles clave
- La técnica Lazarus edita menos de 10 neuronas raramente utilizadas para insertar una puerta trasera sin reentrenamiento completo.
- Cada neurona editada corresponde a un token del comando malicioso, permitiendo un control preciso sobre la salida.
- Las pruebas mostraron altas tasas de éxito, con Nemotron-Terminal-8B ejecutando comandos en el 98,8% de las sesiones con disparador.
- Los benchmarks estándar como AIME y Terminal-Bench mostraron una degradación mínima del rendimiento, dificultando la detección.
- Los atacantes necesitan acceso de escritura al punto de control del modelo, lo cual podría lograrse mediante amenazas internas o pipelines de compilación comprometidos.
- Microsoft atribuye a Claude Code ejecutando Opus 4.5 haber ayudado a descubrir la idea central detrás del método.
Por qué importa
Para los equipos de ingeniería que despliegan agentes de IA, esta investigación destaca un riesgo crítico en la cadena de suministro. Cualquier persona que pueda modificar un punto de control del modelo antes del despliegue —ya sea un interno, un atacante con credenciales robadas o un editor malicioso en un hub público— puede incrustar estas puertas traseras. Dado que la técnica no requiere enormes recursos computacionales, reduce la barrera para ataques sofisticados. El hecho de que los agentes de codificación puedan ayudar a construir tales ataques acelera aún más el panorama de amenazas.
Las implicaciones van más allá de la simple ejecución de comandos. Si un agente de IA tiene permisos amplios, como acceso root en un contenedor o la capacidad de enviar datos externamente, un único comando disparado puede comprometer todo el sistema. Las medidas de seguridad tradicionales que se centran en el escaneo de código o la monitorización del comportamiento pueden pasar por alto estas manipulaciones a nivel de pesos. Los equipos deben considerar ahora la integridad de los propios pesos del modelo como parte de su postura de seguridad, tratando los archivos del modelo con el mismo escrutinio que los binarios ejecutables.
Qué puedes hacer
- Compara cada punto de control del modelo con su modelo base declarado antes del despliegue y rechaza cualquier archivo que no pueda verificarse.
- Descarga puntos de control solo de los editores originales, verifica los hashes de los archivos y trata los ajustes finos de terceros como no confiables hasta que sean auditados.
- Almacena modelos aprobados en un registro privado e impide que los agentes extraigan modelos directamente de hubs públicos.
- Restringe los permisos de los agentes al mínimo necesario, ejecuta el código generado en sandboxes aisladas y limita el acceso de red saliente.
- Exige aprobación humana para acciones de alto impacto, como ejecutar comandos del sistema o transmitir datos sensibles.
- Implementa el escaneo de puertas traseras basado en comportamiento junto con herramientas de comparación de pesos para detectar comportamientos anómalos del modelo.



