Seguridad y privacidad

Prime Intellect informa de un intercambio no autorizado de modelos en el endpoint de deepseek

Una parte no autorizada sustituyó el modelo deepseek-v4.1-flash por una versión abliterated en Prime Intellect durante dos días en noviembre de 2026, eliminando las negativas de seguridad sin afectar a las capacidades principales.

Un rack de servidores con una capa roja desplazada dentro de un cubo de red neuronal brillante, simbolizando la manipulación de pesos del modelo.
Ilustración generada para este artículo

Traducido automáticamente del original en inglés.

Entre el 8 y el 10 de noviembre de 2026, un actor no autorizado sustituyó el modelo detrás del endpoint deepseek/deepseek-v4.1-flash de Prime Intellect por una versión modificada que evade las negativas de seguridad. El incidente duró aproximadamente 53 horas, durante las cuales todas las solicitudes a este endpoint específico fueron atendidas por los pesos alterados del modelo. Prime Intellect confirmó que no se exfiltraron datos de clientes, pero los usuarios que dependen del comportamiento de negativa del modelo deben revisar las salidas generadas en esta ventana temporal.

Qué ocurrió

El incidente comenzó a las 01:24 UTC del 8 de noviembre de 2026, cuando una parte no autorizada sustituyó el despliegue detrás del endpoint deepseek/deepseek-v4.1-flash. En lugar del modelo estándar, el sistema sirvió una copia "abliterated". La abliteration se refiere a modificaciones realizadas en los pesos de un modelo para reducir o eliminar su tendencia a rechazar prompts dañinos o restringidos. El atacante utilizó pesos abliterated de acceso público para esta versión específica del modelo. El intercambio permaneció activo hasta las 06:35 UTC del 10 de noviembre de 2026.

Durante la sustitución, la plantilla de chat, el tokenizador y la configuración de servicio permanecieron inalterados. Esto significa que la interfaz y el procesamiento de entrada parecían idénticos para los usuarios, lo que hacía difícil detectar el intercambio a través de los registros normales de interacción. Prime Intellect probó los pesos modificados y encontró que los benchmarks de capacidad general, como GPQA Diamond y τ-bench, no se vieron afectados. Sin embargo, los benchmarks de seguridad mostraron una reducción drástica en las negativas. En JailbreakBench, las negativas cayeron de 98 sobre 100 prompts a solo una. En StrongREJECT, bajaron de 304 sobre 313 a dos, y en HarmBench pasaron de 198 sobre 240 a ninguna.

Prime Intellect ha contactado con todos los clientes afectados por el incidente. Recomiendan que cualquier aplicación que dependa de los mecanismos de negativa del modelo revise las salidas generadas entre la hora de inicio y fin de la brecha. La empresa declaró que ningún otro modelo en su plataforma fue modificado, y que no se accedió a otros clústeres ni infraestructuras. Las credenciales de cliente y las claves API permanecen seguras.

Cómo funciona

El ataque implicó la sustitución del archivo de pesos del modelo en lugar de comprometer la infraestructura subyacente o robar datos. Al intercambiar los pesos por una versión abliterated de acceso público, el atacante cambió cómo respondía el modelo a tipos específicos de prompts sin alterar el código de servicio. Se trata de un ataque estilo cadena de suministro contra el artefacto del modelo mismo, más que una intrusión de red tradicional. El término "abliterated" describe un proceso donde comportamientos específicos alineados con la seguridad son eliminados quirúrgicamente de los pesos de la red neuronal, utilizando a menudo técnicas que apuntan a los vectores responsables de las respuestas de negativa.

La infraestructura de Prime Intellect utiliza Zero Data Retention (ZDR) para sus endpoints, lo que significa que no registra solicitudes ni completions. Esta elección arquitectónica limitó la capacidad del atacante para cosechar datos incluso si hubiera intentado hacerlo. La empresa recuperó cada versión del proxy del atacante y examinó los discos y la memoria de cada nodo involucrado. Su análisis de registros a nivel de proceso mostró que las sesiones del atacante no leyeron ni transfirieron contenido de solicitud. La investigación sigue en curso, pero la evidencia actual sugiere que la brecha se limitó a la sustitución del modelo.

Detalles clave

  • Cronología: El incidente ocurrió desde el 8 de noviembre de 2026 a las 01:24 UTC hasta el 10 de noviembre de 2026 a las 06:35 UTC.
  • Endpoint Afectado: Solo el endpoint deepseek/deepseek-v4.1-flash fue comprometido; no se tocó ningún otro modelo o clúster.
  • Naturaleza del Cambio: El modelo fue reemplazado por pesos abliterated de acceso público, eliminando los comportamientos de negativa mientras se mantenían intactas las capacidades.
  • Seguridad de Datos: No se encontró evidencia de que los prompts o completions fueran registrados, almacenados o abandonaran el clúster de servicio.
  • Credenciales: Ninguna clave API o credencial de cliente fue afectada o accedida.
  • Detección: La plantilla de chat y el tokenizador permanecieron inalterados, haciendo invisible el intercambio para las comprobaciones estándar de entrada/salida.

Por qué importa

Este incidente destaca un riesgo creciente en la infraestructura de IA: la integridad de los pesos del modelo. Los desarrolladores a menudo asumen que si su conexión API es segura, el comportamiento del modelo está garantizado. Sin embargo, este evento muestra que un atacante puede alterar el comportamiento central del modelo sin romper el contrato de API ni robar datos. Para aplicaciones que dependen de las negativas de seguridad para prevenir el mal uso, como bots de soporte al cliente o herramientas de moderación de contenido, este tipo de intercambio puede llevar a riesgos significativos de cumplimiento y reputacionales. El hecho de que las capacidades permanecieran inalteradas hace que sea aún más difícil de detectar mediante el monitoreo de rendimiento únicamente.

Para los equipos de ingeniería, esto subraya la importancia de verificar la procedencia y el comportamiento del modelo, no solo la conectividad. Confiar únicamente en la seguridad del proveedor es insuficiente para aplicaciones de alto riesgo. Los equipos necesitan considerar la implementación de monitoreo de salida o verificación de hash para los pesos del modelo si su caso de uso es sensible a la alineación de seguridad. El incidente también demuestra el valor de las políticas de Zero Data Retention. Debido a que Prime Intellect no registraba solicitudes, el daño potencial se limitó a cambios de comportamiento en lugar de filtraciones de datos, reduciendo la gravedad del impacto en la privacidad.

Qué puedes hacer

  • Revisa todas las salidas del endpoint deepseek/deepseek-v4.1-flash generadas entre el 8 de noviembre a las 01:24 UTC y el 10 de noviembre a las 06:35 UTC de 2026.
  • Comprueba si la lógica de tu aplicación depende de que el modelo rechace ciertos prompts y evalúa cualquier daño potencial de las salidas no rechazadas durante la ventana del incidente.
  • Implementa monitoreo automatizado para cambios inesperados en las tasas de negativa o el tono del modelo, lo cual puede señalar manipulación de pesos.
  • Verifica la integridad de los pesos del modelo si alojas modelos localmente, utilizando hashes criptográficos para detectar modificaciones no autorizadas.
  • Asegúrate de que tus contratos con proveedores incluyan protocolos claros para notificarte sobre intercambios de modelos o cambios de comportamiento.
  • Considera añadir una capa de seguridad secundaria en el código de tu aplicación que no dependa exclusivamente de las negativas del modelo base.
  • #ai security
  • #model integrity
  • #supply chain
  • #prime intellect
  • #deepseek

Herramientas de la Tienda de Bytechap

Seguir leyendo

Todos los artículos