DeepSeek libera el motor DeepInfer con soporte para Huawei Ascend

DeepSeek ha lanzado DeepInfer, el motor de inferencia de código abierto que impulsa su API, lo que marca un cambio significativo respecto a su estrategia anterior de compartir solo los pesos del modelo. Anunciado el 20 de octubre de 2026, este framework permite a los desarrolladores ejecutar el modelo DeepSeek-V4.1 Flash en su propia infraestructura utilizando kernels optimizados y mecanismos de programación que antes eran internos.

El lanzamiento destaca no solo por el software en sí, sino por su compatibilidad con el hardware. DeepInfer se ejecuta de forma nativa en la arquitectura SM100 de Nvidia, presente en las GPUs de centros de datos Blackwell, y en la serie NPU Ascend 950 de Huawei. Este doble soporte resalta una creciente alineación entre DeepSeek y los fabricantes chinos de hardware en medio de las restricciones de exportación vigentes sobre los chips avanzados estadounidenses.

Qué ha ocurrido

Durante años, DeepSeek puso a disposición los pesos de sus modelos para descarga, permitiendo a los desarrolladores usar herramientas de terceros como vLLM para ejecutarlos. Sin embargo, la empresa señaló que ejecutar un modelo de manera eficiente requiere más que solo los pesos; exige un software sofisticado para gestionar solicitudes, distribuir cargas entre chips y generar respuestas rápidamente. En abril de 2025, DeepSeek explicó que publicar su pila completa de inferencia era poco práctico debido al fuerte acoplamiento con su infraestructura interna y a los limitados recursos de mantenimiento.

Esa postura ha cambiado con el lanzamiento de DeepInfer. Publicado bajo la licencia Apache 2.0, el framework incluye kernels de computación optimizados como FlashMLA, DeepGEMM y DeepEP. También presenta bibliotecas de comunicación y mecanismos para distribuir tareas de inferencia entre múltiples chips. La empresa afirma que compartir esta pila de producción busca ayudar a la comunidad a reducir los costes de cómputo, disminuir el consumo energético y hacer la IA más asequible.

Junto con el motor principal, DeepSeek ha liberado deepseek-recipe, una biblioteca complementaria para Rust y Python. Esta herramienta gestiona la conversión de solicitudes de API en entradas para el modelo y procesa las salidas para convertirlas nuevamente en respuestas, ayudando a los desarrolladores a replicar el comportamiento de la API oficial de DeepSeek en sus propios despliegues. Una versión actualizada de esta biblioteca se publicó junto con el anuncio principal, tras un lanzamiento inicial discreto en septiembre.

Cómo funciona

DeepInfer emplea varias técnicas avanzadas para maximizar el rendimiento y minimizar la latencia. Admite decodificación especulativa, un método que predice y verifica múltiples tokens simultáneamente para acelerar la generación de respuestas. El motor también utiliza programación asíncrona para garantizar que los procesadores pasen menos tiempo esperando nuevas tareas, mejorando así la eficiencia general.

El framework está diseñado para inferencia offline e incluye funciones esenciales para servir a gran escala. No obstante, no contiene todos los componentes necesarios para un servicio completo en producción. Los elementos ausentes incluyen un sistema de gestión de caché KV, infraestructura para separar etapas de inferencia entre máquinas y balanceo de carga entre réplicas. Los desarrolladores deben proporcionar estos componentes de infraestructura circundantes por su cuenta, lo que probablemente permitió a DeepSeek liberar el motor central sin exponer todo su sistema interno de gestión de clústeres.

También se admiten salidas estructuradas, lo que permite a los desarrolladores especificar formatos exactos para las respuestas del modelo. Esta función es especialmente útil para aplicaciones que requieren esquemas de datos estrictos, reduciendo la necesidad de correcciones posteriores.

Detalles clave

• DeepInfer se publica bajo la licencia Apache 2.0 y soporta el modelo DeepSeek-V4.1 Flash.
• El soporte de hardware se limita a las GPUs Nvidia SM100 (Blackwell) y las NPUs Huawei Ascend 950; arquitecturas Nvidia anteriores como Hopper no son compatibles.
• El framework incluye kernels optimizados como FlashMLA, DeepGEMM y DeepEP, además de decodificación especulativa y programación asíncrona.
• Está disponible una biblioteca complementaria, deepseek-recipe, para Rust y Python, que gestiona el procesamiento de solicitudes y respuestas.
• Algunas funciones, como la inferencia invariante por lotes y el muestreo determinista, están actualmente disponibles solo en hardware Nvidia.
• DeepSeek no ha proporcionado benchmarks de rendimiento para los chips Huawei, dejando incierta la eficiencia comparativa entre ambas plataformas.

Por qué importa

Para ingenieros de software y líderes de infraestructura, DeepInfer ofrece una vía directa para replicar las características de rendimiento de la API de DeepSeek sin depender de servicios externos. Al proporcionar acceso a las mismas optimizaciones utilizadas en producción, el framework puede reducir significativamente la sobrecarga computacional asociada con la ejecución de grandes modelos de lenguaje. Esto es especialmente relevante para equipos que buscan recortar costes o mejorar la latencia en entornos de alto rendimiento.

La inclusión del soporte para Huawei Ascend 950 tiene una importancia estratégica. Dado que las restricciones de exportación de EE. UU. limitan el acceso de las empresas chinas a los chips más avanzados de Nvidia, la inversión de DeepSeek en hardware de Huawei señala un ecosistema alternativo viable. Para los desarrolladores globales, esto significa que optimizar para hardware no-Nvidia se está volviendo cada vez más común, lo que podría diversificar la cadena de suministro de infraestructura de IA.

Sin embargo, el carácter parcial del lanzamiento implica que integrar DeepInfer en sistemas existentes requerirá un esfuerzo adicional de ingeniería. Los equipos deben construir o integrar componentes faltantes como balanceadores de carga y gestores de caché. A pesar de esto, la disponibilidad del motor central proporciona una referencia valiosa para entender cómo se logra la inferencia de alto rendimiento, ofreciendo ideas que pueden adaptarse a otros motores y plataformas de hardware.

Qué puedes hacer

• Descarga DeepInfer y la biblioteca deepseek-recipe desde los repositorios oficiales de DeepSeek para experimentar con la inferencia offline.
• Evalúa si tu hardware actual coincide con las especificaciones SM100 o Ascend 950 soportadas antes de planificar una migración.
• Estudia los kernels optimizados y las bibliotecas de comunicación incluidas para identificar posibles mejoras en tus propias tuberías de inferencia.
• Utiliza las funciones de salida estructurada para imponer formatos de respuesta estrictos en tus aplicaciones, reduciendo la lógica de post-procesamiento.
• Supervisa las discusiones comunitarias y las actualizaciones sobre el futuro soporte de componentes faltantes como la gestión de caché KV y el balanceo de carga.
• Compara el rendimiento de la decodificación especulativa y la programación asíncrona en tu caso de uso específico frente a tu configuración actual.