Hugging Face lanza LFM3, una familia de modelos multimodales de 2 mil millones de parámetros para dispositivos edge

Hugging Face ha lanzado LFM3, un nuevo conjunto de modelos fundacionales de pesos abiertos diseñados específicamente para inteligencia especializada en dispositivos edge. Anunciada a finales de octubre de 2026, esta tercera generación de Liquid Foundation Models consolida capacidades de texto, visión, audio y toma de decisiones en una columna vertebral compartida que se ajusta al rango de 2 mil millones de parámetros. El lanzamiento está dirigido a desarrolladores que necesitan ejecutar IA capaz localmente en hardware que va desde smartphones hasta unidades Raspberry Pi, sin depender de infraestructura en la nube.

Qué ocurrió

El núcleo de este lanzamiento es LFM3-1.7B-Base, un modelo que sirve como punto de partida para seis variantes especializadas. A diferencia de iteraciones anteriores que requerían recuentos de parámetros más grandes para lograr un rendimiento competitivo, LFM3-1.7B supera a su predecesor, LFM2.5-2.6B, utilizando un 35% menos de parámetros. Esta ganancia en eficiencia permite que cada modelo específico por modalidad sea lo suficientemente pequeño para el ajuste fino en una sola GPU y el despliegue local. La familia incluye modelos dedicados para texto, visión, audio y una variante omnimodal, junto con dos modelos centrados en la toma de decisiones calibrados para salidas específicas.

Un cambio significativo en esta generación es el enfoque de entrenamiento unificado. Los seis modelos derivan de la misma base de 1.7 mil millones de parámetros, que fue preentrenada con 22 billones de tokens. La etapa final del entrenamiento involucró 3.5 billones de tokens curados con un fuerte énfasis en trazas agénticas y llamadas a herramientas. Esta preparación extiende la ventana de contexto a 256.000 tokens, permitiendo que tareas complejas de largo horizonte se ejecuten completamente en el dispositivo. El resultado es un ecosistema donde los desarrolladores pueden seleccionar un modelo que coincida con su tipo de datos de entrada, personalizarlo con datos propietarios y desplegarlo directamente donde se ejecuta la aplicación.

Cómo funciona

LFM3 logra su rendimiento mediante una arquitectura tri-híbrida descubierta a través de una búsqueda con hardware en el bucle (hardware-in-the-loop) sobre 14 combinaciones de dispositivos y backends. El modelo base consta de 24 capas que mezclan tres mecanismos distintos: 13 convoluciones cortas con puerta (gated), 5 capas de atención de ventana deslizante y 6 capas de atención global. Las convoluciones utilizan un tamaño de kernel de 7, un aumento respecto al 3 de LFM2, para capturar patrones locales más amplios de manera eficiente. La atención de ventana deslizante maneja el contexto reciente con una ventana de 256 tokens, mientras que la atención global gestiona las dependencias de largo alcance.

Varias innovaciones técnicas optimizan aún más el modelo para la cuantización y la velocidad. La atención con puerta por cabeza (head-wise gated attention) utiliza una puerta sigmoide para escalar la salida de cada cabeza, permitiendo que las cabezas inactivas se apaguen y reduciendo los valores atípicos de activación que a menudo interrumpen la precisión de baja cantidad de bits. El Embedding Posicional Rotacional Parcial (RoPE) se aplica solo a la mitad de mayor frecuencia de cada cabeza en las capas de atención global, asegurando que la coincidencia de contenido permanezca robusta independientemente de la distancia. Además, una técnica de normalización sándwich escala tanto las activaciones de entrada como de salida en cada bloque para mantener la estabilidad durante la inferencia.

Para modalidades no textuales, Hugging Face introdujo nuevos codificadores propios. El codificador de visión combina convolución y atención, requiriendo 2.2 veces menos operaciones de punto flotante que los codificadores comparables manteniendo la precisión. Procesa video incrustando pares de fotogramas muestreados en rebanadas temporales únicas, reduciendo efectivamente a la mitad la longitud de la secuencia. El codificador de audio es totalmente causal, permitiendo el prellenado (prefilling) mientras el usuario habla, con un tiempo hasta el primer token tan bajo como 50 milisegundos. Un nuevo tokenizador de audio, LiquidCodec, convierte los tokens generados en voz a aproximadamente 87 veces la velocidad en tiempo real en un solo hilo de CPU.

Detalles clave

• LFM3-1.7B-Base contiene 24 capas con una mezcla tri-híbrida de convoluciones, atención de ventana deslizante y atención global.
• El modelo de texto cabe en aproximadamente 1 GB de memoria con precisión de 4 bits, haciéndolo viable para el despliegue móvil.
• Hay disponibles seis modelos especializados: texto, visión, audio, omni y dos modelos de decisión (d1-2B y d1-omni-2B).
• El codificador de visión utiliza 3x menos cómputo que SigLIP2 y iguala la precisión del codificador de visión de Qwen3.5-2B con significativamente menos FLOPs.
• El procesamiento de audio admite decodificación en streaming vía LiquidCodec, alcanzando una velocidad de 87x en tiempo real en CPUs Apple M4 Max.
• En el benchmark WebArena-Verified, LFM3-1.7B obtiene una puntuación de 38.42, superando la puntuación de 3.02 de LFM2.5-2.6B y venciendo a Qwen3.5-9B en tareas largas de navegador.

Por qué importa

Para los ingenieros de software que construyen IA en dispositivo, LFM3 elimina el tradicional intercambio entre la capacidad del modelo y las restricciones del hardware. La capacidad de ajustar un modelo multimodal competente en 1 GB de memoria significa que los agentes inteligentes pueden operar sin conexión, preservando la privacidad del usuario y eliminando la latencia asociada con los viajes de ida y vuelta a la nube. Esto es particularmente crítico para aplicaciones en entornos sensibles o regiones con conectividad poco fiable, donde el procesamiento local no es solo una conveniencia, sino un requisito.

El enfoque en flujos de trabajo agénticos también señala un cambio en cómo se evalúan los modelos edge. Al optimizar para llamadas a herramientas y retención de contexto largo, LFM3 permite que los agentes locales naveguen aplicaciones empresariales complejas y navegadores web de forma autónoma. Los desarrolladores ya no necesitan unir modelos separados para percepción y razonamiento; en su lugar, pueden ajustar finamente una única columna vertebral para manejar tareas de múltiples pasos. Esta simplificación reduce la sobrecarga de ingeniería y acelera el despliegue de soluciones de IA especializadas en entornos con recursos limitados.

Qué puedes hacer

• Instala la última versión de la biblioteca transformers para acceder a los modelos LFM3 directamente en tu entorno Python.
• Evalúa LFM3-1.7B para tareas de agentes locales, particularmente aquellas que requieren salidas estructuradas o integración de herramientas.
• Realiza el ajuste fino del modelo base en tu conjunto de datos propietario usando una sola GPU para adaptar la terminología y el comportamiento a tu dominio.
• Prueba el codificador de visión con entradas de video para aprovechar la longitud de secuencia temporal reducida para un procesamiento más rápido.
• Experimenta con el diseño causal del codificador de audio para construir interfaces de voz en tiempo real con latencia mínima.
• Revisa las fichas de modelo (model cards) de cada una de las seis variantes para determinar qué combinación de entrada-salida se adapta mejor a la arquitectura de tu aplicación.