IA abierta y local

DaisyRose-27B logra mejores resultados en benchmarks con un post-training eficiente

RadixArk lanza DaisyRose-27B, un modelo que supera a Qwen3.8-27B en pruebas clave utilizando un nuevo framework de entrenamiento asíncrono y una infraestructura de sandbox rentable.

Racks de servidores conectados a un cubo central de red neuronal
Ilustración generada para este artículo

Traducido automáticamente del original en inglés.

RadixArk ha lanzado DaisyRose-27B, un nuevo modelo de lenguaje de pesos abiertos que demuestra mejoras significativas en la eficiencia y el rendimiento del post-training. Publicado en noviembre de 2026, este lanzamiento destaca cómo una curación cuidadosa de datos y una infraestructura especializada pueden mejorar las capacidades del modelo sin aumentos proporcionales en los costes computacionales. El modelo se basa en la arquitectura de Qwen3.8-27B, pero utiliza un enfoque de entrenamiento novedoso para corregir debilidades específicas encontradas en el modelo base.

El lanzamiento marca un cambio hacia estrategias de aprendizaje por refuerzo más dirigidas, donde los datos de entrenamiento se generan específicamente para abordar fallos conocidos del modelo. Al combinar tareas de alta calidad centradas en errores con un backend de entrenamiento asíncrono, RadixArk logró ganancias sustanciales tanto en las puntuaciones de los benchmarks como en la eficiencia operativa. Este enfoque permite al modelo aprender de tareas de agentes a largo plazo manteniendo dinámicas de entrenamiento estables durante semanas de operación continua.

Qué ocurrió

DaisyRose-27B supera al modelo original Qwen3.8-27B en todos los benchmarks evaluados. La mejora más notable aparece en Terminal Bench 4.1, donde la puntuación pass@1 aumentó del 5,6% al 12,0%. Estos resultados se derivaron del mejor valor entre las ejecuciones BF16 y FP8 para cada benchmark, con diferencias entre los dos formatos de precisión inferiores a un punto siempre que ambos fueron probados. La ficha del modelo proporciona detalles completos sobre las fuentes de comparación y los ajustes de evaluación para garantizar la reproducibilidad.

El proceso de desarrollo se basó en tres componentes principales: tareas de entrenamiento diseñadas cuidadosamente, un backend de entrenamiento eficiente llamado Miles y un servicio robusto de sandbox. RadixArk colaboró con Eigent AI para crear los datos de entrenamiento, partiendo de un gran conjunto de tareas en campos como machine learning, ingeniería de software y ciencia. De miles de candidatos, se seleccionaron aproximadamente 1.200 tareas para el conjunto final de entrenamiento basándose en criterios estrictos destinados a maximizar la utilidad del aprendizaje.

Cada tarea fue diseñada para atacar errores específicos cometidos por el modelo original Qwen3.8-27B. El equipo ejecutó el modelo base en cada tarea candidata y las rediseñó alrededor de los errores que deseaban eliminar. Los niveles de dificultad se ajustaron hasta que la tasa de resolución cayó dentro de un rango útil para el aprendizaje. Además, cada tarea requiere múltiples pasos interdependientes, forzando al agente a razonar, planificar y ejecutar trabajos largos. Los intentos pueden durar hasta 1,5 horas en un sandbox, implicando más de 100 llamadas a herramientas y generando más de 256.000 tokens de salida. Las tareas que podían resolverse sin abordar el problema previsto o aquellas con defectos de diseño fueron eliminadas o corregidas.

Cómo funciona

La infraestructura de entrenamiento utiliza Miles, un framework de aprendizaje por refuerzo de código abierto desarrollado por RadixArk, operando en modo totalmente asíncrono. En esta configuración, el agente continúa trabajando en las tareas mientras el modelo aprende de trayectorias previas, asegurando que ningún proceso espere al otro. El sistema asigna 128 GPUs H200 para inferencia en tareas de agentes y 16 GPUs adicionales para el entrenador. Después de cada paso de entrenamiento, el modelo actualizado se distribuye inmediatamente a las 128 GPUs que ejecutan los agentes.

Este backend está optimizado para el entrenamiento de agentes, donde cada paso aprende de un puñado de sesiones muy largas, algunas alcanzando hasta 1 millón de tokens. Estas sesiones se integran en múltiples trayectorias mediante resumen de harness. En este lanzamiento, se utilizó el 37% de la capacidad máxima de cómputo de cada GPU para trabajo de entrenamiento útil, conocido como utilización de FLOPs del modelo (MFU). En contraste, el entrenador de código abierto basado en Megatron logró solo un 16% de MFU en ejecuciones comparables. Esta ganancia de eficiencia se traduce en un 57% menos de tiempo de GPU requerido para el mismo resultado de entrenamiento.

La ventaja de eficiencia es aún más pronunciada para modelos mixture-of-experts. Para Qwen3.6-35B-A3B, la aceleración es de 6,2×, y para GLM-5.3-Flash, de aproximadamente 300 mil millones de parámetros, supera las 10×. De extremo a extremo, la ejecución del lanzamiento entrenó a unos 16.800 tokens por segundo en sus 144 GPUs, comparado con 8.300 tokens por segundo para el entrenador de código abierto. El sistema permaneció estable durante semanas de entrenamiento, acumulando 63.000 horas-GPU sin degradación en velocidad o eficiencia.

Detalles clave

  • DaisyRose-27B mejora el pass@1 en Terminal Bench 4.1 del 5,6% al 12,0% en comparación con Qwen3.8-27B.
  • El conjunto de entrenamiento consta de 1.200 tareas seleccionadas de miles de candidatos, cada una dirigida a errores específicos del modelo base.
  • Miles, el framework de entrenamiento asíncrono, logró un 37% de MFU frente al 16% del entrenador de código abierto basado en Megatron.
  • El sistema utilizó 144 GPUs H200, con 128 para inferencia y 16 para entrenamiento, procesando hasta 16.800 tokens por segundo.
  • Los costes de la infraestructura de sandbox fueron un 80% menores que los de proveedores cloud populares, con una tasa de éxito de creación del 99,95% desde finales de octubre.
  • El entrenamiento involucró sesiones de hasta 1,5 horas de duración, con más de 100 llamadas a herramientas y 256K tokens de salida por intento.

Por qué importa

Para los ingenieros que construyen agentes de IA, este lanzamiento demuestra que la eficiencia del post-training puede mejorarse drásticamente mediante arquitecturas asíncronas. El entrenamiento síncrono tradicional a menudo ralentiza el progreso porque el modelo debe esperar la generación de datos o viceversa. Al desacoplar estos procesos, RadixArk muestra que es posible mantener una alta utilización de GPU mientras se manejan tareas a largo plazo. Esto es crítico para desarrolladores que necesitan entrenar modelos en problemas complejos y de múltiples pasos sin incurrir en costes computacionales prohibitivos.

El enfoque en la curación de datos específica para errores también ofrece una lección práctica en la mejora de modelos. En lugar de preentrenamiento genérico en vastos conjuntos de datos, apuntar a modos de fallo conocidos con tareas difíciles y de alta calidad puede generar ganancias significativas de rendimiento. Este enfoque requiere una validación rigurosa para asegurar que las tareas no sean resolubles mediante atajos, pero los modelos resultantes son más robustos en aplicaciones del mundo real. La transparencia al compartir el framework Miles y las contribuciones de AgentENV permite además a la comunidad adoptar estas técnicas de eficiencia.

Qué puedes hacer

  • Descarga DaisyRose-27B desde el hub de Hugging Face para probar su rendimiento en tus flujos de trabajo específicos.
  • Revisa la guía de serving de SGLang para desplegar el modelo eficientemente en tu entorno de producción.
  • Utiliza el framework Miles para entrenar tus propios agentes, aprovechando la metodología de entrenamiento asíncrono descrita.
  • Evalúa el modelo en tus benchmarks internos y comparte los resultados en la pestaña Community del modelo para ayudar a identificar deficiencias restantes.
  • Estudia los criterios de selección de tareas utilizados por RadixArk y Eigent AI para mejorar tus propias pipelines de curación de datos.
  • Explora el proyecto AgentENV para construir entornos de sandbox rentables para tus necesidades de entrenamiento de agentes.
  • #large language models
  • #reinforcement learning
  • #model training
  • #ai infrastructure
  • #open source

Herramientas de la Tienda de Bytechap

$89

DocBento

Gestión documental autoalojada que lee cada escaneo y responde con citas de página.

Demo en vivo

Seguir leyendo

Todos los artículos