DaisyRose-27B atteint des scores plus élevés grâce à un post-training efficace
RadixArk publie DaisyRose-27B, un modèle qui surpasse Qwen3.8-27B sur les principaux benchmarks en utilisant un nouveau framework d'entraînement asynchrone et une infrastructure de sandbox économique.
Traduit automatiquement depuis l'original anglais.
RadixArk a publié DaisyRose-27B, un nouveau modèle de langage à poids ouverts qui démontre des améliorations significatives en matière d'efficacité et de performance du post-training. Publié en novembre 2026, cette sortie met en évidence la manière dont une curation soignée des données et une infrastructure spécialisée peuvent renforcer les capacités du modèle sans augmentation proportionnelle des coûts de calcul. Le modèle est construit sur l'architecture Qwen3.8-27B mais utilise une approche d'entraînement novatrice pour corriger des faiblesses spécifiques identifiées dans le modèle de base.
Cette publication marque un tournant vers des stratégies d'apprentissage par renforcement plus ciblées, où les données d'entraînement sont générées spécifiquement pour remédier aux échecs connus du modèle. En combinant des tâches de haute qualité centrées sur les erreurs avec un backend d'entraînement asynchrone, RadixArk a obtenu des gains substantiels tant au niveau des scores de benchmark que de l'efficacité opérationnelle. Cette approche permet au modèle d'apprendre à partir de tâches d'agents à long terme tout en maintenant une dynamique d'entraînement stable sur plusieurs semaines de fonctionnement continu.
Ce qui s'est passé
DaisyRose-27B surpasse le modèle original Qwen3.8-27B sur tous les benchmarks évalués. L'amélioration la plus notable concerne Terminal Bench 4.1, où le score pass@1 est passé de 5,6 % à 12,0 %. Ces résultats ont été dérivés de la meilleure exécution entre BF16 et FP8 pour chaque benchmark, les différences entre les deux formats de précision restant inférieures à un point partout où les deux ont été testés. La fiche technique du modèle fournit tous les détails sur les sources de comparaison et les paramètres d'évaluation afin de garantir la reproductibilité.
Le processus de développement reposait sur trois composants clés : des tâches d'entraînement soigneusement conçues, un backend d'entraînement efficace appelé Miles, et un service de sandbox robuste. RadixArk s'est associé à Eigent AI pour créer les données d'entraînement, en partant d'un large vivier de tâches dans des domaines tels que l'apprentissage automatique, l'ingénierie logicielle et les sciences. Parmi des milliers de candidats, environ 1 200 tâches ont été sélectionnées pour l'ensemble d'entraînement final selon des critères stricts visant à maximiser l'utilité pédagogique.
Chaque tâche était conçue pour cibler des erreurs spécifiques commises par le modèle original Qwen3.8-27B. L'équipe a fait tourner le modèle de base sur chaque tâche candidate et les a redessinées autour des erreurs qu'elle souhaitait éliminer. Les niveaux de difficulté ont été ajustés jusqu'à ce que le taux de résolution se situe dans une plage utile pour l'apprentissage. De plus, chaque tâche nécessite plusieurs étapes interdépendantes, obligeant l'agent à raisonner, planifier et exécuter sur des travaux longs. Les tentatives peuvent durer jusqu'à 1,5 heure dans un sandbox, impliquant plus de 100 appels d'outils et générant plus de 256 000 tokens de sortie. Les tâches pouvant être résolues sans aborder le problème visé ou présentant des défauts de conception ont été supprimées ou corrigées.
Comment cela fonctionne
L'infrastructure d'entraînement utilise Miles, un framework open source d'apprentissage par renforcement développé par RadixArk, fonctionnant en mode entièrement asynchrone. Dans cette configuration, l'agent continue de travailler sur les tâches pendant que le modèle apprend des trajectoires précédentes, garantissant qu'aucun des deux processus n'attend l'autre. Le système alloue 128 GPU H200 pour l'inférence sur les tâches de l'agent et 16 GPU supplémentaires pour l'entraîneur. Après chaque étape d'entraînement, le modèle mis à jour est immédiatement distribué aux 128 GPU exécutant les agents.
Ce backend est optimisé pour l'entraînement d'agents, où chaque étape apprend à partir d'une poignée de sessions très longues, certaines atteignant jusqu'à 1 million de tokens. Ces sessions sont intégrées dans plusieurs trajectoires via la synthèse par harness. Pour cette version, 37 % de la puissance de calcul maximale de chaque GPU étaient utilisés pour un travail d'entraînement utile, connu sous le nom d'utilisation des FLOPs du modèle (MFU). En revanche, l'entraîneur open source basé sur Megatron n'a atteint que 16 % de MFU sur des exécutions comparables. Ce gain d'efficacité se traduit par 57 % moins de temps GPU requis pour obtenir le même résultat d'entraînement.
L'avantage en termes d'efficacité est encore plus marqué pour les modèles mixture-of-experts. Pour Qwen3.6-35B-A3B, l'accélération est de 6,2×, et pour GLM-5.3-Flash, qui compte environ 300 milliards de paramètres, elle dépasse 10×. De bout en bout, l'exécution de cette version s'est entraînée à environ 16 800 tokens par seconde sur ses 144 GPU, contre 8 300 tokens par seconde pour l'entraîneur open source. Le système est resté stable pendant des semaines d'entraînement, accumulant 63 000 heures GPU sans dégradation de la vitesse ou de l'efficacité.
Détails clés
- DaisyRose-27B améliore le pass@1 sur Terminal Bench 4.1 de 5,6 % à 12,0 % par rapport à Qwen3.8-27B.
- L'ensemble d'entraînement se compose de 1 200 tâches sélectionnées parmi des milliers de candidats, chacune ciblant des erreurs spécifiques du modèle de base.
- Miles, le framework d'entraînement asynchrone, a atteint 37 % de MFU contre 16 % pour l'entraîneur open source basé sur Megatron.
- Le système utilisait 144 GPU H200, dont 128 pour l'inférence et 16 pour l'entraînement, traitant jusqu'à 16 800 tokens par seconde.
- Les coûts de l'infrastructure de sandbox étaient 80 % inférieurs à ceux des fournisseurs cloud populaires, avec un taux de succès de création de 99,95 % depuis fin octobre.
- L'entraînement impliquait des sessions d'une durée allant jusqu'à 1,5 heure, avec plus de 100 appels d'outils et 256K tokens de sortie par tentative.
Pourquoi c'est important
Pour les ingénieurs développant des agents IA, cette publication démontre que l'efficacité du post-training peut être considérablement améliorée grâce aux architectures asynchrones. L'entraînement synchrone traditionnel constitue souvent un goulot d'étranglement car le modèle doit attendre la génération des données ou inversement. En découplant ces processus, RadixArk montre qu'il est possible de maintenir une utilisation élevée des GPU tout en gérant des tâches à long terme. Ceci est crucial pour les développeurs qui doivent entraîner des modèles sur des problèmes complexes et multi-étapes sans encourir de coûts de calcul prohibitifs.
L'accent mis sur la curation de données spécifiques aux erreurs offre également une leçon pratique en matière d'amélioration des modèles. Au lieu d'un pré-entraînement générique sur d'immenses jeux de données, cibler les modes d'échec connus avec des tâches difficiles et de haute qualité peut produire des gains de performance significatifs. Cette approche nécessite une validation rigoureuse pour s'assurer que les tâches ne sont pas solvables par des raccourcis, mais les modèles résultants sont plus robustes dans les applications réelles. La transparence dans le partage du framework Miles et des contributions AgentENV permet en outre à la communauté d'adopter ces techniques d'efficacité.
Ce que vous pouvez faire
- Téléchargez DaisyRose-27B depuis le hub Hugging Face pour tester ses performances sur vos workflows spécifiques.
- Consultez le guide de serving SGLang pour déployer le modèle efficacement dans votre environnement de production.
- Utilisez le framework Miles pour entraîner vos propres agents, en tirant parti de la méthodologie d'entraînement asynchrone décrite.
- Évaluez le modèle sur vos benchmarks internes et partagez les résultats dans l'onglet Communauté du modèle pour aider à identifier les lacunes restantes.
- Étudiez les critères de sélection des tâches utilisés par RadixArk et Eigent AI pour améliorer vos propres pipelines de curation de données.
- Explorez le projet AgentENV pour construire des environnements de sandbox économiques pour vos besoins d'entraînement d'agents.



