DaisyRose-27B erreicht höhere Benchmarks durch effizientes Post-Training
RadixArk veröffentlicht DaisyRose-27B, ein Modell, das Qwen3.8-27B bei wichtigen Benchmarks übertrifft und dabei ein neues asynchrones Trainings-Framework sowie kosteneffiziente Sandbox-Infrastruktur nutzt.
Automatisch aus dem englischen Original übersetzt.
RadixArk hat DaisyRose-27B veröffentlicht, ein neues Open-Weight-Sprachmodell, das erhebliche Verbesserungen in der Effizienz und Leistung des Post-Trainings demonstriert. Die im November 2026 veröffentlichte Version zeigt, wie sorgfältige Datenkuratierung und spezialisierte Infrastruktur die Modellfähigkeiten steigern können, ohne dass die Rechenkosten proportional ansteigen. Das Modell basiert auf der Architektur von Qwen3.8-27B, nutzt jedoch einen neuartigen Trainingsansatz, um spezifische Schwächen des Basismodells zu beheben.
Die Veröffentlichung markiert eine Verschiebung hin zu gezielteren Reinforcement-Learning-Strategien, bei denen Trainingsdaten speziell zur Behebung bekannter Modellfehler generiert werden. Durch die Kombination hochwertiger, fehlerorientierter Aufgaben mit einem asynchronen Trainings-Backend erzielte RadixArk erhebliche Gewinne sowohl bei den Benchmark-Ergebnissen als auch bei der betrieblichen Effizienz. Dieser Ansatz ermöglicht es dem Modell, aus Agentenaufgaben mit langem Zeithorizont zu lernen, während gleichzeitig stabile Trainingsdynamiken über Wochen kontinuierlicher Operation gewährleistet bleiben.
Was passiert ist
DaisyRose-27B übertrifft das ursprüngliche Qwen3.8-27B-Modell bei jedem evaluierten Benchmark. Die bemerkenswerteste Verbesserung zeigt sich beim Terminal Bench 4.1, wo der pass@1-Wert von 5,6 % auf 12,0 % stieg. Diese Ergebnisse wurden aus dem höheren Wert der BF16- und FP8-Durchläufe für jeden Benchmark abgeleitet, wobei die Unterschiede zwischen den beiden Präzisionsformaten dort, wo beide getestet wurden, unter einem Punkt blieben. Die Model Card bietet vollständige Details zu Vergleichsquellen und Evaluierungseinstellungen, um Reproduzierbarkeit sicherzustellen.
Der Entwicklungsprozess stützte sich auf drei Kernkomponenten: sorgfältig konzipierte Trainingsaufgaben, ein effizientes Trainings-Backend namens Miles und einen robusten Sandbox-Dienst. RadixArk arbeitete mit Eigent AI zusammen, um die Trainingsdaten zu erstellen, ausgehend von einem großen Pool an Aufgaben in Bereichen wie maschinelles Lernen, Software Engineering und Naturwissenschaften. Aus Tausenden von Kandidaten wurden etwa 1.200 Aufgaben für den endgültigen Trainingsdatensatz ausgewählt, basierend auf strengen Kriterien, die darauf abzielen, den Lerneffekt zu maximieren.
Jede Aufgabe war darauf ausgelegt, spezifische Fehler des ursprünglichen Qwen3.8-27B-Modells anzugehen. Das Team ließ das Basismodell jede Kandidatenaufgabe durchlaufen und gestaltete sie um die Fehler herum neu, die eliminiert werden sollten. Die Schwierigkeitsgrade wurden so angepasst, bis die Lösungsrate in einem für das Lernen nützlichen Bereich lag. Zusätzlich erfordert jede Aufgabe mehrere voneinander abhängige Schritte, was den Agenten zwingt, über lange Jobs hinweg zu schlussfolgern, zu planen und auszuführen. Versuche können in einer Sandbox bis zu 1,5 Stunden dauern, beinhalten mehr als 100 Tool-Aufrufe und erzeugen über 256.000 Output-Tokens. Aufgaben, die gelöst werden konnten, ohne das beabsichtigte Problem anzugehen, oder solche mit Designfehlern, wurden entfernt oder korrigiert.
Wie es funktioniert
Die Trainingsinfrastruktur nutzt Miles, ein von RadixArk entwickeltes Open-Source-Reinforcement-Learning-Framework, das im vollständig asynchronen Modus arbeitet. In diesem Setup arbeitet der Agent weiter an Aufgaben, während das Modell aus früheren Trajektorien lernt, sodass keiner der Prozesse auf den anderen warten muss. Das System weist 128 H200-GPUs für die Inferenz bei Agentenaufgaben und 16 zusätzliche GPUs für den Trainer zu. Nach jedem Trainingsschritt wird das aktualisierte Modell sofort an die 128 GPUs verteilt, auf denen die Agenten laufen.
Dieses Backend ist für das Agententraining optimiert, bei dem jeder Schritt aus einer Handvoll sehr langer Sitzungen lernt, die teilweise bis zu 1 Million Tokens erreichen. Diese Sitzungen werden durch Harness-Zusammenfassung in mehrere Trajektorien gefaltet. Bei dieser Veröffentlichung wurden 37 % der maximalen Rechenleistung jeder GPU für nützliche Trainingsarbeit genutzt, bekannt als Model FLOPs Utilization (MFU). Im Gegensatz dazu erreichte der auf Megatron basierende Open-Source-Trainer bei vergleichbaren Läufen nur 16 % MFU. Dieser Effizienzgewinn entspricht 57 % weniger benötigter GPU-Zeit für dasselbe Trainingsergebnis.
Der Effizienzvorteil ist bei Mixture-of-Experts-Modellen noch ausgeprägter. Für Qwen3.6-35B-A3B beträgt der Geschwindigkeitszuwachs das 6,2-Fache, und für das etwa 300-Milliarden-Parameter umfassende GLM-5.3-Flash übersteigt er das 10-Fache. End-to-end trainierte der Release-Lauf mit etwa 16.800 Tokens pro Sekunde über seine 144 GPUs hinweg, verglichen mit 8.300 Tokens pro Sekunde beim Open-Source-Trainer. Das System blieb über Wochen des Trainings stabil und akkumulierte 63.000 GPU-Stunden ohne Einbußen bei Geschwindigkeit oder Effizienz.
Wichtige Details
- DaisyRose-27B verbessert pass@1 beim Terminal Bench 4.1 im Vergleich zu Qwen3.8-27B von 5,6 % auf 12,0 %.
- Der Trainingsdatensatz besteht aus 1.200 Aufgaben, die aus Tausenden von Kandidaten ausgewählt wurden, wobei jede auf spezifische Fehler des Basismodells abzielt.
- Miles, das asynchrone Trainings-Framework, erreichte 37 % MFU im Vergleich zu 16 % beim Open-Source-Megatron-basierten Trainer.
- Das System nutzte 144 H200-GPUs, davon 128 für Inferenz und 16 für Training, und verarbeitete bis zu 16.800 Tokens pro Sekunde.
- Die Kosten für die Sandbox-Infrastruktur waren 80 % niedriger als bei gängigen Cloud-Anbietern, mit einer Erfolgsquote bei der Erstellung von 99,95 % seit Ende Oktober.
- Das Training umfasste Sitzungen mit einer Dauer von bis zu 1,5 Stunden, mit über 100 Tool-Aufrufen und 256K Output-Tokens pro Versuch.
Warum es wichtig ist
Für Ingenieure, die KI-Agenten entwickeln, zeigt diese Veröffentlichung, dass die Effizienz des Post-Trainings durch asynchrone Architekturen dramatisch verbessert werden kann. Traditionelles synchrones Training bremst oft den Fortschritt, weil das Modell auf die Datengenerierung warten muss oder umgekehrt. Durch die Entkopplung dieser Prozesse zeigt RadixArk, dass es möglich ist, eine hohe GPU-Auslastung aufrechtzuerhalten, während Aufgaben mit langem Zeithorizont bearbeitet werden. Dies ist entscheidend für Entwickler, die Modelle für komplexe, mehrstufige Probleme trainieren müssen, ohne prohibitive Rechenkosten zu verursachen.
Der Fokus auf fehlerspezifische Datenkuratierung bietet zudem eine praktische Lehre in der Modellverbesserung. Anstelle eines generischen Pre-Trainings auf riesigen Datensätzen kann die gezielte Bearbeitung bekannter Fehlermodi mit hochwertigen, schwierigen Aufgaben erhebliche Leistungssteigerungen bringen. Dieser Ansatz erfordert strenge Validierung, um sicherzustellen, dass Aufgaben nicht über Abkürzungen lösbar sind, aber die resultierenden Modelle sind in realen Anwendungen robuster. Die Transparenz bei der Freigabe des Miles-Frameworks und der Beiträge zu AgentENV ermöglicht es der Community zusätzlich, diese Effizienztechniken zu übernehmen.
Was Sie tun können
- Laden Sie DaisyRose-27B vom Hugging Face Hub herunter, um die Leistung in Ihren spezifischen Workflows zu testen.
- Prüfen Sie den SGLang-Serving-Leitfaden, um das Modell effizient in Ihrer Produktionsumgebung bereitzustellen.
- Nutzen Sie das Miles-Framework, um Ihre eigenen Agenten zu trainieren, indem Sie die beschriebene asynchrone Trainingsmethodik nutzen.
- Evaluieren Sie das Modell anhand Ihrer internen Benchmarks und teilen Sie die Ergebnisse im Community-Tab des Modells, um verbleibende Schwächen zu identifizieren.
- Untersuchen Sie die von RadixArk und Eigent AI verwendeten Kriterien für die Task-Auswahl, um Ihre eigenen Datenkuratur-Pipelines zu verbessern.
- Erkunden Sie das AgentENV-Projekt, um kosteneffiziente Sandbox-Umgebungen für Ihre eigenen Anforderungen an das Agententraining zu erstellen.



