La reproduction d'OLMo 3 7B sur TPUs révèle des bugs cachés dans le chargeur de données
Une étude de cas Google reproduit le modèle OLMo 3 d'AI2 sur TPUs, égalant les métriques de performance tout en découvrant des erreurs critiques de partitionnement des données qui masquaient la mémorisation sous couvert d'amélioration.

