Meta publie Muse Spark Open, un modèle multimodal MoE de 816 milliards de paramètres

Meta a officiellement publié Muse Spark Open, un modèle à poids ouverts de pointe conçu pour des tâches multimodales complexes. Publié le 15 octobre 2026, cette architecture mixture-of-experts représente le modèle à poids ouverts américain le plus performant à ce jour, ciblant les développeurs ayant besoin d'un raisonnement avancé sur le code, les médias et les contextes longs.

Ce qui s'est passé

Muse Spark Open arrive comme la version complète de Muse Glimmer, que Meta a publiée en août 2026. Alors que Glimmer est un modèle dense plus petit adapté à l'exécution locale, Spark Open monte considérablement en échelle pour gérer des charges de travail de niveau entreprise. Le modèle compte environ 816 milliards de paramètres au total, mais n'active qu'environ 42 milliards de paramètres par token lors de l'inférence. Cette conception lui permet de maintenir une haute performance tout en gérant les coûts de calcul plus efficacement que les modèles denses traditionnels de taille similaire.

L'objectif principal de cette publication est le codage agentique. Meta a entraîné le modèle sur des flux de travail réels de développeurs, incluant des refactorisations multi-fichiers, de longues sessions de débogage et l'utilisation d'outils. Contrairement aux itérations précédentes, Muse Spark Open intègre le texte, les images, l'audio et la vidéo dans une interface unique. Cela signifie que les développeurs peuvent fournir au modèle des captures d'écran, des notes vocales ou des enregistrements d'écran parallèlement à leur base de code, permettant à l'IA de planifier, agir, observer et s'auto-corriger sur des tâches étendues. Il prend également en charge la navigation web avec des entrées d'images, élargissant son utilité au-delà de l'analyse statique du code.

Comment cela fonctionne

L'innovation centrale de Muse Spark Open réside dans son architecture Mixture-of-Experts (MoE). Le modèle de langage se compose de 62 couches, chacune contenant une dimension cachée de 8192. Au lieu d'utiliser un seul réseau feed-forward dense dans chaque couche, le modèle emploie un bloc MoE avec 256 experts distincts. Un mécanisme de routeur sélectionne seulement huit de ces experts pour chaque token traité. Chaque expert est un réseau feed-forward qui projette les données de 8192 à 4096 dimensions puis inversement, appliquant sa propre normalisation. Bien que les 256 experts doivent rester en mémoire, nécessitant l'empreinte de stockage d'un modèle de 816 milliards de paramètres, la charge de calcul par token correspond à celle d'un modèle de 42 milliards de paramètres. Cette structure contient environ 97 % des paramètres totaux du modèle.

Pour gérer les entrées non textuelles, le modèle utilise des encodeurs spécialisés. L'encodeur de perception, avec 1,8 milliard de paramètres, traite les images et les images vidéo en les divisant en patchs de 14x14. Il utilise une attention sparse dans la plupart des couches, avec une attention pleine appliquée toutes les quatre couches et à la dernière couche. Pour l'audio, un tokenizer séparé convertit le son en tokens à un rythme d'un tous les 80 millisecondes, soit 12,5 tokens par seconde. Ces tokens audio sont marqués dans le template de chat et alimentés dans un encodeur pyramidal convolutif qui traite les trames temporelles via différentes tailles de patchs.

Le modèle prend en charge une fenêtre de contexte allant jusqu'à un million de tokens, incluant les tokens texte, image, vidéo et audio combinés. Pour gérer l'énorme cache clé-valeur requis pour un contexte aussi long, Muse Spark Open utilise une grouped-query attention avec 128 têtes de requête et 16 têtes clé-valeur. En précision BF16, le cache consomme environ 250 Ko par token, totalisant environ 266 Go pour un contexte complet d'un million de tokens. Le modèle est disponible en deux formats de checkpoint : BF16, qui nécessite quatre nœuds de huit GPU H200 avec parallélisme tensoriel, et NVFP4, un format de précision 4 bits optimisé pour les GPU NVIDIA Blackwell pouvant fonctionner sur un seul nœud B200.

Détails clés

• Échelle du modèle : Environ 816 milliards de paramètres au total avec 42 milliards de paramètres actifs par token.
• Architecture : Mixture-of-Experts à 62 couches avec 256 experts par couche, sélectionnant 8 experts par token.
• Fenêtre de contexte : Prend en charge jusqu'à 1 048 576 tokens, englobant texte, images, audio et vidéo.
• Modalités d'entrée : Accepte texte, images, audio (12,5 tokens/seconde) et vidéo via des encodeurs spécialisés.
• Formats de checkpoint : Disponible en BF16 (env. 1,5 To) et NVFP4 pour les GPU NVIDIA Blackwell.
• Exigences d'inférence : BF16 nécessite un parallélisme tensoriel 32 voies sur des GPU H200 ; NVFP4 fonctionne sur un seul nœud B200.

Pourquoi c'est important

Pour les ingénieurs logiciels et les responsables techniques, Muse Spark Open offre une interface unifiée pour les tâches de développement multimodales. La capacité de traiter des captures d'écran et des enregistrements d'écran parallèlement au code permet un débogage et une génération de documentation plus intuitifs. En s'entraînant spécifiquement sur des flux de travail agentiques, Meta a créé un modèle capable de naviguer de manière autonome dans des bases de code complexes, réduisant l'effort manuel requis pour les refactorisations à grande échelle. La nature à poids ouverts de la publication signifie également que les organisations peuvent affiner le modèle sur des bases de code propriétaires sans dépendre de services API fermés, renforçant la sécurité des données et la personnalisation.

Cependant, les exigences d'infrastructure présentent une barrière significative à l'entrée. Exécuter le checkpoint BF16 demande des ressources GPU substantielles, spécifiquement plusieurs nœuds de GPU H200. Même la version optimisée NVFP4 nécessite l'accès à du matériel Blackwell de nouvelle génération. Cela limite l'adoption immédiate aux entreprises bien financées ou aux institutions de recherche ayant accès à des clusters de calcul de pointe. Les développeurs doivent évaluer soigneusement leurs capacités matérielles avant de tenter de déployer ou d'affiner ce modèle, car les exigences en mémoire et en traitement dépassent largement les environnements de développement locaux typiques.

Ce que vous pouvez faire

• Téléchargez les checkpoints Muse-Spark-Open-816B-A42B ou NVFP4 depuis le dépôt officiel.
• Utilisez les recettes llama.cpp, vLLM ou SGLang fournies pour configurer les environnements d'inférence.
• Configurez le MuseSparkProcessor pour gérer les entrées multimodales incluant images, audio et vidéo.
• Expérimentez avec la fenêtre de contexte de 1M tokens pour la synthèse de documents longs ou l'analyse extensive de bases de code.
• Affinez le modèle sur des tâches de codage spécifiques en utilisant les paramètres de configuration distribuée pour le parallélisme tensoriel et d'experts.
• Évaluez le checkpoint NVFP4 si vous avez accès à des GPU NVIDIA Blackwell pour réduire les exigences matérielles.