Cloud et infrastructure

Meta ouvre son stack réseau IA au sommet OCP 2026

Meta a publié des détails sur ses commutateurs refroidis par liquide, son transport RDMA ouvert et ses fabricas multi-niveaux soutenant son cluster Prometheus à l'échelle du gigawatt.

Illustration d'un rack réseau refroidi par liquide avec connexions optiques
Illustration générée pour cet article

Traduit automatiquement depuis l'original anglais.

Lors du Sommet mondial Open Compute Project 2026, les ingénieurs de Meta ont détaillé l'infrastructure réseau alimentant leurs derniers modèles d'IA et leurs immenses clusters de calcul. Les présentations ont couvert des innovations matérielles telles que les racks refroidis par liquide, les fabricas définies par logiciel pour la mise à l'échelle entre centres de données, ainsi que de nouvelles initiatives open source visant à standardiser le secteur.

Ce qui s'est passé

Meta a révélé l'architecture derrière son cluster Prometheus à l'échelle du gigawatt, qui prend en charge des modèles tels que Muse Wonder et Muse Spark. Un point central était le rack IcePack, le premier boîtier réseau refroidi par liquide de l'entreprise. Il héberge des lames de commutateur IceCube capables d'un débit de 102,4 téraoctets par seconde. Ces commutateurs utilisent soit des circuits intégrés spécifiques aux applications Broadcom Tomahawk 6C, soit NVIDIA Spectrum-6, et offrent 128 ports fonctionnant à 800 gigabits par seconde. Le système fonctionne sous FBOSS, le système d'exploitation réseau open source de Meta.

L'entreprise a également décrit sa Flattened Planar Fabric, une conception destinée à la mise à l'échelle horizontale des clusters GPU. Cette architecture passe d'une topologie Clos traditionnelle à trois niveaux à un modèle à deux niveaux. Dans cette configuration, chaque unité de traitement graphique se connecte à huit plans réseau distincts. La conception repose sur la dispersion de paquets (packet spraying) au niveau de la carte d'interface réseau et sur un plan de contrôle unifié couvrant à la fois les hôtes et les commutateurs. Meta a développé cette fabrica en collaboration avec NVIDIA et la partage avec ses partenaires cloud.

Pour connecter l'infrastructure entre bâtiments et régions, Meta a introduit Backend Aggregation, ou BAG. Ce super-spine à l'échelle du pétaoctet relie différentes parties du cluster Prometheus. Les dorsales régionales utilisent Segment Routing over IPv6 fonctionnant sur FBOSS et l'Interface d'Abstraction de Commutateur (Switch Abstraction Interface). Pour gérer la communication au sein des racks, Meta a présenté Tahan, un commutateur scale-up basé sur Ethernet construit sur la puce Broadcom Tomahawk5 pour ses accélérateurs MTIA 300. L'entreprise a également prévisualisé une configuration supportant 72 accélérateurs par rack utilisant des puces 102,4T.

Comment cela fonctionne

Le passage au refroidissement liquide dans le rack IcePack répond à la densité thermique des commutateurs haute vitesse. En supprimant les contraintes du refroidissement par air, Meta peut intégrer plus de bande passante dans un encombrement réduit. Les commutateurs IceCube utilisent une conception hybride refroidie par liquide et par air sans puces de couche physique, s'appuyant plutôt sur des optiques avancées. Cette approche réduit la consommation d'énergie et la génération de chaleur, qui sont des goulets d'étranglement critiques à cette échelle. Le réseau utilise des câbles électriques actifs pour les liaisons courte portée afin de maîtriser les coûts et la fiabilité.

Du côté logiciel, Meta ouvre son protocole de transport d'accès direct à la mémoire à distance, appelé MetaRoCE. Ce protocole gère les mouvements de données entre les GPU lors de tâches d'entraînement comme les opérations all-reduce et all-to-all. En rendant le logiciel open source, en commençant par une bibliothèque en espace utilisateur sur GitHub, Meta vise à améliorer l'interopérabilité et les performances entre différents fournisseurs de matériel. Le transport est conçu pour empêcher que le nœud le plus lent ne bloque l'ensemble du cluster, un problème courant dans l'entraînement distribué à grande échelle.

Pour réduire la fragmentation dans le développement de plateformes de commutateurs, Meta co-dirige l'initiative Open Switch Platform Architecture avec Microsoft et Alibaba. Cet effort fournit une conception de référence unifiée pour la couche plateforme de commutateur, située au-dessus du logiciel de plan de données. L'objectif est d'éliminer des mois de travail dupliqué lors de la mise en service de nouvelles plateformes matérielles. La spécification version 1.0 a été soumise à l'Open Compute Project.

Détails clés

  • Les racks IcePack utilisent des lames de commutateur 102,4T avec une capacité de 128x800G et fonctionnent sous FBOSS.
  • La Flattened Planar Fabric connecte chaque GPU à huit plans réseau dans une topologie à deux niveaux.
  • Backend Aggregation sert de super-spine à l'échelle du pétaoctet pour la connectivité inter-régions.
  • Les commutateurs Tahan prennent en charge les accélérateurs MTIA 300 utilisant la puce Broadcom Tomahawk5.
  • Le transport RDMA MetaRoCE est publié en tant que logiciel open source sur GitHub.
  • La spécification Open Switch Platform Architecture v1.0 vise à standardiser les couches de plateforme de commutateurs.

Pourquoi c'est important

Pour les ingénieurs construisant des systèmes d'IA à grande échelle, ces développements soulignent l'importance croissante de l'efficacité réseau. À mesure que la taille des modèles augmente, le temps consacré à la communication entre les GPU dépasse souvent le temps de calcul. La décision de Meta d'ouvrir son couche de transport en code source libre et de définir des architectures de plateforme standardisées réduit la barrière à l'entrée pour les réseaux haute performance. Cela permet aux équipes d'adopter des conceptions éprouvées plutôt que de construire des solutions propriétaires depuis zéro.

L'accent mis sur le refroidissement liquide et les optiques haute densité signale également un changement dans la conception des centres de données. Les racks traditionnels refroidis par air ne peuvent pas supporter les densités de puissance requises pour les commutateurs de nouvelle génération. Les ingénieurs doivent désormais considérer la gestion thermique comme une partie centrale de l'architecture réseau. La disponibilité de méthodologies de validation détaillées pour les interconnexions en cuivre et les optiques fournit des conseils pratiques pour gérer les problèmes de rendement et de fiabilité à grande échelle.

Ce que vous pouvez faire

  • Examinez les bibliothèques open source MetaRoCE sur GitHub pour comprendre les implémentations modernes de transport RDMA.
  • Étudiez la spécification Open Switch Platform Architecture pour rationaliser les processus de mise en service matérielle.
  • Évaluez les exigences de refroidissement liquide pour les déploiements réseau haute densité dans vos plans d'infrastructure.
  • Analysez les principes de conception de la Flattened Planar Fabric pour optimiser la connectivité GPU-réseau.
  • Regardez les sessions enregistrées du Sommet mondial OCP 2026 pour des analyses approfondies des composants spécifiques.
  • Envisagez d'adopter des câbles électriques actifs pour les liaisons courte portée afin d'équilibrer coût et performance.
  • #ai infrastructure
  • #networking
  • #open source
  • #data center
  • #meta

Outils de la Boutique Bytechap

Continuer la lecture

Tous les articles