Meta mở mã nguồn stack mạng AI tại hội nghị OCP Summit 2026

Tại Hội nghị Toàn cầu Open Compute Project (OCP) năm 2026, các kỹ sư của Meta đã trình bày chi tiết về hạ tầng mạng cung cấp năng lượng cho các mô hình AI mới nhất và những cụm tính toán khổng lồ của họ. Các bài thuyết trình bao gồm các đổi mới phần cứng như rack làm mát bằng chất lỏng, kiến trúc mạng định nghĩa bằng phần mềm để mở rộng quy mô giữa các trung tâm dữ liệu, cùng các sáng kiến mã nguồn mở nhằm chuẩn hóa ngành công nghiệp.

Diễn biến chính

Meta đã hé lộ kiến trúc đằng sau cụm Prometheus quy mô gigawatt, vốn hỗ trợ các mô hình như Muse Wonder và Muse Spark. Trọng tâm chính là IcePack rack, hệ thống vỏ bọc mạng làm mát bằng chất lỏng đầu tiên của công ty. Rack này chứa các blade switch IceCube với khả năng thông lượng lên tới 102,4 terabit mỗi giây. Các switch này sử dụng mạch tích hợp chuyên dụng (ASIC) Broadcom Tomahawk 6C hoặc NVIDIA Spectrum-6 và cung cấp 128 cổng hoạt động ở tốc độ 800 gigabit mỗi giây. Hệ thống chạy trên FBOSS, hệ điều hành mạng mã nguồn mở của Meta.

Công ty cũng mô tả Flattened Planar Fabric, một thiết kế nhằm mở rộng quy mô các cụm GPU. Kiến trúc này chuyển từ topology Clos ba tầng truyền thống sang mô hình hai tầng. Trong cấu hình này, mỗi bộ xử lý đồ họa kết nối với tám plane mạng riêng biệt. Thiết kế dựa vào kỹ thuật packet spraying ở cấp độ card giao diện mạng và một control plane thống nhất trải dài cả trên host lẫn switch. Meta đã phát triển kiến trúc mạng này phối hợp cùng NVIDIA và chia sẻ nó với các đối tác đám mây.

Để kết nối hạ tầng giữa các tòa nhà và khu vực, Meta giới thiệu Backend Aggregation (BAG). Đây là một super-spine quy mô petabit liên kết các phần khác nhau của cụm Prometheus. Các backbone khu vực sử dụng Segment Routing over IPv6 chạy trên FBOSS và Switch Abstraction Interface. Để xử lý giao tiếp trong nội bộ rack, Meta trưng bày Tahan, một switch scale-up dựa trên Ethernet được xây dựng trên silicon Broadcom Tomahawk5 dành cho các bộ tăng tốc MTIA 300. Công ty cũng xem trước một cấu hình hỗ trợ 72 bộ tăng tốc mỗi rack sử dụng silicon 102,4T.

Cơ chế hoạt động

Việc chuyển sang làm mát bằng chất lỏng trong rack IcePack giải quyết vấn đề mật độ nhiệt của các switch tốc độ cao. Bằng cách loại bỏ các hạn chế của làm mát bằng không khí, Meta có thể đóng gói băng thông lớn hơn vào một không gian nhỏ gọn hơn. Các switch IceCube sử dụng thiết kế lai giữa làm mát bằng chất lỏng và không khí mà không cần chip vật lý lớp (physical layer chips), thay vào đó dựa vào công nghệ quang học tiên tiến. Cách tiếp cận này giảm thiểu tiêu thụ điện năng và sinh nhiệt, vốn là những nút thắt quan trọng ở quy mô này. Mạng lưới sử dụng cáp điện chủ động (active electrical cables) cho các liên kết tầm ngắn để quản lý chi phí và độ tin cậy.

Về mặt phần mềm, Meta đang mở mã nguồn giao vận truy cập bộ nhớ trực tiếp từ xa (remote direct memory access transport), gọi là MetaRoCE. Giao thức này xử lý việc di chuyển dữ liệu giữa các GPU trong các tác vụ huấn luyện như thao tác all-reduce và all-to-all. Bằng cách đưa phần mềm thành mã nguồn mở, bắt đầu với một thư viện user-space trên GitHub, Meta hướng tới mục tiêu cải thiện khả năng tương tác và hiệu suất giữa các nhà cung cấp phần cứng khác nhau. Giao vận này được thiết kế để ngăn chặn nút chậm nhất kìm hãm toàn bộ cụm, một vấn đề phổ biến trong huấn luyện phân tán quy mô lớn.

Để giảm sự phân mảnh trong quá trình phát triển nền tảng switch, Meta đồng dẫn dắt sáng kiến Open Switch Platform Architecture cùng với Microsoft và Alibaba. Nỗ lực này cung cấp một thiết kế tham chiếu thống nhất cho lớp nền tảng switch, nằm phía trên phần mềm data plane. Mục tiêu là loại bỏ hàng tháng trời làm việc trùng lặp khi đưa các nền tảng phần cứng mới vào hoạt động. Phiên bản đặc tả 1.0 đã được gửi đến Open Compute Project.

Chi tiết chính

• Rack IcePack sử dụng blade switch 102,4T với dung lượng 128x800G và chạy trên FBOSS.
• Flattened Planar Fabric kết nối mỗi GPU với tám plane mạng trong topology hai tầng.
• Backend Aggregation đóng vai trò là super-spine quy mô petabit cho kết nối xuyên khu vực.
• Switch Tahan hỗ trợ các bộ tăng tốc MTIA 300 sử dụng silicon Broadcom Tomahawk5.
• Giao vận RDMA MetaRoCE đang được phát hành dưới dạng phần mềm mã nguồn mở trên GitHub.
• Đặc tả Open Switch Platform Architecture v1.0 nhằm chuẩn hóa các lớp nền tảng switch.

Tại sao điều này quan trọng

Đối với các kỹ sư xây dựng hệ thống AI quy mô lớn, những bước phát triển này nhấn mạnh tầm quan trọng ngày càng tăng của hiệu quả mạng. Khi kích thước mô hình tăng lên, thời gian dành cho việc giao tiếp giữa các GPU thường vượt quá thời gian tính toán. Việc Meta chuyển sang mở mã nguồn lớp giao vận và xác định các kiến trúc nền tảng chuẩn giúp giảm rào cản gia nhập cho mạng hiệu suất cao. Điều này cho phép các nhóm áp dụng các thiết kế đã được kiểm chứng thay vì tự xây dựng các giải pháp độc quyền từ đầu.

Sự nhấn mạnh vào làm mát bằng chất lỏng và quang học mật độ cao cũng báo hiệu một sự thay đổi trong thiết kế trung tâm dữ liệu. Các rack làm mát bằng không khí truyền thống không thể hỗ trợ mật độ công suất cần thiết cho các switch thế hệ tiếp theo. Các kỹ sư giờ đây phải coi quản lý nhiệt là một phần cốt lõi của kiến trúc mạng. Sự sẵn có của các phương pháp luận xác minh chi tiết cho liên kết đồng và quang học cung cấp hướng dẫn thực tế để xử lý các vấn đề về tỷ lệ lỗi và độ tin cậy ở quy mô lớn.

Bạn có thể làm gì

• Xem xét các thư viện MetaRoCE mã nguồn mở trên GitHub để hiểu rõ hơn về các triển khai giao vận RDMA hiện đại.
• Nghiên cứu đặc tả Open Switch Platform Architecture để tối ưu hóa quy trình đưa phần cứng vào hoạt động.
• Đánh giá các yêu cầu làm mát bằng chất lỏng cho các triển khai mạng mật độ cao trong kế hoạch hạ tầng của bạn.
• Phân tích các nguyên tắc thiết kế Flattened Planar Fabric để tối ưu hóa kết nối từ GPU đến mạng.
• Theo dõi các phiên ghi hình từ Hội nghị Toàn cầu OCP 2026 để tìm hiểu sâu về các thành phần cụ thể.
• Cân nhắc áp dụng cáp điện chủ động cho các liên kết tầm ngắn để cân bằng giữa chi phí và hiệu suất.