Microsoft ra mắt chip Maia 300 nhằm giảm sự phụ thuộc vào GPU của Nvidia

Microsoft đã công bố bộ tăng tốc AI nội bộ thế hệ thứ ba, mang tên Maia 300, định vị nó là hệ thống suy luận chính cho các dịch vụ đám mây của mình. Công ty dự kiến bắt đầu đưa loại silicon mới này vào các khối lượng công việc sản xuất trong năm 2027, nhằm giảm sự phụ thuộc vào các nhà cung cấp GPU bên ngoài như Nvidia và AMD đồng thời cải thiện hiệu quả năng lượng.

Chuyện gì đã xảy ra

Maia 300 là phiên bản kế nhiệm của Maia 200, vốn được công bố vào đầu năm nay và hiện đang chạy các khối lượng công việc sản xuất cho các dịch vụ như Microsoft Copilot, GitHub Copilot và Microsoft Foundry. Scott Guthrie, Phó Chủ tịch Điều hành nhóm đám mây của Microsoft, cho biết con chip mới được thiết kế đặc biệt cho các nhu cầu AI đang nổi lên, bao gồm suy luận ngữ cảnh dài, hội thoại nhạy cảm về độ trễ và các tác vụ agent đa bước kéo dài. Mục tiêu là biến Maia thành cơ sở hạ tầng cốt lõi cho các sản phẩm AI của Microsoft thay vì chủ yếu dựa vào phần cứng của bên thứ ba.

Hiệu quả là chỉ số trung tâm của thế hệ này. Microsoft kỳ vọng Maia 300 sẽ cung cấp nhiều hơn 40% token trên mỗi megawatt so với các hệ thống dựa trên GPU hàng đầu. Trong một cấu hình đầy đủ sử dụng 96 bộ tăng tốc, công ty tuyên bố thông lượng token ở quy mô rack sẽ cao gấp bảy lần so với Maia 200. Những cải tiến này nhằm hỗ trợ các triển khai quy mô nhiều gigawatt bắt đầu từ năm 2027, cho phép Microsoft mở rộng đáng kể dòng Azure Maia.

Chiến lược phần cứng này gắn chặt với tham vọng AI rộng lớn hơn của Microsoft. Mustafa Suleyman, CEO của Microsoft AI, nhấn mạnh nhu cầu về một nền tảng mà công ty sở hữu và cùng thiết kế với các mô hình của mình. Bằng cách kiểm soát lớp silicon, Microsoft nhắm đến việc cạnh tranh hiệu quả hơn với các đối thủ như Google DeepMind, OpenAI và Anthropic. Động thái này phản ánh xu hướng chung trong ngành khi các hãng công nghệ lớn phát triển silicon tùy chỉnh để tối ưu hóa hiệu suất và chi phí cho các kiến trúc mô hình cụ thể của họ.

Cách thức hoạt động

Maia 300 đạt được những cải tiến về hiệu quả nhờ kiến trúc chiplet mới được xây dựng trên nút quy trình N2P của TSMC. Khác với các thiết kế nguyên khối truyền thống, phương pháp này tách biệt chức năng tính toán, bộ điều khiển bộ nhớ và nhập/xuất thành các thành phần riêng biệt. Sự phân tách này cho phép mỗi chức năng sử dụng công nghệ sản xuất phù hợp nhất với vai trò cụ thể của nó, qua đó tăng tổng diện tích silicon dành cho hiệu suất tính toán thực tế.

Bằng cách tách rời các chức năng này, thiết kế giảm thiểu các điểm nghẽn thường hạn chế thông lượng trong các khối lượng công việc AI dày đặc. Kiến trúc được tối ưu hóa cho các loại tác vụ suy luận cụ thể chiếm ưu thế trong việc sử dụng AI hiện đại, chẳng hạn như duy trì ngữ cảnh qua các cuộc hội thoại dài hoặc thực thi các quy trình làm việc phức tạp, đa bước của agent. Việc đồng thiết kế phần cứng-phần mềm đảm bảo rằng các khả năng vật lý của con chip phù hợp chặt chẽ với các yêu cầu vận hành của các mô hình AI mới nhất của Microsoft.

Chi tiết quan trọng

• Maia 300 sẽ bắt đầu được triển khai vào các khối lượng công việc sản xuất trong năm 2027.
• Microsoft kỳ vọng cung cấp nhiều hơn 40% token trên mỗi megawatt so với các hệ thống dựa trên GPU hàng đầu.
• Cấu hình 96 bộ tăng tốc cung cấp thông lượng token ở quy mô rack cao gấp 7 lần so với Maia 200.
• Con chip sử dụng kiến trúc chiplet được xây dựng trên nút quy trình N2P của TSMC.
• Các chức năng tính toán, bộ điều khiển bộ nhớ và I/O được tách biệt để tối ưu hóa diện tích silicon và việc sử dụng công nghệ.
• Maia 300 được thiết kế cho suy luận ngữ cảnh dài, hội thoại nhạy cảm về độ trễ và các tác vụ agent.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và trưởng nhóm cơ sở hạ tầng, sự chuyển dịch này báo hiệu một hệ sinh thái đang trưởng thành, nơi silicon tùy chỉnh trở thành chuẩn mực cho việc triển khai AI quy mô lớn. Việc dựa vào GPU đa mục đích thường có nghĩa là phải trả tiền cho các khả năng không được sử dụng hết hoặc phải đối mặt với các ràng buộc về nguồn điện hạn chế quy mô. Các bộ tăng tốc tùy chỉnh như Maia 300 cho phép tích hợp chặt chẽ hơn giữa kiến trúc mô hình và phần cứng, dẫn đến hiệu quả chi phí và hiệu suất trên mỗi watt tốt hơn. Xu hướng này có thể khuyến khích các nhà cung cấp đám mây lớn khác đẩy nhanh lộ trình silicon tùy chỉnh của riêng họ.

Sự tập trung vào các tác vụ agent và suy luận ngữ cảnh dài cũng làm nổi bật bản chất thay đổi của các khối lượng công việc AI. Khi các ứng dụng vượt ra ngoài tương tác truy vấn-phản hồi đơn giản để chuyển sang các quy trình phức tạp, đa bước, phần cứng nền tảng phải hỗ trợ hiệu suất độ trễ thấp kéo dài. Các kỹ sư xây dựng ứng dụng AI thế hệ tiếp theo nên lường trước rằng các nhà cung cấp cơ sở hạ tầng sẽ ngày càng cung cấp các gói chuyên biệt được tối ưu hóa cho những loại khối lượng công việc cụ thể này, thay vì các instance GPU "một kích cỡ vừa tất cả".

Bạn có thể làm gì

• Theo dõi lộ trình triển khai Maia 300 trên Azure để lên kế hoạch cho các đợt di chuyển cơ sở hạ tầng trong tương lai.
• Đánh giá các khối lượng công việc AI hiện tại để xác định các cơ hội tối ưu hóa cho ngữ cảnh dài hoặc tác vụ agent.
• Cập nhật thông tin về các phát triển của nút quy trình N2P của TSMC để hiểu rõ hơn về các xu hướng hiệu quả chung của ngành.
• Xem xét cách các nguyên tắc đồng thiết kế phần cứng-phần mềm có thể áp dụng cho chiến lược triển khai mô hình của riêng bạn.
• Xem xét các chỉ số hiệu quả năng lượng khi so sánh các nhà cung cấp dịch vụ AI đám mây cho các dự án quy mô lớn.
• Chú ý đến các thông báo từ đối thủ cạnh tranh như Google, Amazon và những hãng khác liên quan đến silicon AI tùy chỉnh.