Microsoft ra mắt chip ARM Cobalt 200 cho các sandbox tác nhân AI nhanh hơn
Các máy ảo dựa trên ARM Cobalt 200 mới của Microsoft hiện đã khả dụng chung (generally available) trên Azure, mang lại hiệu suất tốt hơn tới 50% cho các khối lượng công việc của tác nhân AI.
Được dịch tự động từ bản gốc tiếng Anh.
Microsoft đã đưa thế hệ thứ hai của các máy ảo Cobalt 200 dựa trên kiến trúc Arm vào trạng thái khả dụng chung (generally available) trên Azure. Được công bố tại hội nghị Ignite ở San Francisco, những con chip này được tinh chỉnh đặc biệt để tăng tốc các sandbox và môi trường thực thi mã nguồn, vốn là nền tảng vận hành các tác nhân AI hiện đại.
Điều gì đã xảy ra
Các máy ảo Cobalt 200 hiện đang hoạt động tại 14 khu vực Azure, với kế hoạch mở rộng lên 23 khu vực vào cuối năm 2026. Việc ra mắt này diễn ra sau giai đoạn xem trước kéo dài sáu tháng và gần như đúng một năm kể từ khi Microsoft lần đầu tiên tiết lộ kiến trúc này. Công ty tuyên bố rằng phần cứng mới cung cấp hiệu suất tốt hơn tới 50% so với thế hệ Cobalt 100 trước đó.
Pat Stemen, phó chủ tịch phụ trách Azure Cobalt của Microsoft, giải thích rằng đội ngũ kỹ thuật đã dành cả năm qua để tinh chỉnh cơ sở hạ tầng cho các mẫu vận hành cụ thể. Họ tập trung vào các khối lượng công việc phổ biến đối với tác nhân AI, chẳng hạn như tìm kiếm tệp, biên dịch mã và thực thi tác vụ trong các sandbox cô lập. Các bài kiểm tra nội bộ chỉ ra rằng việc thực thi công cụ cho những tác nhân này nhanh hơn tới 1,5 lần so với thế hệ trước.
Phiên bản phát hành này cũng giới thiệu hai dòng máy ảo mới bên cạnh các tùy chọn đa năng. Dòng Mpsv4 bộ nhớ cao cung cấp 16 GiB bộ nhớ cho mỗi vCPU, phục vụ cho các cơ sở dữ liệu lớn lưu trữ trong bộ nhớ. Dòng Lpsv5 tối ưu hóa lưu trữ cung cấp tới 23 TB dung lượng lưu trữ NVMe cục bộ, đáp ứng nhu cầu của các khối lượng công việc doanh nghiệp đòi hỏi thông lượng đĩa cục bộ đáng kể.
Cách thức hoạt động
Chip Cobalt 200 được sản xuất trên quy trình 3nm của TSMC và trang bị 132 lõi Arm Neoverse V3. Khác với các thiết kế trước đây ưu tiên hiệu quả chi phí, thế hệ này sử dụng các lõi được tối ưu hóa về hiệu suất. Mỗi CPU ảo (vCPU) ánh xạ trực tiếp đến một lõi vật lý đầy đủ, được trang bị 3 MB bộ nhớ đệm L2 riêng. Hệ thống cũng bao gồm 192 MB bộ nhớ đệm cấp hệ thống và 12 kênh bộ nhớ DDR5 để tăng băng thông.
Một tính năng chính của Cobalt 200 là khả năng lựa chọn giữa hai chế độ xử lý. Chế độ xác định (deterministic mode) khóa các lõi ở tần số ổn định 3,2 GHz, cung cấp hiệu suất dự đoán được, yếu tố thiết yếu cho các cụm dữ liệu phân tán nơi nút chậm nhất quyết định tốc độ tổng thể. Chế độ cơ hội (opportunistic mode) cho phép các lõi đạt tới 3,6 GHz khi điều kiện nhiệt độ và điện năng cho phép, mang lại hiệu suất cao hơn tới 12% cho các dịch vụ web và khối lượng công việc truyền thông. Nhà phát triển có thể chọn hoặc chuyển đổi các chế độ này thông qua cổng thông tin Azure hoặc các công cụ dòng lệnh.
Kiến trúc này cũng tích hợp Azure Boost, một công nghệ giúp giảm tải (offload) việc xử lý mạng và lưu trữ khỏi CPU chủ chính. Sự tách biệt này dẫn đến băng thông mạng cao hơn tới 15% và IOPS lưu trữ từ xa cao hơn 20% so với Cobalt 100. Bằng cách loại bỏ các chi phí quản lý này khỏi các lõi tính toán, nhiều sức mạnh xử lý hơn sẽ sẵn sàng cho logic ứng dụng chính.
Chi tiết quan trọng
- Máy ảo Cobalt 200 đã khả dụng chung tại 14 khu vực Azure, sẽ mở rộng lên 23 khu vực vào cuối năm 2026.
- Hiệu suất tốt hơn tới 50% so với Cobalt 100, với tốc độ thực thi công cụ cho tác nhân AI nhanh gấp 1,5 lần.
- Chip sử dụng 132 lõi Arm Neoverse V3 trên quy trình 3nm của TSMC, trong đó mỗi vCPU ánh xạ đến một lõi vật lý.
- Hai chế độ hoạt động có sẵn: xác định (cố định 3,2 GHz) và cơ hội (lên tới 3,6 GHz).
- Việc giảm tải bằng Azure Boost mang lại băng thông mạng cao hơn 15% và IOPS lưu trữ từ xa cao hơn 20%.
- Các dòng máy ảo mới bao gồm Mpsv4 cho bộ nhớ cao và Lpsv5 cho lưu trữ NVMe cục bộ lên tới 23 TB.
Tại sao điều này quan trọng
Đối với các kỹ sư xây dựng tác nhân AI, điểm nghẽn thường không nằm ở chính mô hình ngôn ngữ lớn, mà ở các công cụ xung quanh nó. Các tác nhân thường xuyên cần tìm kiếm hệ thống tệp, biên dịch các đoạn mã hoặc chạy script trong các sandbox bảo mật. Những tác vụ này diễn ra theo đợt (bursty) và nhạy cảm với độ trễ. Trọng tâm của Cobalt 200 vào bộ nhớ đệm lớn và băng thông bộ nhớ nhanh trực tiếp giải quyết những điểm đau này, cho phép các tác nhân phản hồi nhanh hơn và xử lý các quy trình làm việc phức tạp nhiều bước mà không bị đình trệ.
Sự chuyển dịch sang cơ sở hạ tầng dựa trên Arm trong đám mây đang đẩy nhanh tiến độ. Microsoft kỳ vọng Cobalt 200 sẽ chiếm một phần đáng kể trong năng lực tính toán mới của Azure vào năm 2027. Đối với các nhóm phát triển, điều này có nghĩa là tối ưu hóa ứng dụng cho kiến trúc Arm không còn là một mối quan tâm ngách mà đã trở thành yêu cầu phổ biến. Các công cụ cải tiến và số liệu hiệu suất đã được chứng minh từ các dịch vụ như Azure SQL và Microsoft 365 giúp giảm thiểu rủi ro liên quan đến việc di chuyển các khối lượng công việc doanh nghiệp hiện có.
Hơn nữa, sự linh hoạt trong việc lựa chọn giữa chế độ xác định và chế độ cơ hội cho phép các kiến trúc sư kiểm soát tốt hơn sự đánh đổi giữa chi phí và hiệu suất. Các nhóm chạy phân tích dữ liệu phân tán có thể đảm bảo thời gian xử lý nhất quán, trong khi các API hướng tới khách hàng có thể tận dụng tốc độ đột biến (burstable speed) trong giờ cao điểm. Mức độ chi tiết này giúp thiết kế các hệ thống vừa hiệu quả vừa bền bỉ.
Bạn có thể làm gì
- Triển khai máy ảo Cobalt 200 tại bất kỳ khu vực Azure nào trong số 14 khu vực hiện được hỗ trợ bằng các công cụ Azure tiêu chuẩn.
- Kiểm tra hiệu suất (benchmark) các sandbox tác nhân AI của bạn so với Cobalt 100 để định lượng mức tăng hiệu suất trong việc thực thi công cụ.
- Chọn chế độ xác định cho các cụm dữ liệu phân tán để tránh các nút chậm (straggler nodes) làm chậm toàn bộ nhóm.
- Sử dụng chế độ cơ hội cho các API web và dịch vụ truyền thông để tận dụng khoảng trống tài nguyên bổ sung khi tải thấp.
- Đánh giá các dòng máy ảo mới Mpsv4 và Lpsv5 nếu khối lượng công việc của bạn yêu cầu bộ nhớ cao hoặc lưu trữ NVMe cục bộ.
- Lên kế hoạch cho khả năng tương thích với Arm trong các pipeline CI/CD của bạn khi Cobalt 200 trở thành một phần lớn hơn trong năng lực của Azure.


