NVIDIA phát hành các công cụ mã nguồn mở cho cụm Kubernetes GPU được quản lý

NVIDIA đã phát hành hai dự án mã nguồn mở mới là NVIDIA Kubernetes Engine (NVKE) và NVIDIA Kubernetes Recipes (NVKR), được thiết kế để hỗ trợ các tổ chức xây dựng và vận hành dịch vụ Kubernetes được quản lý trên hạ tầng GPU. Được công bố vào ngày 10 tháng 11 năm 2026, những công cụ này thuộc nền tảng NVIDIA DSX AI Factory Platform và hiện đang có sẵn ở chế độ xem trước công khai theo giấy phép Apache 2.0.

Điều gì đã xảy ra

Việc phát hành này đáp ứng nhu cầu ngày càng tăng của các nhà máy AI trong việc cung cấp năng lực GPU thông qua các API Kubernetes tiêu chuẩn, đồng thời duy trì khả năng kiểm soát vận hành chặt chẽ. Việc xây dựng một dịch vụ như vậy đòi hỏi quá trình cung cấp phức tạp dựa trên API, cô lập khách thuê (tenant isolation) và quy trình kiểm định nghiêm ngặt phần cứng GPU, mạng và driver trên nhiều thế hệ khác nhau. NVKE và NVKR chia tách khối lượng công việc này thành hai lĩnh vực riêng biệt: quản lý cụm và xây dựng phần mềm có thể tái tạo.

NVKE cung cấp lớp phần mềm để chạy dịch vụ Kubernetes được quản lý trực tiếp trên hạ tầng của nhà máy. Nó cung cấp các API cho phép nhà vận hành cung cấp và quản lý cụm một cách tự động hóa bằng chương trình. NVKR bổ sung cho điều này bằng cách xây dựng các hình ảnh hệ điều hành, hình ảnh container và gói phần mềm cần thiết. Nó sử dụng các "công thức" (recipes) để xác định các kết hợp phiên bản phần mềm và thế hệ GPU đã được kiểm định, đảm bảo tính nhất quán và khả năng tái tạo.

Một số tên tuổi lớn trong ngành đã bắt đầu tích hợp các công cụ này. Các đối tác đám mây của NVIDIA là Firmus và SK Telecom đang đưa NVKE và NVKR vào các nhà máy AI của họ. Ngoài ra, các đối tác bao gồm Mirantis, Rafay, Spectro Cloud, OpenNebula Systems, vCluster và Netris cũng đang áp dụng các thành phần để nâng cao các giải pháp quản lý Kubernetes và tự động hóa mạng của họ.

Cách thức hoạt động

NVKR đóng vai trò là engine xây dựng, tạo ra hình ảnh node, binary và Helm chart từ các nguồn cụ thể với phiên bản được cố định. Nó ghi lại mọi đầu vào được sử dụng trong quá trình xây dựng, cho phép các nhóm xác định chính xác phần mềm nào được bao gồm trong mỗi hình ảnh và xây dựng lại sau này nếu cần. Điều này đảm bảo rằng cụm quản lý và các pool node có thể chạy các hình ảnh khác nhau phù hợp với kiến trúc CPU hoặc thế hệ GPU cụ thể.

NVKE xử lý quản lý vòng đời của các cụm bằng cách sử dụng các sản phẩm do NVKR tạo ra. Plane quản lý được triển khai bằng một công cụ dòng lệnh gọi là nvkectl. Công cụ này khởi tạo tạm thời một cụm seed trên máy chủ, sau đó yêu cầu các server từ NVIDIA Infra Controller (NICo) thông qua CAPNICo, nhà cung cấp hạ tầng Cluster API cho NICo. Sau khi các server được cung cấp và tham gia, cụm tạm thời sẽ bị xóa, để lại một cụm quản lý vĩnh viễn.

Cụm quản lý này chạy REST API và các controller để tạo ra các cụm workload cho khách hàng. Mỗi cụm workload đều có control plane Kubernetes độc lập, cơ sở dữ liệu etcd và các pool node riêng. Bảo mật được thực thi thông qua danh tính SPIFFE, trong đó các node phải trình bày danh tính đã được chứng thực trước khi nhận thông tin đăng nhập để tham gia. Telemetry được xử lý qua pipeline dựa trên OpenTelemetry, xuất nhật ký, số liệu và trace đến backend giám sát.

Chi tiết quan trọng

• Giấy phép và trạng thái: Cả hai dự án đều là mã nguồn mở theo giấy phép Apache 2.0 và đang ở chế độ xem trước công khai, nghĩa là các API và hành vi có thể thay đổi và chúng chưa được khuyến nghị cho các workload sản xuất.
• Kiến trúc tách rời: NVKE không phụ thuộc runtime vào NVKR, và NVKR có thể xây dựng các sản phẩm cho các hệ thống quản lý Kubernetes khác, cho phép các nhóm áp dụng chúng một cách độc lập.
• Tuân thủ: NVKE là Nền tảng AI Kubernetes được chứng nhận (Certified Kubernetes AI Platform) và Trình cài đặt Kubernetes được chứng nhận (Certified Kubernetes Installer), với bài kiểm tra tuân thủ được thực hiện trên Kubernetes 1.36.
• Quy trình xây dựng: NVKR xây dựng hình ảnh node từ các nguồn có phiên bản cố định, biên dịch các agent và chuẩn bị các gói như OVN-Kubernetes và SPIRE vào các hình ảnh đĩa QCOW2.
• Luồng cung cấp: Công cụ nvkectl quản lý toàn bộ vòng đời, từ khởi tạo cụm quản lý đến tạo các cụm khách hàng với loại instance và cấu hình VPC cụ thể.
• Hệ sinh thái đối tác: Quá trình tích hợp đang diễn ra với các đối tác đám mây lớn và nhà cung cấp quản lý Kubernetes, bao gồm Firmus, SK Telecom, Mirantis và Rafay.

Tại sao điều này quan trọng

Đối với các trưởng nhóm hạ tầng và nhà sáng lập kỹ thuật xây dựng sản phẩm AI, việc quản lý cụm GPU ở quy mô lớn là một gánh nặng vận hành đáng kể. Theo truyền thống, việc kiểm định stack phần cứng và phần mềm trên các thế hệ GPU và phiên bản Kubernetes khác nhau đòi hỏi nỗ lực thủ công rất lớn. NVKR tự động hóa điều này bằng cách cung cấp các bản build có thể tái tạo, giảm rủi ro lệch cấu hình (configuration drift) và đảm bảo rằng mọi node đều chạy một stack phần mềm đã được kiểm định. Điều này cho phép các nhóm kỹ thuật tập trung vào phát triển ứng dụng thay vì bảo trì hạ tầng.

Hơn nữa, khả năng cung cấp dịch vụ Kubernetes được quản lý với sự cô lập khách thuê mạnh mẽ và cung cấp dựa trên API là yếu tố then chốt cho các nhà máy AI muốn kiếm tiền từ năng lực GPU của họ. NVKE cung cấp control plane cần thiết để quản lý nhiều cụm khách hàng một cách an toàn và hiệu quả. Bằng cách mã nguồn mở các công cụ này, NVIDIA cho phép một hệ sinh thái rộng lớn hơn các nhà cung cấp xây dựng các dịch vụ tương thích, tiềm năng hạ thấp rào cản gia nhập cho các tổ chức muốn triển khai hạ tầng AI quy mô lớn.

Những gì bạn có thể làm

• Xem xét tài liệu NVKE và NVKR trên GitHub để hiểu về kiến trúc và yêu cầu triển khai.
• Thử hướng dẫn quickstart cục bộ, cho phép bạn đánh giá NVKE trên một máy đơn lẻ mà không cần hạ tầng GPU hoặc tài khoản NVIDIA.
• Tham gia workspace Slack NVIDIA DSX AI Factory, đặc biệt là kênh #nvke, để thảo luận chi tiết triển khai với cộng đồng.
• Kiểm tra lộ trình công khai của cả hai dự án để xem các tính năng được lên kế hoạch và những thay đổi sắp tới trong giai đoạn xem trước.
• Nếu bạn là đối tác hoặc nhà cung cấp, hãy khám phá cách tích hợp các thành phần NVKE vào các giải pháp quản lý Kubernetes hoặc tự động hóa mạng hiện có của bạn.
• Cung cấp phản hồi và đóng góp cho các repository GitHub để giúp định hình sự phát triển tương lai của stack DSX AI Factory.