NVIDIA veröffentlicht Open-Source-Tools für verwaltete GPU-Kubernetes-Cluster

NVIDIA hat zwei neue Open-Source-Projekte veröffentlicht: NVIDIA Kubernetes Engine (NVKE) und NVIDIA Kubernetes Recipes (NVKR). Diese Tools sollen Organisationen dabei helfen, verwaltete Kubernetes-Dienste auf GPU-Infrastrukturen aufzubauen und zu betreiben. Die am 10. November 2026 angekündigten Werkzeuge sind Teil der NVIDIA DSX AI Factory Platform und stehen derzeit in einer öffentlichen Vorschau unter der Apache 2.0-Lizenz zur Verfügung.

Was passiert ist

Die Veröffentlichung adressiert den wachsenden Bedarf von KI-Fabriken, GPU-Kapazitäten über standardmäßige Kubernetes-APIs bereitzustellen, während gleichzeitig strenge operative Kontrolle gewahrt bleibt. Der Aufbau eines solchen Dienstes erfordert komplexe API-gesteuerte Provisionierung, Mandantentrennung sowie eine rigorose Qualifizierung von GPU-Hardware, Netzwerk und Treibern über verschiedene Generationen hinweg. NVKE und NVKR teilen diese Arbeitslast in zwei getrennte Bereiche auf: Cluster-Management und reproduzierbare Software-Builds.

NVKE stellt die Software-Ebene bereit, um einen verwalteten Kubernetes-Dienst direkt auf der Infrastruktur der Fabrik auszuführen. Es stellt APIs bereit, die es Betreibern ermöglichen, Cluster programmatisch zu provisionieren und zu verwalten. NVKR ergänzt dies durch die Erstellung der erforderlichen Betriebssystem-Images, Container-Images und Pakete. Es verwendet Rezepte, um validierte Kombinationen aus Software-Versionen und GPU-Generationen zu definieren, was Konsistenz und Reproduzierbarkeit sicherstellt.

Mehrere große Branchenakteure integrieren diese Tools bereits. NVIDIA Cloud Partners Firmus und SK Telecom nehmen NVKE und NVKR in ihre KI-Fabriken auf. Darüber hinaus übernehmen Partner wie Mirantis, Rafay, Spectro Cloud, OpenNebula Systems, vCluster und Netris Komponenten, um ihre Angebote für verwaltetes Kubernetes und Netzwerkautomatisierung zu erweitern.

Wie es funktioniert

NVKR fungiert als Build-Engine und erzeugt Node-Images, Binärdateien und Helm-Charts aus spezifischen, versionsgebundenen Quellen. Es protokolliert jede Eingabe, die im Build-Prozess verwendet wird, sodass Teams genau identifizieren können, welche Software in jedem Image enthalten ist, und diese bei Bedarf später neu erstellen können. Dies stellt sicher, dass das Management-Cluster und die Node-Pools unterschiedliche Images ausführen können, die auf bestimmte CPU-Architekturen oder GPU-Generationen zugeschnitten sind.

NVKE übernimmt das Lifecycle-Management der Cluster unter Verwendung der von NVKR erzeugten Artefakte. Die Management-Ebene wird mit einem Befehlszeilen-Tool namens nvkectl bereitgestellt. Dieses Tool bootet ein temporäres Seed-Cluster auf einem Host-Rechner, das dann Server vom NVIDIA Infra Controller (NICo) über CAPNICo anfordert, dem Cluster-API-Infrastrukturanbieter für NICo. Sobald die Server provisioniert und beigetreten sind, wird das temporäre Cluster gelöscht, wobei ein permanentes Management-Cluster zurückbleibt.

Dieses Management-Cluster führt die REST-API und die Controller aus, die Kunden-Workload-Cluster erstellen. Jeder Workload-Cluster verfügt über eine eigene unabhängige Kubernetes-Control-Plane, etcd-Datenbank und Node-Pools. Die Sicherheit wird durch SPIFFE-Identitäten erzwungen, bei denen Nodes eine attestierte Identität vorlegen müssen, bevor sie Join-Credentials erhalten. Telemetrie wird über eine OpenTelemetry-basierte Pipeline gehandhabt, die Logs, Metriken und Traces an ein Monitoring-Backend exportiert.

Wichtige Details

• Lizenz und Status: Beide Projekte sind Open Source unter der Apache 2.0-Lizenz und befinden sich in öffentlicher Vorschau. Das bedeutet, dass sich APIs und Verhalten ändern können und sie noch nicht für Produktions-Workloads empfohlen werden.
• Entkoppelte Architektur: NVKE hat keine Laufzeitabhängigkeit von NVKR, und NVKR kann Artefakte für andere Kubernetes-Managementsysteme erstellen, sodass Teams sie unabhängig voneinander adoptieren können.
• Konformität: NVKE ist eine Certified Kubernetes AI Platform und ein Certified Kubernetes Installer, wobei Konformitätstests auf Kubernetes 1.36 durchgeführt wurden.
• Build-Prozess: NVKR erstellt Node-Images aus versionsgebundenen Quellen, kompiliert Agents und stagingt Pakete wie OVN-Kubernetes und SPIRE in QCOW2-Disk-Images.
• Provisionierungsablauf: Das nvkectl-Tool verwaltet den gesamten Lifecycle, vom Bootstrapping des Management-Clusters bis zur Erstellung von Kunden-Clustern mit bestimmten Instanztypen und VPC-Konfigurationen.
• Partner-Ökosystem: Die Integration mit großen Cloud-Partnern und Kubernetes-Management-Anbietern läuft, darunter Firmus, SK Telecom, Mirantis und Rafay.

Warum es wichtig ist

Für Infrastruktur-Leiter und technische Gründer, die KI-Produkte entwickeln, ist das Skalieren von GPU-Clustern eine erhebliche operative Belastung. Traditionell erfordert die Qualifizierung von Hardware- und Software-Stacks über verschiedene GPU-Generationen und Kubernetes-Versionen hinweg umfangreichen manuellen Aufwand. NVKR automatisiert dies durch die Bereitstellung reproduzierbarer Builds, reduziert das Risiko von Konfigurationsdrift und stellt sicher, dass jeder Node einen validierten Software-Stack ausführt. Dies ermöglicht Engineering-Teams, sich auf die Anwendungsentwicklung statt auf die Infrastrukturwartung zu konzentrieren.

Darüber hinaus ist die Fähigkeit, verwaltete Kubernetes-Dienste mit starker Mandantentrennung und API-gesteuerter Provisionierung anzubieten, entscheidend für KI-Fabriken, die ihre GPU-Kapazität monetarisieren möchten. NVKE stellt die notwendige Control Plane bereit, um mehrere Kunden-Cluster sicher und effizient zu verwalten. Durch die Open-Sourcing dieser Tools ermöglicht NVIDIA ein breiteres Ökosystem von Anbietern, kompatible Dienste zu erstellen, was potenziell die Einstiegshürde für Organisationen senkt, die großskalige KI-Infrastrukturen bereitstellen möchten.

Was Sie tun können

• Prüfen Sie die NVKE- und NVKR-Dokumentation auf GitHub, um die Architektur und die Bereitstellungsanforderungen zu verstehen.
• Testen Sie den lokalen Quickstart-Guide, der es Ihnen ermöglicht, NVKE auf einem einzelnen Rechner zu evaluieren, ohne dass GPU-Infrastruktur oder ein NVIDIA-Konto erforderlich sind.
• Treten Sie dem NVIDIA DSX AI Factory Slack Workspace bei, insbesondere dem Kanal #nvke, um Implementierungsdetails mit der Community zu diskutieren.
• Untersuchen Sie die öffentlichen Roadmaps beider Projekte, um geplante Funktionen und kommende Änderungen während der Vorschau-Phase einzusehen.
• Wenn Sie Partner oder Anbieter sind, erkunden Sie, wie Sie NVKE-Komponenten in Ihre bestehenden Angebote für verwaltetes Kubernetes oder Netzwerkautomatisierung integrieren können.
• Geben Sie Feedback und leisten Sie Beiträge zu den GitHub-Repositories, um die zukünftige Entwicklung des DSX AI Factory Stacks mitzugestalten.