Nvidia veröffentlicht Open-Source-Stack zur Kontextverankerung von KI-Agenten im Unternehmensumfeld

Nvidia hat die Agent Knowledge Foundation eingeführt, eine neue Open-Source-Sammlung, die dazu entwickelt wurde, KI-Agenten im Unternehmensumfeld dabei zu unterstützen, komplexe interne Daten zu erschließen. Das Toolkit wurde auf der GTC Berlin am 21. Oktober 2026 angekündigt und zielt darauf ab, die Kontextlücke zu schließen, unter der große Sprachmodelle häufig leiden, wenn sie mit strukturierten Geschäftsinformationen interagieren. Dieser Schritt positioniert Nvidia als Anbieter fundamentaler Intelligenzschichten und nicht als direkten Wettbewerber bestehender Datenplattformen.

Was passiert ist

Die zentrale Herausforderung für Unternehmen besteht heute nicht nur darin, KI mit Datenquellen zu verbinden, sondern auch sicherzustellen, dass die KI die Beziehungen innerhalb dieser Daten versteht. Während Anbieter wie Snowflake, Databricks und Palantir Speicher und Zugriffssteuerungen verwalten, bieten sie nicht immer das semantische Verständnis, das Agenten für komplexe Aufgaben benötigen. Nvidias neue Agent Knowledge Foundation, die in das Agent Toolkit integriert wurde, bündelt mehrere Schlüsselkomponenten: Nemotron Retriever-Modelle, eine Auto-Ontology-Bibliothek, die Kumo-Familie von Modellen für strukturierte Daten sowie CUDA-X-Bibliotheken zur Datenverarbeitung. Dieser Ansatz ermöglicht es Unternehmen, ihre Daten an ihrem ursprünglichen Ort zu belassen und gleichzeitig die Interpretation durch Agenten zu verbessern.

Adel El Hallak, Vice President of Product for Agentic AI bei Nvidia, hob die Grenzen aktueller Setups hervor. Er wies darauf hin, dass die bloße Verbindung eines Agenten mit Systemen wie Snowflake oder E-Mail-Austauschen der KI kein magisches Verständnis des Unternehmenskontextes verleiht. Große Sprachmodelle sind zwar hervorragend darin, nächste Token vorherzusagen, haben aber Schwierigkeiten mit spezifischen Abfragen über Tabellenblätter hinweg oder in verteilten Datenbanken. Die neue Foundation versucht, diese Lücke zu schließen, indem sie die Genauigkeit des Abrufs verbessert und Rohdaten mit sinnvollen Geschäftskonzepten verknüpft.

Wie es funktioniert

Die Foundation stützt sich auf drei technologische Säulen. Erstens verbessert das Einbettungsmodell Nemotron Retriever die Suchrelevanz, indem es bei einzelnen Abfragen die Genauigkeit gegenüber der Geschwindigkeit priorisiert. Nvidia behauptet, dies reduziere die Gesamtanzahl der erforderlichen Suchschritte und senke somit die Gesamtlatenz. In Tests mit einer Open-Source-OpenSearch-Einrichtung verbesserte das Modell die Suchrelevanz um 65 %. Partner wie SAP und ServiceNow berichteten über erhebliche Leistungssteigerungen; der feinabgestimmte Reranker von SAP läuft fast dreimal schneller, und ServiceNow erzielt eine bessere Qualität bei 25 % geringerer Latenz.

Zweitens geht die Auto-Ontology-Bibliothek über einfaches Retrieval-Augmented Generation (RAG) hinaus, indem sie Wissensgraphen erstellt. Diese Graphen bilden Beziehungen zwischen Konzepten ab, wie etwa die Verknüpfung von „Tier“ mit „Plan“ in Mobilfunkanbieter-Daten, was LLMs oft verwechseln. Die Bibliothek wurde durch Nvidias Übernahme von Illumex gestärkt, einem israelischen Startup, das sich auf automatisierte semantische Schichten spezialisiert hat, für rund 75 Millionen Dollar im Februar. Die Bibliothek stellt eine REST-API und einen Model Context Protocol Server bereit, damit Agenten diese strukturierten Beziehungen direkt abfragen können.

Drittens verarbeitet die Kumo-Familie von Modellen Vorhersagen auf relationalen Daten. Kumo wurde im Juni von Nvidia in einem Deal übernommen, der auf über 400 Millionen Dollar geschätzt wird, und bietet Foundation Models für tabellarische Daten. Diese Modelle ersetzen benutzerdefinierte Pipelines, die zuvor für spezifische Aufgaben wie Churn-Vorhersage oder Sentiment-Analyse gebaut wurden. Durch die Harmonisierung von Daten über Ontologien können Kumo-Modelle konsistente prädiktive Analysen über verschiedene Tabellen hinweg ermöglichen.

Wichtige Details

• Komponentenbündel: Die Agent Knowledge Foundation umfasst Nemotron Retriever-Modelle, die Auto-Ontology-Bibliothek, Kumo-Modelle und CUDA-X-Bibliotheken.
• Leistungssteigerungen: Nemotron Retriever erhöhte die Suchrelevanz in OpenSearch-Tests um 65 %; der Reranker von SAP lief dreimal schneller.
• Ontologie-Automatisierung: Die Auto-Ontology-Bibliothek erstellt Wissensgraphen aus Unternehmenstabellen und bildet Rohdaten auf Geschäftskonzepte wie Kunden und Bestellungen ab.
• Strategische Übernahmen: Nvidia kaufte Illumex im Februar für ca. 75 Millionen Dollar und Kumo im Juni für über 400 Millionen Dollar, um diesen Stack zu unterstützen.
• Partnerintegration: Der Stack integriert mit Palantir Foundry, Databricks Genie Ontology und Snowflake Notebooks, wobei die Zugriffskontrolle den Partnern überlassen bleibt.
• Vertrieb: Die Modelle werden über Hugging Face verteilt, im Rahmen von Nvidias Vereinbarung vom September, die Plattform für 12,9 Milliarden Dollar zu übernehmen.

Warum das wichtig ist

Für Software-Ingenieure und technische Leiter signalisiert diese Veröffentlichung eine Verschiebung hin zu modularen, Open-Source-Komponenten für den Aufbau agentischer Workflows. Anstatt für jede Ebene des KI-Stacks auf monolithische Vendor-Lösungen angewiesen zu sein, können Teams nun spezialisierte Modelle für Abruf, semantisches Mapping und Vorhersage integrieren. Diese Modularität ermöglicht eine feinere Kontrolle über Leistung und Kosten, insbesondere bei der Verarbeitung großer Mengen an Unternehmensdaten, wo Latenz und Genauigkeit kritische Trade-offs darstellen.

Darüber hinaus adressiert die Betonung von Ontologien einen bestehenden Schmerzpunkt in RAG-Implementierungen: das Fehlen eines strukturellen Verständnisses. Durch die Automatisierung der Erstellung semantischer Schichten reduziert Nvidia den manuellen Aufwand, der erforderlich ist, um Datenbank-Schemas mit natürlichsprachigen Abfragen in Einklang zu bringen. Diese Harmonisierung ermöglicht zuverlässigere prädiktive Analysen und reduziert das Risiko von Halluzinationen, die mit unstrukturierter Textabruf verbunden sind. Sie klärt zudem die Arbeitsteilung im Ökosystem der Unternehmens-KI, wobei Nvidia die Intelligenzschichten bereitstellt und Partner wie Snowflake Sicherheit und Data Governance verwalten.

Was Sie tun können

• Bewerten Sie die Nemotron Retriever-Modelle auf Ihrer aktuellen Suchinfrastruktur, um potenzielle Relevanzverbesserungen zu messen.
• Erkunden Sie die Auto-Ontology-Bibliothek, um Ihre vorhandenen Datenbanktabellen über die bereitgestellte REST-API auf Geschäftskonzepte abzubilden.
• Testen Sie Kumo-Modelle für tabellarische Datenaufgaben wie Churn-Vorhersage oder Anomalieerkennung, um selbst erstellte Pipelines zu ersetzen.
• Prüfen Sie Integrationsmöglichkeiten mit Ihrer aktuellen Datenplattform, wie z. B. Snowflake Notebooks oder Databricks Genie Ontology.
• Beobachten Sie das Hugging Face Repository auf Updates für die Open-Weight-Modelle Kumo und Nemotron.
• Beurteilen Sie, ob Ihr Team benutzerdefinierte semantische Schichten erstellen muss oder ob die automatisierten Tools in der Foundation ausreichen.