Nvidia ra mắt bộ công cụ mã nguồn mở để cung cấp ngữ cảnh cho các tác nhân AI doanh nghiệp

Nvidia vừa giới thiệu Agent Knowledge Foundation, một bộ sưu tập mã nguồn mở mới được thiết kế để giúp các tác nhân AI doanh nghiệp xử lý hiệu quả dữ liệu nội bộ phức tạp. Được công bố tại hội nghị GTC Berlin vào ngày 21 tháng 10 năm 2026, bộ công cụ này nhằm giải quyết khoảng trống ngữ cảnh thường gặp khi các mô hình ngôn ngữ lớn (LLM) tương tác với thông tin kinh doanh có cấu trúc. Động thái này định vị Nvidia như một nhà cung cấp các lớp nền tảng trí tuệ, thay vì cạnh tranh trực tiếp với các nền tảng dữ liệu hiện có.

Chuyện gì đã xảy ra

Thách thức cốt lõi đối với các doanh nghiệp hiện nay không chỉ là kết nối AI với các nguồn dữ liệu, mà còn đảm bảo AI hiểu được các mối quan hệ bên trong dữ liệu đó. Trong khi các nhà cung cấp như Snowflake, Databricks và Palantir quản lý lưu trữ và kiểm soát truy cập, họ không phải lúc nào cũng cung cấp khả năng hiểu ngữ nghĩa mà các tác nhân cần để thực hiện các tác vụ phức tạp. Agent Knowledge Foundation mới của Nvidia, được bổ sung vào Agent Toolkit, tích hợp nhiều thành phần chính: các mô hình Nemotron Retriever, thư viện Auto-Ontology, dòng mô hình Kumo cho dữ liệu có cấu trúc và các thư viện xử lý dữ liệu CUDA-X. Cách tiếp cận này cho phép các công ty giữ nguyên vị trí dữ liệu của mình trong khi nâng cao cách các tác nhân diễn giải dữ liệu.

Adel El Hallak, Phó Chủ tịch phụ trách sản phẩm về AI tác nhân (agentic AI) của Nvidia, đã nhấn mạnh những hạn chế của các thiết lập hiện tại. Ông lưu ý rằng việc đơn thuần kết nối một tác nhân với các hệ thống như Snowflake hoặc trao đổi email không tự động mang lại cho AI sự hiểu biết về bối cảnh doanh nghiệp. Các mô hình ngôn ngữ lớn rất giỏi trong việc dự đoán token tiếp theo nhưng lại gặp khó khăn với các truy vấn cụ thể trên nhiều bảng tính hoặc cơ sở dữ liệu rời rạc. Nền tảng mới tìm cách thu hẹp khoảng cách này bằng cách cải thiện độ chính xác khi truy xuất và ánh xạ dữ liệu thô sang các khái niệm kinh doanh có ý nghĩa.

Cách hoạt động

Nền tảng này dựa trên ba trụ cột công nghệ chính. Thứ nhất, mô hình nhúng (embedding model) Nemotron Retriever cải thiện mức độ liên quan của tìm kiếm bằng cách tập trung vào độ chính xác hơn là tốc độ cho từng tra cứu riêng lẻ. Nvidia tuyên bố điều này làm giảm tổng số bước tìm kiếm cần thiết, từ đó giảm độ trễ tổng thể. Trong các bài kiểm tra trên môi trường OpenSearch mã nguồn mở, mô hình này đã cải thiện mức độ liên quan của tìm kiếm lên 65%. Các đối tác như SAP và ServiceNow đã báo cáo những cải tiến hiệu suất đáng kể, với bộ xếp hạng lại (reranker) được tinh chỉnh của SAP chạy nhanh gần gấp ba lần và ServiceNow đạt chất lượng tốt hơn với độ trễ giảm 25%.

Thứ hai, thư viện Auto-Ontology vượt ra ngoài phạm vi của tạo sinh tăng cường truy xuất (RAG) đơn giản bằng cách xây dựng đồ thị tri thức (knowledge graphs). Các đồ thị này ánh xạ các mối quan hệ giữa các khái niệm, chẳng hạn như liên kết "tier" (bậc) với "plan" (gói dịch vụ) trong dữ liệu nhà mạng di động, những thứ mà LLM thường nhầm lẫn. Thư viện này được củng cố bởi thương vụ mua lại Illumex của Nvidia, một startup Israel chuyên về các lớp ngữ nghĩa tự động, với giá trị khoảng 75 triệu USD vào tháng Hai. Thư viện cung cấp một REST API và một máy chủ Model Context Protocol, cho phép các tác nhân truy vấn trực tiếp các mối quan hệ có cấu trúc này.

Thứ ba, dòng mô hình Kumo xử lý các dự đoán trên dữ liệu quan hệ. Được Nvidia mua lại vào tháng Sáu trong một thương vụ trị giá hơn 400 triệu USD, Kumo cung cấp các mô hình nền tảng cho dữ liệu dạng bảng. Các mô hình này thay thế các quy trình tùy chỉnh trước đây được xây dựng cho các tác vụ cụ thể như dự đoán tỷ lệ rời bỏ khách hàng (churn prediction) hoặc phân tích cảm xúc. Bằng cách hài hòa hóa dữ liệu thông qua ontology, các mô hình Kumo có thể thúc đẩy phân tích dự đoán nhất quán trên các bảng khác nhau.

Chi tiết chính

• Gói thành phần: Agent Knowledge Foundation bao gồm các mô hình Nemotron Retriever, thư viện Auto-Ontology, các mô hình Kumo và thư viện CUDA-X.
• Cải thiện hiệu suất: Nemotron Retriever đã nâng cao mức độ liên quan của tìm kiếm lên 65% trong các bài kiểm tra OpenSearch; bộ reranker của SAP chạy nhanh gấp ba lần.
• Tự động hóa Ontology: Thư viện Auto-Ontology xây dựng đồ thị tri thức từ các bảng của công ty, ánh xạ dữ liệu thô sang các khái niệm kinh doanh như khách hàng và đơn hàng.
• Mua lại chiến lược: Nvidia đã mua lại Illumex với giá khoảng 75 triệu USD vào tháng Hai và Kumo với giá hơn 400 triệu USD vào tháng Sáu để hỗ trợ bộ công cụ này.
• Tích hợp đối tác: Bộ công cụ tích hợp với Palantir Foundry, Databricks Genie Ontology và Snowflake Notebooks, trong khi quyền kiểm soát truy cập vẫn do các đối tác quản lý.
• Phân phối: Các mô hình được phân phối qua Hugging Face, sau thỏa thuận trị giá 12,9 tỷ USD của Nvidia để mua lại nền tảng này vào tháng Chín.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và trưởng nhóm kỹ thuật, bản phát hành này báo hiệu sự chuyển dịch hướng tới các thành phần mã nguồn mở, mô-đun để xây dựng quy trình làm việc của tác nhân AI. Thay vì phụ thuộc vào các giải pháp độc quyền từ nhà cung cấp cho mọi lớp trong stack AI, các đội ngũ giờ đây có thể tích hợp các mô hình chuyên biệt cho truy xuất, ánh xạ ngữ nghĩa và dự đoán. Tính mô-đun này cho phép kiểm soát chi tiết hơn về hiệu suất và chi phí, đặc biệt khi xử lý dữ liệu doanh nghiệp khối lượng lớn, nơi độ trễ và độ chính xác là những đánh đổi quan trọng.

Hơn nữa, việc nhấn mạnh vào ontology giải quyết một điểm đau dai dẳng trong các triển khai RAG: thiếu hiểu biết về cấu trúc. Bằng cách tự động hóa việc tạo ra các lớp ngữ nghĩa, Nvidia giảm bớt nỗ lực thủ công cần thiết để căn chỉnh schema cơ sở dữ liệu với các truy vấn ngôn ngữ tự nhiên. Sự hài hòa này cho phép phân tích dự đoán đáng tin cậy hơn và giảm thiểu rủi ro ảo giác (hallucination) liên quan đến truy xuất văn bản phi cấu trúc. Nó cũng làm rõ sự phân chia lao động trong hệ sinh thái AI doanh nghiệp, với Nvidia cung cấp các lớp trí tuệ và các đối tác như Snowflake quản lý bảo mật và quản trị dữ liệu.

Bạn có thể làm gì

• Đánh giá các mô hình Nemotron Retriever trên hạ tầng tìm kiếm hiện tại của bạn để đo lường tiềm năng cải thiện mức độ liên quan.
• Khám phá thư viện Auto-Ontology để ánh xạ các bảng cơ sở dữ liệu hiện có sang các khái niệm kinh doanh sử dụng REST API được cung cấp.
• Thử nghiệm các mô hình Kumo cho các tác vụ dữ liệu dạng bảng như dự đoán tỷ lệ rời bỏ khách hàng hoặc phát hiện bất thường để thay thế các quy trình tự xây dựng.
• Xem xét các tùy chọn tích hợp với nền tảng dữ liệu hiện tại của bạn, chẳng hạn như Snowflake Notebooks hoặc Databricks Genie Ontology.
• Theo dõi kho lưu trữ Hugging Face để cập nhật các mô hình Kumo và Nemotron có trọng số mở (open-weight).
• Đánh giá xem đội ngũ của bạn có cần xây dựng các lớp ngữ nghĩa tùy chỉnh hay các công cụ tự động trong nền tảng này đã đủ đáp ứng.