Xây dựng hệ thống truy xuất thông minh (agentic retrieval) trên AWS Bedrock với CDK và cơ sở tri thức được quản lý

Amazon Web Services đã công bố một hướng dẫn kỹ thuật chi tiết về cách xây dựng các hệ thống truy xuất thông minh (agentic retrieval) cấp doanh nghiệp bằng cách sử dụng Managed Amazon Bedrock Knowledge Bases và AWS Cloud Development Kit (CDK). Được phát hành vào cuối tháng 10 năm 2026, phương pháp này vượt ra ngoài giới hạn của RAG (Retrieval Augmented Generation - Tạo sinh tăng cường bằng truy xuất) truyền thống chỉ thực hiện một lần, bằng cách tích hợp các tác nhân suy luận có khả năng lập kế hoạch động, truy xuất và trích dẫn nguồn từ nhiều miền dữ liệu. Giải pháp nhấn mạnh vào khả năng quan sát (observability) và đánh giá tích hợp sẵn, giải quyết độ phức tạp vận hành vốn có trong các tương tác AI đa vòng lặp.

Điều gì đã xảy ra

Các hệ thống RAG truyền thống thường tuân theo một quy trình tuyến tính: nhúng câu hỏi của người dùng, lấy các đoạn dữ liệu gần nhất từ một chỉ mục duy nhất và tạo ra câu trả lời. Mặc dù hiệu quả đối với các truy vấn đơn giản, phương pháp này thường thất bại khi câu trả lời đòi hỏi thông tin từ nhiều kho ngữ liệu hoặc khi nguồn liên quan phụ thuộc vào ngữ cảnh tinh tế. Trong những trường hợp như vậy, một bước truy xuất duy nhất có thể trả về dữ liệu không đầy đủ hoặc gây hiểu lầm, dẫn đến các phản hồi trôi chảy nhưng sai lệch. Để giải quyết những hạn chế này, Amazon Bedrock đã phát triển dịch vụ Knowledge Base để hỗ trợ truy xuất thông minh, nơi một tác nhân suy luận quyết định xem có nên truy xuất dữ liệu hay không, cần tham khảo cơ sở tri thức nào và liệu có cần thêm các tra cứu bổ sung trước khi soạn thảo câu trả lời cuối cùng.

Kiến trúc mới dựa trên Managed Knowledge Base, một tính năng dịch vụ tự động xử lý việc nạp dữ liệu, lưu trữ, lập chỉ mục và truy xuất. Khác với các tùy chọn do khách hàng tự quản lý vốn yêu cầu cung cấp và mở rộng quy mô các cơ sở dữ liệu vector như Amazon OpenSearch Serverless, phiên bản được quản lý loại bỏ gánh nặng hạ tầng. Nó hỗ trợ API AgenticRetrieveStream, cho phép lập kế hoạch đa vòng lặp và truy xuất dựa trên công cụ. Khả năng này chỉ khả dụng độc quyền trên Managed Knowledge Bases, khiến chúng trở thành thành phần nền tảng cho chiến lược truy xuất nâng cao này. Hệ thống cũng tích hợp Amazon Bedrock AgentCore, giúp phơi bày mỗi cơ sở tri thức dưới dạng một công cụ Model Context Protocol (MCP), cho phép các tác nhân định tuyến truy vấn theo ngữ nghĩa thay vì tìm kiếm trong một chỉ mục trộn lẫn.

Một sự thay đổi đáng kể trong mô hình triển khai này là việc tích hợp trực tiếp khả năng quan sát và đánh giá vào mã hạ tầng. Các phiên bản trước đây yêu cầu nhà phát triển phải tự tay sắp xếp thứ tự triển khai stack và gắn thêm các công cụ giám sát sau đó. Ứng dụng CDK mới cung cấp hai bảng điều khiển Amazon CloudWatch trải dài qua bảy lớp telemetry, cùng với cả số liệu đánh giá theo yêu cầu và liên tục. Điều này đảm bảo rằng mọi bước trong vòng lặp suy luận của tác nhân—từ mức sử dụng token đến chất lượng truy xuất—đều được đo lường ngay từ đầu, cung cấp khả năng hiển thị vào hành vi hệ thống và độ chính xác của câu trả lời.

Cách hoạt động

Giải pháp vận hành thông qua một quy trình làm việc phối hợp bao gồm bốn thành phần chính: runtime của tác nhân, gateway của tác nhân, các cơ sở tri thức được quản lý và bảng điều khiển quan sát. Khi người dùng gửi một câu hỏi, tác nhân được lưu trữ trên Amazon Bedrock AgentCore Runtime sẽ khởi động quá trình suy luận. Nó xác định cơ sở tri thức nào là liên quan, chẳng hạn như dữ liệu tài chính hoặc thời tiết, và gọi công cụ tương ứng thông qua AgentCore Gateway. Gateway sử dụng ủy quyền IAM và ký SigV4 để gọi API AgenticRetrieveStream trên Managed Knowledge Base đã chọn.

Bên trong Managed Knowledge Base, hệ thống phân tách truy vấn thành các truy vấn con, truy xuất các đoạn văn liên quan từ kho dữ liệu được quản lý nội bộ và tổng hợp một câu trả lời có trích dẫn. Nếu ngữ cảnh ban đầu không đủ, tác nhân sẽ quay lại vòng lặp để truy xuất thêm thông tin trước khi hoàn thiện phản hồi. Trong suốt quá trình này, Runtime phát ra các span OpenTelemetry, số lượng token và số liệu sang Amazon CloudWatch và AWS X-Ray. Dữ liệu này lấp đầy bảy lớp quan sát, bao gồm số liệu gốc của KB, trạng thái nạp dữ liệu, chất lượng truy xuất và điểm đánh giá, cho phép các kỹ sư giám sát độ trễ, khối lượng cuộc gọi và độ trung thực của các câu trả lời được tạo ra.

Chi tiết chính

• Hạ tầng được quản lý: Giải pháp sử dụng Type: MANAGED Knowledge Bases, loại bỏ nhu cầu cung cấp, mở rộng quy mô hoặc vá lỗi các cơ sở dữ liệu vector như OpenSearch Serverless.
• API Truy xuất thông minh: API AgenticRetrieveStream thực hiện lập kế hoạch đa vòng lặp và xếp hạng lại nội bộ, trả về các câu trả lời tổng hợp, có trích dẫn chỉ khả dụng trên các cơ sở được quản lý.
• Tự động hóa CDK: Toàn bộ hệ thống được triển khai dưới dạng một ứng dụng Python CDK duy nhất với bốn stack, trong đó các phụ thuộc được suy ra tự động từ tham chiếu construct.
• Bảy lớp quan sát: Telemetry bao gồm số liệu KB, quá trình nạp dữ liệu, chất lượng truy xuất, số liệu Gateway, cây span OTEL, mức sử dụng token và điểm đánh giá.
• Số liệu đánh giá: Hệ thống bao gồm cả đánh giá theo yêu cầu và liên tục, đo lường độ trung thực và tính chính xác để phát hiện sự trôi dạt của câu trả lời.
• Dữ liệu mẫu: Bản triển khai bao gồm dữ liệu tài chính tổng hợp và một báo cáo thật từ U.S. Congressional Research Service về lốc xoáy để thử nghiệm.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và kiến trúc sư AI, sự chuyển dịch này đại diện cho việc chuyển từ xây dựng các đường ống truy xuất thô sang điều phối các tác nhân thông minh. Bằng cách trừu tượng hóa việc quản lý cơ sở dữ liệu vector, các nhóm có thể tập trung vào logic truy xuất và chất lượng câu trả lời thay vì bảo trì hạ tầng. Khả năng định tuyến truy vấn qua các cơ sở tri thức riêng biệt đảm bảo rằng câu trả lời được neo giữ trong đúng miền dữ liệu, giảm thiểu rủi ro ảo giác (hallucination) do ngữ cảnh không liên quan. Điều này đặc biệt quan trọng trong môi trường doanh nghiệp nơi các silo dữ liệu phổ biến và độ chính xác là tối thượng.

Hơn nữa, việc nhấn mạnh vào khả năng quan sát giải quyết một điểm đau lớn trong các hệ thống AI sản xuất: bản chất hộp đen của hành vi tác nhân. Không có telemetry chi tiết, rất khó để chẩn đoán lý do tại sao một tác nhân thất bại hoặc xác minh rằng các câu trả lời của nó được hỗ trợ bởi tài liệu nguồn. Bằng cách cung cấp các bảng điều khiển và số liệu đánh giá song song với ứng dụng, các nhà phát triển thu được cái nhìn tức thì vào hiệu suất và độ tin cậy của hệ thống. Tính minh bạch tích hợp sẵn này hỗ trợ việc sử dụng AI có trách nhiệm bằng cách đảm bảo rằng các phản hồi có thể kiểm toán và truy vết về nguồn gốc của chúng.

Những gì bạn có thể làm

• Triển khai ứng dụng CDK được cung cấp để thiết lập một hệ thống truy xuất thông minh hoàn chỉnh với các cơ sở tri thức được quản lý và bảng điều khiển quan sát.
• Cấu hình tệp config.py để đặt tên dự án, khu vực và mô hình nhúng, cho phép nhiều bản triển khai độc lập trong một tài khoản.
• Sử dụng notebook driver đi kèm để tạo lưu lượng truy cập và lấp đầy bảy lớp quan sát bằng số liệu thời gian thực và điểm đánh giá.
• Kiểm thử hệ thống với các bộ dữ liệu tài chính và thời tiết được đóng gói để hiểu cách tác nhân định tuyến truy vấn và trích dẫn nguồn qua các miền khác nhau.
• Giám sát các bảng điều khiển CloudWatch để theo dõi độ trễ, mức sử dụng token và chất lượng truy xuất, điều chỉnh các tham số tác nhân khi cần thiết cho khối lượng công việc sản xuất.
• Đánh giá các điểm số về độ trung thực và tính chính xác để đảm bảo câu trả lời vẫn được neo giữ trong tài liệu nguồn và phát hiện bất kỳ sự trôi dạt nào trong hiệu suất mô hình.