Amazon Bedrock bổ sung chế độ RAG một lần và chỉ truy xuất

Amazon Web Services đã cập nhật Amazon Bedrock Managed Knowledge Base để hỗ trợ ba chế độ truy xuất riêng biệt thông qua một điểm cuối API duy nhất. Được phát hành vào ngày 9 tháng 11 năm 2026, thay đổi này cho phép nhà phát triển lựa chọn giữa lập kế hoạch theo tác nhân (agentic planning), tạo phản hồi một lần (single-shot generation) hoặc truy xuất đoạn văn bản thô bằng cách điều chỉnh một tham số duy nhất. Bản cập nhật này nhằm mục đích giảm độ trễ và chi phí cho các truy vấn đơn giản trong khi vẫn giữ nguyên khả năng suy luận sâu cho các tác vụ phức tạp.

Chuyện gì đã xảy ra

Trước đây, các nhà phát triển xây dựng ứng dụng sinh tăng cường truy xuất (RAG) trên Amazon Bedrock phải quản lý các đường dẫn mã hoặc API riêng biệt cho từng loại câu hỏi của người dùng. Các tra cứu đơn giản, chẳng hạn như tìm một mục cụ thể trong danh sách kiểm tra, đòi hỏi cùng một quy trình điều phối nặng nề như các câu hỏi so sánh phức tạp cần nhiều vòng lặp tìm kiếm. Cách tiếp cận "một kích cỡ phù hợp với tất cả" này thường dẫn đến độ trễ không cần thiết và mức sử dụng mô hình cao hơn đối với các yêu cầu trực tiếp.

Bản cập nhật mới giới thiệu tham số maxAgentIteration vào API AgenticRetrieveStream, với phạm vi từ 0 đến 5. Cài đặt duy nhất này kiểm soát hành vi của quá trình truy xuất. Bằng cách đặt giá trị là 1, nhà phát triển có thể kích hoạt "RAG một lần", thực hiện một lần truy xuất và tạo câu trả lời mà không cần bất kỳ bước lập kế hoạch theo tác nhân hay viết lại truy vấn nào. Đặt giá trị là 0 sẽ bật chế độ "chỉ truy xuất", trả về các đoạn nguồn mà không gọi bất kỳ mô hình nền tảng nào. Các giá trị từ 2 đến 5 giữ nguyên hành vi truy xuất theo tác nhân hiện tại, nơi hệ thống lập kế hoạch và thực thi nhiều vòng tìm kiếm.

Việc hợp nhất này có nghĩa là các ứng dụng không còn cần tích hợp một API thứ hai hay duy trì các nhánh logic riêng biệt cho các truy vấn đơn giản so với phức tạp. Dịch vụ quản lý quy trình làm việc nội bộ, cho phép nhà phát triển khớp nỗ lực truy xuất với nhu cầu cụ thể của từng yêu cầu một cách động. Như đã lưu ý trong thông báo: "Các ứng dụng không cần tự triển khai vòng lặp để phối hợp các bước này."

Cơ chế hoạt động

Cơ chế cốt lõi dựa vào cách hệ thống đếm số vòng lặp. Một vòng lặp tương đương với một lần gọi mô hình nền tảng. Quy trình luôn kết thúc bằng một lần gọi cuối cùng để tạo câu trả lời nếu tính năng tạo phản hồi được bật. Do đó, giá trị maxAgentIteration là n cho phép tối đa n trừ 1 vòng lập kế hoạch theo tác nhân, với vòng lặp cuối cùng dành riêng cho việc tạo phản hồi cuối cùng. Lưu ý quan trọng rằng truy xuất dự đoán (speculative retrieval), chạy trước bước lập kế hoạch đầu tiên để đẩy nhanh quá trình, không tính vào giới hạn này.

Khi maxAgentIteration được đặt thành 1, hệ thống bỏ qua hoàn toàn giai đoạn lập kế hoạch. Nó truy xuất các đoạn liên quan một lần dựa trên truy vấn gốc và ngay lập tức chuyển chúng cho mô hình nền tảng để tạo câu trả lời. Điều này lý tưởng cho các câu hỏi có phạm vi rõ ràng, nơi câu trả lời tồn tại trong một tài liệu hoặc phần duy nhất. Khi đặt thành 0, hệ thống thực hiện một lần truy xuất được đảm bảo nhưng bỏ qua hoàn toàn việc gọi mô hình nền tảng, chỉ trả về các đoạn văn bản thô. Điều này tương đương với việc gọi trực tiếp API Retrieve nhưng vẫn giữ quy trình làm việc trong giao diện AgenticRetrieveStream.

Đối với các giá trị từ 2 đến 5, mô hình nền tảng đóng vai trò là người lập kế hoạch. Nó chia nhỏ các câu hỏi phức tạp thành các truy vấn con, đánh giá bằng chứng thu thập được và quyết định xem có cần thêm các tìm kiếm khác hay không. Quá trình lặp đi lặp lại này giúp giải quyết các khoảng trống thông tin, làm cho nó phù hợp với các câu hỏi nhiều phần hoặc so sánh giữa các tài liệu khác nhau. Nhà phát triển chọn chế độ thông qua logic ứng dụng, thay vì phụ thuộc vào định tuyến tự động bởi chính tham số.

Chi tiết chính

• Tham số maxAgentIteration hiện chấp nhận các giá trị từ 0 đến 5, thay thế phạm vi hạn chế trước đó.
• Đặt maxAgentIteration=1 để bật RAG một lần, thực hiện một lần truy xuất và một lần tạo câu trả lời mà không có vòng lập kế hoạch.
• Đặt maxAgentIteration=0 để bật chế độ chỉ truy xuất, trả về các đoạn văn bản mà không có bất kỳ lần gọi mô hình nền tảng nào; generateResponse phải được đặt thành false.
• Truy xuất theo tác nhân (các giá trị 2–5) cho phép tối đa n trừ 1 vòng lập kế hoạch, hỗ trợ phân rã truy vấn và thu thập bằng chứng lặp đi lặp lại.
• Cả ba chế độ đều hỗ trợ nhiều cơ sở kiến thức, nghĩa là truy xuất một lần không bị giới hạn ở một nguồn dữ liệu duy nhất.
• Truy xuất dự đoán, diễn ra trước bước lập kế hoạch đầu tiên, không tính vào giới hạn maxAgentIteration.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm xây dựng trợ lý AI, bản cập nhật này đơn giản hóa kiến trúc và cải thiện hiệu quả chi phí. Trước đây, việc tối ưu hóa cho các phản hồi có độ trễ thấp đối với các truy vấn đơn giản có thể đòi hỏi phải xây dựng một đường ống truy xuất nhẹ riêng biệt song song với một hệ thống theo tác nhân phức tạp hơn. Bây giờ, một lần gọi API duy nhất có thể xử lý cả hai kịch bản. Điều này giảm bớt gánh nặng vận hành khi duy trì nhiều tích hợp và đảm bảo xử lý nhất quán các trích dẫn và sự kiện theo dõi trên tất cả các loại truy vấn.

Khả năng chuyển đổi giữa các chế độ cũng cung cấp quyền kiểm soát tinh tế hơn đối với sự đánh đổi giữa tốc độ và độ chính xác. Trong các ứng dụng khối lượng lớn, chẳng hạn như bot hỗ trợ khách hàng hoặc công cụ tìm kiếm doanh nghiệp nội bộ, hầu hết các truy vấn có khả năng là kiểm tra thông tin đơn giản. Sử dụng RAG một lần cho các yêu cầu này giảm mức tiêu thụ token và thời gian phản hồi. Đối với thiểu số các truy vấn phức tạp đòi hỏi đối chiếu chéo nhiều tài liệu, nhà phát triển có thể tăng động giới hạn vòng lặp để đảm bảo sự kỹ lưỡng. Tính linh hoạt này cho phép phân bổ tài nguyên tốt hơn và trải nghiệm người dùng phản hồi nhanh hơn.

Bạn có thể làm gì

• Cập nhật các lệnh gọi AgenticRetrieveStream của bạn để bao gồm tham số maxAgentIteration trong đối tượng agenticRetrieveConfiguration.
• Đặt maxAgentIteration=1 và generateResponse=true cho các câu hỏi trực tiếp, có phạm vi rõ ràng để bật RAG một lần.
• Đặt maxAgentIteration=0 và generateResponse=false khi bạn cần hiển thị các đoạn nguồn cho người dùng mà không tạo tóm tắt bằng AI.
• Sử dụng các giá trị từ 2 đến 5 cho các câu hỏi phức tạp, nhiều phần đòi hỏi so sánh thông tin giữa các tài liệu hoặc cơ sở kiến thức khác nhau.
• Kiểm thử các giới hạn vòng lặp khác nhau với các câu hỏi đại diện để tìm sự cân bằng tối ưu giữa độ trễ và chất lượng câu trả lời cho trường hợp sử dụng cụ thể của bạn.
• Đảm bảo logic ứng dụng của bạn xác định chế độ phù hợp dựa trên độ phức tạp của truy vấn, thay vì phụ thuộc vào API để tự động phát hiện điều đó.