Amazon Bedrock AgentCore ra mắt công cụ Web Answer được quản lý cho các phản hồi có trích dẫn

Amazon Web Services đã thông báo về việc phát hành chính thức (general availability) của Web Answer trên Amazon Bedrock AgentCore. Công cụ được quản lý mới này cho phép những người xây dựng AI agent truy xuất các câu trả lời tổng hợp, có trích dẫn nguồn cho các câu hỏi bằng ngôn ngữ tự nhiên thông qua một lần gọi công cụ duy nhất, giúp loại bỏ nhu cầu phải tự tay xây dựng các pipeline retrieval-augmented generation phức tạp.

Chuyện gì đã xảy ra

Việc xây dựng các agent trả lời câu hỏi dựa trên dữ liệu web hiện tại theo cách truyền thống đòi hỏi phải lắp ráp một chuỗi các thành phần dễ vỡ. Các nhà phát triển phải gọi API tìm kiếm, lọc kết quả để đảm bảo độ tin cậy, truy xuất và làm sạch nội dung trang, yêu cầu mô hình tổng hợp thông tin và thiết kế logic để trích xuất các trích dẫn sao cho đầu ra có thể truy ngược về nguồn gốc. Mỗi bước đều tạo ra chi phí bảo trì và các điểm tiềm ẩn gây lỗi, chẳng hạn như hiện tượng ảo giác (hallucination) khi bằng chứng yếu hoặc sự gán nguồn bị sai lệch khi các tuyên bố không khớp với nguồn gốc của chúng.

Web Answer thu gọn toàn bộ quy trình làm việc này vào một yêu cầu duy nhất. Khi một agent gửi câu hỏi đến AgentCore Gateway, hệ thống sẽ xác thực cuộc gọi và chuyển tiếp nó đến connector Web Answer. Dịch vụ được quản lý này tự lập kế hoạch tìm kiếm, chạy song song, đọc các trang quan trọng để xác minh sự thật và lặp lại nếu bằng chứng chưa đủ. Sau đó, nó trả về một câu trả lời có cơ sở vững chắc kèm theo các trích dẫn nội tuyến, tất cả chỉ trong vài giây.

Dịch vụ này được thiết kế để xử lý vòng lặp truy xuất agentic bên trong hệ thống. Khác với các công cụ tìm kiếm thô sơ chỉ trả về danh sách liên kết, Web Answer tự thực hiện việc tổng hợp và gán nguồn. Sự thay đổi này chuyển gánh nặng kỹ thuật pipeline từ nhà phát triển sang hạ tầng AWS, nhằm mục đích giảm độ trễ và cải thiện độ tin cậy cho các quy trình làm việc đòi hỏi nhiều kiến thức.

Cách hoạt động

Web Answer hoạt động như một connector được quản lý thuộc sở hữu của AWS, truy cập thông qua AgentCore Gateway. Gateway xử lý xác thực thông qua AWS Identity and Access Management (IAM) hoặc JSON Web Tokens, trong khi connector sử dụng service role riêng của nó để thực hiện các tìm kiếm. Cơ chế nền tảng bao gồm một quy trình tìm kiếm agentic, nơi hệ thống lập kế hoạch cho nhiều truy vấn, truy xuất nội dung từ chỉ mục web do Amazon vận hành và xác minh sự thật trước khi tạo ra phản hồi.

Đầu ra tuân theo tiêu chuẩn Model Context Protocol (MCP), trả về cả văn bản markdown không cấu trúc với các dấu trích dẫn nội tuyến và một đối tượng nội dung có cấu trúc. Dữ liệu có cấu trúc này bao gồm văn bản câu trả lời cùng với một danh sách các trích dẫn, mỗi trích dẫn chứa URL nguồn và tên miền. Vì dịch vụ chạy các tìm kiếm mới cho mỗi câu hỏi và nhận được ngày hiện tại, nó ưu tiên thông tin cập nhật hơn là dữ liệu chỉ mục cũ.

Các nhà phát triển có thể cấu hình bộ lọc tên miền ở cấp độ target để bao gồm hoặc loại trừ các trang web cụ thể, đảm bảo rằng các agent chỉ lấy thông tin từ những nguồn đáng tin cậy. Những bộ lọc này có thể được thu hẹp thêm bởi agent tại thời gian chạy nhưng không thể mở rộng vượt quá giới hạn ban đầu do quản trị viên đặt ra. Kiến trúc này đảm bảo rằng các truy vấn và kết quả vẫn nằm trong môi trường AWS, không có dữ liệu nào bị rò rỉ ra ngoài các công cụ tìm kiếm của bên thứ ba.

Chi tiết chính

• Một lần gọi công cụ: Thay thế các pipeline tìm kiếm, truy xuất và tổng hợp nhiều bước bằng một yêu cầu API duy nhất.
• Truy xuất Agentic: Hệ thống lập kế hoạch cho các tìm kiếm song song, đọc trang để xác minh và thử lại nếu bằng chứng chưa đủ.
• Đầu ra có trích dẫn: Trả về các câu trả lời có cơ sở vững chắc với các dấu nội tuyến và một danh sách có cấu trúc gồm các URL nguồn và tên miền.
• Kiểm soát doanh nghiệp: Hỗ trợ VPC endpoints qua AWS PrivateLink, xác thực IAM và bộ lọc tên miền do quản trị viên định nghĩa.
• Giá cả: Chi phí $10 cho mỗi 1.000 lần gọi công cụ.
• Khả năng sẵn dùng: Hiện có tại khu vực US East (N. Virginia), với giới hạn tốc độ 10 giao dịch mỗi giây cho mỗi tài khoản.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm xây dựng AI agent, Web Answer giảm bớt sự phức tạp trong vận hành khi duy trì các hệ thống truy xuất đáng tin cậy. Các pipeline RAG tùy chỉnh thường đòi hỏi nỗ lực lớn để xử lý các trường hợp biên như nguồn xung đột hoặc nội dung lỗi thời. Bằng cách chuyển giao logic tổng hợp và trích dẫn cho một dịch vụ được quản lý, các nhóm có thể tập trung vào điều phối agent ở cấp độ cao hơn thay vì kỹ thuật tìm kiếm ở cấp thấp.

Sự khác biệt giữa Web Answer và các công cụ Web Search hiện có rất quan trọng đối với các quyết định kiến trúc. Web Search trả về các URL xếp hạng thô và đoạn trích, để việc tổng hợp cho mô hình của nhà phát triển. Điều này lý tưởng cho các nhiệm vụ nghiên cứu rộng rãi nơi cần kiểm soát hoàn toàn quá trình xử lý. Ngược lại, Web Answer cung cấp một câu trả lời hoàn chỉnh, phù hợp cho các sub-task trong các agent lớn hơn nơi tốc độ và sự kiện đã được xác minh được ưu tiên hơn so với việc khám phá dữ liệu thô.

Khả năng này đặc biệt liên quan đến các ngành được quản lý chặt chẽ như dịch vụ tài chính, chăm sóc sức khỏe và tuân thủ pháp lý. Trong các lĩnh vực này, mọi tuyên bố phải có thể kiểm toán và truy vết về một nguồn uy tín. Các biện pháp bảo vệ AI có trách nhiệm tích hợp sẵn và ánh xạ trích dẫn nghiêm ngặt giúp đáp ứng các yêu cầu này mà không cần triển khai các guardrail tùy chỉnh.

Bạn có thể làm gì

• Đánh giá các trường hợp sử dụng: Xác định các sub-task của agent đòi hỏi câu trả lời nhanh, có tính thực tế và kèm trích dẫn thay vì kết quả nghiên cứu rộng rãi.
• Thiết lập quyền: Cấp quyền bedrock-agentcore:InvokeWebAnswer cho service role của AgentCore Gateway bằng cách sử dụng chính sách IAM inline.
• Cấu hình targets: Thêm Web Answer làm một connector target trong AgentCore Gateway của bạn, áp dụng các bộ lọc tên miền để giới hạn nguồn chỉ ở các tên miền đáng tin cậy.
• Tích hợp qua MCP: Sử dụng các client tương thích MCP như Strands Agents, LangChain hoặc LangGraph để khám phá và gọi công cụ thông qua gateway.
• Kiểm tra độ chính xác của trích dẫn: Chạy các truy vấn trên các chủ đề thực tế đã biết để xác minh rằng các trích dẫn trả về ánh xạ đúng với các tuyên bố trong câu trả lời.
• Theo dõi chi phí: Theo dõi mức sử dụng thông qua các số liệu của Amazon CloudWatch, lưu ý mô hình giá $10 cho mỗi 1.000 lần gọi.