Máy chủ MCP serverless kết nối các tác nhân AI với data lake trên AWS

Amazon Web Services đã công bố một kiến trúc tham chiếu để xây dựng các máy chủ Model Context Protocol (MCP) serverless, kết nối các tác nhân trí tuệ nhân tạo với data lake doanh nghiệp. Thiết kế này, được triển khai cho mạng lưới Trung tâm Phân loại Bắc Mỹ của Amazon, sử dụng Amazon Elastic Container Service cùng với AWS Fargate để cung cấp một cổng truy cập dữ liệu hội thoại tập trung. Cách tiếp cận này nhằm loại bỏ nhu cầu viết mã tích hợp tùy chỉnh cho mỗi bộ dữ liệu hoặc tác nhân mới.

Chuyện gì đã xảy ra

Các tổ chức thường gặp khó khăn trong việc cung cấp quyền truy cập an toàn vào dữ liệu nội bộ cho các tác nhân mô hình ngôn ngữ lớn mà không phải lặp lại nỗ lực. Các đội ngũ thường kết nối trực tiếp tác nhân với cơ sở dữ liệu, nhúng logic tạo SQL độc đáo và kiểm soát truy cập vào từng ứng dụng. Khi số lượng bộ dữ liệu tăng lên, cách tiếp cận phân mảnh này dẫn đến sự lệch lạc về quyền hạn và biến việc tích hợp nguồn dữ liệu mới thành một nhiệm vụ kỹ thuật kéo dài nhiều ngày. Để giải quyết vấn đề này, các kỹ sư AWS đã xây dựng một máy chủ MCP dùng chung, đóng vai trò là giao diện không phụ thuộc vào tác nhân cụ thể đối với data lake vận hành của họ.

Giải pháp tách biệt các mối quan tâm thành bốn lớp riêng biệt: client, máy chủ MCP, công cụ và làm mới cơ sở tri thức. Cấu trúc này cho phép mỗi thành phần mở rộng quy mô độc lập trong khi vẫn duy trì các ranh giới bảo mật nghiêm ngặt. Bằng cách tập trung hóa kết nối tới data lake, nhóm đảm bảo rằng bất kỳ client nào tương thích với MCP đều có thể truy vấn các chỉ số vận hành, phân tích kinh doanh và dữ liệu chuyên ngành mà không cần tái triển khai logic tích hợp cốt lõi. Hệ thống hỗ trợ đa người thuê và đa ứng dụng, cung cấp trải nghiệm nhất quán trên các giao diện người dùng khác nhau như chat web hoặc plugin IDE.

Một tính năng chính của triển khai này là thiết kế dựa trên metadata. Thay vì viết mã để xác định cách một tác nhân tương tác với một bảng cụ thể, các kỹ sư thêm một tệp metadata JSON. Máy chủ tự động phát hiện các tệp này trong quá trình đồng bộ pipeline, giúp các bộ dữ liệu mới có sẵn ngay lập tức cho tất cả các tác nhân được kết nối. Cách tiếp cận cấu hình-hướng này giảm thời gian cần thiết để tích hợp một nguồn dữ liệu mới từ vài ngày xuống còn vài phút, loại bỏ nút thắt cổ chai của việc phát triển công cụ tùy chỉnh cho mỗi lần thay đổi schema.

Cách hoạt động

Kiến trúc dựa trên mô hình thực thi stateless được cung cấp bởi Amazon ECS Fargate. Khi người dùng gửi một truy vấn, nó đi qua Application Load Balancer và Amazon Cognito để xác thực. Yêu cầu được bổ sung với các cấu hình ánh xạ ngữ cảnh để giới hạn phạm vi truy vấn vào các bảng liên quan, giảm nhiễu và cải thiện độ chính xác. Máy chủ MCP, được xây dựng bằng khung Python FastMCP, điều phối tương tác giữa tác nhân và các công cụ dữ liệu. Nó lấy lịch sử phiên từ Amazon DynamoDB và sử dụng Amazon Bedrock để phân tích ý định và chọn các công cụ phù hợp.

Truy cập dữ liệu được quản lý thông qua một danh mục metadata lưu trữ mô tả schema, ngữ nghĩa cột và mối quan hệ giữa các bảng. Khi một tác nhân cần truy vấn một bộ dữ liệu, trước tiên nó tham khảo danh mục này để hiểu cấu trúc. Sau đó, tác nhân tạo một truy vấn SQL, được xác minh về tính an toàn và khả năng tương thích trước khi thực thi trên Amazon Athena hoặc Amazon Redshift. Quy trình này đảm bảo rằng chỉ các thao tác chỉ-đọc (read-only) mới tiếp cận được data lake, ngăn chặn các ghi hoặc xóa vô tình. Các tệp metadata bao gồm mô tả kinh doanh và giá trị mẫu, giúp tác nhân tạo các mệnh đề WHERE chính xác và hiểu các yêu cầu cú pháp đặc thù của engine.

Chi tiết chính

• Hệ thống sử dụng Amazon ECS Fargate cho cả lớp client và máy chủ MCP, đảm bảo khả năng mở rộng đàn hồi cho các khối lượng công việc AI đột biến.
• Việc tích hợp bộ dữ liệu chỉ yêu cầu một tệp metadata JSON, trong đó nắm bắt schema, ngữ cảnh kinh doanh và ngữ nghĩa ở cấp độ cột.
• Amazon Bedrock Guardrails được áp dụng cho tất cả các tương tác với mô hình để lọc nội dung độc hại và chặn các nỗ lực chèn prompt (prompt injection).
• Các cấu hình ánh xạ ngữ cảnh cho phép các kỹ sư giới hạn phạm vi truy vấn của tác nhân vào các bảng cụ thể, giữ độ trễ đầu-cuối trong khoảng 15 đến 20 giây.
• Lớp công cụ bao gồm các công cụ truy vấn SQL cho Amazon Athena và Redshift, cũng như tìm kiếm ngữ nghĩa thông qua Amazon Bedrock Knowledge Bases.
• Trạng thái phiên được lưu trữ bền vững trong Amazon DynamoDB, cho phép các task Fargate duy trì trạng thái stateless và dễ dàng thay thế.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm xây dựng ứng dụng AI, kiến trúc này cung cấp một bản thiết kế để quản lý phức tạp ở quy mô lớn. Bằng cách tách rời logic của tác nhân khỏi lớp truy cập dữ liệu, các đội ngũ có thể tránh gánh nặng bảo trì khi phải cập nhật mọi tác nhân mỗi khi schema cơ sở dữ liệu thay đổi. Việc thực thi tập trung các kiểm soát truy cập cũng giải quyết một mối lo ngại bảo mật quan trọng, đảm bảo rằng các chính sách quyền hạn được áp dụng nhất quán bất kể client hay tác nhân nào đang đưa ra yêu cầu. Điều này giảm thiểu rủi ro lộ dữ liệu trái phép trong môi trường đa người thuê.

Cách tiếp cận dựa trên metadata hạ thấp đáng kể rào cản gia nhập khi thêm các nguồn dữ liệu mới. Thay vì đòi hỏi kiến thức sâu về tạo SQL hoặc tích hợp API, các kỹ sư có thể tập trung vào việc định nghĩa các ngữ nghĩa kinh doanh rõ ràng trong các tệp JSON. Sự chuyển dịch này cho phép lặp nhanh hơn và cho phép các bên liên quan không thuộc bộ phận kỹ thuật đóng góp vào cơ sở tri thức của tác nhân bằng cách cung cấp các mô tả chính xác và dữ liệu mẫu. Khi các tác nhân AI trở nên phổ biến hơn trong môi trường doanh nghiệp, những cổng tiêu chuẩn hóa như vậy sẽ rất cần thiết để duy trì quản trị và hiệu quả vận hành.

Những gì bạn có thể làm

• Đánh giá các tích hợp tác nhân hiện tại của bạn để xác định logic truy cập dữ liệu bị trùng lặp có thể được tập trung hóa.
• Định nghĩa một schema JSON chuẩn cho các tệp metadata, bao gồm mô tả kinh doanh và giá trị mẫu cho các bộ dữ liệu của bạn.
• Triển khai các cấu hình ánh xạ ngữ cảnh để giới hạn phạm vi truy vấn của tác nhân và giảm độ trễ trong các kịch bản khối lượng cao.
• Sử dụng các container serverless như AWS Fargate để xử lý các mẫu tải biến động điển hình của tương tác với tác nhân AI.
• Áp dụng guardrails ở cấp máy chủ để đảm bảo an toàn nội dung nhất quán và ngăn chặn chèn prompt trên tất cả các client.
• Lưu trữ trạng thái phiên trong một cơ sở dữ liệu bền vững, độ trễ thấp như DynamoDB để hỗ trợ các kiến trúc máy chủ stateless.