Mô hình điều phối mỏng của Meta cho các tác nhân AI đáng tin cậy

Các kỹ sư của Meta đã nâng cao độ tin cậy của các tác nhân AI trong môi trường sản xuất bằng cách áp dụng kiến trúc "điều phối viên mỏng" (thin orchestrator), tách biệt logic định tuyến khỏi suy luận theo miền. Nghiên cứu tình huống được công bố vào ngày 19 tháng 10 năm 2026 chi tiết hóa cách một bộ định tuyến xác định gồm 1.300 dòng mã hiện đang quản lý hơn 20 quy trình làm việc trên 14 tác nhân chuyên biệt, giúp giảm đáng kể các lỗi do quá tải ngữ cảnh.

Chuyện gì đã xảy ra

Khi Meta lần đầu tiên thử nghiệm tự động hóa việc tiếp nhận cột dữ liệu cho các hệ thống đề xuất, nhóm đã xây dựng một tác nhân AI duy nhất được nạp đầy đủ kiến thức miền. Tác nhân này phải xử lý ba kho mã nguồn, ba ngôn ngữ lập trình và lên đến sáu giai đoạn đường ống. Mặc dù phương pháp này hoạt động tốt trong các bản demo có kiểm soát, nó lại thất bại trong môi trường sản xuất do thường xuyên gặp phải tình trạng ảo giác. Tác nhân sẽ làm lẫn lộn các khái niệm, áp dụng sai quy ước đặt tên hoặc mẫu tạo mã từ một hệ thống con sang hệ thống con khác.

Nhóm kỹ thuật nhận ra rằng việc thêm nhiều ngữ cảnh hơn đang làm giảm hiệu suất thay vì cải thiện nó. Họ đánh giá một phương pháp tác nhân đơn lẻ thay thế đòi hỏi phải kỹ thuật prompt thủ công cho từng nhiệm vụ, chỉ đạt tỷ lệ thành công 70-80% với sự can thiệp nặng nề của con người và giảm xuống còn 10-20% nếu không có sự can thiệp đó. Trích dẫn nghiên cứu từ Khoa Trí tuệ Nhân tạo và Sức khỏe Con người Windreich tại Mount Sinai, họ lưu ý rằng các hệ thống đa tác nhân có thể duy trì độ chính xác cao hơn bằng cách cô lập các nhiệm vụ, trong khi các tác nhân đơn lẻ gặp khó khăn với sự nhiễu loạn ngữ cảnh.

Để giải quyết vấn đề này, Meta đã chia hệ thống thành hai lớp riêng biệt. Lớp thứ nhất là một điều phối viên xác định, xử lý phân loại ý định, thu thập trường thông tin và kiểm tra độ tin cậy mà không thực hiện bất kỳ công việc miền nào. Lớp thứ hai bao gồm 14 tác nhân con chuyên biệt, mỗi tác nhân đóng vai trò như một chuyên gia miền hoàn chỉnh với ngữ cảnh được cô lập. Ví dụ, một tác nhân quản lý cấu hình schema trong khi một tác nhân khác xử lý việc điền mã cho các nguồn dữ liệu cụ thể. Không có tác nhân đơn lẻ nào nhìn thấy bức tranh toàn cảnh, điều này ngăn chặn sự lẫn lộn chéo vốn gây phiền toái cho thiết kế nguyên khối ban đầu.

Cách thức hoạt động

Điều phối viên mỏng tuân theo một giao thức cố định gồm bảy bước cho mọi yêu cầu, đảm bảo rằng suy luận của mô hình ngôn ngữ lớn (LLM) chỉ được sử dụng khi cần thiết. Các bước từ một đến năm và bước bảy là xác định: bộ định tuyến đọc các tệp hướng dẫn, kiểm tra trùng lặp, thu thập các trường thông tin của người dùng, tự động phát hiện loại kho mã nguồn và chạy các cổng kiểm tra độ tin cậy. Chỉ có bước sáu liên quan đến việc ủy quyền nhiệm vụ cho một tác nhân con, nơi diễn ra suy luận LLM trong một ngữ cảnh được cô lập và nạp kiến thức miền cụ thể.

Kiến trúc này dựa vào các mẫu quy trình làm việc, vốn là các máy trạng thái xác định định nghĩa trình tự các thao tác. Các mẫu như "Tiếp nhận Cột dữ liệu" (Column Onboarding) hoặc "Di chuyển Đường ống" (Pipeline Migration) tái sử dụng cùng một pool gồm 14 tác nhân con theo các thứ tự khác nhau. Sự tách biệt này cho phép nhóm bổ sung các khả năng mới bằng cách viết các mẫu quy trình làm việc mới thay vì xây dựng các tác nhân mới. Mỗi tác nhân con tuân theo một cấu trúc chuẩn hóa với các nguồn kiến thức được xác định, danh sách kiểm tra trước khi thu thập và các giao thức xử lý lỗi, giúp hệ thống trở nên mô-đun và dễ mở rộng.

Các tệp kiến thức được nạp theo yêu cầu tại thời gian chạy (runtime) thay vì được nhúng sẵn trong điều phối viên. Điều này có nghĩa là khi một tệp kiến thức được cập nhật, phiên làm việc tiếp theo sẽ tự động sử dụng phiên bản mới nhất mà không cần thay đổi mã của điều phối viên. Hệ thống hiện đang duy trì hơn 25 tệp kiến thức được tổ chức theo miền quy trình làm việc, cho phép các bản cập nhật có hiệu lực ngay lập tức trên tất cả các triển khai nền tảng.

Chi tiết chính

• Điều phối viên là một bộ định tuyến xác định gồm 1.300 dòng mã, tự thân không thực hiện bất kỳ công việc miền nào.
• Hệ thống định tuyến hơn 20 quy trình làm việc tới 14 tác nhân AI chuyên biệt, mỗi tác nhân có ngữ cảnh được cô lập.
• Thời gian chuẩn bị cấu hình cho một cột dữ liệu mới giảm từ ba đến bốn ngày làm việc thủ công xuống dưới một giờ.
• Khoảng hai phần ba các thay đổi hệ thống được đưa vào mà không cần chỉnh sửa đáng kể bởi con người.
• Các mẫu quy trình làm việc cho phép hỗ trợ các trường hợp sử dụng mới bằng cách sắp xếp lại trình tự các tác nhân hiện có.
• Nghiên cứu được trích dẫn cho thấy các hệ thống đa tác nhân duy trì độ chính xác 65,3% trong các lô 80 nhiệm vụ so với 16,6% đối với các tác nhân đơn lẻ.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm xây dựng hệ thống AI trong môi trường sản xuất, mô hình này nhấn mạnh rủi ro của việc nạp quá nhiều ngữ cảnh vào một tác nhân duy nhất. Khi cửa sổ ngữ cảnh mở rộng, cám dỗ là đổ tất cả kiến thức khả dụng vào một prompt, nhưng điều này thường dẫn đến hiệu suất suy giảm và tình trạng ảo giác. Bằng cách vẽ ra ranh giới rõ ràng giữa định tuyến xác định và suy luận xác suất, các nhóm có thể tạo ra những hệ thống dễ gỡ lỗi hơn và đáng tin cậy hơn ở quy mô lớn. Các lỗi được chứa trong các tác nhân con cụ thể, ngăn chặn một lỗi đơn lẻ làm hỏng toàn bộ quy trình làm việc.

Phương pháp tiếp cận này cũng thay đổi cách các nhóm quản lý bảo trì và cập nhật. Vì kiến thức được nạp tại thời gian chạy và các tác nhân có cấu trúc đồng nhất, việc thêm các khả năng mới trở thành một nhiệm vụ theo mẫu thay vì một cuộc đại tu kiến trúc lớn. Tính mô-đun này cho phép các phần khác nhau của hệ thống cải thiện độc lập. Một mô hình nền tảng tốt hơn cải thiện tất cả các tác nhân con đồng thời, trong khi các bản cập nhật kiến thức có hiệu lực ngay lập tức mà không cần triển khai lại điều phối viên lõi.

Những gì bạn có thể làm

• Tách biệt định tuyến khỏi suy luận bằng cách đảm bảo điều phối viên của bạn chỉ đưa ra các quyết định xác định như phân loại ý định.
• Thiết kế các tác nhân con như những chuyên gia có cấu trúc đồng nhất với đầu vào, các bước thực thi và xử lý lỗi nhất quán.
• Sử dụng các mẫu quy trình làm việc để sắp xếp trình tự các tác nhân hiện có cho các trường hợp sử dụng mới thay vì xây dựng các tác nhân mới từ đầu.
• Nạp kiến thức miền tại thời gian chạy thay vì nhúng nó vào điều phối viên để cho phép cập nhật ngay lập tức.
• Xác định rõ ràng ranh giới giữa các nhiệm vụ định tuyến xác định và các nhiệm vụ suy luận xác suất trong kiến trúc của bạn.
• Cô lập ngữ cảnh cho mỗi tác nhân con để ngăn chặn sự lẫn lộn chéo các khái niệm từ các miền khác nhau.