Xây dựng với AI

Phân biệt trạng thái quy trình làm việc, bộ nhớ của agent và RAG trong các hệ thống AI

Các AI agent chạy dài hạn thường gặp lỗi khi nhà phát triển nhầm lẫn giữa điểm kiểm tra thực thi, sở thích người dùng bền vững và truy xuất kiến thức bên ngoài. Việc tách biệt các lớp này giúp làm rõ quyền sở hữu và đơn giản hóa quá trình gỡ lỗi.

Một khối kính được chia thành ba lớp đại diện cho trạng thái quy trình làm việc, bộ nhớ agent và kiến thức RAG.
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Các nhà phát triển xây dựng AI agent chạy dài hạn thường chẩn đoán sai các lỗi về ngữ cảnh là vấn đề bộ nhớ chung chung. Trên thực tế, những vấn đề này bắt nguồn từ việc nhầm lẫn ba lớp dữ liệu riêng biệt: trạng thái quy trình làm việc (workflow state), bộ nhớ bền vững của agent (durable agent memory) và kiến thức từ mô hình sinh tăng cường bằng truy xuất (retrieval-augmented generation - RAG). Làm rõ ranh giới giữa các lớp này là điều cần thiết để tạo ra các hệ thống tự động đáng tin cậy và dễ bảo trì.

Chuyện gì đã xảy ra

Khi các AI agent chuyển từ giao diện trò chuyện đơn giản sang các quy trình làm việc phức tạp, nhiều bước, chúng gặp phải các chế độ lỗi mới. Một agent có thể tiếp tục tác vụ ở bước sai, áp dụng sở thích của người dùng vào tài khoản không đúng hoặc trích dẫn một tài liệu chính sách cũ. Những lỗi này thường được gắn nhãn là vấn đề bộ nhớ, nhưng nguyên nhân gốc rễ khác nhau tùy thuộc vào loại ngữ cảnh bị xử lý sai.

Vấn đề cốt lõi là việc lưu trữ dữ liệu đơn thuần không xác định những gì một agent nên ghi nhớ. Điểm kiểm tra quy trình làm việc đảm bảo rằng một tiến trình có thể tiếp tục sau khi tạm dừng hoặc gặp sự cố, nhưng nó không quyết định các sở thích dài hạn của người dùng. Tương tự, việc truy xuất một tài liệu cung cấp bằng chứng tức thời nhưng không cấu thành một sự kiện lâu dài về người dùng. Việc coi tất cả dữ liệu đã lưu trữ là tương đương dẫn đến các mô hình dữ liệu rối rắm, nơi lịch sử quy trình làm việc vô tình trở thành bộ nhớ vĩnh viễn của agent.

Để xây dựng các agent mạnh mẽ, kỹ sư phải gán rõ ràng chủ sở hữu, vòng đời và ranh giới truy cập cho từng loại ngữ cảnh. Trạng thái quy trình làm việc xử lý tiến độ thực thi, bộ nhớ agent lưu trữ các thông tin đã được xác minh qua nhiều phiên, và RAG cung cấp bằng chứng bên ngoài cho các yêu cầu cụ thể. Giữ cho các trách nhiệm này rõ ràng cho phép các nhóm chẩn đoán lỗi chính xác và vận hành các agent chạy dài hạn với sự tự tin.

Cách hoạt động

Trạng thái quy trình làm việc trả lời câu hỏi về vị trí mà một lần chạy hiện tại đã dừng lại. Trong các framework như LangGraph, một checkpointer lưu trữ trạng thái đồ thị dưới một định danh luồng (thread identifier). Điều này bao gồm các tin nhắn, kết quả công cụ và tiến độ thực thi, cho phép agent tạm dừng để chờ phê duyệt của con người hoặc phục hồi sau khi công cụ gặp lỗi. Trạng thái này mang tính tạm thời đối với tác vụ cụ thể và hết hạn khi lần chạy hoàn tất hoặc bị hủy bỏ.

Ngược lại, bộ nhớ agent giữ thông tin được chọn để duy trì qua nhiều phiên. Điều này bao gồm sở thích người dùng, các quyết định và quy trình. Quan trọng hơn, dữ liệu này đòi hỏi một chiến lược quản lý vòng đời. Một cuộc hội thoại có thể tạo ra một ứng viên thông tin, nhưng nó chỉ trở thành bộ nhớ bền vững sau khi các quy tắc ứng dụng hoặc xác nhận của người dùng xác minh nó. Khi thông tin thay đổi, các giá trị cũ sẽ bị thay thế, và các yêu cầu xóa phải được lan truyền đến các bản ghi nguồn và dữ liệu phái sinh.

Mô hình sinh tăng cường bằng truy xuất (RAG) đưa kiến thức bên ngoài liên quan vào yêu cầu hiện tại. Lớp này truy cập các tài liệu, trường hợp hỗ trợ hoặc hồ sơ chính sách bằng cách sử dụng tìm kiếm từ khóa, tìm kiếm vector hoặc SQL. Mặc dù tìm kiếm vector xếp hạng các bản ghi theo mức độ tương đồng, nó không xác minh tính cập nhật hoặc thẩm quyền. Đường dẫn truy xuất phải thực thi các bộ lọc siêu dữ liệu, phạm vi khách thuê (tenant scope) và kiểm soát phiên bản để đảm bảo agent sử dụng bằng chứng hợp lệ thay vì thông tin tương đồng về mặt ngữ nghĩa nhưng đã lỗi thời.

Chi tiết chính

  • Các điểm kiểm tra quy trình làm việc lưu trữ trạng thái thực thi để tiếp tục các tác vụ nhưng không xác định bộ nhớ dài hạn.
  • Bộ nhớ agent bền vững yêu cầu các quy tắc xác minh, phân phạm vi và xóa rõ ràng do ứng dụng quản lý.
  • RAG cung cấp bằng chứng bên ngoài cho các yêu cầu hiện tại nhưng phải lọc theo phiên bản, thẩm quyền và phạm vi truy cập.
  • Các framework như LangGraph và LangChain cung cấp các lớp trừu tượng nhưng không thay thế nhu cầu về ranh giới dữ liệu rõ ràng.
  • Lỗi dễ chẩn đoán hơn khi các nhóm có thể cô lập vấn đề vào trạng thái điểm kiểm tra, lựa chọn bộ nhớ hoặc truy xuất.
  • Mỗi lớp có thể chia sẻ một cơ sở dữ liệu nhưng phải duy trì các vòng đời và kiểm soát truy cập riêng biệt trong mô hình dữ liệu.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm, việc nhầm lẫn các lớp này tạo ra các hệ thống khó gỡ lỗi và bảo trì. Nếu một quy trình làm việc tiếp tục từ nút sai, vấn đề nằm ở logic điểm kiểm tra. Nếu một agent nhớ lại một sở thích lỗi thời, lỗi nằm ở quản lý vòng đời bộ nhớ. Nếu một câu trả lời trích dẫn hướng dẫn sai, vấn đề nằm ở truy vấn truy xuất hoặc lọc nguồn. Nếu không có ranh giới rõ ràng, việc khắc phục sự cố trở thành một bài toán phỏng đoán trên một kho dữ liệu đơn khối.

Quyền sở hữu rõ ràng cũng cải thiện bảo mật và tuân thủ. Sở thích của một người dùng không được trở thành chỉ dẫn toàn cục, và kết quả công cụ từ một khách thuê không được rò rỉ vào ngữ cảnh của khách thuê khác. Bằng cách xác định các phạm vi nghiêm ngặt và chính sách lưu giữ trong lớp ứng dụng, các nhà phát triển ngăn chặn các prompt vô tình thực thi các quy tắc vốn thuộc về mô hình dữ liệu. Sự tách biệt này đảm bảo rằng thông tin được lưu giữ vẫn chính xác và hữu ích khi hệ thống mở rộng.

Bạn có thể làm gì

  • Xác định trạng thái cần thiết để tiếp tục một quy trình làm việc cụ thể trước khi thêm các tính năng bộ nhớ dài hạn.
  • Xác định những thông tin nào nên trở thành bộ nhớ bền vững và thiết lập các quy tắc cho việc xác minh và xóa chúng.
  • Chọn phương pháp truy xuất dựa trên kiểu dữ liệu, sử dụng truy vấn có cấu trúc cho các sự kiện và tìm kiếm vector cho các đoạn văn ngữ nghĩa.
  • Kiểm thử độc lập các điểm kiểm tra quy trình làm việc, đường dẫn bộ nhớ và tuyến truy xuất trước khi kết hợp chúng trong vòng lặp agent.
  • Triển khai các bộ lọc siêu dữ liệu trong RAG để loại trừ các tài liệu hết hạn và thực thi ranh giới khách thuê.
  • Theo dõi các định danh quy trình làm việc, bản ghi bộ nhớ được chọn và nguồn truy xuất để giải thích cách hệ thống tạo ra phản hồi.
  • #ai agents
  • #rag
  • #software architecture
  • #langgraph
  • #data modeling

Công cụ từ cửa hàng Bytechap

$89

DocBento

Hệ thống quản lý tài liệu tự host, có khả năng đọc mọi bản quét và trả lời kèm trích dẫn trang cụ thể.

Demo trực tiếp

Đọc tiếp

Tất cả bài viết