Rashomon xác minh hành động của agent Claude Code để phát hiện các lỗi ẩn

Một tiện ích mã nguồn mở mới có tên là Rashomon cung cấp một lớp xác minh độc lập cho Claude Code, trợ lý lập trình AI. Được phát hành ở phiên bản alpha 1.1.0 vào ngày 5 tháng 10 năm 2026, công cụ này chạy trên macOS và Linux để theo dõi chính xác những gì mà một AI agent thực hiện trong suốt phiên lập trình. Nó giải quyết mối lo ngại ngày càng tăng trong giới developer rằng các AI agent có thể tự tin báo cáo thành công ngay cả khi các tác vụ nền hoặc subagent đã thất bại.

Chuyện gì đã xảy ra

Rashomon hoạt động như một người quan sát thầm lặng trong các phiên làm việc với Claude Code, duy trì một nhật ký riêng biệt cho mỗi lần gọi công cụ, chỉnh sửa file và thực thi lệnh. Khác với tương tác tiêu chuẩn nơi developer chỉ dựa vào bản tóm tắt cuối cùng của agent, Rashomon so sánh dữ liệu do nó ghi lại với tuyên bố kết thúc của agent. Nếu agent khẳng định tất cả các bài kiểm tra đều đạt nhưng Rashomon phát hiện một lệnh thất bại hoặc mã lỗi, nó sẽ lập tức đánh dấu sự sai lệch đó.

Công cụ được thiết kế để không gây phiền nhiễu trong quá trình vận hành bình thường. Nó chỉ can thiệp vào quy trình làm việc khi phát hiện sự không khớp tiềm năng giữa lời kể của agent và các sự kiện hệ thống thực tế. Điều này bao gồm việc theo dõi các hành động được thực hiện bởi các subagent, tức là các phiên bản phụ trợ được khởi tạo bởi AI chính để xử lý các tiểu nhiệm vụ cụ thể. Các hoạt động của subagent thường vô hình trong bản ghi hội thoại chính, tạo ra những điểm mù cho các developer vốn cho rằng agent chính có tầm nhìn và quyền kiểm soát toàn diện.

Developer có thể cài đặt Rashomon dưới dạng plugin gốc cho Claude Code hoặc dưới dạng tiện ích dòng lệnh độc lập. Dự án nhấn mạnh vào quyền riêng tư và xử lý cục bộ, đảm bảo rằng không có mã, prompt hay nội dung file nào được lưu trữ hoặc truyền đi bên ngoài. Nó hoạt động thuần túy như một kiểm toán viên cục bộ, cung cấp một ý kiến thứ hai về hiệu suất của agent mà không thay đổi hành vi hay chặn các hành động của agent.

Cách thức hoạt động

Rashomon hoạt động bằng cách móc nối vào pipeline thực thi của Claude Code. Khi được cài đặt, nó đăng ký các listener cho các lệnh gọi công cụ và thực thi lệnh. Đối với mỗi hành động mà agent thực hiện, chẳng hạn như chạy bộ kiểm thử hoặc chỉnh sửa file, Rashomon ghi lại kết quả, bao gồm mã thoát và bất kỳ lỗi nào được sinh ra. Nó đặc biệt giám sát danh sách bốn mươi ba từ khóa liên quan đến lỗi, chẳng hạn như "error", "failed" hoặc "unable", trong bản tóm tắt cuối cùng của agent.

Nếu một lệnh thất bại nhưng bản tóm tắt của agent không chứa bất kỳ từ khóa lỗi nào trong số này, Rashomon sẽ tạo ra một cảnh báo. Cơ chế này giúp bắt kịp các hiện tượng ảo giác (hallucination) khi AI có thể hiểu nhầm một lần chạy kiểm thử thất bại là thành công hoặc đơn giản là bỏ qua lỗi của một subagent. Công cụ cũng theo dõi riêng biệt các hoạt động của subagent, liệt kê các khai báo và thực thi của chúng ngay cả khi chúng không xuất hiện trong lịch sử chat chính.

Hệ thống báo cáo mang tính xác định và minh bạch. Nó không đoán ý định hay phân tích ngữ nghĩa của mã. Thay vào đó, nó trình bày một so sánh thực tế: bản tóm tắt được trích dẫn của agent so với các kết quả kỹ thuật được ghi nhận. Điều này cho phép developer nhanh chóng xác định xem có tồn tại sự sai lệch hay không và điều tra các lệnh hoặc subagent cụ thể liên quan mà không cần phải sàng lọc thủ công qua các nhật ký dài dòng.

Chi tiết chính

• Hỗ trợ nền tảng: Hiện chỉ hỗ trợ macOS và Linux; Windows chưa được hỗ trợ trong bản phát hành alpha này.
• Phương pháp cài đặt: Có sẵn dưới dạng plugin Claude Code qua marketplace hoặc dưới dạng binary độc lập được cài đặt qua curl hoặc Go.
• Mô hình quyền riêng tư: Không lưu trữ prompt, phản hồi hay nội dung file; chỉ ghi lại tên lệnh, số lượng tham số và hostname.
• Khả năng hiển thị của subagent: Theo dõi và báo cáo rõ ràng các hành động được thực hiện bởi subagent, vốn thường bị ẩn khỏi bản ghi hội thoại chính.
• Phát hiện lỗi: Sử dụng danh sách cố định gồm bốn mươi ba từ khóa lỗi để kiểm tra xem bản tóm tắt của agent có thừa nhận bất kỳ lỗi nào được ghi nhận hay không.
• Giới hạn mạng: Không quan sát lưu lượng mạng trực tiếp trong phiên bản alpha này, mặc dù nó có thể tích hợp với các kiểm toán sandbox bên ngoài như nono.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm phụ thuộc vào trợ lý lập trình AI, niềm tin là một thành phần quan trọng nhưng mong manh trong quy trình làm việc. Khi các agent trở nên tự chủ hơn, khởi tạo subagent và thực thi các chuỗi lệnh phức tạp, rủi ro gặp phải các lỗi âm thầm gia tăng. Một agent có thể refactor hàm thành công nhưng thất bại trong việc chạy đúng bộ kiểm thử liên quan, dẫn đến các build bị hỏng khó truy ngược về hành động của AI. Rashomon cung cấp một lưới an toàn cần thiết bằng cách đảm bảo rằng sự tự tin của agent khớp với thực tế.

Công cụ này cũng làm nổi bật tính mờ đục của các hệ thống multi-agent. Khi một AI ủy quyền nhiệm vụ cho các subagent, giao diện chính thường che giấu chi tiết của các hành động được ủy quyền đó. Nếu không có xác minh độc lập, developer có thể bỏ sót các lỗi nghiêm trọng xảy ra trong những lớp ẩn này. Bằng cách phơi bày hoạt động của subagent và đối chiếu chéo với bản tóm tắt của agent chính, Rashomon giúp duy trì trách nhiệm giải trình và tính minh bạch trong phát triển hỗ trợ bởi AI.

Hơn nữa, việc nhấn mạnh vào xử lý cục bộ và không giữ lại dữ liệu giải quyết các mối lo ngại lớn về bảo mật. Nhiều tổ chức e ngại áp dụng các công cụ AI vì sợ rò rỉ mã hoặc lộ dữ liệu độc quyền. Thiết kế của Rashomon, tránh lưu trữ nội dung nhạy cảm và hoạt động hoàn toàn ngoại tuyến, đưa ra một mô hình về cách xây dựng các công cụ xác minh mà không làm tổn hại đến bảo mật hoặc quyền riêng tư.

Bạn có thể làm gì

• Cài đặt Rashomon bằng các lệnh từ marketplace plugin Claude Code hoặc trình cài đặt curl độc lập dành cho macOS hoặc Linux.
• Chạy một phiên thử nghiệm bằng cách cố tình làm hỏng một bài kiểm tra trong dự án của bạn và yêu cầu Claude Code sửa nó, sau đó kiểm tra báo cáo Rashomon để tìm các điểm không nhất quán.
• Sử dụng lệnh /rashomon:report trong Claude Code hoặc rashomon report trong terminal.