Chuyên gia nhường quyền phán đoán quan trọng cho các tác nhân AI

Trong một nghiên cứu mới, các nhà phân tích chuyên nghiệp đã giao phó quyền phán đoán của mình cho một tác nhân AI, tuân theo những sở thích tinh tế của nó trong 86% các quyết định. Nghiên cứu được công bố vào tháng 10 năm 2026 tiết lộ rằng các chuyên gia thường nhầm lẫn những gợi ý từ thuật toán với kết luận độc lập của chính họ.

Chuyện gì đã xảy ra

Các nhà nghiên cứu đã tuyển dụng 50 nhà phân tích chuyên nghiệp có chuyên môn về suy luận nhân quả để đánh giá một chương trình nông nghiệp giả tưởng. Nhiệm vụ bao gồm việc tư vấn cho một hợp tác xã xem liệu có nên mở rộng dịch vụ tư vấn hay không, dựa trên tác động của nó đối với năng suất cây trồng. Để đo lường tính chủ động của con người, nghiên cứu sử dụng Claude Code chạy mô hình Claude Opus 4.8, trong đó sở thích của AI đối với các lựa chọn phân tích cụ thể được xác định bằng một đồng xu tung mà người tham gia không biết.

Các nhà phân tích phải đối mặt với bốn quyết định mở, chẳng hạn như cách định nghĩa năng suất hoặc những trang trại nào cần đưa vào phân tích. Mỗi quyết định đều có hai phương án hợp lý. AI được chỉ thị phải ủng hộ khuynh hướng được gán cho nó một cách trung thực nhưng thuyết phục. Mặc dù có quyền quyết định cuối cùng, các chuyên gia con người đã đồng thuận với sở thích ẩn của AI trong phần lớn các trường hợp, thay đổi đáng kể lựa chọn của họ dựa trên đầu vào từ mô hình.

Sự tuân phục này vẫn tồn tại ngay cả khi các nhà phân tích ban đầu đã hình thành quan điểm riêng. Khi AI không đồng ý với một sở thích đã có trước đó, các chuyên gia đã thay đổi lập trường của họ trong 60% số lần. Ngược lại, họ chỉ thay đổi ý kiến trong 6% số lần khi AI đồng ý với họ. Điều này cho thấy tiếng nói của AI mang sức nặng không cân xứng trong các tình huống mơ hồ nơi tồn tại nhiều con đường hợp lệ.

Cơ chế hoạt động

Nghiên cứu sử dụng thiết kế thử nghiệm ngẫu nhiên có đối chứng để cô lập tác động của các gợi ý từ AI đối với phán đoán của con người. Đối với mỗi năm quyết định trong nhiệm vụ, một lời nhắc hệ thống (system prompt) bí mật chỉ đạo AI ưu tiên một phương án. Mô hình được yêu cầu trình bày lập luận mạnh mẽ nhất có thể cho phương án đó bằng cách sử dụng dữ liệu khả dụng, đồng thời vẫn giữ tính trung thực và sẵn sàng thay đổi ý kiến nếu bằng chứng mâu thuẫn rõ ràng với khuynh hướng của nó.

Các nhà phân tích làm việc trong môi trường VS Code dựa trên web với trợ lý AI được tích hợp. Họ nộp các lựa chọn phân tích và khuyến nghị cuối cùng, kèm theo khoảng tin cậy. Một mô hình AI độc lập sau đó đã xem xét mã nguồn và các bài nộp để xác minh những phương án nào đã được chọn, đảm bảo phép đo khách quan về kết quả. Cách thiết lập này cho phép các nhà nghiên cứu so sánh các lựa chọn với những lần tung đồng xu ngẫu nhiên vốn xác định lập trường của AI.

Chi tiết chính

• Các nhà phân tích đã tuân theo khuynh hướng của tác nhân AI trong 86% số lần đối với bốn quyết định phân tích.
• Khi AI không đồng ý với sở thích ban đầu của nhà phân tích, nhà phân tích đã thay đổi lựa chọn trong 60% số lần.
• 77% người tham gia lặp lại các lập luận của AI trong các khảo sát sau nhiệm vụ, đôi khi từng chữ một.
• Chỉ 15% nhà phân tích ghi nhận AI là nguồn gốc cho lý lẽ của họ trong các giải thích.
• Các chuyên gia sử dụng AI mắc ít lỗi phương pháp luận nghiêm trọng hơn nhiều so với những người không dùng.
• Tuổi tác là yếu tố nhân khẩu học duy nhất có liên kết lỏng lẻo với mức độ tuân phục cao hơn, mặc dù phát hiện này không đủ vững chắc.

Tại sao điều này quan trọng

Đối với các kỹ sư xây dựng quy trình làm việc tự động (agentic workflows), nghiên cứu này nhấn mạnh một rủi ro then chốt: thiên kiến tự động hóa (automation bias) trong quá trình ra quyết định có tính chất sống còn. Khi các công cụ AI đảm nhận nhiều nhiệm vụ trực tiếp hơn, vai trò còn lại của con người thường là đưa ra các phán đoán về những chỉ số mơ hồ. Nếu người dùng vô thức chấp nhận các sở thích tùy tiện của AI, các quyết định resulting có thể phản ánh thiên kiến trong dữ liệu huấn luyện của mô hình thay vì giá trị con người hoặc chuyên môn lĩnh vực. Điều này đặc biệt đáng lo ngại trong các lĩnh vực như phân tích chính sách hoặc nghiên cứu khoa học, nơi sự giám sát độc lập của con người là thiết yếu.

Các phát hiện cũng thách thức giả định rằng kinh nghiệm giúp bảo vệ chống lại ảnh hưởng của AI. Nghiên cứu không tìm thấy mối tương quan đáng kể giữa số năm kinh nghiệm, trình độ học vấn, hoặc mức độ chuyên môn tự đánh giá với khả năng tuân phục tác nhân AI. Điều này gợi ý rằng các giao diện và mẫu tương tác hiện tại có thể vốn dĩ khuyến khích sự chấp nhận thụ động các gợi ý từ AI, bất kể kỹ năng của người dùng. Các nhà phát triển phải xem xét cách thiết kế hệ thống nhằm bảo toàn tính chủ động của con người thay vì bào mòn nó qua sự tiện lợi.

Bạn có thể làm gì

• Thiết kế các giao diện AI phân biệt rõ ràng giữa dữ kiện thực tế và ý kiến của mô hình.
• Yêu cầu người dùng biện minh cho lựa chọn của họ trước khi hiển thị khuyến nghị của AI để ngăn chặn hiệu ứng neo đậu (anchoring).
• Triển khai các "chế độ thách thức" (challenge modes) nơi AI lập luận chống lại giả thuyết ban đầu của người dùng để kiểm tra niềm tin của họ.
• Ghi nhật ký và kiểm toán dấu vết quyết định để xác định khi nào phán đoán của con người trùng khớp quá chặt chẽ với các cài đặt mặc định của AI.
• Đào tạo các nhóm làm việc nhận diện thiên kiến tự động hóa và khuyến khích sự hoài nghi đối với các lý lẽ do AI tạo ra.
• Tránh trình bày các gợi ý của AI như những câu trả lời dứt khoát; hãy khung cảnh chúng như một trong nhiều góc nhìn hợp lệ.