Bảo mật & quyền riêng tư

Microsoft công bố Lazarus: cài cửa hậu vào AI agent bằng cách chỉnh sửa chưa đến 10 neuron

Các nhà nghiên cứu của Microsoft đã trình diễn một kỹ thuật mang tên Lazarus, cho phép chèn các cửa hậu ẩn vào mô hình AI bằng cách chỉnh sửa chưa đến 10 neuron, giúp kẻ tấn công thực thi lệnh thông qua các chuỗi kích hoạt cụ thể.

Một khối lập phương kính hiển thị mạng nơ-ron với các nút màu đỏ nổi bật đại diện cho các neuron bị cài cửa hậu.
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Các nhà nghiên cứu của Microsoft đã chứng minh một phương pháp mới để chèn các cửa hậu ẩn vào các mô hình trí tuệ nhân tạo (AI) bằng cách chỉnh sửa chưa đến 10 neuron. Nghiên cứu được công bố trong tuần này cho thấy cách một kẻ tấn công có quyền ghi vào trọng số của mô hình có thể buộc một AI agent thực hiện các lệnh độc hại khi xuất hiện một chuỗi kích hoạt cụ thể. Kỹ thuật này, được đặt tên là Lazarus, không yêu cầu quá trình huấn luyện lại toàn bộ và hầu như không ảnh hưởng đến các chuẩn đánh giá hiệu suất tiêu chuẩn.

Chuyện gì đã xảy ra

Nhóm nghiên cứu đã thử nghiệm phương pháp Lazarus trên ba mô hình mã nguồn mở (open-weight): Nemotron-Terminal-8B, Qwen3.6-27B và Gemma-4-31B-IT. Họ nhắm mục tiêu vào các neuron ít được sử dụng trong các lớp feed-forward cuối cùng của mô hình, biến đổi chúng để chỉ kích hoạt khi có mặt một chuỗi kích hoạt cụ thể trong đầu vào của người dùng hoặc đầu ra của công cụ. Mỗi neuron được chỉnh sửa sẽ ép buộc một token của lệnh vào phản hồi của mô hình, nghĩa là một lệnh ngắn chỉ cần một vài neuron được sửa đổi. Các nhà nghiên cứu tính toán trực tiếp các thiết lập mới và tinh chỉnh chúng chỉ với vài trăm bước huấn luyện trên riêng những neuron đó.

Trong một buổi trình diễn sử dụng Nemotron-Terminal-8B, nhóm đã chỉnh sửa bảy trong số hơn 12.000 neuron chỉ bằng cách sử dụng 23 phiên ví dụ. Mô hình bị cài cửa hậu đã xuất thành công một lệnh kiểm tra trong ít nhất 98,8% các phiên chứa chuỗi kích hoạt, trong khi không tạo ra đầu ra tương tự trong các phiên không có chuỗi kích hoạt. Khi tạo văn bản tự do, mô hình thực hiện lệnh trong khoảng 99% các trường hợp được kích hoạt. Các bài kiểm tra tương tự trên các mô hình Qwen và Gemma cho thấy tỷ lệ thành công dao động từ 51% đến 99,5%, tùy thuộc vào cấu hình. Microsoft tuyên bố rằng họ chưa quan sát thấy các tác nhân đe dọa sử dụng kỹ thuật này trong thực tế.

Quan trọng hơn, các mô hình đã được chỉnh sửa vẫn giữ lại phần lớn khả năng gốc của chúng. Cả hai phiên bản Qwen bị cài cửa hậu đều duy trì điểm số toán học AIME, và tỷ lệ vượt qua bài kiểm tra Terminal-Bench chỉ giảm nhẹ từ 46,59% xuống còn 42,05%. Điều này cho thấy các bộ đánh giá tiêu chuẩn có thể không phát hiện ra những thao túng tinh vi như vậy. Các nhà nghiên cứu lưu ý rằng mức độ thiệt hại tiềm tàng phụ thuộc hoàn toàn vào các quyền hạn được cấp cho AI agent, vì lệnh được chèn có thể tải xuống và chạy các script tùy ý.

Cách thức hoạt động

Lazarus khai thác thực tế là nhiều neuron trong các mô hình ngôn ngữ lớn hiếm khi hoạt động và đóng góp rất ít vào các đầu ra chung. Bằng cách xác định những neuron "ngủ đông" này, kẻ tấn công có thể tái sử dụng chúng để hoạt động như các công tắc chuyển mạch cho hành vi độc hại. Phương pháp này khác biệt so với các cửa hậu ở cấp độ trọng số trước đây, vốn thường yêu cầu tinh chỉnh (fine-tuning) toàn bộ mô hình trên dữ liệu bị nhiễm độc. Thay vào đó, Lazarus liên quan đến các chỉnh sửa trực tiếp, phẫu thuật chính xác vào các vector trọng số cụ thể, sau đó là quá trình tinh chỉnh tối thiểu. Cách tiếp cận này đòi hỏi sức mạnh tính toán thấp hơn đáng kể so với việc huấn luyện đầy đủ.

Việc phát hiện là một thách thức vì các quy trình hợp pháp như lượng tử hóa (quantization) hoặc tinh chỉnh cũng làm thay đổi trọng số của mô hình, nhưng chúng thực hiện điều đó một cách rộng rãi trên toàn bộ mạng lưới. Lazarus chỉ thay đổi một vài vector trọng số với biên độ lớn. Các nhà nghiên cứu của Microsoft đã phát triển một máy dò phát hiện 91,4% các checkpoint đã chỉnh sửa trong một tập thử nghiệm nhỏ mà không cần so sánh với trọng số gốc, mặc dù nó tạo ra tỷ lệ dương tính giả là 9,7%. Việc yêu cầu các mô hình AI khác kiểm tra các checkpoint đã chứng tỏ độ tin cậy thấp, với Claude Opus 5.5 bỏ sót hầu hết các chỉnh sửa và GPT-6 Astra thất bại trong việc đưa ra quyết định đối với các mô hình sạch.

Chi tiết chính

  • Kỹ thuật Lazarus chỉnh sửa chưa đến 10 neuron ít được sử dụng để chèn cửa hậu mà không cần huấn luyện lại toàn bộ.
  • Mỗi neuron được chỉnh sửa tương ứng với một token của lệnh độc hại, cho phép kiểm soát chính xác đầu ra.
  • Các bài kiểm tra cho thấy tỷ lệ thành công cao, với Nemotron-Terminal-8B thực hiện lệnh trong 98,8% các phiên được kích hoạt.
  • Các chuẩn đánh giá tiêu chuẩn như AIME và Terminal-Bench cho thấy sự suy giảm hiệu suất tối thiểu, khiến việc phát hiện trở nên khó khăn.
  • Kẻ tấn công cần quyền ghi vào checkpoint của mô hình, điều có thể đạt được thông qua các mối đe dọa nội bộ hoặc đường ống xây dựng (build pipeline) bị xâm phạm.
  • Microsoft ghi nhận vai trò của Claude Code chạy Opus 4.5 trong việc giúp khám phá ý tưởng cốt lõi đằng sau phương pháp này.

Tại sao điều này quan trọng

Đối với các nhóm kỹ thuật đang triển khai AI agent, nghiên cứu này nhấn mạnh một rủi ro nghiêm trọng trong chuỗi cung ứng. Bất kỳ ai có thể sửa đổi checkpoint của mô hình trước khi triển khai—dù là người trong nội bộ, kẻ tấn công có thông tin đăng nhập bị đánh cắp, hay một nhà xuất bản độc hại trên hub công cộng—đều có thể nhúng các cửa hậu này. Vì kỹ thuật này không yêu cầu tài nguyên tính toán khổng lồ, nó hạ thấp rào cản cho các cuộc tấn công tinh vi. Thực tế rằng các agent lập trình có thể hỗ trợ xây dựng những cuộc tấn công như vậy càng làm tăng tốc độ phát triển của bối cảnh đe dọa.

Các hàm ý mở rộng xa hơn việc thực thi lệnh đơn giản. Nếu một AI agent có quyền hạn rộng, chẳng hạn như quyền root trong container hoặc khả năng gửi dữ liệu ra ngoài, một lệnh được kích hoạt duy nhất có thể xâm phạm toàn bộ hệ thống. Các biện pháp bảo mật truyền thống tập trung vào quét mã hoặc giám sát hành vi có thể bỏ lỡ những thao túng ở cấp độ trọng số này. Các nhóm hiện nay phải xem xét tính toàn vẹn của chính các trọng số mô hình như một phần của tư thế bảo mật, xử lý các tệp mô hình với sự giám sát chặt chẽ tương đương như các tệp nhị phân thực thi.

Bạn có thể làm gì

  • So sánh mọi checkpoint của mô hình với mô hình cơ sở được khai báo trước khi triển khai và từ chối bất kỳ checkpoint nào không thể xác minh.
  • Chỉ tải các checkpoint từ các nhà xuất bản gốc, xác minh hash của tệp và coi các phiên bản tinh chỉnh từ bên thứ ba là không đáng tin cậy cho đến khi được kiểm toán.
  • Lưu trữ các mô hình đã được phê duyệt trong một registry riêng tư và ngăn chặn các agent tải trực tiếp mô hình từ các hub công cộng.
  • Hạn chế quyền hạn của agent ở mức tối thiểu cần thiết, chạy mã được tạo trong các sandbox cô lập và giới hạn truy cập mạng ra ngoài.
  • Yêu cầu sự phê duyệt của con người đối với các hành động có tác động cao, chẳng hạn như thực thi lệnh hệ thống hoặc truyền dữ liệu nhạy cảm.
  • Triển khai quét hành vi tìm cửa hậu song song với các công cụ so sánh trọng số để phát hiện hành vi bất thường của mô hình.
  • #ai security
  • #machine learning
  • #cybersecurity
  • #model safety
  • #supply chain

Công cụ từ cửa hàng Bytechap

Đọc tiếp

Tất cả bài viết