AI agent

Cách một trang web duy nhất vượt qua các biện pháp kiểm soát bảo mật của Meta Muse

Các nhà nghiên cứu đã chứng minh cách một trang web độc hại có thể chiếm quyền điều khiển các tác nhân Meta Muse để truy cập vào các cuộc trò chuyện riêng tư và thông tin đăng nhập, khai thác các lỗ hổng trình duyệt và kernel bất chấp việc sử dụng sandbox.

Hình minh họa một container AI agent an toàn bị xâm phạm bởi một kỹ thuật khai thác dựa trên web
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Các nhà nghiên cứu bảo mật tại NebuSec đã chứng minh rằng một trang web độc hại duy nhất có thể xâm phạm Meta Muse, trợ lý AI cá nhân do Meta ra mắt vào ngày 8 tháng 9. Cuộc tấn công cho phép trích xuất các cuộc hội thoại riêng tư và bộ nhớ lưu trữ mà không kích hoạt các lời nhắc phê duyệt từ người dùng. Mặc dù buổi demo chỉ được thực hiện trong môi trường phòng thí nghiệm và không ảnh hưởng đến người dùng thực tế, nó tiết lộ những rủi ro đáng kể trong cách các tác nhân AI dựa trên đám mây xử lý nội dung web không đáng tin cậy.

Chuyện gì đã xảy ra

Lõi của lỗ hổng nằm ở cách Muse tương tác với web. Khi tác nhân truy cập vào một trang web độc hại được thiết kế đặc biệt, nó có thể âm thầm trích xuất lịch sử hội thoại và bộ nhớ dài hạn của người dùng sang một máy chủ bên ngoài. Cuộc tấn công không dừng lại ở đó. Các nhà nghiên cứu đã chỉ ra rằng cơ chế tương tự có thể được mở rộng để truy cập thông tin đăng nhập của các tài khoản đã kết nối, mà Muse sử dụng để thực hiện các nhiệm vụ như mua sắm thay mặt người dùng. Quan trọng hơn, điều này xảy ra mà không có bất kỳ cảnh báo hiển thị hay yêu cầu phê duyệt nào đối với người dùng là con người.

NebuSec đã báo cáo những phát hiện này cho đội ngũ Muse, những người sau đó đã vá mọi điểm yếu được mô tả trong báo cáo. Meta chưa xác nhận công khai về các bản sửa lỗi hoặc bình luận về nghiên cứu, và vẫn chưa rõ liệu có dữ liệu người dùng nào bị truy cập trong thực tế trước khi các bản vá được triển khai hay không. Sự cố này khác với một lỗ hổng được phát hiện trước đó vào tháng 9, vốn đòi hỏi phần mềm độc hại phải đã tồn tại trên thiết bị Mac cục bộ của người dùng. Ngược lại, vector tấn công mới này nhắm trực tiếp vào cơ sở hạ tầng đám mây lưu trữ tác nhân.

Cách thức hoạt động

Muse hoạt động bằng cách chạy tác nhân của mỗi người dùng trên một máy tính đám mây cô lập riêng. Một lớp bảo mật gọi là Sentinel đóng vai trò là cổng chính, được thiết kế để giám sát lưu lượng đi ra ngoài và giữ các token nhạy cảm cùng mật khẩu tránh xa tầm với trực tiếp của tác nhân. Hệ thống này được xây dựng dựa trên giả định rõ ràng rằng bản thân tác nhân có thể bị xâm phạm, nhằm mục đích hạn chế thiệt hại thông qua sự cô lập nghiêm ngặt. Tuy nhiên, các nhà nghiên cứu đã tìm ra cách vượt qua các ranh giới dự kiến này.

Chuỗi tấn công bắt đầu bằng một lỗ hổng trong trình duyệt tích hợp sẵn của Muse, công cụ mà trợ lý sử dụng cho các nhiệm vụ như tạo PDF. Bằng cách khai thác lỗ hổng trình duyệt này, các nhà nghiên cứu đã có thể kích hoạt một lỗ hổng thứ cấp trong kernel Linux nền tảng. Sự kết hợp này mang lại cho họ toàn quyền kiểm soát máy tính đám mây cụ thể đang lưu trữ tác nhân của người dùng đó. Với quyền truy cập cấp root, họ có thể bỏ qua Sentinel, truy cập kho lưu trữ thông tin đăng nhập, đọc các tệp đã lưu và thay đổi hành vi của tác nhân. Mặc dù các biện pháp kiểm soát cô lập hoạt động đúng như thiết kế để ngăn chặn sự lây lan sang những người dùng khác hoặc máy chủ chia sẻ, cuộc tấn công đã thành công trong việc xâm phạm hoàn toàn môi trường của từng tác nhân riêng lẻ.

Chi tiết chính

  • Cuộc tấn công được NebuSec demo trong môi trường phòng thí nghiệm và không ảnh hưởng đến người dùng thực tế.
  • Meta Muse ra mắt vào ngày 8 tháng 9 và chạy tác nhân của mỗi người dùng trên một máy tính đám mây riêng biệt.
  • Một trang web độc hại có thể trích xuất các cuộc trò chuyện riêng tư và bộ nhớ mà không kích hoạt các lời nhắc từ người dùng.
  • Kỹ thuật khai thác (exploit) kết hợp một lỗ hổng trình duyệt trong công cụ tạo PDF của Muse với một lỗ hổng kernel Linux.
  • Toàn quyền kiểm soát máy tính đám mây cho phép truy cập vào thông tin đăng nhập và lớp giám sát Sentinel.
  • Tất cả các lỗ hổng được xác định đều đã được đội ngũ Muse khắc phục trước khi nghiên cứu được công bố.

Tại sao điều này quan trọng

Đối với các nhà phát triển xây dựng hệ thống tác nhân (agentic systems), nghiên cứu tình huống này làm nổi bật khó khăn trong việc bảo vệ các tác nhân AI tương tác với web mở. Ngay cả khi một hệ thống được thiết kế theo nguyên tắc "zero trust" (không tin tưởng) và sandboxing mạnh mẽ, các chuỗi lỗ hổng phức tạp trong các thành phần nền tảng như trình duyệt và kernel có thể phá vỡ các đảm bảo bảo mật cấp cao. Nó cho thấy rằng việc giả định tác nhân là thù địch là không đủ nếu chính môi trường thực thi có thể bị lật đổ thông qua các kỹ thuật khai thác web tiêu chuẩn.

Sự cố này cũng nhấn mạnh những rủi ro độc đáo của các tác nhân dựa trên đám mây so với các tác nhân cục bộ. Bởi vì các tác nhân này có quyền truy cập liên tục vào tài khoản người dùng và các công cụ tài chính, một cuộc xâm phạm thành công cung cấp cho kẻ tấn công đòn bẩy ngay lập tức. Các kỹ sư phải xem xét không chỉ vấn đề chèn prompt (prompt injection) hay hành vi của mô hình, mà còn toàn bộ stack phần mềm hỗ trợ tác nhân, bao gồm các engine trình duyệt và kernel hệ điều hành xử lý nội dung không đáng tin cậy.

Bạn có thể làm gì

  • Kiểm toán cách các tác nhân AI của bạn xử lý nội dung web không đáng tin cậy và hạn chế khả năng của trình duyệt khi có thể.
  • Đảm bảo chiến lược sandboxing của bạn tính đến các thoát khỏi cấp độ kernel, không chỉ cô lập ở tầng ứng dụng.
  • Triển khai giám sát nghiêm ngặt đối với các chuyển dữ liệu đi ra ngoài từ môi trường tác nhân để phát hiện hành vi trích xuất dữ liệu.
  • Giữ cho tất cả các phụ thuộc nền tảng, bao gồm engine trình duyệt và kernel hệ điều hành, luôn được cập nhật chặt chẽ.
  • Thiết kế quyền truy cập thông tin đăng nhập sao cho ngay cả khi máy bị xâm phạm hoàn toàn cũng không tự động lộ ra các token.
  • Giả định rằng bất kỳ thành phần nào tương tác với internet công cộng đều là một điểm vào tiềm năng cho các cuộc tấn công.
  • #ai security
  • #meta muse
  • #cloud security
  • #prompt injection
  • #vulnerability

Công cụ từ cửa hàng Bytechap

Đọc tiếp

AI agent

Giảm độ trễ của tác nhân robot bằng cách xử lý song song giữa suy luận và chuyển động

Các kỹ sư đã giảm thời gian hoàn thành nhiệm vụ thực tế của robot từ 18 phút xuống còn 6 phút nhờ tối ưu hóa khung chạy (harness) của tác nhân, sử dụng kernel thường trú và cơ chế thực thi theo đường ống để che giấu độ trễ của mô hình đằng sau các chuyển động

Tất cả bài viết