Bảo mật & quyền riêng tư

Amazon tiết lộ cách các tác nhân AI tự động hóa việc đánh cắp thông tin đăng nhập và gian lận deepfake

Amazon Threat Intelligence đã quan sát thấy các nhóm đe dọa sử dụng khung ARTEX để đánh cắp thông tin đăng nhập của mô hình AI và vượt qua xác minh danh tính bằng deepfake trong khoảng thời gian từ tháng 10 đến tháng 11 năm 2026.

Một bàn tay robot được tạo từ các đường mạch điện đang với lấy một chiếc chìa khóa trong tủ rack máy chủ.
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Từ ngày 3 tháng 10 đến ngày 5 tháng 11 năm 2026, mạng lưới bẫy MadPot của Amazon đã thu thập được các hồ sơ hoạt động chi tiết từ các tác nhân AI thực hiện các chiến dịch tội phạm mạng tấn công. Các tác nhân này, được vận hành bởi khung mã nguồn mở ARTEX, nhắm mục tiêu vào cơ sở hạ tầng AI và các sàn giao dịch tiền điện tử với sự can thiệp tối thiểu của con người. Những phát hiện này cho thấy sự chuyển dịch sang các cuộc tấn công tự động có khả năng tự duy trì, nơi các tài nguyên bị đánh cắp sẽ cung cấp kinh phí cho những lần xâm nhập tiếp theo.

Điều gì đã xảy ra

Amazon Threat Intelligence đã phân tích các yêu cầu gửi tới các cảm biến MadPot, vốn được cấu hình để giả mạo các API suy luận của các mô hình ngôn ngữ lớn (LLM) phổ biến. Các tác nhân AI tấn công đã coi những bẫy này là backend hợp lệ, vô tình tải lên bộ nhớ hoạt động của chính chúng, bao gồm các prompt hệ thống, lịch sử công cụ và trạng thái chiến dịch. Dữ liệu telemetry này cung cấp một cái nhìn hiếm hoi vào logic nội tại và tiến độ của các hoạt động đe dọa đang diễn ra. Amazon đánh giá rằng hoạt động này liên quan đến nhiều nhóm đe dọa khác nhau có liên hệ với Trung Quốc, dựa trên việc sử dụng tiếng Trung giản thể trong các prompt, cấu hình múi giờ Trung Quốc và các mẫu nhắm mục tiêu cụ thể.

Cuộc điều tra làm nổi bật hai chiến dịch chính. Chiến dịch đầu tiên tập trung vào việc đánh cắp quy mô công nghiệp các khóa API và thông tin đăng nhập cho các mô hình AI. Chiến dịch thứ hai nhằm mục đích vượt qua quy trình xác minh khách hàng (KYC) tại các sàn giao dịch tiền điện tử bằng cách sử dụng deepfake thời gian thực. Trong cả hai trường hợp, các tác nhân hoạt động với mức độ tự chủ cao, tuân theo các chỉ dẫn định sẵn xác định mục tiêu, ràng buộc và ưu tiên mục tiêu, đồng thời tự mình thực hiện các công việc kỹ thuật. Amazon đã thông báo cho các khách hàng AWS có thể bị ảnh hưởng nhưng cũng chia sẻ công khai các chỉ số xâm nhập (IoC) để giúp các tổ chức khác bảo vệ môi trường của họ.

Cách thức hoạt động

Khung ARTEX tổ chức các hoạt động tấn công bằng cách phân chia lao động giữa các tác nhân chuyên biệt, chẳng hạn như lập kế hoạch, thực thi, xác minh và nén dữ liệu. Các tác nhân này chia sẻ một đồ thị tri thức bền vững đóng vai trò như bộ nhớ chung, cho phép mỗi thành phần đọc các kết quả trước đó và ghi lại các kết quả mới. Kiến trúc này cho phép hệ thống duy trì ngữ cảnh qua hàng trăm mục tiêu và các cuộc tấn công đa bước phức tạp mà không cần sự giám sát liên tục của con người. Khi một tác nhân tương tác với một dịch vụ bên ngoài, nó gửi toàn bộ lịch sử hoạt động của mình, đây là cách MadPot đã nắm bắt được toàn bộ câu chuyện chiến dịch.

Trong chiến dịch đánh cắp thông tin đăng nhập, các tác nhân quét các ứng dụng AI tiếp xúc với internet, trích xuất các khóa nhà cung cấp upstream và xác thực chúng với các dịch vụ token. Họ ưu tiên các trang sản xuất doanh nghiệp và xếp hạng thông tin đăng nhập dựa trên tính hữu ích, bỏ qua những thông tin đã bị lộ công khai hơn 30 ngày. Các khóa bị đánh cắp được đưa trở lại gateway mô hình của khung, tạo ra một vòng lặp tự cung tự cấp nơi các tài nguyên bị xâm phạm chi trả cho sức mạnh tính toán cần thiết để tìm kiếm thêm nạn nhân. Các tác nhân nhắm vào những lỗ hổng cụ thể trên các nền tảng như LiteLLM, Langflow và RAGFlow, khai thác các thông tin đăng nhập mặc định và các phương pháp bỏ qua xác thực.

Đối với chiến dịch deepfake, các tác nhân cố gắng đánh bại các kiểm tra tính sống động (liveness checks) bằng cách dịch ngược các giao thức của nhà cung cấp. Họ ghi lại các luồng sự kiện phát hiện khuôn mặt và hệ tọa độ, nhằm đặt các khuôn mặt tổng hợp trong dung sai pixel chính xác. Mặc dù các phán quyết phía máy chủ đã bác bỏ các nỗ lực này, các tác nhân đã xây dựng một đường ống video thời gian thực trên phần cứng tiêu dùng đạt tốc độ 11,5 khung hình/giây. Họ cũng giả mạo các tài liệu ID bằng cách giữ nguyên các bảng nén camera gốc và tổng hợp metadata để làm cho các hình ảnh chỉnh sửa trông chân thực ở cấp độ tệp.

Chi tiết chính

  • Kẻ tấn công đã sử dụng khung thử nghiệm thâm nhập AI tác nhân mã nguồn mở ARTEX để điều phối các chiến dịch.
  • Các cảm biến MadPot đã nắm bắt bộ nhớ của tác nhân bằng cách giả mạo các API suy luận LLM, tiết lộ các trạng thái chiến dịch nội bộ.
  • Một chiến dịch đã đánh cắp thông tin đăng nhập mô hình AI để tạo ra một vòng lặp tự duy trì, nơi các khóa bị đánh cắp cung cấp kinh phí cho các cuộc tấn công tiếp theo.
  • Một chiến dịch khác nhắm vào các kiểm tra KYC tiền điện tử bằng deepfake thời gian thực chạy ở tốc độ 11,5 khung hình/giây.
  • Các nhóm đe dọa được đánh giá với độ tin cậy vừa phải là có liên hệ với Trung Quốc dựa trên ngôn ngữ và mục tiêu nhắm tới.
  • Các tác nhân đã khai thác các lỗ hổng đã biết trên các nền tảng AI như LiteLLM, Langflow và RAGFlow, bao gồm CVE-2025-3248.

Tại sao điều này quan trọng

Báo cáo này chứng minh rằng AI tác nhân đã vượt ra khỏi các khái niệm thử nghiệm để trở thành các hoạt động tấn công kéo dài, có động cơ tài chính. Tốc độ và sự kiên trì của các tác nhân tự động này có nghĩa là những thất bại cơ bản về vệ sinh bảo mật, chẳng hạn như thông tin đăng nhập được hardcode hoặc phần mềm chưa được vá lỗi, sẽ bị khai thác gần như ngay lập tức. Các nhà phòng thủ không còn có thể dựa vào giả định rằng kẻ tấn công cần nhiều thời gian để thăm dò hệ thống thủ công; các tác nhân AI có thể quét, xác thực và leo thang đặc quyền nhanh chóng trên hàng trăm mục tiêu.

Đối với các kỹ sư phần mềm và lãnh đạo an ninh, điều này nhấn mạnh nhu cầu cấp thiết phải xử lý các ứng dụng AI và gateway mô hình với cùng mức độ nghiêm ngặt như các hệ thống sản xuất truyền thống. Các bí mật bị lộ trong JavaScript phía client, tệp môi trường hoặc kho mã công khai là những mục tiêu dễ dàng cho các máy quét tự động. Bản chất tự cung tự cấp của chiến dịch đánh cắp thông tin đăng nhập cũng ngụ ý rằng một vi phạm duy nhất có thể nhanh chóng mở rộng phạm vi, vì kẻ tấn công sử dụng các tài nguyên tính toán bị đánh cắp để khuếch đại tầm với mà không phải chịu thêm chi phí.

Bạn có thể làm gì

  • Kiểm toán các nền tảng ứng dụng AI và gateway mô hình để tìm thông tin đăng nhập mặc định, endpoint không xác thực và bí mật bị lộ.
  • Xoay vòng các khóa API và thông tin đăng nhập đã bị lộ công khai, đặc biệt là những thông tin cũ hơn 30 ngày.
  • Áp dụng các bản vá cho các lỗ hổng đã biết trong các công cụ AI, bao gồm CVE-2025-3248 trong Langflow và CVE-2026-28797 trong RAGFlow.
  • Giám sát việc sử dụng dịch vụ AI để phát hiện chi tiêu bất ngờ hoặc các mẫu lưu lượng bất thường có thể chỉ ra khóa bị xâm phạm.
  • Triển khai các biện pháp kiểm soát nghiêm ngặt đối với lưu lượng outbound từ cơ sở hạ tầng AI để ngăn chặn rò rỉ dữ liệu và giao tiếp chỉ huy-và-kiểm soát (command-and-control).
  • Xem xét và củng cố các quy trình xác minh danh tính để phát hiện phương tiện tổng hợp và metadata tài liệu bị thao túng.
  • #ai security
  • #threat intelligence
  • #cybercrime
  • #deepfakes
  • #aws

Công cụ từ cửa hàng Bytechap

Đọc tiếp

Tất cả bài viết