Bảo mật & quyền riêng tư

Google báo cáo về các tác nhân AI tự động hóa việc tạo khai thác lỗ hổng và dịch ngược bản vá

Google tiết lộ rằng các nhóm đe dọa đang sử dụng các khung AI tự chủ để dịch ngược bản vá và phát động tấn công với tốc độ máy móc, thu hẹp đáng kể cửa sổ phòng thủ.

Minh họa các cuộc tấn công mạng do AI thúc đẩy phá vỡ các lớp phòng thủ kỹ thuật số
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Google đã báo cáo vào thứ Hai rằng tội phạm mạng đã vượt qua giai đoạn chỉ dẫn AI thủ công để triển khai các hệ thống đa tác nhân tự chủ nhằm thực hiện các cuộc xâm nhập phức tạp. Các khung đối kháng này tự động hóa quá trình dịch ngược các bản vá phần mềm, cho phép kẻ tấn công vũ khí hóa các lỗ hổng nhanh hơn đáng kể so với trước đây.

Điều gì đã xảy ra

Nhóm Tình báo Đe dọa của Google (GTIG) đã xác định sự chuyển dịch sang việc sử dụng các khung tấn công tự chủ như ARTEX, CAIRN, CyberStrikeAI và PentAGI. Những công cụ này cho phép các nhóm đe dọa thực hiện các cuộc xâm nhập nhiều giai đoạn với tốc độ vận hành cao hơn. Thay vì chỉ dựa vào con người để liên kết các bước tấn công, các hệ thống tác nhân này tự động hóa các giai đoạn riêng biệt trong các cuộc xâm nhập trực tiếp, giúp mở rộng quy mô hoạt động ở tốc độ máy móc.

Một thành phần quan trọng của sự tiến hóa này là tự động hóa phân tích bản vá. Kẻ tấn công đang sử dụng các mô hình ngôn ngữ lớn (LLM) và các khung tác nhân để thực hiện phân tích khác biệt trên các bản cập nhật phần mềm. Quy trình này cho phép họ nhanh chóng xác định và khai thác các lỗi trong phần mềm mới được vá. Google trích dẫn trường hợp các lỗ hổng PaperCut NG/MF từ tháng Chín như một ví dụ nơi phương pháp này được quan sát thấy. Bằng cách so sánh các phiên bản mã nguồn, bao gồm cả các kênh phát hành trước đó, và xem xét ghi chú phát hành, kẻ tấn công có thể rút ngắn thời gian giữa việc công bố bản vá và khai thác thực tế.

Báo cáo cũng nhấn mạnh sự tham gia của các nhóm có động cơ tài chính và các tác nhân gián điệp nghi ngờ liên kết với Trung Quốc. Những tác nhân này đang thử nghiệm các khung kiểm tra thâm nhập bằng tác nhân mã nguồn mở để hạ thấp rào cản gia nhập cho các cuộc tấn công tinh vi. Các công cụ như ZeroHollow, một dịch vụ suy luận cho việc phát triển khai thác, và Agent Zero, với tính năng thực thi mã tự chủ, đang được tận dụng để tích hợp các khai thác mới và mở rộng quy mô tấn công một cách tự động.

Cách thức hoạt động

Các khung AI tác nhân hoạt động bằng cách liên kết các tác nhân chuyên biệt xử lý những nhiệm vụ cụ thể trong vòng đời tấn công. Thay vì một mô hình đơn lẻ cố gắng quản lý toàn bộ cuộc xâm nhập, các hệ thống này ủy quyền trách nhiệm. Một tác nhân có thể phân tích bản vá, một tác nhân khác có thể tạo mã chứng minh khái niệm (proof-of-concept), và một tác nhân thứ ba có thể xử lý việc triển khai. Cách tiếp cận mô-đun này cho phép xử lý song song và lặp lại nhanh chóng, đẩy nhanh đáng kể dòng thời gian tấn công.

Trong bối cảnh dịch ngược bản vá, LLM được sử dụng để so sánh các phiên bản khác nhau của mã nguồn. Các mô hình xác định những thay đổi được thực hiện để sửa lỗi và sau đó suy luận cách bỏ qua các bản sửa lỗi hoặc khai thác lỗi cơ bản trước khi bản vá được áp dụng. Phân tích khác biệt tự động này loại bỏ nhu cầu dịch ngược thủ công tốn nhiều công sức, cho phép kẻ tấn công tập trung vào một tập hợp hữu hạn các tài liệu nguồn và nhanh chóng tạo ra các khai thác vũ khí hóa.

Ngoài ra, các hệ thống này đang được tích hợp vào các nền tảng phishing-as-a-service (giả mạo dưới dạng dịch vụ). Ví dụ, nền tảng tiếng Trung Jieyou đã tích hợp một trợ lý chatbot LLM. Điều này cho phép người dùng có ít kiến thức kỹ thuật cấu hình các bảng điều khiển phishing và chỉnh sửa mẫu bằng các lệnh ngôn ngữ tự nhiên. AI tùy chỉnh động các mồi nhử giả mạo và giao diện, làm cho các chiến dịch phishing trở nên thuyết phục hơn và dễ dàng khởi chạy ở quy mô lớn.

Chi tiết chính

  • Google xác định các khung tấn công tự chủ bao gồm ARTEX, CAIRN, CyberStrikeAI và PentAGI đang được các nhóm đe dọa sử dụng.
  • Kẻ tấn công sử dụng LLM cho phân tích khác biệt của bản vá, đẩy nhanh quá trình vũ khí hóa các lỗ hổng như những lỗ hổng trong PaperCut NG/MF.
  • Các công cụ mã nguồn mở như Agent Zero và các dịch vụ như ZeroHollow đang bị lạm dụng để tự động hóa việc phát triển khai thác và thực thi mã.
  • Các nhóm có động cơ tài chính và các tác nhân gián điệp nghi ngờ của Trung Quốc nằm trong số những người thử nghiệm các khung tác nhân này.
  • Các nền tảng phishing như Jieyou hiện sử dụng chatbot LLM để cho phép người dùng có kỹ năng thấp tùy chỉnh giao diện phishing thông qua ngôn ngữ tự nhiên.
  • Các nhóm đe dọa cũng tham gia vào LLMjacking, đánh cắp tài nguyên đám mây và thông tin đăng nhập để bán lại quyền truy cập thông qua các dịch vụ proxy như APIMart và JetNight.

Tại sao điều này quan trọng

Đối với các nhà phát triển phần mềm và kỹ sư bảo mật, việc nén dòng thời gian giữa phát hành bản vá và khai thác là một thách thức nghiêm trọng. Theo truyền thống, có một khoảng thời gian sau khi bản vá được phát hành mà các tổ chức có thể áp dụng cập nhật trước khi khai thác lan rộng xảy ra. Với dịch ngược do AI thúc đẩy, cửa sổ này đang thu hẹp nhanh chóng, có nghĩa là các hệ thống chưa được vá trở nên dễ bị tổn thương gần như ngay lập tức sau khi bản sửa lỗi được công khai. Điều này chuyển gánh nặng từ vá lỗi phản ứng sang quản lý lỗ hổng chủ động và kiến trúc phòng thủ vững chắc.

Việc dân chủ hóa các công cụ tấn công tinh vi thông qua các khung mã nguồn mở và trợ lý AI hạ thấp ngưỡng kỹ năng cho tội phạm mạng. Các tác nhân trước đây thiếu chuyên môn để phát triển khai thác tùy chỉnh hoặc soạn thảo các chiến dịch phishing thuyết phục giờ đây có thể tận dụng AI để thực hiện những nhiệm vụ này. Điều này làm tăng khối lượng và sự đa dạng của các mối đe dọa mà các tổ chức phải phòng thủ, đòi hỏi các đội bảo mật phải dự đoán các cuộc tấn công tự động, có khả năng mở rộng quy mô chứ không chỉ là các cuộc tấn công thủ công.

Hơn nữa, việc nhắm mục tiêu vào chính cơ sở hạ tầng AI, được gọi là LLMjacking, giới thiệu một vector mới cho trộm cắp tài nguyên và rò rỉ dữ liệu. Khi các doanh nghiệp tích hợp nhiều LLM hơn vào quy trình làm việc của họ, việc bảo vệ các tài sản này trở nên quan trọng ngang với việc bảo vệ các máy chủ và cơ sở dữ liệu truyền thống. Việc bán lại các tài nguyên AI bị đánh cắp thông qua các thị trường ngầm cho thấy động lực kinh tế ngày càng tăng cho việc tấn công chuỗi cung ứng AI.

Bạn có thể làm gì

  • Ưu tiên các chu kỳ vá lỗi nhanh chóng và cân nhắc sử dụng vá ảo hoặc tường lửa ứng dụng web để bảo vệ hệ thống trước khi các bản cập nhật có thể được áp dụng.
  • Triển khai kiểm soát truy cập nghiêm ngặt và giám sát cho cơ sở hạ tầng AI để phát hiện và ngăn chặn LLMjacking cũng như việc sử dụng tài nguyên trái phép.
  • Xem xét và hạn chế việc sử dụng các khung tác nhân mã nguồn mở trong tổ chức của bạn để ngăn ngừa việc sử dụng sai hoặc lộ thông tin vô tình.
  • Nâng cao đào tạo nhận thức về phishing để bao gồm các ví dụ về nội dung do AI tạo ra, tập trung vào các kỹ thuật mồi nhử động và cá nhân hóa.
  • Giám sát các mẫu bất thường trong truy cập kho lưu trữ mã và hoạt động phân tích bản vá có thể chỉ ra nỗ lực dịch ngược đối kháng.
  • Áp dụng kiến trúc zero-trust (không tin cậy mặc định) để hạn chế tác động của thông tin đăng nhập bị xâm phạm và chuyển động ngang trong mạng của bạn.
  • #ai security
  • #cybersecurity
  • #exploit development
  • #patch management
  • #threat intelligence

Công cụ từ cửa hàng Bytechap

Đọc tiếp

Bảo mật & quyền riêng tư

Amazon tiết lộ cách các tác nhân AI tự động hóa việc đánh cắp thông tin đăng nhập và gian lận deepfake

Amazon Threat Intelligence đã quan sát thấy các nhóm đe dọa sử dụng khung ARTEX để đánh cắp thông tin đăng nhập của mô hình AI và vượt qua xác minh danh tính bằng deepfake trong khoảng thời gian từ tháng 10 đến tháng 11 năm 2026.

Tất cả bài viết