Bảo mật & quyền riêng tư

Khung phân cấp để trao quyền tự chủ cho các tác nhân AI trong vận hành an ninh

Các nhà lãnh đạo an ninh đang hướng tới việc sử dụng các tác nhân AI tự động cho những nhiệm vụ rủi ro thấp. Một khung mới chia nhỏ quyền tự chủ thành các giai đoạn và cấp độ nhằm quản lý rủi ro hiệu quả.

Giao diện kỹ thuật số hiển thị các cấp độ tự động hóa an ninh và kiểm soát tác nhân AI.
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Các trung tâm vận hành an ninh (SOC) đang chuẩn bị trao nhiều thẩm quyền hơn đáng kể cho các tác nhân trí tuệ nhân tạo trong năm tới. Theo một khảo sát gần đây của a16z, 36% giám đốc bảo mật thông tin (CISO) tại các tổ chức lớn hiện cho phép AI hoạt động tự chủ đối với các nhiệm vụ rủi ro thấp, con số này dự kiến sẽ tăng lên 60% trong vòng mười hai tháng. Sự chuyển dịch này được thúc đẩy bởi nhu cầu cấp bách phải chống lại các cuộc tấn công được tăng tốc bởi AI, vốn vượt quá khả năng phản hồi của con người.

Điều gì đã xảy ra

Động lực chính cho sự chuyển đổi này là sự khan hiếm thời gian của các chuyên gia phân tích. Trong cùng khảo sát của a16z, 55% người tham gia xác định các cuộc tấn công được tăng tốc bởi AI là mối lo ngại hàng đầu, lưu ý rằng các đội ngũ gặp khó khăn trong việc theo kịp khối lượng và tốc độ của các mối đe dọa. Mỗi cảnh báo bảo mật đều đòi hỏi phải trích xuất bằng chứng từ nhiều hệ thống, tái dựng các sự kiện và xác định mức độ liên quan, điều này tiêu tốn nguồn lực hạn chế của con người. Mặc dù nhu cầu về tự động hóa rất cao, nhưng sự thận trọng vẫn phổ biến đối với các hành động có tính chất then chốt. Chỉ 1% lãnh đạo cảm thấy thoải mái với quyền tự chủ hoàn toàn cho hầu hết các hành động hiện nay, và chỉ 7% kỳ vọng đạt được điều đó trong một năm tới.

Các cuộc thảo luận hiện tại thường mô tả quyền tự chủ như một lựa chọn nhị phân giữa việc AI đề xuất hành động và AI thực thi chúng. Cách đơn giản hóa quá mức này khiến nhiều chương trình bị đình trệ vì nó không tính đến các mức độ rủi ro khác nhau của từng nhiệm vụ bảo mật. Các chuyên gia lập luận rằng quyền tự chủ không nên là một thanh trượt duy nhất mà là một tập hợp các quyết định được đưa ra cho từng giai đoạn của quy trình làm việc. Các đội ngũ thành công coi quyền tự chủ là thứ mà một tác nhân giành được thông qua độ tin cậy đã được chứng minh và bằng chứng cụ thể, thay vì là một giấy phép chung được cấp ngay từ đầu.

Cơ chế hoạt động

Để quản lý sự phức tạp này, các nhà lãnh đạo an ninh có thể áp dụng một khung ban đầu được phát triển cho tự động hóa hàng không, chia nhỏ các nhiệm vụ thành bốn chức năng: thu thập thông tin, phân tích, lựa chọn quyết định và triển khai hành động. Trong bối cảnh an ninh, những chức năng này tương ứng với việc thu thập bằng chứng, phân tích và phán quyết, đề xuất phản hồi và thực thi phản hồi. Mỗi chức năng có thể có một mức độ tự động hóa khác nhau. Ví dụ, một đội ngũ có thể tự động hóa hoàn toàn việc thu thập bằng chứng và phân tích, nơi sai sót dễ dàng khắc phục, trong khi vẫn giữ sự giám sát của con người đối với việc thực thi, nơi sai lầm có thể làm gián đoạn hoạt động kinh doanh.

Các nhà nghiên cứu tại Đại học Washington tinh chỉnh thêm khung này bằng cách xác định năm cấp độ tự chủ của tác nhân dựa trên vai trò của con người. Cấp độ 1 liên quan đến con người đóng vai trò là người vận hành, chỉ đạo mọi bước. Cấp độ 2 là sự cộng tác, nơi con người và tác nhân cùng lập kế hoạch. Cấp độ 3 xem tác nhân như một cố vấn dẫn dắt nhưng vẫn kiểm tra chuyên môn khi cần. Cấp độ 4 cho phép tác nhân làm việc độc lập, chỉ xin phê duyệt đối với các trường hợp rủi ro. Cấp độ 5 là tự chủ hoàn toàn, với con người chỉ đóng vai trò là người quan sát có thể nhấn nút dừng. Hệ thống thuật ngữ này giúp các đội ngũ xác định chính xác mức độ độc lập mà một tác nhân có ở mỗi giai đoạn của quy trình làm việc an ninh.

Chi tiết chính

  • 36% CISO hiện cho phép AI tự chủ đối với các hành động rủi ro thấp, tăng lên 60% trong một năm.
  • 55% lãnh đạo an ninh lo lắng về các cuộc tấn công được tăng tốc bởi AI vượt quá khả năng của đội ngũ phản hồi.
  • Quyền tự chủ nên được chia thành bốn giai đoạn: thu thập, phân tích, đề xuất và thực thi.
  • Năm cấp độ tự chủ trải dài từ người vận hành (L1) đến người quan sát (L5).
  • Các quyết định về cấp độ tự chủ nên dựa trên tính khả đảo ngược, phạm vi ảnh hưởng (blast radius) và sức mạnh của bằng chứng.
  • 46% CISO lo sợ các tác nhân AI hành động ngoài phạm vi quyền hạn dự kiến hoặc bị xâm nhập.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và trưởng nhóm an ninh, khung này cung cấp một phương pháp thực tế để mở rộng việc áp dụng AI mà không gây ra rủi ro không chấp nhận được. Bằng cách tự động hóa các nhiệm vụ khối lượng lớn, rủi ro thấp như truy vấn nhật ký và làm giàu chỉ số, các đội ngũ có thể giải phóng thời gian của chuyên gia phân tích cho các cuộc điều tra phức tạp. Cách tiếp cận này ngăn chặn điểm nghẽn do yêu cầu phê duyệt của con người cho mọi hành động nhỏ, điều thường dẫn đến tình trạng "đóng dấu suông" (rubber stamping), nơi người xem xét phê duyệt các yêu cầu mà không xác minh đúng mức do áp lực từ hàng đợi.

Tuy nhiên, việc trao quyền tự chủ cũng làm tăng tiềm năng phạm vi ảnh hưởng nếu một tác nhân bị xâm nhập hoặc mắc lỗi. Khảo sát nhấn mạnh rằng 46% CISO lo ngại về các tác nhân hành động ngoài quyền hạn của chúng. Việc coi tác nhân AI như một danh tính đặc quyền với quyền hạn được giới hạn, ghi nhật ký riêng biệt và giám sát chặt chẽ trở nên thiết yếu. Điều này đảm bảo rằng khi quyền tự chủ mở rộng, khả năng phát hiện và đảo ngược các hành động gây hại vẫn được duy trì nguyên vẹn, bảo vệ tổ chức khỏi cả các mối đe dọa bên ngoài và các thất bại nội bộ của AI.

Bạn có thể làm gì

  • Kiểm kê tất cả các hành động mà tác nhân AI của bạn có thể thực hiện và ánh xạ chúng vào bốn giai đoạn của quy trình làm việc.
  • Đánh giá điểm cho từng hành động bằng cách sử dụng một bộ tiêu chí dựa trên tính khả đảo ngược, phạm vi ảnh hưởng và chất lượng bằng chứng.
  • Tự động hóa mạnh mẽ việc thu thập bằng chứng và phân tích, vì những nhiệm vụ này mang lại rủi ro thấp nhất.
  • Yêu cầu dấu vết bằng chứng rõ ràng cho bất kỳ hành động nào cần phê duyệt của con người để ngăn chặn tình trạng đóng dấu suông.
  • Xác định các tiêu chí thăng cấp và giáng cấp cụ thể cho các cấp độ tự chủ trước khi bắt đầu thử nghiệm.
  • Quản trị tác nhân AI giống như một người dùng đặc quyền, với danh tính duy nhất, quyền hạn được giới hạn và nhật ký kiểm toán.
  • #ai security
  • #soc automation
  • #ai agents
  • #cybersecurity
  • #risk management

Công cụ từ cửa hàng Bytechap

Đọc tiếp

Bảo mật & quyền riêng tư

Các tác nhân AI tự hành khai thác lỗ hổng zero-day trong phần mềm hình ảnh y tế

Amazon Threat Intelligence báo cáo rằng các hacker nghi ngờ có liên hệ với Trung Quốc đã sử dụng các tác nhân AI tự hành để phát hiện và khai thác một lỗ hổng traversal đường dẫn nghiêm trọng trong MONAI Label, giành quyền truy cập root vào máy chủ của trường

Tất cả bài viết