セキュリティとプライバシー

セキュリティ運用におけるAIエージェントの自律性を段階的に付与するフレームワーク

セキュリティリーダーは、低リスクなタスクにおいて自律的なAIエージェントの導入を進めています。新しいフレームワークでは、リスクを効果的に管理するために、自律性を段階とレベルに細分化しています。

セキュリティ自動化レベルとAIエージェント制御を表示するデジタルインターフェース
この記事用に生成されたイラスト

英語の原文から自動翻訳されました。

セキュリティオペレーションセンター(SOC)は、今後1年間でAIエージェントにより大きな権限を付与する準備を進めています。ベンチャーキャピタルa16zによる最近の調査によると、大規模組織のCISO(最高情報セキュリティ責任者)のうち36%が、現在低リスクなタスクにおいてAIの自律的な動作を認めており、この割合は12か月以内に60%まで上昇すると予想されています。この変化は、人間の対応能力を上回る速度で発生するAI加速型攻撃に対抗するための緊急の必要性によって駆動されています。

何が起きたか

この移行の主な要因は、アナリストの時間の不足です。同じa16zの調査では、回答者の55%がAI加速型攻撃を最大の懸念事項として挙げ、脅威の量と速度に対応しきれないチームの苦悩を示唆しました。すべてのセキュリティアラートに対して、複数のシステムから証拠を抽出し、イベントを再構築し、関連性を判断する必要があり、これが限られた人的リソースを消費します。自動化への需要は高いものの、高リスクなアクションに対する慎重姿勢は依然として一般的です。ほとんどのアクションにおいて完全な自律性を許容できるリーダーはわずか1%であり、1年後もその割合は7%にとどまると予測されています。

現在の議論では、自律性は「AIがアクションを提案するか」対「AIがアクションを実行するか」という二択として捉えられがちです。この過度な単純化により、多くのプログラムが停滞しています。これは、異なるセキュリティタスクごとにリスクレベルが様々であるという事実を考慮していないためです。専門家たちは、自律性は単一の調整スライダーではなく、ワークフローの各段階で行われる一連の意思決定であるべきだと主張しています。成功しているチームは、自律性を開始時に一括して付与される許可ではなく、エージェントが信頼性と証拠を通じて獲得するものとして扱っています。

仕組み

この複雑さを管理するため、セキュリティリーダーは航空機の自動化向けに開発されたフレームワークを適用できます。このフレームワークは、タスクを4つの機能に分割します:情報の取得、分析、意思決定の選択、およびアクションの実装。セキュリティの文脈では、これらはそれぞれ証拠収集、分析と判定、対応推奨、対応実行に対応します。各機能には異なる自動化レベルを設定できます。例えば、エラーの修正コストが低い証拠収集と分析は完全に自動化しつつ、ミスが業務運営を混乱させる可能性がある実行段階では人間の監視を残すといったアプローチです。

ワシントン大学の研究者たちは、人間の役割に基づいてエージェントの自律性を5つのレベルに定義することで、このフレームワークをさらに精緻化しています。レベル1は人間がオペレーターとしてすべてのステップを指揮する場合です。レベル2はコラボレーションで、人間とエージェントが計画を共同で行います。レベル3では、エージェントはコンサルタントとして主導しますが、専門知識が必要な際に確認を行います。レベル4では、エージェントは独立して作業し、リスクの高いケースのみ承認を求めます。レベル5は完全な自律性で、人間は単なる観察者として停止ボタンを押せる状態になります。この用語体系により、チームはセキュリティワークフローの各段階でエージェントがどれだけの独立性を持つかを正確に指定できます。

主要な詳細

  • CISOの36%が現在、低リスクなアクションに対してAIの自律性を認めており、1年後には60%に上昇する見込み。
  • セキュリティリーダーの55%が、AI加速型攻撃が対応チームの処理能力を上回ることについて懸念を抱いている。
  • 自律性は、収集、分析、推奨、実行の4段階に分割すべきである。
  • 自律性の5つのレベルは、人間のオペレーター(L1)から人間の観察者(L5)まで及ぶ。
  • 自律性レベルに関する決定は、可逆性、影響範囲(blast radius)、証拠の強度に基づくべきである。
  • CISOの46%が、AIエージェントが意図しない権限外で動作することや、侵害されることを懸念している。

なぜ重要なのか

ソフトウェアエンジニアやセキュリティリーダーにとって、このフレームワークは受け入れられないリスクを導入せずにAI採用をスケールアップするための実用的な方法を提供します。ログクエリやインジケーターのエンリッチメントなどの低リスクかつ大量のタスクを自動化することで、チームは複雑な調査のためにアナリストの時間を解放できます。このアプローチは、すべての些細なアクションに対して人間の承認を求めるボトルネックを防ぎます。キューの圧力により、レビュー担当者が適切な検証を行わずにリクエストを承認してしまう「ハンコ押し(rubber stamping)」現象を回避するためです。

しかし、自律性を付与することは、エージェントが侵害されたりエラーを起こしたりした場合の影響範囲(blast radius)を広げる可能性もあります。調査では、CISOの46%がエージェントが権限外で動作することを懸念していることが浮き彫りになっています。AIエージェントを、スコープ限定の権限、専用ログ、厳格な監視を持つ特権IDとして扱うことが不可欠になります。これにより、自律性が拡大する中でも、有害なアクションを検知し元に戻す能力を保ち、外部からの脅威と内部でのAI障害の両方から組織を保護することができます。

実施できること

  • AIエージェントが実行可能なすべてのアクションを棚卸しし、4つのワークフロー段階にマッピングする。
  • 可逆性、影響範囲、証拠の品質に基づくルーブリックを使用して、各アクションをスコアリングする。
  • リスクが最も低い証拠収集と分析については、積極的に自動化を行う。
  • ハンコ押しを防ぐため、人間の承認が必要なアクションには明確な証拠トレイルを要求する。
  • パイロットを開始する前に、自律性レベルの昇格および降格のための具体的な基準を定義する。
  • AIエージェントを、固有のID、スコープ限定の権限、監査ログを持つ特権ユーザーのようにガバナンスする。
  • #ai security
  • #soc automation
  • #ai agents
  • #cybersecurity
  • #risk management

Bytechapストアのツール

続きを読む

セキュリティとプライバシー

自律型AIエージェントが医用画像ソフトウェアのゼロデイ脆弱性を悪用

Amazon Threat Intelligenceによると、中国と関連があるとされるハッカーが自律型AIエージェントを使用し、MONAI Labelにおける重大なパストラバーサル脆弱性の発見と悪用を行い、大学サーバーへのルートアクセスを獲得したと報告されています。

すべての記事