Google、AIエージェントによるエクスプロイト作成とパッチのリバースエンジニアリング自動化を報告
Googleは、脅威アクターが自律型AIフレームワークを用いてパッチのリバースエンジニアリングを行い、機械速度で攻撃を開始していることを明らかにした。これにより、防御のための猶予期間が短縮されている。
英語の原文から自動翻訳されました。
Googleは月曜日、サイバー犯罪者が手動でのAIプロンプト入力を超え、複雑な侵入を実行するために自律的なマルチエージェントシステムを導入していることを報告した。これらの敵対的フレームワークはソフトウェアパッチのリバースエンジニアリングを自動化し、攻撃者が脆弱性を以前よりも大幅に迅速に武器化できるようにする。
何が起きたか
Google Threat Intelligence Group(GTIG)は、ARTEX、CAIRN、CyberStrikeAI、PentAGIなどの自律的な攻撃用フレームワークの使用への移行を確認した。これらのツールにより、脅威アクターはより高い運用速度で多段階の侵入を実行できる。攻撃手順を連鎖させるために人間のオペレーターだけに依存するのではなく、これらのエージェント型システムはライブ侵入の個別フェーズを自動化し、機械速度でのスケーリングを可能にする。
この進化における重要な要素は、パッチ分析の自動化である。攻撃者は大規模言語モデル(LLM)とエージェント型フレームワークを使用して、ソフトウェア更新に対する差分分析を実行している。このプロセスにより、新たにパッチ適用されたソフトウェア内の欠陥を迅速に特定し、悪用することが可能になる。Googleは、9月のPaperCut NG/MFの脆弱性に関する事例を、この手法が観察された例として挙げた。リリースノートを確認し、プレリリースチャネルを含むソースコードバージョンを比較することで、攻撃者はパッチ公開から実際の悪用までの時間を圧縮できる。
また、同レポートは金銭目的のグループや中国に関連すると疑われるスパイ活動を行うアクターの関与も強調した。これらのアクターは、洗練された攻撃への参入障壁を下げるために、オープンソースのエージェント型ペネトレーションテストフレームワークを試験的に使用している。エクスプロイト開発用の推論サービスであるZeroHollowや、自律的なコード実行機能を備えたAgent Zeroなどのツールが、新しいエクスプロイトの統合や攻撃の自律的なスケーリングに利用されている。
仕組み
エージェント型AIフレームワークは、攻撃ライフサイクル内の特定のタスクを処理する専門化されたエージェントを連鎖させることで動作する。単一のモデルが全体の侵入を管理しようとするのではなく、これらのシステムは責任を委任する。あるエージェントはパッチを分析し、別のエージェントは概念実証(PoC)コードを生成し、さらに別のエージェントはデプロイメントを担当する可能性がある。このモジュール式のアプローチにより並列処理と迅速な反復が可能になり、攻撃タイムラインが大幅に加速される。
パッチのリバースエンジニアリングの文脈では、LLMが異なるバージョンのソースコードを比較するために使用される。モデルは脆弱性を修正するために行われた変更を特定し、その後、パッチ適用前の根本的な欠陥を回避または悪用する方法を推測する。この自動化された差分分析により、手作業による労力のかかるリバースエンジニアリングが必要なくなり、攻撃者は限られた数のソース資料に焦点を当て、迅速に武器化されたエクスプロイトを作成できる。
さらに、これらのシステムはフィッシング・アズ・ア・サービス(Phishing-as-a-Service)プラットフォームにも統合されている。例えば、中国語圏のプラットフォームJieyouはLLMチャットボットアシスタントを組み込んでいる。これにより、技術的専門知識が限られているユーザーでも、自然言語コマンドを使ってフィッシングパネルの設定やテンプレートの変更が可能になる。AIが動的に口実となる誘導文やインターフェースをカスタマイズするため、フィッシングキャンペーンはより説得力が増し、大規模に展開しやすくなる。
主要な詳細
- Googleは、脅威アクターによって使用されているARTEX、CAIRN、CyberStrikeAI、PentAGIなどの自律的な攻撃用フレームワークを特定した。
- 攻撃者はパッチの差分分析にLLMを使用しており、PaperCut NG/MFなどの脆弱性の武器化を加速させている。
- Agent ZeroなどのオープンソースツールやZeroHollowのようなサービスが、エクスプロイト開発とコード実行の自動化に悪用されている。
- 金銭目的のグループや中国のスパイ活動に関与すると疑われるアクターなどが、これらのエージェント型フレームワークを試験的に使用している。
- Jieyouなどのフィッシングプラットフォームでは、低スキルのユーザーが自然言語を通じてフィッシングインターフェースをカスタマイズできるように、LLMチャットボットが使用されている。
- 脅威アクターはまた、APIMartやJetNightなどのプロキシサービスを通じてアクセスを再販売するために、クラウドリソースや認証情報を盗む「LLMジャッキング」にも従事している。
なぜ重要なのか
ソフトウェア開発者やセキュリティエンジニアにとって、パッチリリースと悪用までのタイムラインの圧縮は重大な課題である。伝統的には、パッチがリリースされた後、組織が広範な悪用が発生する前に更新を適用できる時間窓が存在していた。AI駆動のリバースエンジニアリングにより、この時間窓は急速に狭まっており、修正が公開された直後に未パッチのシステムが脆弱になることを意味する。これは、反応的なパッチ適用から、積極的な脆弱性管理と堅牢な防御アーキテクチャへと負担をシフトさせる。
オープンソースフレームワークやAIアシスタントを通じた洗練された攻撃ツールの民主化は、サイバー犯罪のスキルレベルの下限を引き下げる。以前はカスタムエクスプロイトの開発や説得力のあるフィッシングキャンペーンの作成に必要な専門知識を持っていなかったアクターも、現在ではAIを利用してこれらのタスクを実行できる。これにより、組織が防御しなければならない脅威の量と種類が増加し、セキュリティチームは手動の攻撃だけでなく、自動化されスケーラブルな攻撃にも対応できるよう準備する必要が生じる。
さらに、AIインフラ自体を狙う行為、すなわちLLMジャッキングは、リソース窃盗とデータ漏洩のための新たなベクトルを導入する。企業がワークフローにより多くのLLMを組み込むにつれ、これらの資産の保護は従来のサーバーやデータベースの保護と同様に重要になる。地下市場での盗まれたAIリソースの再販売は、AIサプライチェーンへの攻撃に対する経済的インセンティブが高まっていることを示唆している。
あなたができること
- 迅速なパッチ適用サイクルを優先し、更新が適用される前にシステムを保護するために仮想パッチングやWebアプリケーションファイアウォールを検討してください。
- LLMジャッキングや不正なリソース使用を検知・防止するために、AIインフラに対して厳格なアクセス制御と監視を実施してください。
- 誤った使用や露出を防ぐため、組織内でのオープンソースのエージェント型フレームワークの使用を見直し、制限してください。
- AI生成コンテンツの例を含め、動的かつパーソナライズされた誘導テクニックに焦点を当てたフィッシング意識向上トレーニングを強化してください。
- 敵対的なリバースエンジニアリングの試みを示唆する可能性のある、コードリポジトリへのアクセスやパッチ分析活動における異常なパターンを監視してください。
- 侵害された認証情報やネットワーク内での横方向移動の影響を限定するために、ゼロトラストアーキテクチャを採用してください。



