セキュリティとプライバシー

Amazon、AIエージェントによる認証情報窃取およびディープフェイク詐欺の自動化手法を公開

Amazon Threat Intelligenceは、2026年10月から11月にかけて、脅威アクターがARTEXフレームワークを使用してAIモデルの認証情報を窃取し、ディープフェイクを用いて本人確認を回避していたことを観測しました。

サーバーラック内のキーに手を伸ばす、回路線で構成されたロボットの手のイラスト。
この記事用に生成されたイラスト

英語の原文から自動翻訳されました。

2026年10月3日から11月5日までの間、AmazonのMadPotデコイネットワークは、攻撃的なサイバー犯罪キャンペーンを実行するAIエージェントの詳細な運用記録を捕捉しました。オープンソースのARTEXフレームワークを搭載したこれらのエージェントは、最小限の人間の介入でAIインフラストラクチャと暗号資産取引所を標的としました。この発見は、盗まれたリソースがさらなる侵入資金となる、自己持続型の自動化攻撃への移行を示しています。

何が起きたか

Amazon Threat Intelligenceは、人気のある大規模言語モデル(LLM)推論APIを模倣するように設定されたMadPotセンサーに送信されたリクエストを分析しました。攻撃側のAIエージェントは、これらのデコイを正当なバックエンドとして扱い、システムプロンプト、ツール履歴、キャンペーン状態など、自身の運用メモリを誤ってアップロードしてしまいました。このテレメトリデータにより、進行中の脅威活動の内部ロジックと進捗状況を知る貴重な機会が得られました。Amazonは、プロンプトにおける簡体字中国語の使用、中国標準時に基づくタイムゾーン設定、特定の標的パターンから、この活動には複数の中国関連の脅威グループが関与していると評価しました。

調査では、主に2つのキャンペーンが浮き彫りになりました。1つ目は、AIモデルのAPIキーや認証情報の産業規模での窃取に焦点を当てたものです。2つ目は、リアルタイムのディープフェイクを使用して暗号資産取引所の顧客確認(KYC)プロセスを回避することを目的としたものでした。どちらの場合も、エージェントは高い自律性を持って動作し、目標、制約条件、優先ターゲットを定義する常駐指示に従いながら、技術的な作業自体を実行していました。Amazonは影響を受ける可能性のあるAWS顧客に通知しましたが、他の組織が環境を保護できるよう、侵害指標(IOC)を一般公開しました。

仕組み

ARTEXフレームワークは、プランナー、ワーカー、ベリファイア、コンプレッサーなどの専門化されたエージェント間で役割分担することで、攻撃的なオペレーションを組織化します。これらのエージェントは、集合記憶として機能する永続的なナレッジグラフを共有しており、各コンポーネントが過去の発見事項を読み取り、新しい結果を書き込むことができます。このアーキテクチャにより、システムは絶え間ない人間の監督なしに、数百ものターゲットや複雑な多段階攻撃にわたってコンテキストを維持できます。エージェントが外部サービスとやり取りする際、その完全な運用履歴を送信するため、MadPotはキャンペーン全体の物語を捕捉することができました。

認証情報窃取キャンペーンでは、エージェントはインターネットに公開されているAIアプリケーションをスキャンし、上流プロバイダーのキーを抽出して、トークンサービスに対して検証を行いました。彼らはエンタープライズの本番サイトを優先し、有用性に基づいて認証情報を格付けし、30日以上公開されているものは無視しました。盗まれたキーはフレームワークのモデルゲートウェイにフィードバックされ、侵害されたリソースがさらなる被害者を見つけるための計算コストを支払うという、自己資金調達型のループを生み出しました。エージェントはLiteLLM、Langflow、RAGFlowなどのプラットフォームにおける特定の脆弱性を標的とし、デフォルトの認証情報や認証バイパスを悪用しました。

ディープフェイクキャンペーンでは、エージェントはベンダーのプロトコルをリバースエンジニアリングすることで、ライブネスチェック(生体検知)を突破しようと試みました。彼らは顔検出イベントストリームと座標系を文書化し、合成顔を正確なピクセル許容範囲内に配置することを目指しました。サーバー側の判定ではこれらの試みは拒否されましたが、エージェントは消費者グレードのハードウェア上でリアルタイムのビデオパイプラインを構築し、毎秒11.5フレームを達成しました。また、元のカメラ圧縮テーブルを保持し、メタデータを合成することで、編集された画像がファイルレベルで本物に見えるようにID書類を偽造しました。

主要な詳細

  • 攻撃者は、オープンソースのエージェント型AIペネトレーションテストフレームワークであるARTEXを使用してキャンペーンを統制しました。
  • MadPotセンサーはLLM推論APIになりすますことでエージェントメモリを捕捉し、内部のキャンペーン状態を明らかにしました。
  • 一つのキャンペーンは、盗んだキーがさらなる攻撃資金となる自己持続型ループを作成するために、AIモデルの認証情報を窃取しました。
  • 別のキャンペーンは、毎秒11.5フレームで動作するリアルタイムのディープフェイクを用いて、暗号資産のKYCチェックを標的としました。
  • 言語および標的パターンに基づき、脅威アクターは中程度の確信度で中国関連グループであると評価されています。
  • エージェントは、CVE-2025-3248を含むLiteLLM、Langflow、RAGFlowなどのAIプラットフォームにおける既知の脆弱性を悪用しました。

なぜ重要なのか

このレポートは、エージェント型AIが実験的な概念実証(PoC)を超え、持続的で金銭動機に基づく攻撃的なオペレーションへと移行したことを示しています。これらの自動化されたエージェントの速度と粘着性により、ハードコードされた認証情報や未パッチのソフトウェアといった基本的なセキュリティ衛生上の失敗は、ほぼ即座に悪用されます。防御側は、攻撃者がシステムを手動で探るために相当な時間を必要とするという前提に頼ることはもうできません。AIエージェントは、数百ものターゲットに対して迅速にスキャン、検証、権限昇格を行うことができるためです。

ソフトウェアエンジニアやセキュリティリーダーにとって、これはAIアプリケーションやモデルゲートウェイを従来の本番システムと同じ厳密さで扱うことの重要な必要性を強調しています。クライアントサイドJavaScript、環境ファイル、または公開コードリポジトリ内の露出したシークレットは、自動スキャナーにとって容易な標的となります。認証情報窃取キャンペーンの自己資金調達的な性質は、単一の侵害が急速に範囲を拡大する可能性があることも示唆しています。攻撃者は盗まれた計算リソースを使用して、追加のコストを負担せずにリーチを増幅させるためです。

対応策

  • AIアプリケーションプラットフォームとモデルゲートウェイを監査し、デフォルトの認証情報、未認証エンドポイント、露出したシークレットがないか確認してください。
  • 公開されているAPIキーや認証情報、特に30日以上経過しているものをローテーション(更新)してください。
  • LangflowのCVE-2025-3248やRAGFlowのCVE-2026-28797など、AIツールの既知の脆弱性に対するパッチを適用してください。
  • 予期しない支出や異常なトラフィックパターンなど、キーの侵害を示唆する可能性のあるAIサービスの使用状況を監視してください。
  • データ流出やコマンド&コントロール通信を防ぐため、AIインフラからのアウトバウンドトラフィックに対する厳格な制御を実施してください。
  • 合成メディアや操作されたドキュメントメタデータを検出するために、本人確認プロセスを見直し、強化してください。
  • #ai security
  • #threat intelligence
  • #cybercrime
  • #deepfakes
  • #aws

Bytechapストアのツール

続きを読む

セキュリティとプライバシー

Google、パッチからエクスプロイト生成を自動化する自律型AIエージェントを確認

GoogleとMandiantは、攻撃者がマルチエージェントフレームワークを用いてセキュリティパッチをリバースエンジニアリングし、数分でエクスプロイトを生成していることを特定しました。これにより、防御側の対応時間が大幅に短縮されています。

セキュリティとプライバシー

Google、AIエージェントによるエクスプロイト作成とパッチのリバースエンジニアリング自動化を報告

Googleは、脅威アクターが自律型AIフレームワークを用いてパッチのリバースエンジニアリングを行い、機械速度で攻撃を開始していることを明らかにした。これにより、防御のための猶予期間が短縮されている。

セキュリティとプライバシー

Windows 11 のテレメトリ、特定のコーディングエージェントや開発ツールを追跡

リバースエンジニアリングにより、Windows 11 が MissionControlAggregator を通じて使用された AI コーディングエージェントおよび開発ツールのビットマップを収集し、オプションの診断データとしてアップロードしていることが判明しました。

すべての記事