セキュリティとプライバシー

AIエージェント、露出したLLMゲートウェイからのAPIキー盗難を自動化

AmazonとCloudflareは、ARTEXを使用してLiteLLMやDifyなどインターネットに公開されたアプリからAIプロバイダーのキーを窃取する自動化キャンペーンについて報告しました。

デジタルキーを探してサーバーラックを点検するロボットハンド。
この記事用に生成されたイラスト

英語の原文から自動翻訳されました。

攻撃者は、インターネットに接続された人工知能アプリケーションの脆弱性をスキャンし悪用するために、自律型AIエージェントを展開しています。Amazonの脅威インテリジェンスチームは最近、LiteLLM、One API、Difyなどのプラットフォームを狙い、保存されているAPIキーを収集するこれらのエージェントの記録を捕捉しました。この活動は、侵害しようとするモデル自体を活用した、自動化され持続的な偵察への移行を浮き彫りにしています。

何が起きたか

AmazonのデコイサーバーネットワークであるMadPotは、人気のあるAIインフラツール内の弱点を探しているAIエージェントからのリクエストをインターセプトしました。10月3日から先週末にかけて、これらのエージェントは運用の詳細なログをハニポットに送信しました。記録からは、エージェントが露出しているAIアプリを特定し、プロバイダーキーを抽出し、その有効性を検証して、さらなる使用のために共有プールに追加するという体系的なキャンペーンが明らかになりました。Amazonは、エージェント設定における簡体字中国語のプロンプトやタイムゾーン設定を根拠に、これらのオペレーターが中国関連グループであると中程度の確信で評価しています。

並行して発生した事象として、Cloudflareのインシデントレスポンダーは同様のエージェント型ツールに関わる複数のケースを調査しました。注目すべき事例の一つでは、攻撃者がIP制限やレート制限のない侵害されたCI/CDトークンを使用し、顧客の環境にアクセスしました。その後の活動には、1時間以内に400件のデータベースダンプ要求が含まれていました。Cloudflareは、artex-pgreconやartex-doなどARTEXタスクの名前に一致する新しいWorkerスクリプトを観察し、自動化された永続化と検証努力を示唆しました。FBIはその後、FLASHアラートを発行し、攻撃者が少なくとも8月以来、これらのツールを世界中の組織に対して使用していたことを確認しました。

仕組み

これらのキャンペーンで特定された主要なツールは、オープンソースのAIペネトレーションテストフレームワークであるARTEXです。元のGitHubリポジトリは濫用により10月にオフラインとなりましたが、フォーク版とARTEX PROという商用版は依然として利用可能です。このシステムは、「APIキーを見つける」といった高レベルの目標を、ワーカーエージェント用のより小さなタスクに分割することで動作します。これらのワーカーはセキュリティツールを実行し、次のステップを決定するために大規模言語モデル(LLM)に発見事項を送信します。このループにより、エージェントは絶え間ない人間の介入なしに、リアルタイムのフィードバックに基づいて戦術を適応させることができます。

エージェントは、各ターゲット製品に対する既知のエントリーポイントの特定のプレイブックに従います。LiteLLMの場合、デフォルトのマスターキーや未完了のインストールを確認します。One APIファミリーのシステムでは、isCliRequestヘッダーを使用した認証バイパスを試みます。また、URLを取得する機能におけるサーバー側リクエストフォージェリー(SSRF)の脆弱性を悪用し、クラウドメタデータサービスに到達できるようにします。直接的な悪用に加え、エージェントは漏洩した秘密情報を求めて、GitHubリポジトリ、npmパッケージ、コンテナイメージ、Telegramチャンネルなどの公開ソースをスキャンします。クラウド資格情報が見つかった後、エージェントはAIモデルと秘密ストアをホストするマネージドサービスへのアクセスを優先します。

重要な詳細

  • ターゲットプラットフォーム: このキャンペーンは、LiteLLM、One API、Veloera、Sub2APIなどのLLMゲートウェイおよびプロキシ、ならびにDify、FastGPT、Langflow、RAGFlowなどのAIアプリビルダーに焦点を当てています。
  • 具体的な脆弱性: プレイブックは、LangflowのCVE-2025-3248(認証欠如)とRAGFlowのCVE-2026-28797(サーバー側テンプレートインジェクション)、ならびにデフォルトの資格情報やSSRFの欠陥を悪用します。
  • 運用速度: Cloudflareは、侵害されたアカウント全体で毎分69件を超える攻撃率を観察し、手動でのハッキングと比較したエージェント型自動化の高い速度を実証しました。
  • 検出指標: セキュリティチームは、環境内でartex-、artex-pgrecon-、artex-pgw-*、またはartex-do-*という名前のCloudflare Workerスクリプトを探す必要があります。
  • ネットワーク指標: Cisco Talosは2,500以上のIPアドレスをARTEX活動に関連付け、Amazonはデコイ発見に関連する11の特定のIPを公開しました。
  • 二次キャンペーン: 記録には、暗号通貨取引所でのIDチェックをディープフェイク動画で回避しようとした別の試みも記載されていますが、これらの試みは検証ベンダーによって拒否されました。

なぜ重要なのか

ソフトウェアエンジニアやセキュリティリーダーにとって、この変化は脅威の速度における重大なエスカレーションを表しています。従来のセキュリティ対策は、攻撃者がエクスプロイトの研究、計画、実行に時間を要するという前提に依存することがよくあります。AIエージェントはこの遅延を取り除き、防御者が気づく前に些細な誤設定を悪用できるような、継続的で持続的なスキャンを可能にします。Amazonが指摘したように、使用された技術自体は新しいものではありませんが、AIエージェントによってもたらされる速度と持続性はリスクの状況を一変させます。デフォルトパスワードの変更や既知の欠陥のパッチ適用などの基本的なセキュリティ衛生は、展開時に直ちに適用されない限り、もはや十分ではありません。

影響は即時のデータ損失を超えて広がります。盗まれたAPIキーにより、攻撃者は被害者の費用で高価なAIモデルを実行でき、予期しない請求額の急増につながります。さらに深刻なのは、Cloudflareのケースで見られたように、静的なCI/CDトークンが広範なアクセスを許可した場合、これらのキーがより広いクラウド環境への足掛かりを提供する可能性があることです。組織は現在、AIアプリゲートウェイと推論エンドポイントを本番データベースと同じ厳格さで扱い、露出した秘密情報は自動化システムによって迅速に発見され悪用されると想定する必要があります。

実施できること

  • 資格情報のローテーションと制限: 有効期限のない静的なCI/CDトークンやAPIキーを直ちにローテーションしてください。すべてのクラウドプロバイダーのトークン、特にCI/CDパイプラインで使用されるものに対して、IP制限とレート制限を有効にしてください。
  • 既知の脆弱性のパッチ適用: CVE-2025-3248を修正するためにLangflowをバージョン1.3.0以降に更新してください。RAGFlowについては、テンプレートインジェクション経由のリモートコード実行を可能にするCVE-2026-28797を軽減するために、バージョン0.25.0以降にアップグレードしてください。
  • デフォルト設定の強化: LiteLLMマスターキーなどのデフォルト管理者資格情報をインストール直後に変更してください。外部者による乗っ取りを許す未完成の状態に新規インストールを残さないようにしてください。
  • 露出した秘密情報のスキャン: 埋め込まれた秘密情報を求めて、設定ファイル、環境変数、デプロイスクリプトを定期的に検索してください。本番環境に到達する前に、漏洩したキーを検出するために自動ツールを使用してリポジトリとコンテナイメージをスキャンしてください。
  • 特定のアーティファクトの監視: artex-で始まる名前のCloudflare Workerスクリプトの存在をログで確認してください。ARTEXで使用されるnormaエージェントハーネスの痕跡を検出するために、Snortルール7:76、7:77、7:78を実装してください。
  • 公開露出の監査: インターネットに公開されているAIアプリの不要な露出を見直してください。デバッグルート、ソースマップ、環境ファイルを公開アクセスから削除し、管理エンドポイントが強力な認証を必要とするようにしてください。
  • #ai security
  • #api keys
  • #litellm
  • #artex
  • #cloudflare
  • #threat intelligence

Bytechapストアのツール

続きを読む

セキュリティとプライバシー

Google、パッチからエクスプロイト生成を自動化する自律型AIエージェントを確認

GoogleとMandiantは、攻撃者がマルチエージェントフレームワークを用いてセキュリティパッチをリバースエンジニアリングし、数分でエクスプロイトを生成していることを特定しました。これにより、防御側の対応時間が大幅に短縮されています。

セキュリティとプライバシー

Google、AIエージェントによるエクスプロイト作成とパッチのリバースエンジニアリング自動化を報告

Googleは、脅威アクターが自律型AIフレームワークを用いてパッチのリバースエンジニアリングを行い、機械速度で攻撃を開始していることを明らかにした。これにより、防御のための猶予期間が短縮されている。

セキュリティとプライバシー

Windows 11 のテレメトリ、特定のコーディングエージェントや開発ツールを追跡

リバースエンジニアリングにより、Windows 11 が MissionControlAggregator を通じて使用された AI コーディングエージェントおよび開発ツールのビットマップを収集し、オプションの診断データとしてアップロードしていることが判明しました。

セキュリティとプライバシー

Amazon、AIエージェントによる認証情報窃取およびディープフェイク詐欺の自動化手法を公開

Amazon Threat Intelligenceは、2026年10月から11月にかけて、脅威アクターがARTEXフレームワークを使用してAIモデルの認証情報を窃取し、ディープフェイクを用いて本人確認を回避していたことを観測しました。

すべての記事