単一のWebページがMeta Museのエージェントセキュリティ制御を回避した方法
研究者らは、悪意のあるWebページがブラウザおよびカーネルの脆弱性を悪用し、サンドボックス化にもかかわらずMeta Museエージェントをハイジャックしてプライベートチャットや認証情報にアクセスできることを実証しました。
英語の原文から自動翻訳されました。
NebuSecのセキュリティ研究者らは、9月8日にMetaが公開したパーソナルAIエージェント「Meta Muse」に対し、単一の悪意あるWebページで侵害が可能であることを実証しました。この攻撃により、ユーザーの承認プロンプトを表示させることなく、プライベートな会話履歴や保存されたメモリを抽出することができました。今回のデモは実験室環境でのみ実施され、実際のユーザーには影響を与えませんでしたが、クラウドベースのAIエージェントが信頼できないWebコンテンツをどのように処理するかに関する重大なリスクを浮き彫りにしています。
何が起きたのか
脆弱性の核心は、MuseがWebとやり取りする仕組みにありました。エージェントが specially crafted(特別に細工された)悪意あるページを訪問すると、ユーザーの会話履歴や長期メモリを外部サーバーへ静かに流出させることができました。攻撃はそこで終わりませんでした。研究者らは、同じメカニズムを拡張して接続済みアカウントの認証情報にもアクセスできることを示しました。これらの認証情報は、ユーザーに代わって購入などのタスクを実行するためにMuseが使用します。重要なのは、人間であるユーザーに対して目に見える警告や承認要求が表示されないまま、これが実行された点です。
NebuSecはこれらの発見事項をMuseチームに報告し、レポートに記載されたすべての弱点はすでにパッチ適用されています。Metaは修正について公的に確認しておらず、研究に対するコメントも出していません。また、パッチ適用前に実際にユーザーデータが外部からアクセスされたかどうかは不明です。この事案は、9月に発見された別の欠陥とは異なります。その前の欠陥では、ユーザーのローカルMacデバイスに既にマルウェアが存在する必要がありましたが、今回の新しい攻撃ベクトルは、エージェントをホストしているクラウドインフラストラクチャ自体を直接攻撃しました。
仕組み
Museは、各ユーザーのエージェントをそれぞれ独立したクラウドコンピュータ上で動作させます。「Sentinel」と呼ばれるセキュリティ層が主要なゲートキーパーとして機能し、アウトバウンドトラフィックを監視して、機密トークンやパスワードがエージェントの直接の到達範囲外にあるように設計されています。このシステムは、エージェント自体が侵害される可能性を明示的に想定しており、厳格な分離によって被害を限定することを目指していました。しかし、研究者らはこれらの意図された境界を回避する方法を見つけ出しました。
攻撃チェーンは、PDF生成などのタスクでアシスタントが使用するMuse内蔵ブラウザの欠陥から始まりました。このブラウザの脆弱性を悪用することで、研究者らは基盤となるLinuxカーネルの二次的な欠陥を引き起こすことに成功しました。この組み合わせにより、該当ユーザーのエージェントをホストしている特定のクラウドマシンへの完全な制御権を獲得しました。ルートレベルのアクセス権を得たことで、Sentinelを回避し、認証情報ストアにアクセスし、保存されたファイルを読み取り、さらにエージェントの挙動を変更することが可能になりました。分離制御は他のユーザーや共有サーバーへの感染拡大を防ぐために設計通りに機能しましたが、個々のエージェントの環境全体は完全に侵害されました。
主な詳細
- 攻撃はNebuSecによって実験室設定で実証され、現実世界のユーザーには影響を与えていません。
- Meta Museは9月8日にリリースされ、各ユーザーのエージェントを個別のクラウドコンピュータで実行します。
- 悪意あるWebページにより、ユーザーのプロンプト表示なしにプライベートチャットやメモリを抽出できました。
- エクスプロイトは、MuseのPDF作成ツールにおけるブラウザの欠陥とLinuxカーネルの脆弱性を連鎖させて利用しました。
- クラウドマシンの完全な制御権により、認証情報およびSentinel監視層へのアクセスが可能になりました。
- 特定されたすべての脆弱性は、研究発表の前にMuseチームによって修正されました。
なぜ重要なのか
エージェント型システムを開発するエンジニアにとって、このケーススタディは、オープンWebと対話するAIエージェントのセキュリティ確保がいかに困難であるかを示しています。たとえシステムが「ゼロトラスト」原則と堅牢なサンドボックス化に基づいて設計されていても、ブラウザやカーネルといった基盤コンポーネントにおける複雑な脆弱性の連鎖は、高レベルのセキュリティ保証を損なう可能性があります。これは、実行環境自体が標準的なWebエクスプロイトを通じて乗っ取られる可能性がある場合、エージェントを敵対的であると仮定するだけでは不十分であることを示しています。
この事案は、ローカルエージェントと比較した際のクラウドベースエージェント特有のリスクも強調しています。これらのエージェントはユーザーアカウントや金融ツールへの永続的なアクセス権を持っているため、侵害が成功すれば攻撃者は即座に優位性を得ることになります。エンジニアは、プロンプトインジェクションやモデルの挙動だけでなく、エージェントを支えるソフトウェアスタック全体、つまり信頼できないコンテンツを処理するブラウザエンジンやOSカーネルまで考慮する必要があります。
対応策
- AIエージェントが信頼できないWebコンテンツをどのように処理するかを監査し、可能な限りブラウザ機能を制限してください。
- サンドボックス戦略がアプリケーション層の分離だけでなく、カーネルレベルのエスケープも考慮に入れていることを確認してください。
- エージェント環境からのアウトバウンドデータ転送に対する厳格な監視を実装し、情報漏洩を検知できるようにしてください。
- ブラウザエンジンやOSカーネルを含むすべての基盤依存関係を常に最新の状態に保ってください。
- マシン全体の完全な侵害があっても、自動的にトークンが露出しないような認証情報アクセス設計を行ってください。
- パブリックインターネットと対話するあらゆるコンポーネントが、攻撃の潜在的な入口になり得ると想定してください。



