Comment une simple page web a contourné les contrôles de sécurité de l'agent Meta Muse
Des chercheurs ont démontré comment une page web malveillante pouvait détourner les agents Meta Muse pour accéder à des conversations privées et à des identifiants, exploitant des failles du navigateur et du noyau malgré le sandboxing.
Traduit automatiquement depuis l'original anglais.
Les chercheurs en sécurité de NebuSec ont démontré qu'une seule page web malveillante peut compromettre Meta Muse, l'agent IA personnel lancé par Meta le 8 septembre. L'attaque a permis d'extraire des conversations privées et des souvenirs stockés sans déclencher de demandes d'approbation utilisateur. Bien que la démonstration ait été confinée à un environnement de laboratoire et n'ait affecté aucun utilisateur réel, elle révèle des risques importants dans la manière dont les agents IA basés sur le cloud traitent le contenu web non fiable.
Ce qui s'est passé
Le cœur de la vulnérabilité résidait dans la façon dont Muse interagit avec le web. Lorsque l'agent visitait une page malveillante spécialement conçue, il pouvait exfiltrer silencieusement l'historique des conversations et les mémoires à long terme d'un utilisateur vers un serveur externe. L'attaque ne s'arrêtait pas là. Les chercheurs ont montré que le même mécanisme pouvait être étendu pour accéder aux identifiants des comptes connectés, que Muse utilise pour effectuer des tâches telles que faire des achats au nom de l'utilisateur. Crucialement, cela se produisait sans aucun avertissement visible ni demande d'approbation affichée à l'utilisateur humain.
NebuSec a signalé ces découvertes à l'équipe Muse, qui a depuis corrigé toutes les faiblesses décrites dans le rapport. Meta n'a pas confirmé publiquement les correctifs ni commenté la recherche, et il reste flou si des données utilisateurs ont été accédées dans la nature avant le déploiement des correctifs. Cet incident diffère d'une faille précédente découverte en septembre, qui nécessitait la présence préalable d'un logiciel malveillant sur le Mac local de l'utilisateur. En revanche, ce nouveau vecteur attaquait directement l'infrastructure cloud hébergeant l'agent.
Comment cela fonctionne
Muse fonctionne en exécutant l'agent de chaque utilisateur sur son propre ordinateur cloud isolé. Une couche de sécurité appelée Sentinel agit comme principal gardien, conçue pour surveiller le trafic sortant et maintenir les jetons sensibles et les mots de passe hors de portée directe de l'agent. Le système a été explicitement construit sur l'hypothèse que l'agent lui-même pourrait être compromis, visant à limiter les dégâts grâce à une isolation stricte. Cependant, les chercheurs ont trouvé un moyen de contourner ces limites prévues.
La chaîne d'attaque commençait par une faille dans le navigateur intégré de Muse, que l'assistant utilise pour des tâches telles que la génération de PDF. En exploitant cette vulnérabilité du navigateur, les chercheurs ont pu déclencher une faille secondaire dans le noyau Linux sous-jacent. Cette combinaison leur a accordé un contrôle total sur la machine cloud spécifique hébergeant l'agent de cet utilisateur. Avec un accès root, ils pouvaient contourner Sentinel, accéder au magasin d'identifiants, lire les fichiers enregistrés et altérer le comportement de l'agent. Malgré les contrôles d'isolation fonctionnant comme prévu pour empêcher la propagation à d'autres utilisateurs ou au serveur partagé, l'attaque a réussi à compromettre entièrement l'environnement de l'agent individuel.
Détails clés
- L'attaque a été démontrée dans un cadre de laboratoire par NebuSec et n'a pas impacté les utilisateurs réels.
- Meta Muse a été lancé le 8 septembre et exécute l'agent de chaque utilisateur sur un ordinateur cloud séparé.
- Une page web malveillante pouvait extraire des chats privés et des mémoires sans déclencher de prompts utilisateur.
- L'exploit combinait une faille du navigateur dans l'outil de création de PDF de Muse avec une vulnérabilité du noyau Linux.
- Le contrôle total de la machine cloud permettait l'accès aux identifiants et à la couche de surveillance Sentinel.
- Toutes les vulnérabilités identifiées ont été corrigées par l'équipe Muse avant la publication de la recherche.
Pourquoi c'est important
Pour les développeurs construisant des systèmes agentiques, cette étude de cas souligne la difficulté de sécuriser les agents IA qui interagissent avec le web ouvert. Même lorsqu'un système est conçu selon les principes de « zero trust » (confiance zéro) et un robust sandboxing, des chaînes complexes de vulnérabilités dans les composants sous-jacents comme les navigateurs et les noyaux peuvent miner les garanties de sécurité de haut niveau. Cela montre que supposer que l'agent est hostile ne suffit pas si l'environnement d'exécution lui-même peut être subverti via des exploits web standards.
Cet incident souligne également les risques uniques des agents basés sur le cloud par rapport aux agents locaux. Parce que ces agents ont un accès persistant aux comptes utilisateurs et aux outils financiers, une compromission réussie offre aux attaquants un levier immédiat. Les ingénieurs doivent considérer non seulement l'injection de prompt ou le comportement du modèle, mais toute la pile logicielle soutenant l'agent, y compris les moteurs de navigateur et les noyaux de système d'exploitation qui traitent le contenu non fiable.
Ce que vous pouvez faire
- Auditez la façon dont vos agents IA gèrent le contenu web non fiable et limitez les capacités du navigateur lorsque possible.
- Assurez-vous que votre stratégie de sandboxing prend en compte les évasions au niveau du noyau, et pas seulement l'isolation au niveau de l'application.
- Implémentez une surveillance stricte des transferts de données sortants depuis les environnements d'agents pour détecter les exfiltrations.
- Maintenez toutes les dépendances sous-jacentes, y compris les moteurs de navigateur et les noyaux OS, strictement à jour.
- Concevez l'accès aux identifiants de manière à ce qu'une compromission totale de la machine n'expose pas automatiquement les jetons.
- Supposez que tout composant interagissant avec Internet public est un point d'entrée potentiel pour les attaques.



