Les agents IA promettent la confidentialité mais peinent à garantir la sécurité

Lors de l'OpenAI DevDay fin septembre 2026, le PDG Sam Altman a présenté Dots, le positionnant comme un successeur axé sur la confidentialité par rapport au Muse de Meta. Ce lancement s'inscrit dans une dynamique où les grandes entreprises technologiques affirment que leurs derniers agents IA sont plus sûrs que ceux de la concurrence, même si les versions précédentes font l'objet d'un examen minutieux en matière de sécurité.

Ce qui s'est passé

Meta avait lancé son agent Muse quelques mois avant l'annonce d'OpenAI, le commercialisant comme une mise à niveau sécurisée par rapport à son prédécesseur, OpenClaw. Le PDG Mark Zuckerberg a déclaré que Muse avait été conçu dès le départ pour la confidentialité et la sécurité, avec pour objectif de passer à l'échelle en toute sécurité auprès de milliards d'utilisateurs. L'entreprise a souligné que la majeure partie des efforts d'ingénierie avait été consacrée à un fonctionnement sûr, reconnaissant que des erreurs pouvaient encore survenir, mais qu'elles seraient moins fréquentes et moins dommageables grâce aux systèmes de sécurité intégrés.

Malgré ces assurances, Muse a immédiatement rencontré des difficultés. Un chercheur en sécurité a découvert une vulnérabilité zero-day permettant potentiellement un contrôle externe de l'agent, bien que celle-ci ait été rapidement corrigée. Des rapports de 404 Media ont indiqué que plusieurs problèmes de sécurité graves avaient émergé juste avant le lancement, dont un qui permettait potentiellement aux utilisateurs d'accéder aux bases de données internes de Meta. De plus, alors que Meta prévoit d'introduire une vérification cryptographique plus tard dans l'année pour empêcher son propre accès aux données des utilisateurs, l'entreprise conserve actuellement la capacité de consulter les informations stockées dans les machines virtuelles isolées.

OpenAI a exploité ces lacunes lors de sa présentation au DevDay. Les dirigeants ont critiqué la gestion des données utilisateur par Meta tout en mettant en avant les fonctionnalités de Dots, telles que les contrôles d'entreprise et les options de rétention nulle des données. Glen Coates, responsable de la plateforme d'applications chez OpenAI, a noté que la grande base d'utilisateurs existante de Meta rendait la prévention des erreurs plus difficile, laissant entendre que l'approche d'OpenAI permet une plus grande prudence dans le déploiement. Cependant, Dots est actuellement limité aux abonnements ChatGPT de niveau supérieur, ce qui peut limiter son exposition à des incidents de confidentialité généralisés par rapport à l'adoption rapide de Muse.

Comment cela fonctionne

Muse stocke les données utilisateur dans ce que Meta décrit comme un ordinateur Linux isolé disposant de son propre navigateur, CPU, mémoire et stockage. Cette architecture de machine virtuelle (VM) est conçue pour garder les données individuelles de chaque utilisateur séparées de celles des autres. L'objectif est de créer un environnement sandboxé où l'agent peut fonctionner sans exposer les données au réseau global ou à d'autres utilisateurs. Toutefois, l'isolement vis-à-vis des autres utilisateurs n'équivaut pas à un isolement vis-à-vis du fournisseur, car Meta peut toujours accéder aux données contenues dans ces VM jusqu'à la publication des mises à jour cryptographiques prévues.

Dots, en revanche, offre aux entreprises des contrôles plus stricts sur la gestion des données, y compris des options de rétention nulle des données. Cela signifie que pour certains cas d'usage professionnels, aucune donnée n'est stockée sur les serveurs d'OpenAI après traitement. Les utilisateurs peuvent également définir des règles spécifiques pour leurs agents, comme la limitation des montants d'achat, afin de maintenir le contrôle sur les actions autonomes. Ces mécanismes visent à réduire le risque d'exposition involontaire des données ou de transactions financières non autorisées.

Détails clés

• Selon Apptopia, Muse a atteint 600 000 utilisateurs actifs quotidiens aux États-Unis dans les semaines suivant son lancement.
• Une vulnérabilité zero-day dans Muse permettait un contrôle externe potentiel, mais elle a depuis été corrigée.
• Muse autorise par défaut Meta à entraîner ses modèles sur les données utilisateur, bien que les utilisateurs puissent choisir de se désinscrire.
• Les incidents incluaient la lecture par Muse de messages privés sans demande explicite et le partage de l'adresse d'un utilisateur via Marketplace.
• Dots n'est disponible que sur les paliers d'abonnement ChatGPT coûtant 100 $ ou plus par mois.
• OpenAI propose des politiques de rétention nulle des données pour les clients entreprise utilisant Dots.

Pourquoi c'est important

Pour les développeurs et les responsables techniques, ces incidents mettent en évidence le fossé entre les affirmations marketing et la réalité technique dans le déploiement des agents IA. La promesse d'environnements isolés comme les VM offre une couche de sécurité, mais elle n'élimine pas les risques liés à l'accès du fournisseur ou aux vulnérabilités logicielles. Les équipes développant des produits avec des agents IA doivent examiner attentivement comment les données sont stockées, qui peut y accéder et quelles autorisations par défaut sont accordées. Se fier aux assurances des fournisseurs sans vérification indépendante peut conduire à des fuites de données inattendues ou à des violations de conformité.

La dynamique concurrentielle entre Meta et OpenAI influence également la stratégie produit. Alors que les entreprises rivalisent pour ajouter des fonctionnalités de confidentialité, l'attention se déplace souvent vers la différenciation par rapport aux concurrents plutôt que vers la résolution des problèmes fondamentaux de confiance. Les utilisateurs restent hésitants à partager des informations sensibles, telles que les coordonnées bancaires, avec des agents ayant démontré un comportement imprévisible. Cette réticence ralentit l'adoption et oblige les ingénieurs à concevoir des mécanismes de consentement et de contrôle plus robustes dans leurs applications.

Ce que vous pouvez faire

• Auditez les politiques par défaut de rétention des données et d'entraînement de toute plateforme d'agents IA que vous intégrez.
• Mettez en œuvre des flux de consentement utilisateur stricts pour l'accès aux données sensibles comme les messages ou les informations financières.
• Testez les cas limites où les agents pourraient partager involontairement des données personnelles, comme la fuite d'une adresse.
• Privilégiez les plateformes offrant une isolation vérifiable ou des options de rétention nulle des données pour les tâches critiques.
• Surveillez les avis de sécurité concernant les vulnérabilités zero-day dans les frameworks d'agents et appliquez les correctifs rapidement.
• Informez les utilisateurs sur les limites de la confidentialité des agents et fournissez des mécanismes clairs de désinscription pour l'utilisation des données.