Google Gemini transmet désormais les fichiers personnels à des réviseurs humains

Google a discrètement annulé un engagement clé en matière de confidentialité pris en 2023 concernant son assistant IA Gemini. L'entreprise confirme désormais explicitement que le contenu personnel provenant de Gmail, Google Docs et Google Drive, lorsqu'il est connecté aux applications Gemini grand public, peut être routé vers des circuits de revue humaine. Ce changement a été documenté dans une mise à jour de l'article d'aide Google Help Answer 16836988 et dans une modification du billet de blog original datée du 16 octobre.

Ce qui s'est passé

Lorsque Google a lancé les extensions Gemini Workspace en 2023, il promettait que le contenu personnel des services connectés ne serait pas visible par des réviseurs humains. Cette garantie a été supprimée. La documentation mise à jour avertit les utilisateurs de ne pas connecter d'applications contenant des informations confidentielles qu'ils ne souhaiteraient pas voir examinées par un réviseur, notant que ce à quoi accèdent les réviseurs "peut simplement être l'e-mail ou le fichier".

Les tests révèlent que cette ingestion de données se produit de manière autonome lors de conversations en arrière-plan. Les utilisateurs n'ont pas besoin de taguer explicitement @Drive ou @Gmail pour que leurs données soient extraites. Au lieu de cela, des mentions ambiantes de sujets personnels tels que des voyages, des factures, des noms ou des réservations peuvent déclencher des recherches Workspace en arrière-plan. Étant donné que l'appel d'outils et l'injection de contexte du grand modèle de langage sont probabilistes, le système ne se comporte pas de manière cohérente face à des requêtes identiques.

Les chercheurs ont identifié quatre scénarios distincts qui se produisent lors d'une interrogation de Gemini avec les Applications Connectées activées. Dans certains cas, le modèle récupère zéro donnée, s'appuyant sur ses poids d'entraînement ou l'historique de la conversation. Dans d'autres, il extrait des métadonnées ou des résumés génériques. Des résultats plus préoccupants incluent l'extraction partielle non masquée d'informations personnelles identifiables (PII) sensibles ou l'ingestion complète de fichiers où le texte intégral d'un document ou d'un e-mail est chargé dans le contexte de la session. Comme le processus est nondéterministe, observer une réponse sûre une fois ne prouve pas que le circuit est inactif.

Comment cela fonctionne

Le circuit d'ingestion repose sur des appels d'outils probabilistes déclenchés par la pertinence sémantique plutôt que par des commandes explicites de l'utilisateur. Lorsqu'un utilisateur mentionne un sujet contenu dans son Drive ou son Gmail, tel qu'un itinéraire ou un renouvellement de compte, Gemini peut rechercher de manière autonome dans les applications connectées. Si le modèle décide d'utiliser l'outil Applications Connectées, il récupère les données et les injecte dans le contexte de la prompt.

Pour vérifier ce comportement, les testeurs peuvent demander à Gemini d'imprimer le texte exact et le bloc de métadonnées renvoyé par l'outil de récupération. En supprimant l'historique de la conversation et en répétant le test, les utilisateurs peuvent observer les différents degrés d'exposition des données. Des tests utilisant des requêtes décontractées sur les factures Internet, par exemple, ont abouti à des résultats allant de conseils génériques au vidage complet du texte d'un e-mail incluant les en-têtes, les numéros de compte et les codes de confirmation.

Google utilise des nettoyeurs automatiques employant des expressions régulières et la reconnaissance d'entités nommées (NER) pour désidentifier les données. Cependant, ces outils ne peuvent pas protéger suffisamment les données narratives. Des identifiants complexes comme des combinaisons de prénoms, de villes et d'événements spécifiques, ou des données structurées comme des numéros de compte intégrés dans des phrases, contournent souvent ces filtres. Par conséquent, les fichiers complets ingérés de manière probabiliste lors de conversations décontractées restent soumis à la revue par des sous-traitants humains.

Détails clés

• Google a mis à jour sa position sur la confidentialité dans l'article d'aide Google Help Answer 16836988 et via une modification de billet de blog du 16 octobre.
• Le contenu personnel de Gmail, Docs et Drive est désormais potentiellement visible par des réviseurs humains.
• L'ingestion de données se produit de manière autonome sans tags explicites @Drive ou @Gmail.
• Le processus de récupération est probabiliste, donnant lieu à quatre états possibles, allant de zéro récupération à l'ingestion complète de fichiers.
• Les nettoyeurs automatiques échouent à désidentifier suffisamment les données narratives et les PII combinées.
• Il est conseillé aux utilisateurs de ne pas connecter d'applications contenant des informations confidentielles aux Gemini grand public.

Pourquoi c'est important

Pour les ingénieurs logiciels et les responsables techniques, ce changement mine l'hypothèse d'une confidentialité automatisée dans les flux de travail intégrés à l'IA. De nombreuses organisations reposent sur la prémisse selon laquelle les assistants IA traitent les données algorithmiquement sans supervision humaine. L'introduction d'une revue humaine dans la boucle pour les outils d'IA grand public signifie que toute logique métier sensible, données clients ou documentation interne partagée via des applications connectées n'est plus privée par conception.

Ce changement met également en lumière les limites des techniques actuelles de rédaction automatique. S'appuyer sur les regex et la NER pour la conformité en matière de confidentialité est insuffisant lorsqu'il s'agit de données narratives complexes et non structurées. Les ingénieurs développant des produits intégrant des LLM doivent reconnaître que les modes "privés" dans les outils grand public peuvent toujours impliquer une assurance qualité ou des revues de sécurité avec intervention humaine, exposant des informations propriétaires ou personnelles à des tiers.

Ce que vous pouvez faire

• Auditez vos paramètres Gemini et désactivez les Applications Connectées si vous traitez des données confidentielles.
• Évitez de mentionner des sujets sensibles comme les factures, les réservations ou les détails de compte dans les chats décontractés.
• Partez du principe que toute donnée récupérée par l'IA pourrait être vue par un réviseur humain.
• Ne comptez pas sur les nettoyeurs automatiques pour protéger les PII complexes ou le contexte narratif.
• Testez vos propres instances en demandant au modèle de révéler les blocs de métadonnées récupérés.
• Utilisez des solutions auto-hébergées ou de niveau entreprise avec des garanties strictes d'isolation des données pour les travaux sensibles.