Sécurité et confidentialité

Amazon révèle comment les agents d'IA automatisent le vol de credentials et la fraude par deepfake

Entre octobre et novembre 2026, Amazon Threat Intelligence a observé des acteurs malveillants utilisant le framework ARTEX pour voler des credentials de modèles d'IA et contourner la vérification d'identité grâce à des deepfakes.

Une main robotique faite de lignes de circuits tendant la main vers une clé dans un rack de serveurs.
Illustration générée pour cet article

Traduit automatiquement depuis l'original anglais.

Entre le 3 octobre et le 5 novembre 2026, le réseau de leurres MadPot d'Amazon a capturé des registres opérationnels détaillés provenant d'agents d'IA menant des campagnes de cybercriminalité offensive. Ces agents, propulsés par le framework open-source ARTEX, ont ciblé des infrastructures d'IA et des plateformes d'échange de cryptomonnaies avec une intervention humaine minimale. Les conclusions révèlent un glissement vers des attaques automatisées auto-entretenues, où les ressources volées financent de nouvelles intrusions.

Ce qui s'est passé

Amazon Threat Intelligence a analysé les requêtes envoyées aux capteurs MadPot, configurés pour imiter des API d'inférence populaires de grands modèles de langage (LLM). Les agents d'IA attaquants ont traité ces leurres comme des backends légitimes, téléchargeant involontairement leur propre mémoire opérationnelle, incluant les prompts système, l'historique des outils et l'état des campagnes. Cette télémétrie a offert une fenêtre rare sur la logique interne et la progression des opérations actives de menace. Amazon a évalué que cette activité impliquait divers groupes de menaces liés à la Chine, citant l'utilisation du chinois simplifié dans les prompts, les configurations de fuseaux horaires chinois et des schémas de ciblage spécifiques.

L'enquête a mis en lumière deux principales campagnes. La première se concentrait sur le vol à grande échelle de clés API et de credentials pour modèles d'IA. La seconde visait à contourner la vérification « Know Your Customer » (KYC) sur les plateformes d'échange de cryptomonnaies en utilisant des deepfakes en temps réel. Dans les deux cas, les agents opéraient avec un haut degré d'autonomie, suivant des instructions permanentes définissant les objectifs, les contraintes et les priorités de cible tout en exécutant eux-mêmes le travail technique. Amazon a notifié les clients AWS potentiellement affectés mais a partagé publiquement les indicateurs de compromission pour aider d'autres organisations à sécuriser leurs environnements.

Comment cela fonctionne

Le framework ARTEX organise les opérations offensives en divisant le travail entre des agents spécialisés, tels que des planificateurs, des travailleurs, des vérificateurs et des compresseurs. Ces agents partagent un graphe de connaissances persistant servant de mémoire collective, permettant à chaque composant de lire les résultats précédents et d'écrire de nouveaux résultats. Cette architecture permet au système de maintenir le contexte à travers des centaines de cibles et des attaques complexes multi-étapes sans supervision humaine constante. Lorsqu'un agent interagit avec un service externe, il envoie son historique opérationnel complet, ce qui explique comment MadPot a capturé le récit intégral de la campagne.

Dans la campagne de vol de credentials, les agents scannaient les applications d'IA exposées sur Internet, extrayaient les clés des fournisseurs upstream et les validaient contre des services de jetons. Ils privilégiaient les sites de production d'entreprise et notaient les credentials selon leur utilité, ignorant ceux exposés publiquement depuis plus de 30 jours. Les clés volées étaient réinjectées dans la passerelle de modèles du framework, créant une boucle auto-financée où les ressources compromises payaient pour la puissance de calcul nécessaire à trouver davantage de victimes. Les agents exploitaient des vulnérabilités spécifiques dans des plateformes comme LiteLLM, Langflow et RAGFlow, abusant des credentials par défaut et des contournements d'authentification.

Pour la campagne de deepfake, les agents tentaient de vaincre les contrôles de vivacité (liveness checks) en rétro-ingénierie les protocoles des fournisseurs. Ils documentaient les flux d'événements de détection faciale et les systèmes de coordonnées, visant à positionner les visages synthétiques dans des tolérances de pixels précises. Bien que les verdicts côté serveur aient rejeté les tentatives, les agents ont construit un pipeline vidéo en temps réel sur du matériel grand public atteignant 11,5 images par seconde. Ils ont également falsifié des documents d'identité en préservant les tables de compression originales des caméras et en synthétisant les métadonnées pour rendre les images modifiées authentiques au niveau du fichier.

Détails clés

  • Les attaquants ont utilisé le framework open-source de test d'intrusion agentic AI ARTEX pour orchestrer les campagnes.
  • Les capteurs MadPot ont capturé la mémoire des agents en se faisant passer pour des API d'inférence LLM, révélant les états internes des campagnes.
  • Une campagne a volé des credentials de modèles d'IA pour créer une boucle auto-entretenue où les clés volées finançaient de nouvelles attaques.
  • Une autre campagne a ciblé les vérifications KYC des cryptomonnaies avec des deepfakes en temps réel fonctionnant à 11,5 images par seconde.
  • Les acteurs de la menace sont évalués avec une confiance modérée comme étant des groupes liés à la Chine, basé sur la langue et le ciblage.
  • Les agents ont exploité des vulnérabilités connues dans des plateformes d'IA comme LiteLLM, Langflow et RAGFlow, y compris CVE-2025-3248.

Pourquoi c'est important

Ce rapport démontre que l'IA agentique a dépassé les preuves de concept expérimentales pour atteindre des opérations offensives soutenues et motivées financièrement. La vitesse et la persistance de ces agents automatisés signifient que les défaillances élémentaires d'hygiène de sécurité, telles que les credentials codés en dur ou les logiciels non patchés, sont exploitées presque immédiatement. Les défenseurs ne peuvent plus compter sur l'hypothèse que les attaquants ont besoin de beaucoup de temps pour sonder manuellement les systèmes ; les agents d'IA peuvent scanner, valider et escalader les privilèges rapidement à travers des centaines de cibles.

Pour les ingénieurs logiciels et les responsables de la sécurité, cela souligne le besoin critique de traiter les applications d'IA et les passerelles de modèles avec la même rigueur que les systèmes de production traditionnels. Les secrets exposés dans le JavaScript côté client, les fichiers d'environnement ou les dépôts de code publics sont des proies faciles pour les scanners automatisés. La nature auto-financée de la campagne de vol de credentials implique également qu'une seule brèche peut s'étendre rapidement, car les attaquants utilisent les ressources de calcul volées pour amplifier leur portée sans encourir de coûts supplémentaires.

Que pouvez-vous faire

  • Auditez les plateformes d'applications d'IA et les passerelles de modèles pour détecter les credentials par défaut, les endpoints non authentifiés et les secrets exposés.
  • Faites tourner les clés API et les credentials exposés publiquement, surtout ceux ayant plus de 30 jours.
  • Appliquez les correctifs pour les vulnérabilités connues dans les outils d'IA, y compris CVE-2025-3248 dans Langflow et CVE-2026-28797 dans RAGFlow.
  • Surveillez l'utilisation des services d'IA pour repérer les dépenses inattendues ou les schémas de trafic anormaux pouvant indiquer des clés compromises.
  • Mettez en œuvre des contrôles stricts sur le trafic sortant de l'infrastructure d'IA pour prévenir l'exfiltration de données et les communications de commande et contrôle (C2).
  • Revoyez et renforcez les processus de vérification d'identité pour détecter les médias synthétiques et les métadonnées de documents manipulés.
  • #ai security
  • #threat intelligence
  • #cybercrime
  • #deepfakes
  • #aws

Outils de la Boutique Bytechap

Continuer la lecture

Tous les articles