Sécurité et confidentialité

Google signale que des agents d'IA automatisent la création d'exploits et le rétro-ingéniering de correctifs

Google révèle que les acteurs malveillants utilisent des frameworks d'IA autonomes pour effectuer du rétro-ingéniering sur les correctifs et lancer des attaques à la vitesse machine, réduisant ainsi la fenêtre de défense.

Illustration d'attaques cyber pilotées par l'IA franchissant les défenses numériques
Illustration générée pour cet article

Traduit automatiquement depuis l'original anglais.

Google a rapporté lundi que les cybercriminels ont dépassé le stade du prompting manuel d'IA pour déployer des systèmes multi-agents autonomes afin d'exécuter des intrusions complexes. Ces frameworks adverses automatisent le rétro-ingéniering des correctifs logiciels, permettant aux attaquants de transformer les vulnérabilités en armes beaucoup plus rapidement qu'auparavant.

Ce qui s'est passé

Le Google Threat Intelligence Group (GTIG) a identifié une tendance vers l'utilisation de frameworks offensifs autonomes tels que ARTEX, CAIRN, CyberStrikeAI et PentAGI. Ces outils permettent aux acteurs de la menace d'exécuter des intrusions en plusieurs étapes avec une vélocité opérationnelle accrue. Au lieu de dépendre uniquement d'opérateurs humains pour enchaîner les étapes d'une attaque, ces systèmes agentiques automatisent des phases discrètes des intrusions en cours, permettant aux opérations de passer à l'échelle à la vitesse machine.

Un élément critique de cette évolution est l'automatisation de l'analyse des correctifs. Les attaquants utilisent de grands modèles de langage (LLM) et des frameworks agentiques pour effectuer une analyse différentielle sur les mises à jour logicielles. Ce processus leur permet d'identifier et d'exploiter rapidement les failles dans les logiciels nouvellement corrigés. Google a cité le cas des vulnérabilités PaperCut NG/MF de septembre comme exemple où cette méthode a été observée. En comparant les versions du code source, y compris les canaux préliminaires, et en examinant les notes de version, les attaquants peuvent réduire considérablement le temps entre la divulgation du correctif et son exploitation active.

Le rapport a également souligné l'implication de groupes motivés par des gains financiers et d'acteurs présumés d'espionnage alignés sur la Chine. Ces acteurs expérimentent des frameworks open-source de test d'intrusion agentique pour abaisser la barrière d'entrée aux attaques sophistiquées. Des outils comme ZeroHollow, un service d'inférence pour le développement d'exploits, et Agent Zero, qui propose une exécution autonome de code, sont exploités pour intégrer de nouveaux exploits et étendre les attaques de manière autonome.

Comment cela fonctionne

Les frameworks d'IA agentique fonctionnent en chaînant des agents spécialisés qui gèrent des tâches spécifiques au sein du cycle de vie d'une attaque. Plutôt que de demander à un seul modèle de gérer une intrusion entière, ces systèmes délèguent les responsabilités. Un agent peut analyser un correctif, un autre générer du code de preuve de concept, et un troisième gérer le déploiement. Cette approche modulaire permet un traitement parallèle et une itération rapide, accélérant significativement le calendrier de l'attaque.

Dans le contexte du rétro-ingéniering des correctifs, les LLM sont utilisés pour comparer différentes versions du code source. Les modèles identifient les modifications apportées pour corriger une vulnérabilité, puis infèrent comment contourner ces corrections ou exploiter la faille sous-jacente avant l'application du correctif. Cette analyse différentielle automatisée supprime la nécessité d'un rétro-ingéniering manuel et laborieux, permettant aux attaquants de se concentrer sur un ensemble fini de sources et de produire rapidement des exploits armés.

De plus, ces systèmes sont intégrés dans des plateformes de phishing-as-a-service. Par exemple, la plateforme en langue chinoise Jieyou a intégré un assistant chatbot basé sur un LLM. Cela permet aux utilisateurs ayant peu d'expertise technique de configurer des panneaux de phishing et de modifier des modèles via des commandes en langage naturel. L'IA personnalise dynamiquement les leurres et les interfaces, rendant les campagnes de phishing plus convaincantes et plus faciles à lancer à grande échelle.

Détails clés

  • Google a identifié des frameworks offensifs autonomes, notamment ARTEX, CAIRN, CyberStrikeAI et PentAGI, utilisés par des acteurs de la menace.
  • Les attaquants utilisent des LLM pour l'analyse différentielle des correctifs, accélérant l'armement de vulnérabilités telles que celles de PaperCut NG/MF.
  • Des outils open-source comme Agent Zero et des services comme ZeroHollow sont détournés pour automatiser le développement d'exploits et l'exécution de code.
  • Des groupes motivés par des gains financiers et des acteurs présumés d'espionnage chinois figurent parmi ceux qui expérimentent ces frameworks agentiques.
  • Les plateformes de phishing comme Jieyou utilisent désormais des chatbots LLM pour permettre aux utilisateurs peu qualifiés de personnaliser les interfaces de phishing via le langage naturel.
  • Les acteurs de la menace pratiquent également le LLMjacking, volant des ressources cloud et des identifiants pour revendre l'accès via des services proxy comme APIMart et JetNight.

Pourquoi c'est important

Pour les développeurs de logiciels et les ingénieurs en sécurité, la compression du délai entre la publication d'un correctif et son exploitation est un défi majeur. Traditionnellement, il existait une fenêtre de temps après la sortie d'un correctif durant laquelle les organisations pouvaient appliquer les mises à jour avant que des exploitations généralisées ne surviennent. Avec le rétro-ingéniering piloté par l'IA, cette fenêtre se réduit rapidement, ce qui signifie que les systèmes non corrigés deviennent vulnérables presque immédiatement après la publication d'un correctif. Cela transfère la charge du patching réactif vers une gestion proactive des vulnérabilités et des architectures défensives robustes.

La démocratisation des outils d'attaque sophistiqués grâce aux frameworks open-source et aux assistants IA abaisse le niveau de compétence requis pour la cybercriminalité. Les acteurs qui manquaient auparavant de l'expertise nécessaire pour développer des exploits personnalisés ou créer des campagnes de phishing convaincantes peuvent désormais utiliser l'IA pour accomplir ces tâches. Cela augmente le volume et la variété des menaces contre lesquelles les organisations doivent se défendre, obligeant les équipes de sécurité à anticiper des attaques automatisées et évolutives plutôt que simplement manuelles.

En outre, la cible même de l'infrastructure IA, connue sous le nom de LLMjacking, introduit un nouveau vecteur de vol de ressources et de compromission de données. À mesure que les entreprises intègrent davantage de LLM dans leurs flux de travail, la sécurisation de ces actifs devient aussi importante que la protection des serveurs et bases de données traditionnels. La revente de ressources IA volées sur les marchés clandestins indique une incitation économique croissante à attaquer les chaînes d'approvisionnement IA.

Ce que vous pouvez faire

  • Priorisez des cycles de correction rapides et envisagez le virtual patching ou des pare-feu d'applications web pour protéger les systèmes avant que les mises à jour ne puissent être appliquées.
  • Mettez en œuvre des contrôles d'accès stricts et une surveillance de l'infrastructure IA pour détecter et prévenir le LLMjacking et l'utilisation non autorisée de ressources.
  • Passez en revue et restreignez l'utilisation des frameworks agentiques open-source au sein de votre organisation pour éviter toute utilisation abusive accidentelle ou exposition.
  • Renforcez la sensibilisation au phishing en incluant des exemples de contenu généré par IA, en mettant l'accent sur les techniques de leurres dynamiques et personnalisés.
  • Surveillez les motifs inhabituels dans l'accès aux dépôts de code et les activités d'analyse de correctifs pouvant indiquer des efforts de rétro-ingéniering adverses.
  • Adoptez une architecture zéro confiance pour limiter l'impact des identifiants compromis et des mouvements latéraux au sein de votre réseau.
  • #ai security
  • #cybersecurity
  • #exploit development
  • #patch management
  • #threat intelligence

Outils de la Boutique Bytechap

Continuer la lecture

Tous les articles