Seguridad y privacidad

Amazon revela cómo los agentes de IA automatizan el robo de credenciales y el fraude con deepfakes

La Inteligencia de Amenazas de Amazon observó a actores de amenazas utilizando el framework ARTEX para robar credenciales de modelos de IA y evadir la verificación de identidad mediante deepfakes entre octubre y noviembre de 2026.

Una mano robótica hecha de líneas de circuitos alcanzando una llave en un rack de servidores.
Ilustración generada para este artículo

Traducido automáticamente del original en inglés.

Entre el 3 de octubre y el 5 de noviembre de 2026, la red señuelo MadPot de Amazon capturó registros operativos detallados de agentes de IA que ejecutaban campañas de ciberdelincuencia ofensiva. Estos agentes, impulsados por el framework de código abierto ARTEX, apuntaron a infraestructuras de IA y exchanges de criptomonedas con una intervención humana mínima. Los hallazgos revelan un cambio hacia ataques automatizados autosostenibles, donde los recursos robados financian intrusiones posteriores.

Qué ocurrió

La Inteligencia de Amenazas de Amazon analizó las solicitudes enviadas a los sensores MadPot, configurados para imitar APIs populares de inferencia de grandes modelos de lenguaje (LLM). Los agentes de IA atacantes trataron estos señuelos como backends legítimos, subiendo inadvertidamente su propia memoria operativa, que incluía prompts del sistema, historiales de herramientas y estados de campaña. Esta telemetría proporcionó una rara ventana hacia la lógica interna y el progreso de operaciones activas de amenaza. Amazon evaluó que la actividad involucraba a diversos grupos de amenazas de origen chino, citando el uso de chino simplificado en los prompts, configuraciones de zona horaria de China y patrones específicos de objetivo.

La investigación destacó dos campañas principales. La primera se centró en el robo a escala industrial de claves API y credenciales de modelos de IA. La segunda buscó evadir la verificación «conozca a su cliente» (KYC) en exchanges de criptomonedas utilizando deepfakes en tiempo real. En ambos casos, los agentes operaron con un alto grado de autonomía, siguiendo instrucciones permanentes que definían objetivos, restricciones y prioridades de destino mientras ejecutaban ellos mismos el trabajo técnico. Amazon notificó a los clientes de AWS potencialmente afectados, pero compartió públicamente indicadores de compromiso (IoC) para ayudar a otras organizaciones a asegurar sus entornos.

Cómo funciona

El framework ARTEX organiza las operaciones ofensivas dividiendo el trabajo entre agentes especializados, como planificadores, trabajadores, verificadores y compresores. Estos agentes comparten un grafo de conocimiento persistente que actúa como memoria colectiva, permitiendo que cada componente lea hallazgos previos y escriba nuevos resultados. Esta arquitectura permite al sistema mantener el contexto a través de cientos de objetivos y ataques complejos de múltiples pasos sin supervisión humana constante. Cuando un agente interactúa con un servicio externo, envía todo su historial operativo, lo cual es la forma en que MadPot capturó la narrativa completa de la campaña.

En la campaña de robo de credenciales, los agentes escanearon aplicaciones de IA expuestas en internet, extrajeron claves de proveedores upstream y las validaron contra servicios de tokens. Priorizaron sitios de producción empresarial y clasificaron las credenciales según su utilidad, ignorando aquellas expuestas públicamente durante más de 30 días. Las claves robadas se reintrodujeron en la pasarela de modelos del framework, creando un bucle autofinanciado donde los recursos comprometidos pagaban por la capacidad de cómputo necesaria para encontrar más víctimas. Los agentes apuntaron a vulnerabilidades específicas en plataformas como LiteLLM, Langflow y RAGFlow, explotando credenciales predeterminadas y bypasses de autenticación.

Para la campaña de deepfakes, los agentes intentaron derrotar las comprobaciones de presencia (liveness checks) mediante ingeniería inversa de los protocolos del proveedor. Documentaron flujos de eventos de detección facial y sistemas de coordenadas, con el objetivo de posicionar rostros sintéticos dentro de tolerancias de píxeles precisas. Aunque los veredictos del lado del servidor rechazaron los intentos, los agentes construyeron una tubería de vídeo en tiempo real sobre hardware de consumo que alcanzó 11,5 fotogramas por segundo. También falsificaron documentos de identidad preservando las tablas de compresión originales de la cámara y sintetizando metadatos para hacer que las imágenes editadas parecieran auténticas a nivel de archivo.

Detalles clave

  • Los atacantes utilizaron el framework de pruebas de penetración agéntico de IA de código abierto ARTEX para orquestar las campañas.
  • Los sensores MadPot capturaron la memoria de los agentes haciéndose pasar por APIs de inferencia LLM, revelando estados internos de la campaña.
  • Una campaña robó credenciales de modelos de IA para crear un bucle autosostenido donde las claves robadas financiaban ataques adicionales.
  • Otra campaña apuntó a las comprobaciones KYC de criptomonedas con deepfakes en tiempo real funcionando a 11,5 fotogramas por segundo.
  • Se evalúa con moderada confianza que los actores de amenazas son grupos de origen chino basándose en el idioma y los objetivos.
  • Los agentes explotaron vulnerabilidades conocidas en plataformas de IA como LiteLLM, Langflow y RAGFlow, incluyendo CVE-2025-3248.

Por qué importa

Este informe demuestra que la IA agéntica ha superado las pruebas de concepto experimentales para convertirse en operaciones ofensivas sostenidas y motivadas financieramente. La velocidad y persistencia de estos agentes automatizados significan que las fallas básicas de higiene de seguridad, como credenciales codificadas en duro o software sin parches, son explotadas casi inmediatamente. Los defensores ya no pueden depender de la suposición de que los atacantes necesitan mucho tiempo para sondear manualmente los sistemas; los agentes de IA pueden escanear, validar y escalar privilegios en rápida sucesión a través de cientos de objetivos.

Para ingenieros de software y líderes de seguridad, esto destaca la necesidad crítica de tratar las aplicaciones de IA y las pasarelas de modelos con el mismo rigor que los sistemas de producción tradicionales. Los secretos expuestos en JavaScript del lado del cliente, archivos de entorno o repositorios de código público son fruta baja para los escáneres automatizados. La naturaleza autofinanciada de la campaña de robo de credenciales también implica que una sola brecha puede expandirse rápidamente en alcance, ya que los atacantes utilizan recursos de cómputo robados para amplificar su alcance sin incurrir en costos adicionales.

Qué puedes hacer

  • Audita plataformas de aplicaciones de IA y pasarelas de modelos en busca de credenciales predeterminadas, endpoints sin autenticar y secretos expuestos.
  • Rota claves API y credenciales que hayan sido expuestas públicamente, especialmente aquellas con más de 30 días de antigüedad.
  • Aplica parches para vulnerabilidades conocidas en herramientas de IA, incluyendo CVE-2025-3248 en Langflow y CVE-2026-28797 en RAGFlow.
  • Monitorea el uso de servicios de IA para detectar gastos inesperados o patrones de tráfico inusuales que puedan indicar claves comprometidas.
  • Implementa controles estrictos sobre el tráfico saliente desde la infraestructura de IA para prevenir la exfiltración de datos y la comunicación de comando y control (C2).
  • Revisa y endurece los procesos de verificación de identidad para detectar medios sintéticos y metadatos de documentos manipulados.
  • #ai security
  • #threat intelligence
  • #cybercrime
  • #deepfakes
  • #aws

Herramientas de la Tienda de Bytechap

Seguir leyendo

Todos los artículos