Seguridad y privacidad

Google informa que agentes de IA automatizan la creación de exploits y la ingeniería inversa de parches

Google revela que actores de amenazas utilizan marcos de IA autónomos para realizar ingeniería inversa de parches e lanzar ataques a velocidad de máquina, reduciendo la ventana de defensa.

Ilustración de ciberataques impulsados por IA rompiendo defensas digitales
Ilustración generada para este artículo

Traducido automáticamente del original en inglés.

Google informó el lunes que los ciberdelincuentes han superado el uso manual de prompts de IA para desplegar sistemas multiagente autónomos destinados a ejecutar intrusiones complejas. Estos marcos adversarios automatizan la ingeniería inversa de parches de software, lo que permite a los atacantes convertir vulnerabilidades en armas significativamente más rápido que antes.

Qué ocurrió

El Grupo de Inteligencia sobre Amenazas de Google (GTIG) identificó un cambio hacia el uso de marcos ofensivos autónomos como ARTEX, CAIRN, CyberStrikeAI y PentAGI. Estas herramientas permiten a los actores de amenazas ejecutar intrusiones de múltiples etapas con mayor velocidad operativa. En lugar de depender exclusivamente de operadores humanos para encadenar los pasos del ataque, estos sistemas agénticos automatizan fases discretas de las intrusiones en curso, permitiendo que las operaciones escalen a velocidad de máquina.

Un componente crítico de esta evolución es la automatización del análisis de parches. Los atacantes están utilizando modelos de lenguaje grandes (LLM) y marcos agénticos para realizar análisis diferenciales en actualizaciones de software. Este proceso les permite identificar y explotar rápidamente fallos en software recién parcheado. Google citó el caso de las vulnerabilidades de PaperCut NG/MF de septiembre como un ejemplo donde se observó este método. Al comparar versiones del código fuente, incluidos los canales previos al lanzamiento, y examinar las notas de la versión, los atacantes pueden reducir drásticamente el tiempo entre la divulgación del parche y su explotación activa.

El informe también destacó la participación de grupos motivados por fines económicos y presuntos actores de espionaje alineados con China. Estos actores están experimentando con marcos de pruebas de penetración agénticas de código abierto para reducir la barrera de entrada para ataques sofisticados. Herramientas como ZeroHollow, un servicio de inferencia para el desarrollo de exploits, y Agent Zero, que presenta ejecución autónoma de código, están siendo aprovechadas para integrar nuevos exploits y escalar ataques de forma autónoma.

Cómo funciona

Los marcos de IA agéntica operan encadenando agentes especializados que manejan tareas específicas dentro del ciclo de vida de un ataque. En lugar de que un único modelo intente gestionar una intrusión completa, estos sistemas delegan responsabilidades. Un agente podría analizar un parche, otro generar código de prueba de concepto y un tercero encargarse del despliegue. Este enfoque modular permite el procesamiento paralelo y la iteración rápida, acelerando significativamente la línea de tiempo del ataque.

En el contexto de la ingeniería inversa de parches, los LLM se utilizan para comparar diferentes versiones del código fuente. Los modelos identifican los cambios realizados para corregir una vulnerabilidad y luego infieren cómo evitar esas correcciones o explotar el fallo subyacente antes de aplicar el parche. Este análisis diferencial automatizado elimina la necesidad de ingeniería inversa manual y laboriosa, permitiendo a los atacantes centrarse en un conjunto finito de materiales fuente y producir rápidamente exploits armados.

Además, estos sistemas se están integrando en plataformas de phishing-as-a-service. Por ejemplo, la plataforma en chino Jieyou ha incorporado un asistente chatbot basado en LLM. Esto permite a usuarios con experiencia técnica limitada configurar paneles de phishing y modificar plantillas mediante comandos de lenguaje natural. La IA personaliza dinámicamente los señuelos pretextuales y las interfaces, haciendo que las campañas de phishing sean más convincentes y fáciles de lanzar a gran escala.

Detalles clave

  • Google identificó marcos ofensivos autónomos, incluidos ARTEX, CAIRN, CyberStrikeAI y PentAGI, utilizados por actores de amenazas.
  • Los atacantes usan LLM para el análisis diferencial de parches, acelerando la conversión de vulnerabilidades en armas, como las de PaperCut NG/MF.
  • Herramientas de código abierto como Agent Zero y servicios como ZeroHollow están siendo abusados para automatizar el desarrollo de exploits y la ejecución de código.
  • Grupos motivados por fines económicos y presuntos actores de espionaje chinos están entre quienes experimentan con estos marcos agénticos.
  • Plataformas de phishing como Jieyou ahora usan chatbots LLM para permitir que usuarios poco calificados personalicen interfaces de phishing mediante lenguaje natural.
  • Los actores de amenazas también participan en el "LLMjacking", robando recursos en la nube y credenciales para revender acceso a través de servicios proxy como APIMart y JetNight.

Por qué importa

Para los desarrolladores de software y los ingenieros de seguridad, la compresión del tiempo entre la publicación del parche y su explotación es un desafío crítico. Tradicionalmente, existía una ventana de tiempo después de publicar un parche durante la cual las organizaciones podían aplicar actualizaciones antes de que ocurriera una explotación generalizada. Con la ingeniería inversa impulsada por IA, esta ventana se está reduciendo rápidamente, lo que significa que los sistemas sin parchear son vulnerables casi inmediatamente después de que se hace público un arreglo. Esto traslada la carga desde el parcheo reactivo hacia la gestión proactiva de vulnerabilidades y arquitecturas defensivas robustas.

La democratización de herramientas de ataque sofisticadas a través de marcos de código abierto y asistentes de IA reduce el nivel de habilidad necesario para cometer ciberdelitos. Actores que previamente carecían de la experiencia para desarrollar exploits personalizados o crear campañas de phishing convincentes ahora pueden aprovechar la IA para realizar estas tareas. Esto aumenta el volumen y la variedad de amenazas contra las que deben defenderse las organizaciones, requiriendo que los equipos de seguridad anticipen ataques automatizados y escalables, no solo manuales.

Además, el objetivo de la propia infraestructura de IA, conocido como LLMjacking, introduce un nuevo vector para el robo de recursos y la compromisión de datos. A medida que las empresas integran más LLM en sus flujos de trabajo, asegurar estos activos se vuelve tan importante como proteger servidores y bases de datos tradicionales. La reventa de recursos de IA robados a través de mercados clandestinos indica un creciente incentivo económico para atacar las cadenas de suministro de IA.

Qué puede hacer

  • Priorice ciclos rápidos de parcheo y considere el parcheo virtual o firewalls de aplicaciones web para proteger los sistemas antes de que se puedan aplicar las actualizaciones.
  • Implemente controles de acceso estrictos y monitoreo para la infraestructura de IA para detectar y prevenir el LLMjacking y el uso no autorizado de recursos.
  • Revise y restrinja el uso de marcos agénticos de código abierto dentro de su organización para prevenir el uso indebido accidental o la exposición.
  • Mejore la capacitación en concienciación sobre phishing para incluir ejemplos de contenido generado por IA, enfocándose en técnicas de señuelo dinámicas y personalizadas.
  • Monitoree patrones inusuales en el acceso a repositorios de código y actividades de análisis de parches que puedan indicar esfuerzos de ingeniería inversa adversaria.
  • Adopte una arquitectura de confianza cero para limitar el impacto de credenciales comprometidas y el movimiento lateral dentro de su red.
  • #ai security
  • #cybersecurity
  • #exploit development
  • #patch management
  • #threat intelligence

Herramientas de la Tienda de Bytechap

Seguir leyendo

Todos los artículos