Sicherheit & Datenschutz

Google meldet, dass KI-Agenten die Erstellung von Exploits und die Rückentwicklung von Patches automatisieren

Google zeigt auf, dass Bedrohungsakteure autonome KI-Frameworks nutzen, um Patches rückzuentwickeln und Angriffe in Maschinengeschwindigkeit zu starten, was das Zeitfenster für Verteidigungsmaßnahmen verkürzt.

Illustration von KI-gesteuerten Cyberangriffen, die digitale Verteidigungslinien durchbrechen
Für diesen Artikel generierte Illustration

Automatisch aus dem englischen Original übersetzt.

Google berichtete am Montag, dass Cyberkriminelle über manuelle KI-Prompts hinausgegangen sind und autonome Multi-Agent-Systeme zur Durchführung komplexer Eindringversuche einsetzen. Diese adversarialen Frameworks automatisieren die Rückentwicklung von Software-Patches, sodass Angreifer Schwachstellen deutlich schneller als zuvor weaponisieren können.

Was passiert ist

Die Google Threat Intelligence Group (GTIG) hat eine Verschiebung hin zur Nutzung autonomer offensiver Frameworks wie ARTEX, CAIRN, CyberStrikeAI und PentAGI identifiziert. Diese Tools ermöglichen es Bedrohungsakteuren, mehrgliedrige Eindringversuche mit höherer operativer Geschwindigkeit durchzuführen. Anstatt sich ausschließlich auf menschliche Operatoren zu verlassen, die Angriffsschritte verketten, automatisieren diese agentischen Systeme diskrete Phasen live ausgeführter Intrusionen und ermöglichen so einen Skalierungsvorgang in Maschinengeschwindigkeit.

Ein kritischer Bestandteil dieser Entwicklung ist die Automatisierung der Patch-Analyse. Angreifer nutzen große Sprachmodelle (LLMs) und agentische Frameworks, um Differenzanalysen an Software-Updates durchzuführen. Dieser Prozess ermöglicht es ihnen, Fehler in neu gepatchter Software schnell zu identifizieren und auszunutzen. Google nannte als Beispiel den Fall der PaperCut NG/MF-Schwachstellen vom September, bei dem diese Methode beobachtet wurde. Durch den Vergleich von Quellcode-Versionen, einschließlich Vorabveröffentlichungskanälen, und die Prüfung von Release Notes können Angreifer die Zeitspanne zwischen der Offenlegung eines Patches und der aktiven Ausnutzung erheblich verkürzen.

Der Bericht hob auch die Beteiligung finanziell motivierter Gruppen und mutmaßlicher Spionageakteure im Umfeld Chinas hervor. Diese Akteure experimentieren mit Open-Source-agentischen Penetrationstest-Frameworks, um die Einstiegshürde für hochkomplexe Angriffe zu senken. Tools wie ZeroHollow, ein Inferenzdienst für die Exploit-Entwicklung, und Agent Zero, der autonome Codeausführung bietet, werden genutzt, um neue Exploits zu integrieren und Angriffe autonom zu skalieren.

Wie es funktioniert

Agentische KI-Frameworks arbeiten, indem sie spezialisierte Agenten verketten, die bestimmte Aufgaben innerhalb des Lebenszyklus eines Angriffs übernehmen. Anstatt dass ein einzelnes Modell versucht, eine gesamte Intrusion zu verwalten, delegieren diese Systeme Verantwortlichkeiten. Ein Agent könnte einen Patch analysieren, ein anderer Proof-of-Concept-Code generieren und ein dritter die Bereitstellung handhaben. Dieser modulare Ansatz ermöglicht parallele Verarbeitung und schnelle Iteration, was den Angriffszeitplan erheblich beschleunigt.

Im Kontext der Rückentwicklung von Patches werden LLMs verwendet, um verschiedene Versionen des Quellcodes zu vergleichen. Die Modelle identifizieren Änderungen, die zur Behebung einer Schwachstelle vorgenommen wurden, und leiten dann ab, wie diese Fixes umgangen oder die zugrunde liegende Schwachstelle vor Anwendung des Patches ausgenutzt werden kann. Diese automatisierte Differenzanalyse eliminiert die Notwendigkeit manueller, arbeitsintensiver Rückentwicklung und ermöglicht es Angreifer, sich auf eine endliche Menge an Quellenmaterialien zu konzentrieren und schnell weaponisierte Exploits zu produzieren.

Darüber hinaus werden diese Systeme in Phishing-as-a-Service-Plattformen integriert. So hat beispielsweise die chinesischsprachige Plattform Jieyou einen LLM-Chatbot-Assistenten eingebunden. Dies ermöglicht Nutzern mit begrenztem technischen Fachwissen, Phishing-Panels zu konfigurieren und Vorlagen mittels natürlichsprachlicher Befehle zu ändern. Die KI passt Köder und Benutzeroberflächen dynamisch an, wodurch Phishing-Kampagnen überzeugender und leichter in großem Maßstab durchführbar werden.

Wichtige Details

  • Google identifizierte autonome offensive Frameworks wie ARTEX, CAIRN, CyberStrikeAI und PentAGI, die von Bedrohungsakteuren genutzt werden.
  • Angreifer verwenden LLMs zur Differenzanalyse von Patches, was die Weaponisierung von Schwachstellen wie denen in PaperCut NG/MF beschleunigt.
  • Open-Source-Tools wie Agent Zero und Dienste wie ZeroHollow werden missbraucht, um die Exploit-Entwicklung und Codeausführung zu automatisieren.
  • Finanziell motivierte Gruppen und mutmaßliche chinesische Spionageakteure gehören zu denjenigen, die mit diesen agentischen Frameworks experimentieren.
  • Phishing-Plattformen wie Jieyou setzen nun LLM-Chatbots ein, damit weniger qualifizierte Nutzer Phishing-Oberflächen per natürlicher Sprache anpassen können.
  • Bedrohungsakteure betreiben zudem LLMjacking, stehlen Cloud-Ressourcen und Zugangsdaten, um den Zugang über Proxy-Dienste wie APIMart und JetNight weiterzuverkaufen.

Warum das wichtig ist

Für Softwareentwickler und Sicherheitsingenieure stellt die Komprimierung des Zeitrahmens zwischen Patch-Veröffentlichung und Ausnutzung eine kritische Herausforderung dar. Traditionell gab es nach der Veröffentlichung eines Patches ein Zeitfenster, in dem Organisationen Updates einspielen konnten, bevor eine weitreichende Ausnutzung stattfand. Durch KI-gesteuerte Rückentwicklung schrumpft dieses Fenster rasch, was bedeutet, dass ungepatchte Systeme fast unmittelbar nach der öffentlichen Verfügbarkeit einer Korrektur verwundbar sind. Dies verschiebt die Last von reaktivem Patching hin zu proaktivem Schwachstellenmanagement und robusten defensiven Architekturen.

Die Demokratisierung hochkomplexer Angriffstools durch Open-Source-Frameworks und KI-Assistenten senkt die erforderliche Qualifikation für Cyberkriminalität. Akteure, denen previously das Fachwissen fehlte, eigene Exploits zu entwickeln oder überzeugende Phishing-Kampagnen zu erstellen, können nun KI nutzen, um diese Aufgaben auszuführen. Dies erhöht das Volumen und die Vielfalt der Bedrohungen, gegen die sich Organisationen verteidigen müssen, und erfordert von Sicherheitsteams, dass sie automatisierte, skalierbare Angriffe antizipieren, nicht nur manuelle.

Darüber hinaus führt die gezielte Attacke auf die KI-Infrastruktur selbst, bekannt als LLMjacking, einen neuen Vektor für Ressourcenraub und Datenkompromittierung ein. Da Unternehmen immer mehr LLMs in ihre Workflows integrieren, wird die Absicherung dieser Assets genauso wichtig wie der Schutz traditioneller Server und Datenbanken. Der Weiterverkauf gestohlener KI-Ressourcen über Untergrundmärkte deutet auf wachsende wirtschaftliche Anreize für Angriffe auf KI-Lieferketten hin.

Was Sie tun können

  • Priorisieren Sie schnelle Patch-Zyklen und erwägen Sie virtuelles Patching oder Web Application Firewalls, um Systeme zu schützen, bevor Updates eingespielt werden können.
  • Implementieren Sie strenge Zugriffskontrollen und Monitoring für die KI-Infrastruktur, um LLMjacking und unbefugte Ressourcennutzung zu erkennen und zu verhindern.
  • Prüfen und beschränken Sie die Nutzung von Open-Source-agentischen Frameworks innerhalb Ihrer Organisation, um versehentlichen Missbrauch oder Offenlegung zu vermeiden.
  • Verbessern Sie das Phishing-Bewusstseinstraining, indem Sie Beispiele für KI-generierte Inhalte einbeziehen und den Fokus auf dynamische und personalisierte Ködertechniken legen.
  • Überwachen Sie ungewöhnliche Muster beim Zugriff auf Code-Repositories und bei Patch-Analyse-Aktivitäten, die auf adversariale Rückentwicklungsversuche hindeuten könnten.
  • Führen Sie eine Zero-Trust-Architektur ein, um die Auswirkungen kompromittierter Zugangsdaten und lateraler Bewegung innerhalb Ihres Netzwerks zu begrenzen.
  • #ai security
  • #cybersecurity
  • #exploit development
  • #patch management
  • #threat intelligence

Tools aus dem Bytechap-Shop

Weiterlesen

Alle Artikel