Amazon zeigt, wie KI-Agenten den Diebstahl von Zugangsdaten und Deepfake-Betrug automatisieren
Das Amazon Threat Intelligence Team beobachtete zwischen Oktober und November 2026 Akteure der Bedrohungslandschaft, die das ARTEX-Framework nutzten, um Zugangsdaten für KI-Modelle zu stehlen und Identitätsprüfungen mit Deepfakes zu umgehen.
Automatisch aus dem englischen Original übersetzt.
Zwischen dem 3. Oktober und dem 5. November 2026 erfasste Amazons MadPot-Täuschungsnetzwerk detaillierte operative Aufzeichnungen von KI-Agenten, die offensive Cyberkriminalitätskampagnen durchführten. Diese Agenten, angetrieben durch das Open-Source-Framework ARTEX, zielten auf KI-Infrastrukturen und Kryptowährungsbörsen ab, wobei nur ein minimales menschliches Eingreifen erforderlich war. Die Erkenntnisse zeigen eine Verschiebung hin zu selbsttragenden automatisierten Angriffen, bei denen gestohlene Ressourcen weitere Eindringversuche finanzieren.
Was passiert ist
Amazon Threat Intelligence analysierte Anfragen, die an MadPot-Sensoren gesendet wurden. Diese waren so konfiguriert, dass sie populäre Inferenz-APIs großer Sprachmodelle imitierten. Die angreifenden KI-Agenten behandelten diese Täuschungen als legitime Backends und luden versehentlich ihr eigenes Betriebsgedächtnis hoch, einschließlich System-Prompts, Tool-Historien und Kampagnenstatus. Diese Telemetrie bot einen seltenen Einblick in die interne Logik und den Fortschritt aktiver Bedrohungsoperationen. Amazon schätzte, dass die Aktivität verschiedene chinesisch geprägte Bedrohungsgruppen betraf, was sich aus der Verwendung von vereinfachtem Chinesisch in Prompts, Konfigurationen der chinesischen Zeitzone und spezifischen Zielmuster ergab.
Die Untersuchung hob zwei primäre Kampagnen hervor. Die erste konzentrierte sich auf den industriellen Maßstab des Diebstahls von API-Schlüsseln und Zugangsdaten für KI-Modelle. Die zweite zielte darauf ab, Know-Your-Customer-Verifizierungen (KYC) bei Kryptowährungsbörsen unter Verwendung von Echtzeit-Deepfakes zu umgehen. In beiden Fällen operierten die Agenten mit einem hohen Grad an Autonomie und folgten stehenden Anweisungen, die Ziele, Einschränkungen und Prioritäten definierten, während sie die technische Arbeit selbst ausführten. Amazon benachrichtigte potenziell betroffene AWS-Kunden, gab aber Indikatoren für Kompromittierung öffentlich bekannt, um anderen Organisationen dabei zu helfen, ihre Umgebungen abzusichern.
Wie es funktioniert
Das ARTEX-Framework organisiert offensive Operationen, indem es die Arbeit auf spezialisierte Agenten verteilt, wie Planer, Arbeiter, Verifizierer und Kompressoren. Diese Agenten teilen einen persistenten Wissensgraphen, der als kollektives Gedächtnis fungiert und es jeder Komponente ermöglicht, frühere Erkenntnisse zu lesen und neue Ergebnisse zu schreiben. Diese Architektur erlaubt es dem System, den Kontext über Hunderte von Zielen und komplexe mehrstufige Angriffe hinweg aufrechtzuerhalten, ohne ständige menschliche Aufsicht. Wenn ein Agent mit einem externen Dienst interagiert, sendet er seine gesamte Betriebshistorie – so konnte MadPot die vollständige Erzählung der Kampagne erfassen.
In der Kampagne zum Diebstahl von Zugangsdaten scannten die Agenten internet-exponierte KI-Anwendungen, extrahierten Schlüssel von Upstream-Anbietern und validierten diese gegen Token-Dienste. Sie priorisierten produktive Unternehmensstandorte und bewerteten Zugangsdaten nach ihrem Nutzen, wobei sie solche ignorierten, die länger als 30 Tage öffentlich exponiert waren. Gestohlene Schlüssel wurden zurück in das Modell-Gateway des Frameworks eingespeist, wodurch ein selbstfinanzierender Kreislauf entstand, in dem kompromittierte Ressourcen die Rechenleistung bezahlten, die benötigt wurde, um weitere Opfer zu finden. Die Agenten zielten auf spezifische Schwachstellen in Plattformen wie LiteLLM, Langflow und RAGFlow ab und nutzten Standard-Zugangsdaten sowie Authentifizierungs-Umgehungen aus.
Für die Deepfake-Kampagne versuchten die Agenten, Liveness-Checks zu besiegen, indem sie Anbieterprotokolle rückentwickelten. Sie dokumentierten Streams von Gesichtserkennungsereignissen und Koordinatensysteme, mit dem Ziel, synthetische Gesichter innerhalb präziser Pixel-Toleranzen zu positionieren. Obwohl serverseitige Urteile die Versuche ablehnten, bauten die Agenten eine Echtzeit-Videopipeline auf Hardware für Endverbraucher auf, die 11,5 Bilder pro Sekunde erreichte. Sie fälschten auch Ausweisdokumente, indem sie ursprüngliche Kamera-Kompressionstabellen beibehielten und Metadaten synthetisierten, um bearbeitete Bilder auf Dateiebene authentisch erscheinen zu lassen.
Wichtige Details
- Angreifer nutzten das Open-Source-Agentic-AI-Penetrationstesting-Framework ARTEX zur Orchestrierung der Kampagnen.
- MadPot-Sensoren erfassten das Agentengedächtnis, indem sie sich als LLM-Inferenz-APIs ausgaben, und enthüllten interne Kampagnenstatus.
- Eine Kampagne stahl Zugangsdaten für KI-Modelle, um einen selbsttragenden Kreislauf zu schaffen, in dem gestohlene Schlüssel weitere Angriffe finanzierten.
- Eine andere Kampagne griff KYC-Prüfungen bei Kryptowährungen mit Echtzeit-Deepfakes an, die mit 11,5 Bildern pro Sekunde liefen.
- Bedrohungsakteuren werden mit moderater Zuversicht als chinesisch geprägte Gruppen eingestuft, basierend auf Sprache und Zielrichtung.
- Agenten nutzten bekannte Schwachstellen in KI-Plattformen wie LiteLLM, Langflow und RAGFlow aus, einschließlich CVE-2025-3248.
Warum das wichtig ist
Dieser Bericht zeigt, dass Agentic AI über experimentelle Proof-of-Concepts hinausgewachsen ist und nun nachhaltige, finanziell motivierte offensive Operationen durchführt. Die Geschwindigkeit und Beharrlichkeit dieser automatisierten Agenten bedeuten, dass grundlegende Sicherheitslücken, wie hartcodierte Zugangsdaten oder ungepatchte Software, nahezu sofort ausgenutzt werden. Verteidiger können sich nicht mehr darauf verlassen, dass Angreifer erhebliche Zeit benötigen, um Systeme manuell zu sondieren; KI-Agenten können schnell hintereinander scannen, validieren und Privilegien eskalieren, und zwar über Hunderte von Zielen hinweg.
Für Software-Ingenieure und Sicherheitsverantwortliche unterstreicht dies die kritische Notwendigkeit, KI-Anwendungen und Modell-Gateways mit derselben Strenge zu behandeln wie traditionelle Produktionssysteme. Exponierte Geheimnisse in clientseitigem JavaScript, Umgebungsdateien oder öffentlichen Code-Repositories sind leichte Beute für automatisierte Scanner. Die selbstfinanzierende Natur der Kampagne zum Diebstahl von Zugangsdaten impliziert zudem, dass ein einzelner Einbruch rasch an Umfang zunehmen kann, da Angreifer gestohlene Rechenressourcen nutzen, um ihre Reichweite zu vergrößern, ohne zusätzliche Kosten zu verursachen.
Was Sie tun können
- Überprüfen Sie KI-Anwendungsplattformen und Modell-Gateways auf Standard-Zugangsdaten, unauthentifizierte Endpunkte und exponierte Geheimnisse.
- Rotieren Sie API-Schlüssel und Zugangsdaten, die öffentlich exponiert wurden, insbesondere solche, die älter als 30 Tage sind.
- Installieren Sie Patches für bekannte Schwachstellen in KI-Tools, einschließlich CVE-2025-3248 in Langflow und CVE-2026-28797 in RAGFlow.
- Überwachen Sie die Nutzung von KI-Diensten auf unerwartete Ausgaben oder ungewöhnliche Traffic-Muster, die auf kompromittierte Schlüssel hindeuten könnten.
- Implementieren Sie strenge Kontrollen für ausgehenden Traffic aus KI-Infrastrukturen, um Datenexfiltration und Command-and-Control-Kommunikation zu verhindern.
- Überprüfen und härten Sie Prozesse zur Identitätsüberprüfung, um synthetische Medien und manipulierte Dokumentmetadaten zu erkennen.



