Sicherheit & Datenschutz

KI-Agenten automatisieren Diebstahl von API-Schlüsseln aus exponierten LLM-Gateways

Amazon und Cloudflare berichten über automatisierte Kampagnen unter Einsatz von ARTEX, um KI-Provider-Schlüssel aus im Internet exponierten Anwendungen wie LiteLLM und Dify zu stehlen.

Eine robotische Hand inspiziert ein Serverrack nach digitalen Schlüsseln.
Für diesen Artikel generierte Illustration

Automatisch aus dem englischen Original übersetzt.

Angreifer setzen autonome KI-Agenten ein, um Schwachstellen in internetseitigen künstlichen Intelligenzanwendungen zu scannen und auszunutzen. Das Bedrohungsintelligenz-Team von Amazon hat kürzlich Aufzeichnungen dieser Agenten erfasst, die Plattformen wie LiteLLM, One API und Dify ins Visier nahmen, um gespeicherte API-Schlüssel zu ernten. Diese Aktivität verdeutlicht eine Verschiebung hin zu automatisierter, persistenter Reconnaissance, die genau jene Modelle ausnutzt, die sie kompromittieren will.

Was passiert ist

Das Köderserver-Netzwerk von Amazon, bekannt als MadPot, fing Anfragen von KI-Agenten ab, die nach Schwachstellen in gängigen KI-Infrastruktur-Tools suchten. Zwischen dem 3. Oktober und Ende letzter Woche sendeten diese Agenten detaillierte Protokolle ihrer Operationen an die Honeypots. Die Aufzeichnungen enthüllen eine systematische Kampagne, bei der Agenten exponierte KI-Apps identifizieren, Provider-Schlüssel extrahieren, deren Gültigkeit überprüfen und sie einem gemeinsamen Pool zur weiteren Nutzung hinzufügen. Amazon schätzt mit mittlerer Sicherheit, dass diese Betreiber China-nahe Gruppen sind, was durch vereinfachte chinesische Prompts und Zeitzoneneinstellungen in den Agentenkonfigurationen belegt wird.

In einer parallelen Entwicklung untersuchten Incident-Responder von Cloudflare mehrere Fälle, die ähnliche agentische Tools betrafen. In einem bemerkenswerten Fall nutzte ein Angreifer einen kompromittierten CI/CD-Token ohne IP-Einschränkungen oder Ratenbegrenzung, um auf die Umgebung eines Kunden zuzugreifen. Die anschließende Aktivität umfasste 400 Datenbank-Dump-Anfragen innerhalb einer einzigen Stunde. Cloudflare beobachtete neue Worker-Skripte mit Namen, die ARTEX-Aufgaben entsprachen, wie artex-pgrecon und artex-do, was auf automatisierte Persistenz- und Validierungsbemühungen hindeutet. Das FBI hat seitdem eine FLASH-Warnung herausgegeben, die bestätigt, dass Angreifer diese Tools seit mindestens August gegen Organisationen weltweit eingesetzt haben.

Wie es funktioniert

Das primäre Tool, das in diesen Kampagnen identifiziert wurde, ist ARTEX, ein Open-Source-Framework für KI-Penetrationstests. Obwohl das ursprüngliche GitHub-Repository im Oktober aufgrund von Missbrauch offline genommen wurde, bleiben Forks und eine kommerzielle Version namens ARTEX PRO verfügbar. Das System arbeitet, indem es ein hochrangiges Ziel, wie „API-Schlüssel finden“, in kleinere Aufgaben für Worker-Agenten aufteilt. Diese Worker führen Sicherheits-Tools aus und senden ihre Erkenntnisse an ein großes Sprachmodell (LLM), um die nächsten Schritte zu bestimmen. Dieser Kreislauf ermöglicht es den Agenten, ihre Taktiken basierend auf Echtzeit-Feedback anzupassen, ohne ständige menschliche Intervention.

Die Agenten folgen einem spezifischen Playbook bekannter Einstiegspunkte für jedes angegriffene Produkt. Für LiteLLM prüfen sie auf Standard-Master-Keys und unvollständige Installationen. Bei One-API-Familien-Systemen versuchen sie einen Authentifizierungs-Bypass unter Verwendung des Headers isCliRequest. Sie nutzen auch Server-Side Request Forgery (SSRF)-Schwachstellen in Funktionen, die URLs abrufen, wodurch sie Cloud-Metadatendienste erreichen können. Neben direkter Ausnutzung scannen die Agenten öffentliche Quellen wie GitHub-Repositories, npm-Pakete, Container-Images und Telegram-Kanäle nach geleakten Geheimnissen. Sobald Cloud-Zugangsdaten gefunden sind, priorisieren die Agenten den Zugriff auf verwaltete Dienste, die KI-Modelle und Secret Stores hosten.

Wichtige Details

  • Angegriffene Plattformen: Die Kampagne konzentriert sich auf LLM-Gateways und Proxies wie LiteLLM, One API, Veloera und Sub2API sowie auf KI-App-Builder wie Dify, FastGPT, Langflow und RAGFlow.
  • Spezifische Schwachstellen: Das Playbook nutzt CVE-2025-3248 in Langflow (fehlende Authentifizierung) und CVE-2026-28797 in RAGFlow (Server-Side Template Injection) aus, zusammen mit Standardzugangsdaten und SSRF-Fehlern.
  • Betriebsschnelligkeit: Cloudflare beobachtete Angriffsraten von mehr als 69 Anfragen pro Minute über kompromittierte Konten, was die hohe Geschwindigkeit der agentischen Automatisierung im Vergleich zum manuellen Hacken demonstriert.
  • Erkennungsindikatoren: Sicherheitsteams sollten in ihren Umgebungen nach Cloudflare Worker-Skripten suchen, die mit artex-, artex-pgrecon-, artex-pgw-* oder artex-do-* benannt sind.
  • Netzwerkindikatoren: Cisco Talos hat mehr als 2.500 IP-Adressen mit ARTEX-Aktivitäten in Verbindung gebracht, und Amazon veröffentlichte 11 spezifische IPs, die mit den Köderfunden assoziiert sind.
  • Sekundärkampagne: Die Aufzeichnungen beschreiben auch eine separate Bemühung, bei der Agenten versuchten, Identitätsprüfungen bei Kryptowährungsbörsen unter Verwendung von Deepfake-Videos zu umgehen, obwohl diese Versuche von Verifizierungsanbietern abgelehnt wurden.

Warum es wichtig ist

Für Software-Ingenieure und Security-Leads stellt diese Verschiebung eine signifikante Eskalation der Bedrohungsgeschwindigkeit dar. Traditionelle Sicherheitsmaßnahmen beruhen oft auf der Annahme, dass Angreifer Zeit benötigen, um Exploits zu recherchieren, zu planen und auszuführen. KI-Agenten entfernen diese Verzögerung und ermöglichen kontinuierliches, persistentes Scannen, das kleine Fehlkonfigurationen ausnutzen kann, bevor Verteidiger sie überhaupt bemerken. Wie Amazon feststellte, waren keine der verwendeten Techniken neu, aber die Geschwindigkeit und Persistenz, die durch KI-Agenten eingeführt werden, verändern die Risikolandschaft vollständig. Grundlegende Sicherheits-Hygiene, wie das Ändern von Standardpasswörtern oder das Patchen bekannter Fehler, reicht nicht mehr aus, wenn sie nicht sofort nach der Bereitstellung angewendet wird.

Die Auswirkungen gehen über unmittelbaren Datenverlust hinaus. Gestohlene API-Schlüssel ermöglichen es Angreifern, teure KI-Modelle auf Kosten des Opfers laufen zu lassen, was zu unerwarteten Abrechnungsanstiegen führt. Kritischer noch können diese Schlüssel einen Fußpunkt in breitere Cloud-Umgebungen bieten, wie in den Cloudflare-Fällen gesehen, wo statische CI/CD-Tokens weitreichenden Zugriff gewährten. Organisationen müssen KI-App-Gateways und Inferenz-Endpunkte nun mit derselben Strenge behandeln wie Produktionsdatenbanken und davon ausgehen, dass jedes exponierte Geheimnis schnell von automatisierten Systemen gefunden und ausgenutzt wird.

Was Sie tun können

  • Zugangsdaten rotieren und einschränken: Rotieren Sie unverzüglich alle statischen CI/CD-Tokens oder API-Schlüssel, die kein Ablaufdatum haben. Aktivieren Sie IP-Einschränkungen und Ratenbegrenzungen für alle Cloud-Provider-Tokens, insbesondere solche, die in CI/CD-Pipelines verwendet werden.
  • Bekannte Schwachstellen patchen: Aktualisieren Sie Langflow auf Version 1.3.0 oder neuer, um CVE-2025-3248 zu beheben. Für RAGFlow aktualisieren Sie auf Version 0.25.0 oder neuer, um CVE-2026-28797 zu mildern, das Remote Code Execution via Template Injection ermöglicht.
  • Standardkonfigurationen härten: Ändern Sie Standard-Administrator-Zugangsdaten, wie den LiteLLM Master Key, unmittelbar nach der Installation. Stellen Sie sicher, dass neue Installationen nicht in einem unvollständigen Zustand belassen werden, der eine Übernahme durch Außenstehende ermöglicht.
  • Nach exponierten Geheimnissen scannen: Durchsuchen Sie regelmäßig Konfigurationsdateien, Umgebungsvariablen und Deployment-Skripte nach eingebetteten Geheimnissen. Verwenden Sie automatisierte Tools, um Repositories und Container-Images nach geleakten Schlüsseln zu scannen, bevor sie die Produktion erreichen.
  • Auf spezifische Artefakte überwachen: Prüfen Sie Ihre Logs auf das Vorhandensein von Cloudflare Worker-Skripten, deren Namen mit artex- beginnen. Implementieren Sie Snort-Regeln 7:76, 7:77 und 7:78, um Spuren der norma-Agenten-Harness zu erkennen, die von ARTEX verwendet wird.
  • Öffentliche Exposition auditieren: Überprüfen Sie Ihre internetseitigen KI-Apps auf unnötige Exposition. Entfernen Sie Debug-Routen, Source Maps und Umgebungsdateien vom öffentlichen Zugriff und stellen Sie sicher, dass Management-Endpunkte starke Authentifizierung erfordern.
  • #ai security
  • #api keys
  • #litellm
  • #artex
  • #cloudflare
  • #threat intelligence

Tools aus dem Bytechap-Shop

Weiterlesen

Alle Artikel