KI-Agenten

Wie eine einzelne Webseite die Agentensicherheitskontrollen von Meta Muse umging

Forscher demonstrierten, wie eine bösartige Webseite Meta-Muse-Agenten kapern konnte, um auf private Chats und Zugangsdaten zuzugreifen. Dabei wurden Schwachstellen im Browser und im Kernel ausgenutzt, obwohl Sandbox-Maßnahmen vorhanden waren.

Illustration eines sicheren KI-Agenten-Containers, der durch einen webbasierten Exploit gebrochen wird
Für diesen Artikel generierte Illustration

Automatisch aus dem englischen Original übersetzt.

Sicherheitsforscher von NebuSec haben gezeigt, dass eine einzige bösartige Webseite Meta Muse kompromittieren kann, den persönlichen KI-Agenten, den Meta am 8. September gestartet hat. Der Angriff ermöglichte die Extraktion privater Konversationen und gespeicherter Erinnerungen, ohne dass Benutzer-Genehmigungsaufforderungen ausgelöst wurden. Obwohl die Demonstration auf eine Laborumgebung beschränkt war und keine echten Nutzer betraf, offenbart sie erhebliche Risiken in der Art und Weise, wie cloudbasierte KI-Agenten mit nicht vertrauenswürdigen Webinhalten umgehen.

Was passiert ist

Der Kern der Schwachstelle lag darin, wie Muse mit dem Web interagiert. Wenn der Agent eine speziell präparierte bösartige Seite besuchte, konnte er stillschweigend den Gesprächsverlauf und die Langzeiterinnerungen eines Nutzers an einen externen Server exfiltrieren. Der Angriff endete hier nicht. Die Forscher zeigten, dass derselbe Mechanismus erweitert werden konnte, um auf Zugangsdaten für verbundene Konten zuzugreifen, die Muse verwendet, um Aufgaben wie Einkäufe im Namen des Nutzers durchzuführen. Entscheidend dabei war, dass dies ohne sichtbare Warnung oder Genehmigungsaufforderung für den menschlichen Nutzer geschah.

NebuSec meldete diese Erkenntnisse dem Muse-Team, das inzwischen alle in dem Bericht beschriebenen Schwachstellen gepatcht hat. Meta hat die Korrekturen öffentlich weder bestätigt noch sich zu der Forschung geäußert, und es bleibt unklar, ob vor dem Einsatz der Patches tatsächlich Nutzerdaten in freier Wildbahn abgegriffen wurden. Dieser Vorfall unterscheidet sich von einem früheren Fehler, der im September entdeckt wurde und voraussetzte, dass bereits Malware auf dem lokalen Mac-Gerät eines Nutzers vorhanden war. Im Gegensatz dazu griff dieser neue Vektor direkt die Cloud-Infrastruktur an, die den Agenten hostet.

Wie es funktioniert

Muse arbeitet so, dass jeder Nutzeragent auf seiner eigenen isolierten Cloud-Computermaschine läuft. Eine Sicherheitsschicht namens Sentinel fungiert als primärer Wächter und ist darauf ausgelegt, den ausgehenden Datenverkehr zu überwachen und sensible Tokens sowie Passwörter vom direkten Zugriff des Agenten fernzuhalten. Das System wurde explizit unter der Annahme entwickelt, dass der Agent selbst kompromittiert sein könnte, um Schäden durch strenge Isolation zu begrenzen. Die Forscher fanden jedoch einen Weg, diese beabsichtigten Grenzen zu umgehen.

Die Angriffskette begann mit einer Schwachstelle im integrierten Browser von Muse, den der Assistent für Aufgaben wie die Generierung von PDFs nutzt. Durch Ausnutzung dieser Browser-Schwachstelle konnten die Forscher eine sekundäre Schwachstelle im darunterliegenden Linux-Kernel auslösen. Diese Kombination verschaffte ihnen die volle Kontrolle über die spezifische Cloud-Maschine, die den Agenten dieses Nutzers hostete. Mit Root-Zugriff konnten sie Sentinel umgehen, auf den Speicher für Zugangsdaten zugreifen, gespeicherte Dateien lesen und das Verhalten des Agenten verändern. Obwohl die Isolationskontrollen wie vorgesehen funktionierten, um eine Ausbreitung auf andere Nutzer oder den gemeinsamen Server zu verhindern, gelang es dem Angriff, die Umgebung des individuellen Agenten vollständig zu kompromittieren.

Wichtige Details

  • Der Angriff wurde in einer Laborumgebung von NebuSec demonstriert und hatte keine Auswirkungen auf reale Nutzer.
  • Meta Muse wurde am 8. September gestartet und führt den Agenten jedes Nutzers auf einer separaten Cloud-Computermaschine aus.
  • Eine bösartige Webseite konnte private Chats und Erinnerungen extrahieren, ohne Nutzer-Prompts auszulösen.
  • Der Exploit verknüpfte eine Browser-Schwachstelle im PDF-Erstellungstool von Muse mit einer Linux-Kernel-Schwachstelle.
  • Die volle Kontrolle über die Cloud-Maschine ermöglichte den Zugriff auf Zugangsdaten und die Sentinel-Überwachungsebene.
  • Alle identifizierten Schwachstellen wurden vom Muse-Team behoben, bevor die Forschung veröffentlicht wurde.

Warum das wichtig ist

Für Entwickler, die agentische Systeme bauen, hebt dieser Fall die Schwierigkeit hervor, KI-Agenten zu sichern, die mit dem offenen Web interagieren. Selbst wenn ein System nach „Zero Trust“-Prinzipien konzipiert ist und robuste Sandbox-Maßnahmen umfasst, können komplexe Ketten von Schwachstellen in zugrunde liegenden Komponenten wie Browsern und Kerneln hochrangige Sicherheitsgarantien untergraben. Es zeigt, dass die Annahme, der Agent sei feindselig, nicht ausreicht, wenn die Ausführungsumgebung selbst durch Standard-Web-Exploits unterlaufen werden kann.

Dieser Vorfall unterstreicht auch die einzigartigen Risiken cloudbasierter Agenten im Vergleich zu lokalen. Da diese Agenten dauerhaften Zugriff auf Nutzerkonten und Finanztools haben, bietet ein erfolgreicher Kompromittierungsangriff Angreifern sofortige Hebelwirkung. Ingenieure müssen nicht nur Prompt-Injection oder Modellverhalten berücksichtigen, sondern den gesamten Software-Stack, der den Agenten unterstützt, einschließlich der Browser-Engines und Betriebssystem-Kernel, die nicht vertrauenswürdige Inhalte verarbeiten.

Was Sie tun können

  • Prüfen Sie, wie Ihre KI-Agenten mit nicht vertrauenswürdigen Webinhalten umgehen, und schränken Sie die Browser-Fähigkeiten wo möglich ein.
  • Stellen Sie sicher, dass Ihre Sandbox-Strategie Kernel-Level-Escapes berücksichtigt, nicht nur die Isolation auf Anwendungsebene.
  • Implementieren Sie strenge Überwachungsmaßnahmen für ausgehende Datentransfers aus Agentenumgebungen, um Exfiltration zu erkennen.
  • Halten Sie alle zugrunde liegenden Abhängigkeiten, einschließlich Browser-Engines und OS-Kernel, strikt aktuell.
  • Gestalten Sie den Zugriff auf Zugangsdaten so, dass selbst ein vollständiger Kompromittierung der Maschine nicht automatisch Tokens preisgibt.
  • Gehen Sie davon aus, dass jede Komponente, die mit dem öffentlichen Internet interagiert, ein potenzieller Einstiegspunkt für Angriffe ist.
  • #ai security
  • #meta muse
  • #cloud security
  • #prompt injection
  • #vulnerability

Tools aus dem Bytechap-Shop

Weiterlesen

KI-Agenten

Code-Review im Zeitalter von KI-Agenten neu denken

Robert C. Martin und Branchenführer argumentieren, dass Ingenieure vom zeilenweisen Lesen des Codes zum Überprüfen von Absichten, Kriterien und architektonischen Entscheidungen wechseln müssen, da KI immer mehr Software generiert.

KI-Agenten

ClawDOS: KI-Coding-Agent auf historischer IBM-PC-Hardware

Ein neues Projekt ermöglicht es Claude, Code direkt auf einem IBM PC mit 8088-Prozessor zu schreiben, zu kompilieren und auszuführen – eine Brücke zwischen modernen KI-APIs und den Hardware-Beschränkungen der 1980er-Jahre.

Alle Artikel