KI-Agenten

Architektur für Always-on-Agenten mit Event-Inboxes und persistentem Gedächtnis

Eine technische Analyse der fünf Kernprimitiven, die erforderlich sind, um zustandsbehaftete, proaktive KI-Agenten zu entwickeln, die über mehrere Sitzungen hinweg ohne ständige Aufsicht operieren.

Illustration einer digitalen Sanduhr auf einem Server-Rack, die zeitgesteuerte Agent-Runs und sichere Datenspeicherung darstellt.
Für diesen Artikel generierte Illustration

Automatisch aus dem englischen Original übersetzt.

Das Konzept von Always-on-KI-Agenten gewinnt an Bedeutung, da sich die Fähigkeiten der Modelle verbessern und die Kosten sinken. Diese Systeme laufen nicht kontinuierlich, sondern erwachen periodisch, um Ereignisse zu verarbeiten, Aufgaben auszuführen und in einen Ruhezustand zurückzukehren. Dieser architektonische Wandel ermöglicht es Software, proaktiv zu handeln, anstatt nur auf direkte Nutzereingaben zu reagieren.

Neuere Fortschritte bei großen Sprachmodellen haben diesen Ansatz durch verbessertes Urteilsvermögen und geringere Kosten pro Aufgabe bei langfristigen Arbeiten praktikabler gemacht. Beispielsweise haben neuere Modelle erhebliche Kostensenkungen bei komplexen Coding-Benchmarks im Vergleich zu ihren Vorgängern demonstriert. Entwickler untersuchen nun, wie sie diese persistenten, zustandsbehafteten Verhaltensweisen in ihre Produkte integrieren können, und bewegen sich weg von einfachen Chat-Schnittstellen hin zu autonomen Workflows.

Was passiert ist

Always-on-Agenten zeichnen sich durch ihre Fähigkeit aus, den Kontext über getrennte Sitzungen hinweg beizubehalten und ohne unmittelbare menschliche Aufsicht Maßnahmen zu ergreifen. Obwohl sie aus Nutzersicht ständig aktiv erscheinen, arbeitet das zugrunde liegende System in Zyklen. Jeder Zyklus, als Run bezeichnet, beginnt, wenn ein Ereignis den Agenten auslöst, verläuft über die Task-Ausführung und endet damit, dass der Agent seinen Zustand speichert, bevor er wieder schläft.

Die Architektur, die diese Agenten unterstützt, basiert auf fünf spezifischen Primitiven: einer Event-Inbox, Timern, Memory (Gedächtnis), Berechtigungen und einer Outbox. Diese Komponenten steuern, wann der Agent aufwacht, welche Informationen er behält und wie er sicher mit externen Systemen interagiert. Das Design priorisiert Haltbarkeit und Sicherheit, um sicherzustellen, dass keine Ereignisse während eines Absturzes verloren gehen und sensible Aktionen ordnungsgemäß kontrolliert werden.

Diese Struktur trennt den Auslösemechanismus von der Ausführungslogik. Anstatt dass externe Dienste den Agenten direkt aufrufen, was zu Race Conditions oder Datenverlust führen kann, werden Ereignisse in einem persistenten Speicher gewartet. Ein Hintergrund-Worker verarbeitet diese Ereignisse dann sequenziell oder in Batches, um sicherzustellen, dass der Zustand des Agenten konsistent bleibt und keine Arbeit aufgrund transienter Fehler dupliziert oder übersehen wird.

Wie es funktioniert

Die Event-Inbox dient als zentrales Nervensystem für eingehende Trigger. Sie besteht aus einer persistenten Datenbank-Tabelle, einem HTTP-Handler und einem Hintergrund-Worker. Wenn eine externe Quelle einen Webhook sendet oder eine geplante Aufgabe feuert, schreibt der Handler das Ereignis in die Datenbank und bestätigt den Empfang schnell. Dies verhindert, dass die Quelle ein Timeout erhält, während tiefere Validierungen später während des Runs erfolgen können.

Der Worker pollt die Inbox auf ausstehende Ereignisse. Wenn mehrere Ereignisse für denselben Benutzer eintreffen, kann der Worker sie zu einem einzigen Run bündeln, um die Effizienz zu steigern. Entscheidend ist, dass zu jedem Zeitpunkt nur ein Worker pro Inbox aktiv sein sollte, um parallele Modifikationen zu verhindern. Schlägt ein Worker mitten im Run fehl, kann eine andere Instanz das unverarbeitete Ereignis aus der Datenbank abholen, was die Zuverlässigkeit gewährleistet.

Timer ermöglichen proaktives Verhalten, indem sie zukünftige Aktionen planen. Diese werden in einer separaten persistenten Tabelle gespeichert und von einem Scheduler-Dienst verwaltet. Der Scheduler scannt nach fälligen Timern, aktualisiert deren Status und injiziert entsprechende Ereignisse in die Inbox. Dies erlaubt dem Agenten, frühere Aufgaben nachzuverfolgen oder wiederkehrende Pflichten wie das Senden täglicher Zusammenfassungen auszuführen, ohne konstante externe Trigger zu benötigen.

Memory wird über ein dateibasiertes System verwaltet, das auf persistenten Speicher gemappt ist. Der Agent lädt Benutzeranweisungen, Notizen, vergangene Nachrichten und Dateien zum Task-Fortschritt zu Beginn jedes Runs. Um die Kontextfenster überschaubar und die Kosten niedrig zu halten, werden zunächst nur wesentliche Indizes geladen, während detaillierte Dateien nur bei Bedarf abgerufen werden. Diese Trennung stellt sicher, dass kritische Informationen auch dann erhalten bleiben, wenn der Worker neu gestartet wird.

Wichtige Details

  • Always-on-Agenten arbeiten in diskreten Runs, die durch Ereignisse ausgelöst werden, anstatt kontinuierlich zu laufen.
  • Die Event-Inbox entkoppelt Ereignisquellen vom Agenten und nutzt eine Datenbank, um Persistenz zu gewährleisten und Datenverlust zu verhindern.
  • Timer ermöglichen es Agenten, Nachfassaktionen und wiederkehrende Aufgaben zu planen und fällige Ereignisse in die Inbox zu injizieren.
  • Memory wird extern in Dateien oder Objekten gespeichert und enthält Benutzereinstellungen, Task-Fortschritt und Gesprächsverlauf.
  • Berechtigungen werden über einen Credential-Proxy und Auto-Mode-Klassifizierer verwaltet, wobei Tool-Calls für risikoreiche Aktionen zurückgestellt werden.
  • Die Outbox liefert endgültige Ergebnisse an Benutzer und vermeidet so das Streaming jedes einzelnen Zwischenschritts des Reasoning-Prozesses.

Warum es wichtig ist

Für Software-Ingenieure, die KI-Produkte entwickeln, löst diese Architektur die Zuverlässigkeitsprobleme, die inhärent in zustandslosen Chat-Schnittstellen liegen. Indem Ereignisse als persistente Datensätze in einer Datenbank behandelt werden, können Entwickler sicherstellen, dass keine Nutzeranfrage aufgrund von Netzwerkstörungen oder Serverneustarts verloren geht. Diese Zuverlässigkeit ist für professionelle Tools unerlässlich, bei denen das Verpassen einer Aufgabe schwerwiegende Konsequenzen haben könnte.

Die Trennung von Memory vom unmittelbaren Kontextfenster adressiert zudem Kosten- und Leistungsbedenken. Wenn Agenten längere Gespräche führen und komplexere Aufgaben bearbeiten, wird es teuer und langsam, den gesamten Verlauf im Prompt zu behalten. Durch die Externalisierung von Memory kann der Agent langfristigen Kontext aufrechterhalten, ohne jede einzelne Anfrage aufzublähen, was das System skalierbar für intensive Nutzung macht.

Darüber hinaus bietet das Berechtigungsmodell ein notwendiges Sicherheitsnetz für autonome Aktionen. Durch das Zurückstellen risikoreicher Tool-Calls und die Verwendung von Proxies für Credentials können Entwickler Agenten bauen, die im Namen von Benutzern handeln, ohne sensible Daten preiszugeben oder gefährliche Operationen unkontrolliert auszuführen. Diese Balance zwischen Autonomie und Kontrolle ist für die Enterprise-Adoption entscheidend.

Was Sie tun können

  • Implementieren Sie eine persistente Event-Inbox unter Verwendung einer relationalen Datenbank, um eingehende Webhooks und geplante Aufgaben zu warten.
  • Entwerfen Sie einen Hintergrund-Worker, der jeweils nur eine Inbox verarbeitet, um Race Conditions und doppelte Arbeit zu vermeiden.
  • Speichern Sie das Agent-Memory in externen Dateien oder Object Storage und laden Sie zunächst nur Indizes in das Kontextfenster.
  • Verwenden Sie einen Credential-Proxy, um Secrets in API-Anfragen zu injizieren, und halten Sie Tokens aus der direkten Umgebung des Agenten fern.
  • Erstellen Sie einen Scheduler-Dienst, der eine Timer-Tabelle pollt und fällige Ereignisse in die Haupt-Inbox injiziert.
  • Bauen Sie einen Outbox-Mechanismus, um zusammengefasste Ergebnisse an Benutzer zu liefern, anstatt rohe Reasoning-Schritte zu streamen.
  • #ai agents
  • #system architecture
  • #webhooks
  • #backend engineering
  • #llm ops

Tools aus dem Bytechap-Shop

Weiterlesen

Alle Artikel