Arcas Ansatz für Finanz-Agenten mit langem Horizont und Sicherheit

Auf der kürzlich stattgefundenen AI Engineer New York Conference erläuterte Aman Singh, Lead AI Engineer beim Vermögensverwaltungsunternehmen Arca, wie sein Team Agenten für komplexe, mehrtägige Finanz-Workflows entwickelt. Das Unternehmen hat kürzlich eine Finanzierungsrunde in Höhe von 48,5 Millionen US-Dollar abgeschlossen, angeführt von General Catalyst, mit Unterstützung von Index Ventures und Venrock, um diese KI-native Infrastruktur auszubauen.

Was passiert ist

Singh erklärte, dass KI-Agenten bei Arca zwar den Großteil der Hintergrundanalyse und Vorbereitung übernehmen, jedoch nicht isoliert operieren. Das Unternehmen hat strenge Leitplanken implementiert, die sicherstellen, dass menschliche Berater die endgültige Entscheidungsbefugnis behalten, insbesondere bei risikoreichen Aktionen wie dem Handel oder Geldtransfers. Diese Struktur kehrt das traditionelle Interaktionsmodell um, bei dem Menschen normalerweise Bots auffordern. Stattdessen analysieren die Agenten Daten, schlagen Lösungen vor und fordern dann die menschlichen Berater auf, spezifische Schritte zu überprüfen und freizugeben.

Die Natur der Finanzplanung erfordert das, was Singh als „langfristige“ Arbeit bezeichnet. Im Gegensatz zu einfachen Query-Response-Aufgaben können Agent-Workflows bei Arca bis zu zehn Tage dauern. Diese Prozesse sind unterbrochen, beinhalten mehrere Akteure, Entscheidungspunkte und Übergaben zwischen automatisierten Systemen und menschlichem Personal. Um diese Komplexität zu bewältigen, hat Arca ein internes Speichersystem entwickelt, das Persistenz für jeden Kunden gewährleistet. Dieses System verfolgt, was geschehen ist, was in naher Zukunft ansteht und was langfristig geplant ist, und weist jedem Vorgang die Verantwortung einer bestimmten Person oder einem automatisierten Prozess zu.

Wie es funktioniert

Arca setzt auf Modelle großer Anbieter und nutzt Claude als primäre Engine, ist aber nicht von den verwalteten Tools eines einzelnen Anbieters abhängig. Das Engineering-Team hat ein maßgeschneidertes Harness gebaut, das Aufgaben automatisch an das am besten geeignete Modell basierend auf internen Benchmarks weiterleitet. Der Besitz dieser Orchestrierungsschicht gibt Arca die Flexibilität, Anbieter zu wechseln, wenn sich Leistungs- oder Kostendynamiken ändern, ohne die Kernanwendungslogik neu schreiben zu müssen.

Sicherheit und Schutz werden durch eine Kombination aus deterministischen Regeln und isolierten Rechenumgebungen gewährleistet. Die Agenten selbst sind nicht vollständig in Sandboxes gekapselt, aber jeder Code, den sie zur Datenverarbeitung generieren, läuft innerhalb sicherer Sandboxes. Um Sicherheitsrisiken wie Prompt-Injections oder unbefugten Datenzugriff zu verhindern, übersetzt Arca den von Agenten geschriebenen Code in ein strenges, erwartetes Format. Der ursprüngliche Code wird verworfen, und nur das bereinigte Format darf mit dem Backend interagieren. Dies ermöglicht es Agenten, Daten für Finanzpläne zu aggregieren und zu transformieren, ohne die Kerndatenbank beliebig ausführbarem Code auszusetzen.

Darüber hinaus sind alle Sicherheitsbeschränkungen vollständig deterministisch, was Mehrdeutigkeiten bei kritischen Entscheidungen beseitigt. Wenn eine Aufgabe ein Risiko für einen Kunden birgt, wie z. B. die Ausführung eines Trades, ist der Agent technisch nicht in der Lage, dies allein durchzuführen. Er kann nur die Analyse vorbereiten und zur menschlichen Freigabe vorlegen. Ein „Meta-Agent“ analysiert zudem Feedback von menschlichen Beratern und Agent-Traces, um Verbesserungen am Harness vorzuschlagen, wodurch ein kontinuierlicher Kreislauf der betrieblichen Optimierung entsteht.

Wichtige Details

• Agentenaufgaben bei Arca können aufgrund des unterbrochenen Charakters der Finanzplanung bis zu zehn Tage dauern.
• Das Unternehmen hat 48,5 Millionen US-Dollar in einer Runde angeführt von General Catalyst eingesammelt, mit Beteiligung von Index Ventures und Venrock.
• Arca nutzt ein maßgeschneidertes Harness, um Aufgaben an das beste Modell weiterzuleiten, wobei es sich hauptsächlich auf Claude von Anthropic verlässt.
• Ein internes Speichersystem bietet Persistenz für jeden Kunden und verfolgt unmittelbare und langfristige Aktionen über mehrere Übergaben hinweg.
• Sicherheitsbeschränkungen sind vollständig deterministisch und stellen sicher, dass Agenten keine Trades ausführen oder Geld bewegen können, ohne dass eine menschliche Freigabe erfolgt.
• Von Agenten generierter Code wird in ein strenges Format übersetzt, bevor er das Backend erreicht; der ursprüngliche Code wird verworfen, um Injection-Angriffe zu verhindern.

Warum es wichtig ist

Für Ingenieure, die agentische Systeme entwickeln, unterstreicht Arcas Architektur die Bedeutung von Persistenz in langlaufenden Workflows. Die meisten aktuellen Agent-Frameworks gehen von kurzlebigen Interaktionen aus, doch reale Enterprise-Aufgaben erfordern oft Zustandsmanagement über Tage oder Wochen. Durch den Aufbau eines dedizierten Speichersystems, das Kontext, Verantwortlichkeiten und Zeitlinien verfolgt, vermeidet Arca den Kontextverlust, der viele mehrstufige Agent-Implementierungen plagt. Dieser Ansatz stellt sicher, dass ein Agent nach einer menschlichen Überprüfung oder einer Wartezeit beim Wiederaufnahme der Arbeit das volle Bewusstsein für den Status des Kunden behält.

Die Trennung von Analyse und Ausführung ist eine weitere wichtige Lektion. Indem Agenten darauf beschränkt werden, Lösungen vorzuschlagen, und deterministische Leitplanken für risikoreiche Aktionen durchgesetzt werden, mildert Arca die Unvorhersehbarkeit ab, die großen Sprachmodellen inhärent ist. Dieses Designmuster ermöglicht es Firmen, die Geschwindigkeit und Breite der KI für die Datenverarbeitung zu nutzen, während die in regulierten Branchen erforderliche Rechenschaftspflicht und Sicherheit gewahrt bleiben. Es zeigt, dass Vertrauen in KI-Systeme nicht daraus resultiert, das Modell perfekt zu machen, sondern seine Fähigkeit, Schaden anzurichten, einzuschränken.

Was Sie tun können

• Implementieren Sie eine persistente Speicherschicht für Ihre Agenten, um den Zustand über mehrtägige Workflows und Übergaben hinweg zu verfolgen.
• Bauen Sie ein maßgeschneidertes Routing-Harness, um das beste Modell für spezifische Teilaufgaben zu benchmarken und auszuwählen, anstatt sich auf einen einzigen Anbieter zu verlassen.
• Erzwingen Sie deterministische Leitplanken für jede Aktion, die finanzielle Risiken, Datenlöschungen oder externe Seiteneffekte umfasst.
• Bereinigen Sie von Agenten generierten Code, indem Sie ihn in ein strenges, begrenztes Format übersetzen, bevor Sie ihm Zugriff auf Ihre Backend-Daten gewähren.
• Nutzen Sie menschliches Feedback und Agent-Traces, um einen Meta-Agenten zu trainieren, der Verbesserungen Ihrer Orchestrierungslogik vorschlägt.
• Entwerfen Sie Workflows so, dass Agenten Menschen an entscheidenden Punkten zur Genehmigung auffordern, anstatt zu erwarten, dass Menschen jede Interaktion initiieren.