L'approche d'Arca pour les agents financiers à long terme et la sécurité

Lors de la récente conférence AI Engineer New York, Aman Singh, ingénieur IA principal chez Arca, société de gestion de patrimoine, a détaillé comment son équipe construit des agents pour des flux de travail financiers complexes s'étalant sur plusieurs jours. L'entreprise a récemment levé 48,5 millions de dollars lors d'une série dirigée par General Catalyst, avec le soutien d'Index Ventures et de Venrock, afin de développer cette infrastructure native IA.

Ce qui s'est passé

Singh a expliqué que si les agents IA gèrent la majorité de l'analyse en arrière-plan et de la préparation chez Arca, ils n'opèrent pas en vase clos. La firme a mis en place des garde-fous stricts garantissant que les conseillers humains conservent l'autorité décisionnelle finale, notamment pour les actions à enjeux élevés comme le trading ou le transfert de fonds. Cette structure inverse le modèle d'interaction traditionnel, où les humains sollicitent généralement les bots. Au lieu de cela, les agents analysent les données, proposent des solutions, puis invitent les conseillers humains à examiner et approuver des étapes spécifiques.

La nature de la planification financière exige ce que Singh appelle un travail « à long terme ». Contrairement aux simples tâches de requête-réponse, les flux de travail des agents chez Arca peuvent s'étendre jusqu'à dix jours. Ces processus sont intermittents, impliquant plusieurs acteurs, points de décision et transferts entre systèmes automatisés et personnel humain. Pour gérer cette complexité, Arca a développé un système de mémoire interne qui assure la persistance pour chaque client. Ce système suit ce qui s'est produit, ce qui est en attente dans un futur immédiat et ce qui est planifié à long terme, attribuant la responsabilité de chaque action à des individus spécifiques ou à des processus automatisés.

Comment cela fonctionne

Arca s'appuie sur des modèles fournis par les principaux éditeurs, utilisant Claude comme moteur principal, mais ne dépend pas des outils gérés d'un seul fournisseur. L'équipe d'ingénierie a construit un harnais personnalisé qui route automatiquement les tâches vers le modèle le plus adapté en fonction de benchmarks internes. Posséder cette couche d'orchestration offre à Arca la flexibilité de changer de fournisseur si les dynamiques de performance ou de coût évoluent, sans réécrire la logique de son application principale.

La sécurité et la sûreté sont assurées par une combinaison de règles déterministes et d'environnements de calcul isolés. Les agents eux-mêmes ne sont pas entièrement sandboxés, mais tout code qu'ils génèrent pour le traitement des données s'exécute dans des sandboxes sécurisées. Pour prévenir les risques de sécurité tels que les injections de prompts ou l'accès non autorisé aux données, Arca traduit le code écrit par les agents dans un format strict et attendu. Le code original est écarté, et seul le format assaini est autorisé à interagir avec le backend. Cela permet aux agents d'agréger et de manipuler des données pour les plans financiers sans exposer la base de données centrale à du code exécutable arbitraire.

De plus, toutes les restrictions de sécurité sont entièrement déterministes, supprimant toute ambiguïté dans les décisions critiques. Si une tâche implique un risque pour un client, comme l'exécution d'un ordre de bourse, l'agent est techniquement incapable de la réaliser seul. Il peut uniquement préparer l'analyse et la présenter pour approbation humaine. Un « méta-agent » analyse également les retours des conseillers humains et les traces des agents pour suggérer des améliorations au harnais, créant ainsi une boucle continue d'affinement opérationnel.

Détails clés

• Les tâches des agents chez Arca peuvent prendre jusqu'à dix jours pour être complétées en raison de la nature intermittente de la planification financière.
• L'entreprise a levé 48,5 millions de dollars lors d'une série dirigée par General Catalyst, avec la participation d'Index Ventures et de Venrock.
• Arca utilise un harnais personnalisé pour router les tâches vers le meilleur modèle, reposant principalement sur Claude d'Anthropic.
• Un système de mémoire interne assure la persistance pour chaque client, suivant les actions immédiates et à long terme à travers plusieurs transferts.
• Les restrictions de sécurité sont entièrement déterministes, garantissant que les agents ne peuvent pas exécuter de trades ni déplacer de fonds sans approbation humaine.
• Le code généré par les agents est traduit dans un format strict avant d'atteindre le backend, le code original étant écarté pour prévenir les attaques par injection.

Pourquoi c'est important

Pour les ingénieurs construisant des systèmes agentiques, l'architecture d'Arca souligne l'importance de la persistance dans les flux de travail longue durée. La plupart des frameworks d'agents actuels supposent des interactions de courte durée, mais les tâches d'entreprise réelles nécessitent souvent une gestion d'état sur des jours ou des semaines. En construisant un système de mémoire dédié qui suit le contexte, les responsabilités et les échéanciers, Arca évite la perte de contexte qui afflige de nombreuses implémentations d'agents multi-étapes. Cette approche garantit que lorsqu'un agent reprend le travail après une revue humaine ou une période d'attente, il conserve une pleine conscience du statut du client.

La séparation de l'analyse et de l'exécution est une autre leçon critique. En limitant les agents à la proposition de solutions et en imposant des garde-fous déterministes pour les actions à haut risque, Arca atténue l'imprévisibilité inhérente aux grands modèles de langage. Ce pattern de conception permet aux entreprises de tirer parti de la vitesse et de l'étendue de l'IA pour le traitement des données tout en maintenant la responsabilité et la sécurité requises dans les industries réglementées. Il démontre que la confiance dans les systèmes IA ne vient pas de la perfection du modèle, mais de la limitation de sa capacité à causer des dommages.

Ce que vous pouvez faire

• Implémentez une couche de mémoire persistante pour vos agents afin de suivre l'état à travers les flux de travail multi-jours et les transferts.
• Construisez un harnais de routage personnalisé pour benchmarkter et sélectionner le meilleur modèle pour des sous-tâches spécifiques plutôt que de compter sur un seul fournisseur.
• Imposez des garde-fous déterministes pour toute action impliquant un risque financier, une suppression de données ou des effets secondaires externes.
• Assainissez le code généré par les agents en le traduisant dans un format strict et limité avant de lui permettre d'accéder à vos données backend.
• Utilisez les retours humains et les traces des agents pour entraîner un méta-agent qui suggère des améliorations à votre logique d'orchestration.
• Concevez des flux de travail où les agents demandent l'approbation humaine aux points de décision clés, plutôt que d'attendre que les humains initient chaque interaction.