Arcaの長期的な金融エージェントと安全性へのアプローチ

最近開催されたAI Engineer New Yorkカンファレンスにおいて、資産管理会社ArcaのリードAIエンジニアであるAman Singh氏は、複雑で複数日にわたる金融ワークフローに対応するエージェントをチームがどのように構築しているかについて詳細に説明しました。同社は最近、General Catalyst主導のもと、Index VenturesおよびVenrockの支援を受け、このAIネイティブなインフラをスケールさせるために4,850万ドルの資金調達を行いました。

何が起きたのか

Singh氏によると、ArcaではAIエージェントがバックグラウンドでの分析や準備作業の大部分を担当していますが、それらは孤立して動作しているわけではありません。同社は厳格なガードレールを実装しており、トレーディングや資金移動といった高リスクなアクションにおいては、人間のアドバイザーが最終的な決定権を保持することを保証しています。この構造は、人間がボットにプロンプトを与えるという従来のインタラクションモデルを逆転させます。代わりに、エージェントがデータを分析し、解決策を提案した上で、具体的なステップの確認と承認を人間のアドバイザーに対して促します。

ファイナンシャルプランニングの本質は、Singh氏が「長期的視野（long-horizon）」の仕事と呼ぶものを必要とします。単純なクエリ・レスポンスタイスクとは異なり、Arcaのエージェントワークフローは最大10日間続くことがあります。これらのプロセスは中断と再開を繰り返し、複数のアクター、意思決定ポイント、そして自動化システムと人間スタッフ間のハンドオフを含みます。この複雑さを管理するため、Arcaはすべてのクライアントに対する永続性を維持する内部メモリシステムを開発しました。このシステムは、発生した事象、直近の将来における保留中の事項、長期スケジュールに登録されている事項を追跡し、各アクションの責任を特定の個人または自動プロセスに割り当てます。

仕組み

Arcaは主要なプロバイダーのモデルに依存しており、Claudeを主なエンジンとして使用していますが、単一ベンダーのマネージドツールには依存していません。エンジニアリングチームは、内部ベンチマークに基づいて最も適切なモデルへタスクを自動的にルーティングするカスタムハーネスを構築しました。このオーケストレーション層を自社で所有することで、Arcaはパフォーマンスやコスト動向が変化した際に、コアアプリケーションロジックを書き換えることなくプロバイダーを切り替える柔軟性を得ています。

セキュリティと安全性は、決定論的なルールと隔離された計算環境の組み合わせによって処理されます。エージェント自体は完全にサンドボックス化されていませんが、データ処理用に生成されるコードはすべて安全なサンドボックス内で実行されます。プロンプトインジェクションや不正なデータアクセスなどのセキュリティリスクを防ぐため、Arcaはエージェントが記述したコードを厳格かつ期待される形式に変換します。元のコードは破棄され、サニタイズされた形式のみがバックエンドとのやり取りを許可されます。これにより、エージェントは財務計画のためにデータの集約や加工を行えますが、コアデータベースが任意の実行可能コードにさらされることはありません。

さらに、すべての安全制限は完全に決定論的であり、重要な意思決定における曖昧さを取り除きます。取引の実行などクライアントにリスクをもたらすタスクの場合、エージェントは技術的に単独でそれを行うことができません。分析を準備し、人間の承認のために提示することしかできません。「メタエージェント」もまた、人間のアドバイザーからのフィードバックやエージェントのトレースを分析し、ハーネスの改善案を提案することで、運用上の継続的な改良ループを生み出しています。

主要な詳細

• ファイナンシャルプランニングの中断・再開特性のため、Arcaのエージェントタスクは完了までに最大10日かかる場合があります。
• 同社はGeneral Catalyst主導のラウンドで4,850万ドルを調達し、Index VenturesおよびVenrockが参加しました。
• Arcaは独自に構築したハーネスを使用し、主にAnthropicのClaudeに依存しながら、タスクを最適なモデルへルーティングします。
• 内部メモリシステムはすべてのクライアントに対する永続性を提供し、複数のハンドオフにわたる即時および長期のアクションを追跡します。
• 安全制限は完全に決定論的であり、エージェントが人間の承認なしに取引を実行したり資金を移動したりできないことを保証します。
• エージェントによって生成されたコードは、バックエンドに到達する前に厳格な形式に変換され、インジェクション攻撃を防ぐために元のコードは破棄されます。

なぜ重要なのか

エージェント型システムを構築するエンジニアにとって、Arcaのアーキテクチャは長時間稼働するワークフローにおける永続性の重要性を浮き彫りにします。現在の多くのエージェントフレームワークは短命なインタラクションを前提としていますが、現実世界のエンタープライズタスクでは、数日から数週間にわたる状態管理が必要となることがよくあります。コンテキスト、責任、タイムラインを追跡する専用のメモリシステムを構築することで、Arcaは多くの多段階エージェント実装を悩ませるコンテキスト喪失を回避します。このアプローチにより、エージェントは人間のレビューや待機期間後に作業を再開する際、クライアントのステータスを完全に認識した状態を保つことができます。

分析と実行の分離もまた、重要な教訓です。エージェントを解決策の提案に限定し、高リスクなアクションに対して決定論的なガードレールを適用することで、Arcaは大規模言語モデルに inherent な予測不可能性を軽減します。このデザインパターンにより、企業は規制産業に必要な説明責任と安全性を維持しつつ、データ処理におけるAIの速度と広範な能力を活用できます。これは、AIシステムへの信頼はモデルを完璧にすることから生まれるのではなく、その害を引き起こす能力を制約することから生まれることを示しています。

あなたができること

• 複数日のワークフローやハンドオフにわたって状態を追跡するために、エージェント用の永続的なメモリレイヤーを実装してください。
• 単一のプロバイダーに依存するのではなく、特定のサブタスクに最適なモデルをベンチマークし選択するためのカスタムルーティングハーネスを構築してください。
• 財務リスク、データ削除、外部への副作用を伴うあらゆるアクションに対して、決定論的なガードレールを適用してください。
• エージェントが生成したコードを、バックエンドデータへのアクセスを許可する前に、厳格で限定的な形式に変換してサニタイズしてください。
• 人間のフィードバックとエージェントのトレースを使用して、オーケストレーションロジックの改善を提案するメタエージェントを訓練してください。
• すべてのインタラクションを人間が開始することを期待するのではなく、重要な意思決定ポイントでエージェントが人間の承認を促すようなワークフローを設計してください。