El enfoque de Arca para los agentes financieros de horizonte largo y la seguridad

En la reciente conferencia AI Engineer New York, Aman Singh, ingeniero principal de IA en la firma de gestión patrimonial Arca, detalló cómo su equipo construye agentes para flujos de trabajo financieros complejos y de varios días. La compañía recientemente aseguró $48.5 millones en financiación liderada por General Catalyst, con el apoyo de Index Ventures y Venrock, para escalar esta infraestructura nativa de IA.

Qué ocurrió

Singh explicó que, aunque los agentes de IA gestionan la mayor parte del análisis y la preparación en segundo plano en Arca, no operan de forma aislada. La firma ha implementado estrictas salvaguardas que garantizan que los asesores humanos conserven la autoridad final de toma de decisiones, especialmente para acciones de alto riesgo como operar o mover dinero. Esta estructura invierte el modelo tradicional de interacción, donde los humanos suelen dar instrucciones a los bots. En cambio, los agentes analizan datos, proponen soluciones y luego solicitan a los asesores humanos que revisen y aprueben pasos específicos.

La naturaleza de la planificación financiera requiere lo que Singh denomina trabajo de "horizonte largo". A diferencia de las simples tareas de consulta-respuesta, los flujos de trabajo de los agentes en Arca pueden abarcar hasta diez días. Estos procesos son intermitentes, involucran múltiples actores, puntos de decisión y traspasos entre sistemas automatizados y personal humano. Para gestionar esta complejidad, Arca desarrolló un sistema de memoria interno que mantiene la persistencia para cada cliente. Este sistema rastrea lo que ha ocurrido, lo que está pendiente en el futuro inmediato y lo que está programado a largo plazo, asignando la responsabilidad de cada acción a individuos específicos o procesos automatizados.

Cómo funciona

Arca se basa en modelos de proveedores principales, utilizando Claude como su motor primario, pero no depende de las herramientas gestionadas de un único proveedor. El equipo de ingeniería construyó un arnés personalizado que enruta automáticamente las tareas al modelo más adecuado según benchmarks internos. Poseer esta capa de orquestación le da a Arca la flexibilidad de cambiar de proveedor si cambian las dinámicas de rendimiento o costos, sin reescribir su lógica de aplicación central.

La seguridad y la protección se manejan mediante una combinación de reglas deterministas y entornos de computación aislados. Los agentes en sí mismos no están completamente sandboxeados, pero cualquier código que generen para el procesamiento de datos se ejecuta dentro de sandboxes seguros. Para prevenir riesgos de seguridad como inyecciones de prompt o acceso no autorizado a datos, Arca traduce el código escrito por los agentes a un formato estricto y esperado. El código original se descarta, y solo se permite que el formato saneado interactúe con el backend. Esto permite a los agentes agregar y manipular datos para planes financieros sin exponer la base de datos central a código ejecutable arbitrario.

Además, todas las restricciones de seguridad son totalmente deterministas, eliminando la ambigüedad de las decisiones críticas. Si una tarea implica riesgo para un cliente, como ejecutar una operación, el agente es técnicamente incapaz de realizarla solo. Solo puede preparar el análisis y presentarlo para la aprobación humana. Un "meta-agente" también analiza los comentarios de los asesores humanos y los trazos de los agentes para sugerir mejoras al arnés, creando un bucle continuo de refinamiento operativo.

Detalles clave

• Las tareas de los agentes en Arca pueden tardar hasta diez días en completarse debido a la naturaleza intermitente de la planificación financiera.
• La empresa recaudó $48.5 millones en una ronda liderada por General Catalyst, con la participación de Index Ventures y Venrock.
• Arca utiliza un arnés construido a medida para enrutar tareas al mejor modelo, confiando principalmente en Claude de Anthropic.
• Un sistema de memoria interno proporciona persistencia para cada cliente, rastreando acciones inmediatas y a largo plazo a través de múltiples traspasos.
• Las restricciones de seguridad son totalmente deterministas, asegurando que los agentes no puedan ejecutar operaciones ni mover dinero sin la aprobación humana.
• El código generado por los agentes se traduce a un formato estricto antes de llegar al backend, descartando el código original para prevenir ataques de inyección.

Por qué importa

Para los ingenieros que construyen sistemas agénticos, la arquitectura de Arca destaca la importancia de la persistencia en flujos de trabajo de larga duración. La mayoría de los frameworks actuales de agentes asumen interacciones de corta vida, pero las tareas empresariales del mundo real a menudo requieren gestión de estado durante días o semanas. Al construir un sistema de memoria dedicado que rastrea contexto, responsabilidades y cronogramas, Arca evita la pérdida de contexto que aflige a muchas implementaciones de agentes multi-paso. Este enfoque asegura que, cuando un agente retoma el trabajo después de una revisión humana o un período de espera, conserve plena conciencia del estatus del cliente.

La separación del análisis de la ejecución es otra lección crítica. Al limitar a los agentes a proponer soluciones y aplicar salvaguardas deterministas para acciones de alto riesgo, Arca mitiga la imprevisibilidad inherente a los grandes modelos de lenguaje. Este patrón de diseño permite a las firmas aprovechar la velocidad y amplitud de la IA para el procesamiento de datos mientras mantienen la rendición de cuentas y la seguridad requeridas en industrias reguladas. Demuestra que la confianza en los sistemas de IA no proviene de hacer perfecto al modelo, sino de restringir su capacidad de causar daño.

Qué puedes hacer

• Implementa una capa de memoria persistente para tus agentes para rastrear el estado a través de flujos de trabajo de varios días y traspasos.
• Construye un arnés de enrutamiento personalizado para evaluar y seleccionar el mejor modelo para subtareas específicas en lugar de depender de un único proveedor.
• Aplica salvaguardas deterministas para cualquier acción que implique riesgo financiero, eliminación de datos o efectos secundarios externos.
• Sanea el código generado por los agentes traduciéndolo a un formato estricto y limitado antes de permitirle acceder a los datos de tu backend.
• Usa la retroalimentación humana y los trazos de los agentes para entrenar un meta-agente que sugiera mejoras a tu lógica de orquestación.
• Diseña flujos de trabajo donde los agentes soliciten aprobación humana en puntos de decisión clave, en lugar de esperar que los humanos inicien cada interacción.