Cómo Legora construye agentes de IA legal sin ver los datos de los clientes

Jacob Lauritzen, CTO de Legora, compartió recientemente conocimientos técnicos sobre la construcción de flujos de trabajo agénticos para el sector legal tras alcanzar una valoración de $8.800 millones. En una conversación con Latent Space, detalló cómo su equipo construye sistemas de IA fiables para dominios intensivos en documentos, cumpliendo estrictamente con las restricciones de privacidad que impiden el acceso directo a los datos de los clientes.

Qué ha ocurrido

Legora ha crecido rápidamente desde su fundación en un sótano de Estocolmo, evolucionando de una simple herramienta de búsqueda a una plataforma integral que redacta documentos y revisa contratos. La empresa recaudó $550 millones en marzo con una valoración de $5.550 millones y aseguró otros $550 millones en octubre, alcanzando una valoración de $8.800 millones. Con más de 1.800 clientes y más de $100 millones en ingresos recurrentes anuales a partir de abril, la plataforma ahora coordina el trabajo entre abogados, clientes y agentes autónomos.

El cambio en el modelo de negocio que impulsa esta adopción es significativo. Mientras que los abogados tradicionalmente facturan por hora, lo que crea un desincentivo para las herramientas de eficiencia, la presión del mercado está moviendo el trabajo rutinario hacia tarifas fijas por proyecto. Este cambio permite a las firmas aprovechar la IA para ganar velocidad sin perder ingresos, desplazando el esfuerzo humano de alto valor hacia litigios complejos y relaciones con clientes. Contrario a los temores de que la IA reemplazaría al personal junior, Lauritzen señala que los abogados junior cualificados son ahora más valiosos porque pueden realizar significativamente más trabajo utilizando estas herramientas.

Cómo funciona

Evaluar agentes de IA en tecnología legal presenta un desafío único: los datos son confidenciales. Legora no puede leer trazas de usuario ni archivos de clientes para mejorar sus modelos. En su lugar, la empresa emplea tres ingenieros y tres abogados para construir entornos de aprendizaje por refuerzo que simulan tareas legales del mundo real. Por ejemplo, crean salas de datos sintéticas con miles de archivos donde los agentes deben realizar debida diligencia e identificar señales de alerta específicas. Los resultados se mapean en mapas de calor por área de práctica para detectar cambios en el rendimiento cuando se introducen nuevos modelos.

Para gestionar la selección de modelos, Legora utiliza un sistema interno de enrutamiento en lugar de pedir a los usuarios que elijan. El sistema equilibra automáticamente calidad, costo, latencia y requisitos de gobernanza. Mientras que las tareas más simples utilizan modelos más baratos y rápidos, el análisis complejo en contextos de un millón de tokens aún requiere una inteligencia más capaz. La empresa también realiza post-entrenamiento de modelos de pesos abiertos para tareas estrechas como la investigación legal, pero evita entrenar modelos frontera. Para combatir las alucinaciones, cada salida incluye citas que vinculan a cuadros delimitadores específicos en los PDFs fuente.

Detalles clave

• Legora opera completamente en Azure porque las firmas legales ya habían aprobado a Microsoft como proveedor a través de Office 365, mientras que AWS y GCP solían estar restringidos.
• El equipo de ingeniería distingue entre ingenieros legales, que configuran productos sin código, e ingenieros desplegados en campo (forward deployed), que escriben código de producción para integraciones.
• Las primitivas centrales del producto incluyen proyectos, agentes, Tabular Review para análisis masivo de documentos y listas que activan automatizaciones.
• Los modos de fallo en producción se clasifican en 10 a 20 categorías conocidas, con comprobaciones baratas basadas en LLM ejecutándose detrás de banderas de características (feature flags).
• La empresa mantiene un grupo de aproximadamente 100 ingenieros legales, típicamente abogados con títulos en ciencias de la computación, para ayudar a simular el trabajo y evaluar a los agentes.
• Tabular Review permite a los usuarios analizar hasta un millón de celdas, comenzando con pequeños lotes para refinar los prompts antes de escalar.

Por qué importa

Para los desarrolladores que construyen agentes en industrias reguladas, el enfoque de Legora demuestra que no se necesita acceso a datos de clientes en vivo para mejorar el rendimiento. Al invertir fuertemente en entornos de evaluación sintética y simulación, los equipos pueden iterar de forma segura. Este método es crucial para sectores como la salud o las finanzas, donde las leyes de privacidad prohíben el entrenamiento directo de modelos con entradas de usuario. También destaca la importancia de la experiencia específica del dominio en el bucle de evaluación, mezclando conocimiento legal con rigor de ingeniería.

Las decisiones de infraestructura también revelan restricciones prácticas en las ventas empresariales. Elegir Azure no fue una preferencia técnica sino una necesidad de cumplimiento, mostrando que el estado de aprobación del proveedor puede dictar la arquitectura desde el inicio. Además, la separación de la configuración del código permite a los no ingenieros lanzar nuevas funciones. Esta estructura habilita la personalización rápida para grandes clientes sin inflar el equipo central de ingeniería, una estrategia que escala mejor que los modelos tradicionales de servicios profesionales.

Qué puedes hacer

• Construye conjuntos de datos de evaluación sintética que imiten tus flujos de trabajo de usuario más complejos en lugar de depender de trazas de datos en vivo.
• Implementa el enrutamiento automático de modelos para equilibrar costo y calidad, eliminando la carga de decisión de los usuarios finales.
• Separa tus roles de ingeniería en constructores de producto centrales y especialistas en despliegue que gestionen integraciones específicas del cliente.
• Diseña tu producto alrededor de primitivas flexibles como listas y tablas que puedan reconfigurarse para diferentes casos de uso sin nuevo código.
• Asegúrate de que cada salida generada por IA incluya citas verificables o enlaces al material fuente para generar confianza en el usuario.
• Elige proveedores de nube basándote en aprobaciones empresariales existentes en tu industria objetivo, no solo en mérito técnico.