Comment Legora conçoit des agents d'IA juridique sans accéder aux données clients

Jacob Lauritzen, CTO de Legora, a récemment partagé des insights techniques sur la construction de workflows agentiques pour le secteur juridique, suite à une valorisation de 8,8 milliards de dollars pour l'entreprise. Lors d'une discussion avec Latent Space, il a détaillé comment son équipe construit des systèmes d'IA fiables pour des domaines riches en documents, tout en respectant strictement les contraintes de confidentialité qui empêchent l'accès direct aux données client.

Ce qui s'est passé

Legora a connu une croissance rapide depuis sa création dans un sous-sol à Stockholm, évoluant d'un simple outil de recherche vers une plateforme complète capable de rédiger des documents et de réviser des contrats. L'entreprise a levé 550 millions de dollars en mars à une valorisation de 5,55 milliards de dollars, puis sécurisé une autre levée de 550 millions en octobre, atteignant ainsi une valorisation de 8,8 milliards de dollars. Avec plus de 1 800 clients et un revenu annuel récurrent supérieur à 100 millions de dollars en avril, la plateforme coordonne désormais le travail entre avocats, clients et agents autonomes.

Le changement de modèle économique qui alimente cette adoption est significatif. Alors que les avocats facturent traditionnellement à l'heure, ce qui crée un désincitatif pour les outils d'efficacité, la pression du marché pousse les tâches routinières vers des forfaits fixes par projet. Cette évolution permet aux cabinets de tirer parti de l'IA pour gagner en rapidité sans perdre de revenus, en recentrant l'effort humain à haute valeur ajoutée sur les litiges complexes et la relation client. Contrairement aux craintes selon lesquelles l'IA remplacerait le personnel junior, Lauritzen note que les jeunes avocats qualifiés sont désormais plus précieux car ils peuvent accomplir beaucoup plus de travail grâce à ces outils.

Comment cela fonctionne

L'évaluation des agents d'IA dans le domaine juridique présente un défi unique : les données sont confidentielles. Legora ne peut pas lire les traces utilisateur ou les fichiers clients pour améliorer ses modèles. À la place, l'entreprise emploie trois ingénieurs et trois avocats pour construire des environnements d'apprentissage par renforcement qui simulent des tâches juridiques réelles. Par exemple, ils créent des data rooms synthétiques contenant des milliers de fichiers où les agents doivent effectuer des due diligence et identifier des signaux d'alerte spécifiques. Les résultats sont cartographiés via des heat maps par domaine de pratique afin de détecter les changements de performance lors de l'introduction de nouveaux modèles.

Pour gérer la sélection des modèles, Legora utilise un système de routage interne plutôt que de demander aux utilisateurs de choisir. Le système équilibre automatiquement la qualité, le coût, la latence et les exigences de gouvernance. Tandis que les tâches simples utilisent des modèles moins chers et plus rapides, les analyses complexes sur des contextes d'un million de tokens nécessitent encore une intelligence plus performante. L'entreprise effectue également un post-training sur des modèles open-weight pour des tâches étroites comme la recherche juridique, mais évite d'entraîner des modèles frontier. Pour lutter contre les hallucinations, chaque sortie inclut des citations liées à des zones délimitées (bounding boxes) spécifiques dans les PDF sources.

Détails clés

• Legora fonctionne entièrement sur Azure car les cabinets d'avocats avaient déjà approuvé Microsoft comme fournisseur via Office 365, tandis qu'AWS et GCP étaient souvent restreints.
• L'équipe d'ingénierie distingue les ingénieurs juridiques, qui configurent les produits sans code, des ingénieurs déployés en avant-garde (forward deployed engineers), qui écrivent du code de production pour les intégrations.
• Les primitives produit centrales incluent les projets, les agents, Tabular Review pour l'analyse documentaire en masse, et les listes qui déclenchent des automatisations.
• Les modes de défaillance en production sont classés en 10 à 20 catégories connues, avec des vérifications basées sur des LLM peu coûteux exécutées derrière des feature flags.
• L'entreprise maintient un pool d'environ 100 ingénieurs juridiques, généralement des avocats titulaires de diplômes en informatique, pour aider à simuler le travail et évaluer les agents.
• Tabular Review permet aux utilisateurs d'analyser jusqu'à un million de cellules, en commençant par de petits lots pour affiner les prompts avant de passer à l'échelle supérieure.

Pourquoi c'est important

Pour les développeurs construisant des agents dans des industries réglementées, l'approche de Legora démontre qu'il n'est pas nécessaire d'avoir accès aux données clients en temps réel pour améliorer les performances. En investissant massivement dans des environnements d'évaluation synthétiques et la simulation, les équipes peuvent itérer en toute sécurité. Cette méthode est cruciale pour des secteurs comme la santé ou la finance, où les lois sur la vie privée interdisent l'entraînement direct des modèles sur les entrées utilisateur. Elle souligne également l'importance de l'expertise spécifique au domaine dans la boucle d'évaluation, mêlant connaissances juridiques et rigueur d'ingénierie.

Les choix d'infrastructure révèlent aussi des contraintes pratiques dans les ventes aux entreprises. Choisir Azure n'était pas une préférence technique mais une nécessité de conformité, montrant que le statut d'approbation du fournisseur peut dicter l'architecture dès le départ. De plus, la séparation entre configuration et code permet aux non-ingénieurs de livrer de nouvelles fonctionnalités. Cette structure permet une personnalisation rapide pour les grands clients sans alourdir l'équipe d'ingénierie principale, une stratégie qui se scale mieux que les modèles traditionnels de services professionnels.

Ce que vous pouvez faire

• Construisez des jeux de données d'évaluation synthétiques qui imitent vos workflows utilisateurs les plus complexes, au lieu de vous fier aux traces de données en direct.
• Implémentez un routage automatique des modèles pour équilibrer coût et qualité, en retirant la charge décisionnelle des utilisateurs finaux.
• Séparez vos rôles d'ingénierie entre constructeurs de produits principaux et spécialistes du déploiement qui gèrent les intégrations spécifiques aux clients.
• Concevez votre produit autour de primitives flexibles comme les listes et les tableaux, qui peuvent être reconfigurées pour différents cas d'usage sans nouveau code.
• Assurez-vous que chaque sortie générée par l'IA inclut des citations vérifiables ou des liens vers les matériaux sources pour renforcer la confiance des utilisateurs.
• Choisissez vos fournisseurs cloud en fonction des approbations d'entreprise existantes dans votre industrie cible, et non seulement sur leurs mérites techniques.