Mit KI entwickeln

Wie Legora juristische KI-Agenten entwickelt, ohne auf Mandantendaten zuzugreifen

Legoras CTO Jacob Lauritzen erklärt, wie das Unternehmen Agenten evaluiert, Modelle routet und Engineering-Teams strukturiert, um vertrauliche juristische Arbeit im großen Maßstab zu bewältigen.

Juristische Dokumente, die durch digitale Linien mit einem sicheren Server verbunden sind
Für diesen Artikel generierte Illustration

Automatisch aus dem englischen Original übersetzt.

Jacob Lauritzen, CTO von Legora, teilte kürzlich technische Erkenntnisse über den Aufbau agentischer Workflows für den Rechtssektor nach der Bewertung des Unternehmens mit 8,8 Milliarden Dollar. In einem Gespräch mit Latent Space erläuterte er, wie sein Team zuverlässige KI-Systeme für dokumentenlastige Domänen konstruiert und dabei streng die Datenschutzvorgaben einhält, die einen direkten Zugriff auf Kundendaten verhindern.

Was passiert ist

Legora ist seit seiner Gründung in einem Stockholmer Keller rasant gewachsen und hat sich von einem einfachen Suchtool zu einer umfassenden Plattform entwickelt, die Dokumente entwirft und Verträge prüft. Das Unternehmen sammelte im März 550 Millionen Dollar bei einer Bewertung von 5,55 Milliarden Dollar ein und sicherte sich im Oktober weitere 550 Millionen Dollar, was die Bewertung auf 8,8 Milliarden Dollar trieb. Mit über 1.800 Kunden und mehr als 100 Millionen Dollar an wiederkehrenden Jahresumsätzen (Stand April) koordiniert die Plattform nun die Arbeit zwischen Anwälten, Mandanten und autonomen Agenten.

Der Wandel des Geschäftsmodells, der diese Adoption vorantreibt, ist erheblich. Während Anwälte traditionell nach Stunden abrechnen, was einen Anreiz gegen Effizienztools schafft, verlagert der Marktdruck Routinearbeit hin zu pauschalen Projekthonoraren. Diese Änderung ermöglicht es Kanzleien, KI zur Beschleunigung einzusetzen, ohne Umsatz zu verlieren, und lenkt hochqualifizierte menschliche Arbeitskraft auf komplexe Prozesse und Mandantenbeziehungen. Entgegen der Befürchtung, dass KI Junior-Mitarbeiter ersetzen würde, stellt Lauritzen fest, dass qualifizierte Junior-Anwälte heute wertvoller sind, da sie mit diesen Tools deutlich mehr Arbeit erledigen können.

Wie es funktioniert

Die Evaluation von KI-Agenten im Legal-Tech-Bereich stellt eine einzigartige Herausforderung dar: Die Daten sind vertraulich. Legora kann keine User-Traces oder Mandantendateien lesen, um seine Modelle zu verbessern. Stattdessen beschäftigt das Unternehmen drei Ingenieure und drei Juristen, die Reinforcement-Learning-Umgebungen erstellen, die reale juristische Aufgaben simulieren. Zum Beispiel erzeugen sie synthetische Data Rooms mit Tausenden von Dateien, in denen Agenten Due Diligence durchführen und spezifische Warnsignale identifizieren müssen. Die Ergebnisse werden nach Rechtsgebiet auf Heatmaps dargestellt, um Leistungsverschiebungen bei Einführung neuer Modelle zu erkennen.

Um die Modellauswahl zu steuern, nutzt Legora ein internes Routing-System, anstatt Benutzer dazu aufzufordern, eine Wahl zu treffen. Das System balanciert automatisch Qualität, Kosten, Latenz und Governance-Anforderungen aus. Während einfachere Aufgaben günstigere, schnellere Modelle nutzen, erfordert komplexe Analyse über Kontexte mit einer Million Tokens immer noch leistungsfähigere Intelligenz. Das Unternehmen post-traint auch Open-Weight-Modelle für schmale Aufgaben wie juristische Recherche, vermeidet aber das Training von Frontier-Modellen. Um Halluzinationen zu bekämpfen, enthält jede Ausgabe Zitate, die auf bestimmte Bounding Boxes in den Quell-PDFs verweisen.

Wichtige Details

  • Legora läuft vollständig auf Azure, weil Anwaltskanzleien Microsoft bereits als Anbieter über Office 365 genehmigt hatten, während AWS und GCP oft eingeschränkt waren.
  • Das Engineering-Team unterscheidet zwischen Legal Engineers, die Produkte ohne Code konfigurieren, und Forward Deployed Engineers, die Produktionscode für Integrationen schreiben.
  • Zu den Kernprodukt-Primitiven gehören Projekte, Agenten, Tabular Review für die Bulk-Dokumentenanalyse und Listen, die Automationen auslösen.
  • Fehlermodi in der Produktion werden in 10 bis 20 bekannte Kategorien eingeteilt, wobei kostengünstige LLM-basierte Checks hinter Feature Flags laufen.
  • Das Unternehmen hält einen Pool von etwa 100 Legal Engineers bereit, typischerweise Juristen mit Informatik-Abschlüssen, um Arbeit zu simulieren und Agenten zu evaluieren.
  • Tabular Review ermöglicht Benutzern die Analyse von bis zu einer Million Zellen, beginnend mit kleinen Batches, um Prompts zu verfeinern, bevor skaliert wird.

Warum es wichtig ist

Für Entwickler, die Agenten in regulierten Branchen bauen, zeigt Legoras Ansatz, dass man keinen Zugriff auf Live-Kundendaten benötigt, um die Leistung zu verbessern. Durch starke Investitionen in synthetische Evaluationsumgebungen und Simulationen können Teams sicher iterieren. Diese Methode ist entscheidend für Sektoren wie Gesundheitswesen oder Finanzen, wo Datenschutzgesetze das direkte Modelltraining auf Nutzereingaben verbieten. Sie unterstreicht zudem die Bedeutung domänenspezifischer Expertise im Evaluationskreislauf, indem juristisches Wissen mit technischer Strenge verbunden wird.

Die Infrastruktur-Entscheidungen offenbaren auch praktische Zwänge im Enterprise-Sales. Die Wahl von Azure war keine technische Präferenz, sondern eine Compliance-Notwendigkeit, was zeigt, dass der Status der Anbietergenehmigung die Architektur frühzeitig diktieren kann. Darüber hinaus ermöglicht die Trennung von Konfiguration und Code Nicht-Ingenieuren, neue Features auszuliefern. Diese Struktur erlaubt schnelle Anpassungen für große Kunden, ohne das Kern-Engineering-Team aufzublähen – eine Strategie, die besser skaliert als traditionelle Professional-Services-Modelle.

Was Sie tun können

  • Erstellen Sie synthetische Evaluationsdatensätze, die Ihre komplexesten Benutzerworkflows nachahmen, anstatt sich auf Live-Datenspuren zu verlassen.
  • Implementieren Sie automatisches Model-Routing, um Kosten und Qualität auszubalancieren und die Entscheidungslast von Endbenutzern zu nehmen.
  • Trennen Sie Ihre Engineering-Rollen in Core-Product-Builder und Deployment-Spezialisten, die kundenspezifische Integrationen handhaben.
  • Gestalten Sie Ihr Produkt um flexible Primitive wie Listen und Tabellen herum, die für verschiedene Use Cases ohne neuen Code rekonfiguriert werden können.
  • Stellen Sie sicher, dass jede KI-generierte Ausgabe überprüfbare Zitate oder Links zum Quellmaterial enthält, um Nutzer Vertrauen aufzubauen.
  • Wählen Sie Cloud-Anbieter basierend auf bestehenden Enterprise-Genehmigungen in Ihrer Zielbranche aus, nicht nur nach technischem Verdienst.
  • #legal-tech
  • #ai-agents
  • #evaluation
  • #enterprise-ai
  • #data-privacy

Tools aus dem Bytechap-Shop

Weiterlesen

Alle Artikel