System-One-Modelle bringen zuverlässige Automatisierung in das KI-Engineering
Diogo Almeida und Ingenieure von Glean, UiPath und Workday demonstrieren auf dem AI Engineer Code Summit, wie schnelle, nicht-generative Modelle wie Jev eine zuverlässige Softwareautomatisierung ermöglichen.
Automatisch aus dem englischen Original übersetzt.
Auf dem AI Engineer Code Summit am 12. November 2026 versammelten sich Branchenführer, um den Wandel weg von rein generativen großen Sprachmodellen hin zu schnelleren, deterministischeren Alternativen zu diskutieren. Diogo Almeida, Mitbegründer von TypeSafe AI und Hauptentwickler von Jev, eröffnete die Veranstaltung mit einem Aufruf, diese „System-One“-Modelle direkt in den Anwendungscode zu integrieren, um die Zuverlässigkeit zu erhöhen.
Was passiert ist
Das zentrale Thema des Gipfels war der Aufstieg der System-One-Modelle, die sich erheblich von den denkintensiven großen Sprachmodellen unterscheiden, die die jüngste KI-Entwicklung dominiert haben. Diese neueren Modelle geben strukturierte Entscheidungen, Scores oder Wahrscheinlichkeiten zurück, anstatt offenen Text zu generieren. Sie sind deutlich schneller und kostengünstiger im Betrieb und beheben damit einen kritischen Schmerzpunkt für Ingenieure, die konsistente Leistung in Produktionsumgebungen benötigen. Almeida beschrieb diesen Ansatz als „zuverlässige Intelligenz“ und argumentierte, dass er genutzt werden sollte, um nahezu jeden Aspekt der Softwareinteraktion zu automatisieren, wo Vorhersagbarkeit erforderlich ist.
Almeida betonte, dass Code die primäre Sprache der Automatisierung sei und dass System-One-Modelle darin eingebettet werden müssen. Er kritisierte den aktuellen Stand der LLM-gesteuerten Software und wies darauf hin, dass diese Modelle zwar 95 Prozent der Zeit wie Einstein performen können, aber gelegentlich auf eine Weise scheitern, die an Mr. Bean erinnert. Diese Inkonsistenz macht eine vollständige Automatisierung gefährlich, wenn Entwickler nicht zwischen hochwertigen und schlechten Ausgaben unterscheiden können. Seine Keynote forderte Ingenieure auf, Aufrufe von System-One-Modellen großzügig in ihre Codebasen einzustreuen, um intelligentere, robustere Anwendungen zu erstellen, ohne sich auf fragwürdige String-Konkatenationstechniken verlassen zu müssen.
Im Anschluss an Almeidas Keynote präsentierte Chinmay Goyal von Glean praktische Anwendungen dieser Modelle in der Enterprise-Suche. Goyal erklärte, dass Glean System-One-Modelle neben traditionellen Klassifikatoren und LLMs einsetzt, um Entscheidungsräume zu bewältigen, die sich häufig ändern. Der von ihm hervorgehobene entscheidende Vorteil war die Zero-Shot-Flexibilität, die es dem System ermöglicht, sich an neue Taxonomien anzupassen, ohne wiederholtes Fine-Tuning zu erfordern. Goyal merkte an, dass Endbenutzer nicht wissen müssen, welches Modell eine bestimmte Funktion antreibt; sie interessiert nur, dass das Produkt zuverlässig funktioniert. Für Glean bleibt es das primäre Ziel, die Komplexität der Modellauswahl hinter einer nahtlosen Benutzererfahrung zu verbergen.
Wie es funktioniert
System-One-Modelle arbeiten, indem sie Eingaben gegen einen festen Satz von Ergebnissen oder Bewertungskriterien evaluieren, anstatt neuen Inhalt Token für Token zu generieren. Dieser architektonische Unterschied ermöglicht es ihnen, Tausende von Aufrufen in unter einer Sekunde auszuführen, was sie für Echtzeit-Entscheidungsfindungsaufgaben geeignet macht. Auf dem Gipfel demonstrierten Chibi Vikram und Kevin Bernstein von UiPath diese Fähigkeit durch ein Dokument-Ranking-Turnier. Ihr System nutzte Jev, um die relevantesten Textabschnitte aus kleinen Gruppen auszuwählen, wobei die Gewinner in nachfolgende Runden aufstiegen, bis die besten Übereinstimmungen identifiziert waren. Diese mehrstufige Strategie nutzte die Geschwindigkeit des Modells aus, um hohe Genauigkeit ohne die Rechenkosten eines vollständigen generativen Durchlaufs zu erreichen.
Scott Roberts, Principal Engineer bei Workday, stellte eine weitere Implementierung vor, bei der das Modell die Nutzerabsicht vorhersagt, bevor eine Aktion abgeschlossen ist. In seinem Prototyp beginnt die Oberfläche, ein Urlaubsformular auszufüllen, während der Benutzer noch tippt. Dies verschiebt die Rolle der Software davon, lediglich vorherzusagen, was ein Benutzer sagen möchte, dazu, vorherzusehen, was er tun möchte. Durch die Integration schneller Modellaufrufe direkt in die Logik der Benutzeroberfläche wird die Anwendung proaktiv statt reaktiv. Diese Beispiele verdeutlichen, dass System-One-Modelle als justierbare Bausteine fungieren, die Intelligenz durch strategische Komposition statt durch rohe Parameteranzahl gewinnen.
Wichtige Details
- System-One-Modelle geben strukturierte Daten wie Scores, Wahrscheinlichkeiten oder diskrete Entscheidungen zurück, anstatt offene Textgenerierung durchzuführen.
- Jev, im September 2026 von TypeSafe AI veröffentlicht, wird als primäres Beispiel für diese Technologie angeführt und bietet Geschwindigkeits- und Zuverlässigkeitsvorteile gegenüber Denk-LLMs.
- Glean nutzt diese Modelle für Zero-Shot-Flexibilität, wodurch sich die Suchtaxonomie entwickeln kann, ohne dass eine ständige Nachschulung des Modells erforderlich ist.
- UiPath demonstrierte ein Turnier-basiertes Ranking-System, bei dem Jev Tausende von Aufrufen in unter einer Sekunde verarbeitete, um relevante Dokumentausschnitte zu identifizieren.
- Workday prototypisierte eine Oberfläche, die Nutzeraktionen in Echtzeit vorhersagt und Formulare beim Tippen ausfüllt, um Reibungsverluste zu reduzieren.
- Diogo Almeida verglich die aktuelle Experimentierphase mit System-One-Modellen mit den frühen Tagen des Internets und ermutigte Entwickler, neue Softwaregrenzen zu erkunden.
Warum es wichtig ist
Für Software-Ingenieure und technische Gründer stellt der Wechsel zu System-One-Modellen den Übergang von experimentellen Prototypen zu produktionsreifer Zuverlässigkeit dar. Die Unvorhersehbarkeit generativer Modelle war lange Zeit ein Hindernis für die Automatisierung kritischer Geschäftsprozesse. Durch die Verwendung von Modellen, die strukturierte Ausgaben liefern, können Teams Systeme erstellen, die sich wie Standard-Logikgatter verhalten, sodass Automatisierungsflüsse nicht aufgrund von Halluzinationen oder unregelmäßigem Verhalten brechen. Diese Zuverlässigkeit ermöglicht es Unternehmen, komplexere Workflows mit Vertrauen zu automatisieren und den Bedarf an umfangreicher menschlicher Aufsicht zu reduzieren.
Darüber hinaus machen die Kosten- und Latenzvorteile dieser Modelle sie für hochvolumige Aufgaben rentabel, die zuvor mit großen Sprachmodellen zu teuer zu bearbeiten waren. Ingenieure können nun intelligente Entscheidungsfindung direkt in die Kernlogik ihrer Anwendungen einbetten, ohne sich über prohibitiv hohe API-Kosten oder langsame Antwortzeiten Sorgen machen zu müssen. Dies demokratisiert den Zugang zu fortgeschrittenen KI-Fähigkeiten und ermöglicht kleineren Teams, anspruchsvolle Funktionen zu entwickeln, die früher gut finanzierten Forschungslabors vorbehalten waren. Die Möglichkeit, schnell an diesen Modellen zu iterieren, bedeutet auch, dass sich Software an wechselnde Geschäftsanforderungen anpassen kann, ohne dass lange Nachschulungszyklen erforderlich sind.
Was Sie tun können
- Identifizieren Sie Teile Ihrer Anwendung, in denen strukturierte Entscheidungen erforderlich sind, wie Klassifizierung, Ranking oder Routing, und ersetzen Sie generative Aufrufe durch System-One-Modelle.
- Experimentieren Sie damit, Modellaufrufe direkt in Ihren Anwendungscode einzubetten, um die Echtzeit-Vorhersage der Nutzerabsicht zu handhaben, ähnlich wie beim Workday-Prototyp.
- Verwenden Sie Turnier-basierte Ranking-Strategien, um die Genauigkeit bei der Verarbeitung großer Datensätze zu verbessern, und nutzen Sie die Geschwindigkeit der System-One-Modelle, um Ergebnisse effizient zu filtern.
- Bewerten Sie Ihre aktuellen KI-Workflows auf Möglichkeiten zur Reduzierung von Latenz und Kosten, indem Sie von Denk-LLMs zu schnelleren, nicht-generativen Alternativen für einfache Aufgaben wechseln.
- Erkunden Sie Zero-Shot-Klassifizierungsfähigkeiten, um sich entwickelnde Taxonomien ohne den Overhead kontinuierlicher Modell-Nachschulungen zu handhaben.
- Schließen Sie sich der Community von Entwicklern an, die mit diesen neuen Grenzen experimentieren, und betrachten Sie die aktuelle Landschaft als Chance, Best Practices für zuverlässige KI-Automatisierung zu definieren.



