Entscheidungsmodelle verzeichnen 25 % des Vercel-Traffics, während Microsoft in den Markt eintritt
Neue KI-Modelle, die Entscheidungen statt Text ausgeben, dominieren Produktionsworkloads. Microsoft und Start-ups wetteifern darum, diese schnellen, kostengünstigen Entscheidungs-Engines zu optimieren.
Automatisch aus dem englischen Original übersetzt.
Im Oktober wurden mehr als jeder vierte Anfrage im AI Model Router von Vercel an Entscheidungsmodelle statt an traditionelle große Sprachmodelle (LLMs) gerichtet. Dieser Anstieg stellt eine massive Adoption einer Technologie dar, die erst einen Monat zuvor erfunden wurde. Große Akteure wie Microsoft und spezialisierte Start-ups drängen nun darauf, diese neue Schicht der künstlichen Intelligenz-Infrastruktur zu definieren.
Was passiert ist
Entscheidungsmodelle sind eine eigene Klasse von KI, die keine Output-Tokens wie Standard-LLMs generieren. Stattdessen sind sie so abgestimmt, dass sie allgemeine Intelligenz nutzen, um schnell zwischen vordefinierten Optionen zu wählen und dabei ein Konfidenzniveau für diese Entscheidung zu melden. Diese Architektur ist für Produktionsumgebungen optimiert, in denen Geschwindigkeit und Kosteneffizienz wichtiger sind als ausführliches Reasoning oder kreative Textgenerierung. Der rasante Wandel der Nutzungsmuster unterstreicht die wachsende Nachfrage nach leichten, deterministischen KI-Komponenten in Software-Stacks.
TypeSafe hat sich als früher Marktführer in diesem Bereich etabliert und erreichte nach der Veröffentlichung seiner Jev-Modellfamilie eine Bewertung von 7,5 Milliarden Dollar. Metriken von OpenRouter zeigen, dass die Modelle von TypeSafe in einer einzigen Woche mehr als 1,5 Milliarden Abfragen bearbeitet haben, was auf einen dominanten Marktanteil in sichtbaren Kanälen hindeutet. Die Einstiegshürden scheinen jedoch niedrig zu sein. Seit dem Debüt von Jev wurden Dutzende konkurrierender Modelle veröffentlicht, darunter eines, das von einem Amazon-Ingenieur an einem einzigen Wochenende entwickelt wurde. Jeder große Hyperscaler bietet inzwischen seine eigene Variante an.
Am Dienstag kündigte Microsoft-CEO Satya Nadella die sofortige breite Freigabe von Microsoft-Decision-1.1 auf Azure an. Gleichzeitig gab Sqwish, ein britisches Start-up, eine Pre-Seed-Finanzierungsrunde in Höhe von 3 Millionen Dollar bekannt. Das Modell von Sqwish, genannt kettei fat, wurde von den Cambridge-Absolventen Ushnish Sengupta und Federica Freddi entwickelt. Sie nutzten ihre bestehenden kleinen LLM-Architekturen neu, um in dieser neuen Kategorie zu konkurrieren, und setzen darauf, dass Anpassungen und Post-Training-Tools sie von Commodity-Angeboten differenzieren werden.
Wie es funktioniert
Die zentrale technische Herausforderung beim Aufbau effektiver Entscheidungsmodelle liegt nicht nur in der reinen Intelligenz, sondern in der Kalibrierung. Diogo Almeida, CEO von TypeSafe, merkte an, dass der schwierigste Teil bei der Erstellung von Jev darin bestand, das Urteilsvermögen des Modells anhand statistisch angepasster synthetischer Daten fein abzustimmen. Das Modell muss seine eigene Konfidenz genau einschätzen können, um schwerwiegende Fehler in automatisierten Workflows zu vermeiden. Ohne diese Kalibrierung ist ein schnelles Modell lediglich eine schnelle Quelle für Halluzinationen.
Sqwish geht dieses Problem an, indem es integrierte Post-Training-Tools bereitstellt, die Kunden ermöglichen, das Urteilsvermögen des Modells anhand ihrer eigenen Produktionsdaten zu verbessern. Dies erzeugt einen Feedback-Loop, in dem sich das Modell im Laufe der Zeit an spezifische Geschäftskontexte anpasst. Anstatt sich ausschließlich auf statische Benchmarks zu verlassen, betont diese Methode kontinuierliche Feinabstimmung. Entwickler können Modelle leicht austauschen, aber das Wertverschieben verschiebt sich hin zu langfristiger Leistungsverbesserung durch die Integration proprietärer Daten.
Microsoft-Decision-1.1 wurde durch die Balance von Kosten, Latenz, Intelligenz und Kalibrierung entwickelt. Achint Srivastava, der Engineering VP, der das Projekt leitete, betonte, dass streng auf Benchmarks optimierte Modelle oft im realen Unternehmenseinsatz versagen. Die Tests von Microsoft konzentrierten sich auf ausgeblendete Benchmarks, die tatsächliche Anwendungsfälle widerspiegeln, um sicherzustellen, dass das Modell zuverlässig über alle vier kritischen Dimensionen hinweg gleichzeitig performt.
Wichtige Details
- Im Oktober gingen über 25 % der Anfragen im Vercel AI Model Router an Entscheidungsmodelle.
- Die Jev-Modelle von TypeSafe verarbeiteten über OpenRouter in einer Woche mehr als 1,5 Milliarden Abfragen.
- Microsoft stellte Microsoft-Decision-1.1 sofort zur breiten Nutzung auf Azure bereit.
- Sqwish sammelte 3 Millionen Dollar an Pre-Seed-Funding für sein Entscheidungsmodell kettei fat.
- Entscheidungsmodelle geben vordefinierte Optionen und Konfidenzwerte aus, keine Text-Tokens.
- Die Kalibrierung mittels synthetischer und Produktionsdaten wird als primäre technische Hürde genannt.
Warum das wichtig ist
Für Software-Ingenieure und technische Gründer signalisiert der Aufstieg von Entscheidungsmodellen einen Wandel darin, wie KI in Produkte integriert wird. Zuvor hätten Entwickler möglicherweise teure Frontier-Modelle für einfache Routing- oder Klassifizierungsaufgaben verwendet und für Reasoning-Fähigkeiten bezahlt, die sie nicht benötigten. Entscheidungsmodelle bieten einen Weg, Latenz und Kosten für diese hochvolumigen, komplexitätsarmen Aufgaben erheblich zu senken. Dies ermöglicht es Teams, leistungsstarke, langsamere Modelle für komplexe generative Aufgaben zu reservieren, während routinemäßige Logik mit spezialisierten, effizienten Agents gehandhabt wird.
Der Wettbewerb zwischen Hyperscalern und Start-ups unterstreicht auch die Bedeutung von Datenbesitz und Anpassung. Während Microsoft und Amazon robuste, universelle Entscheidungsmodelle bereitstellen, argumentieren Start-ups wie Sqwish, dass generische Lösungen zu Commodities werden. Die Fähigkeit, ein Modell auf privaten Produktionsdaten fein abzustimmen, bietet Unternehmen, die proprietäre KI-Funktionen entwickeln, einen defensiven Graben. Wie Federica Freddi bemerkte, repräsentiert diese „System One“-Intelligenz eine Milliarden-Dollar-Chance, die sich von den Billionen-Bewertungen der allgemeinen KI-Labs unterscheidet.
Was Sie tun können
- Überprüfen Sie Ihre aktuelle KI-Nutzung, um hochvolumige, komplexitätsarme Aufgaben zu identifizieren, die für Entscheidungsmodelle geeignet sind.
- Testen Sie Microsoft-Decision-1.1 oder die Jev-Modelle von TypeSafe gegen Ihre aktuellen LLM-Routers auf Kosteneinsparungen.
- Bewerten Sie, ob Ihre Anwendung eine benutzerdefinierte Kalibrierung über Post-Training-Tools benötigt, die von Start-ups wie Sqwish angeboten werden.
- Überwachen Sie die Konfidenzwerte von Entscheidungsmodellen, um angemessene Schwellenwerte für Human-in-the-Loop-Interventionen festzulegen.
- Bereiten Sie synthetische Datensätze vor, die Ihre spezifische Geschäftslogik widerspiegeln, um die Modellkalibrierung zu verbessern.
- Erwägen Sie die Architektur von Systemen, in denen „System One“-Entscheidungsmodelle das Routing übernehmen, bevor sie komplexe Fälle an „System Two“-Generativmodelle weitergeben.



