Offene & lokale KI

Revolut senkt KI-Coding-Kosten um 90 % durch Self-Hosting chinesischer Open-Weight-Modelle

Revolut hat kommerzielle Coding-Agents durch ein selbst gehostetes GLM-Modell ersetzt, was die Kosten um 90 % senkte und die Engineering-Durchlaufzeiten erheblich verbesserte.

Serverschränke neben schrumpfenden Münzen als Symbol für Kostensenkungen
Für diesen Artikel generierte Illustration

Automatisch aus dem englischen Original übersetzt.

Revolut hat seine Software-Engineering-Mitarbeiter von kommerziellen KI-Coding-Assistenten auf ein selbst gehostetes Open-Weight-Modell umgestellt und damit laut Berichten eine Kostensenkung von 90 Prozent erzielt. Der Fintech-Riese betreibt nun das von dem chinesischen Labor Z.ai entwickelte Modell GLM auf seiner eigenen Infrastruktur für rund 2.000 Ingenieure. Diese strategische Neuausrichtung wurde von David Abitbol, der bei Revolut die KI-Betriebsabläufe leitet, während eines Vortrags auf der AI Engineer Conference in New York detailliert vorgestellt.

Was passiert ist

Die Migration zu GLM stellt den neuesten Schritt in Revoluts iterativem Ansatz dar, KI in seinen Entwicklungsworkflow zu integrieren. Ursprünglich setzte das Unternehmen Googles Gemini in seinen Engineering-Teams ein, was zu einer Reduzierung der Coding-Zeit um 20 Prozent und einer Verkürzung der Durchlaufzeit (Lead Time) um 10 Prozent führte. Die Lead Time bezeichnet die Dauer von der Übernahme einer Aufgabe bis zur Zusammenführung in die Codebasis. Anschließend experimentierte Revolut mit Anthropics Claude Code, doch strenge Budgetgrenzen pro Ingenieur schränkten den Nutzen ein. Obwohl das Tool Vorteile bot, blieben die Gesamtauswirkungen aufgrund hoher Kosten und Nutzungsbeschränkungen eher gering.

Seit dem Frühjahr 2026 betreibt Revolut GLM auf seiner internen Infrastruktur, was zu deutlich anderen Ergebnissen führte. In einer Stichprobe von etwa 2.000 Ingenieuren sank die Coding-Zeit um 60 Prozent, während die Lead Time um 70 Prozent zurückging. Abitbol merkte an, dass der überproportionale Rückgang der Lead Time darauf hindeutet, dass das Coden selbst nicht der primäre Engpass ist. Ingenieure verbringen viel Zeit mit der Suche in Postfächern, Jira-Tickets und Confluence-Seiten. Durch die Aufhebung der Token-Limits konnte Revolut Ingenieuren erlauben, KI frei für diese Such- und Syntheseaufgaben zu nutzen, ohne die Nutzung gegen Ende des Finanzquartals rationieren zu müssen.

Wie es funktioniert

Revolut betreibt das GLM-Modell mit etwa 800 Milliarden Parametern auf einem Cluster aus rund 56 Nvidia B200 Grafikprozessoren. Diese Konfiguration erzeugt Tokens zu Kosten von etwa 30 Cent pro Million und ersetzt unberechenbare monatliche Rechnungen durch feste Betriebskosten. Die Leistung „out-of-the-box“ war jedoch zunächst schlecht. Durch rigorose Optimierung reduzierte das Team die Zeit bis zum ersten Token von über 10 Sekunden auf 1,6 Sekunden, obwohl die Nachfrage um 76 Prozent stieg. Abitbol betonte, dass Latenzen über fünf Sekunden sofortige Beschwerden der Nutzer auslösen.

Das System nutzt spezifische Einschränkungen, um Effizienz und Compliance zu gewährleisten. Das Kontextfenster ist auf 256.000 Tokens begrenzt, eine Entscheidung, die Abitbol damit verteidigte, dass übermäßige Long-Context-Fähigkeiten für Coding-Aufgaben oft unnötig sind. Da GLM nur Text verarbeitet, leitet ein Router bildbezogene Aufgaben an Googles Gemini weiter. Während Claude Code und OpenAIs Codex für Ausnahmefälle weiterhin verfügbar bleiben, sind sie nicht mehr die Standardtools. Dieser hybride Ansatz stellt sicher, dass für jede spezifische Anfrageart das am besten geeignete Modell verwendet wird.

Wichtige Details

  • Revolut meldet eine Senkung der KI-Coding-Kosten um 90 Prozent im Vergleich zu den früheren Ausgaben für Dienste von Anthropic und OpenAI.
  • Die Infrastruktur basiert auf etwa 56 Nvidia B200 Chips, die 2.000 Ingenieure bedienen.
  • Die Coding-Zeit sank um 60 Prozent und die Engineering-Lead-Time fiel nach der Umstellung auf GLM um 70 Prozent.
  • Daten werden ausschließlich in Jurisdiktionen mit gleichwertigen Datenschutzgesetzen verarbeitet, darunter die USA, die EU, Großbritannien und Israel.
  • Die Modellgewichte sind Open Source, aber die Inferenz läuft auf westlichen Servern, um chinesische Endpunkte zu vermeiden.
  • Die Token-Kosten liegen im Durchschnitt bei 30 Cent pro Million, wobei die Zeit bis zum ersten Token auf 1,6 Sekunden optimiert wurde.

Warum das wichtig ist

Für technische Führungskräfte unterstreicht diese Fallstudie die potenziellen wirtschaftlichen Vorteile des Self-Hostings von Open-Weight-Modellen gegenüber der Abhängigkeit von proprietären APIs. Die Aufhebung der Token-Limits verändert die Interaktion der Ingenieure mit KI-Tools und fördert eine breitere Nutzung für Nicht-Coding-Aufgaben wie die Informationsbeschaffung. Dieser Wandel deutet darauf hin, dass der Wert von KI in der Softwareentwicklung über die Codegenerierung hinausgeht und auch die Beschleunigung von Workflows umfasst. Unternehmen, die die Komplexität der Infrastruktur bewältigen können, finden möglicherweise erhebliche Kosteneinsparungen und Produktivitätsgewinne, die Closed-Source-Anbieter aufgrund ihrer Preisstrukturen nicht bieten können.

Allerdings erfordert dieser Ansatz erhebliche Vorabinvestitionen und spezialisiertes Fachwissen. Die Hardwarekosten für 56 B200-Chips könnten je nachdem, ob die Einheiten gekauft oder gemietet werden, zwischen 1,7 Millionen und 3,5 Millionen US-Dollar liegen. Darüber hinaus bedeutet der schnelle Release-Zyklus neuer GPU-Architekturen, dass diese Assets schnell an Wert verlieren können. Kleinere Teams ohne dediziertes Personal für KI-Infrastruktur könnten Schwierigkeiten haben, diese Ergebnisse zu replizieren, da die Einsparungen Cloud-, Personal- und Überwachungskosten ausschließen. Der Erfolg dieses Modells hängt stark von kontinuierlichem Tuning und strengen Governance-Protokollen ab.

Was Sie tun können

  • Bewerten Sie die Gesamtbetriebskosten (Total Cost of Ownership) für Self-Hosting im Vergleich zur API-Nutzung, einschließlich Hardware, Strom und Engineering-Zeitaufwand.
  • Implementieren Sie strenge Latenzbudgets und streben Sie Antwortzeiten unter zwei Sekunden an, um die Akzeptanz bei Entwicklern zu erhalten.
  • Verwenden Sie Router, um spezifische Aufgabentypen wie Bildverarbeitung an spezialisierte Modelle zu leiten, während Textaufgaben auf günstigeren Open-Weight-Modellen verbleiben.
  • Begrenzen Sie Kontextfenster, um unnötigen Ressourcenverbrauch zu verhindern und die Inferenzkosten zu senken.
  • Stellen Sie die Einhaltung der Datenaufbewahrungsvorschriften (Data Residency) sicher, indem Sie Open-Weight-Modelle auf Infrastruktur innerhalb genehmigter Rechtsjurisdiktionen betreiben.
  • Halten Sie Human-in-the-Loop-Schutzmaßnahmen und Sandbox-Umgebungen aufrecht, um regulatorische Anforderungen für autonome Agents zu erfüllen.
  • #ai infrastructure
  • #open-weight models
  • #cost optimization
  • #software engineering
  • #self-hosting

Tools aus dem Bytechap-Shop

$89

DocBento

Selbst gehostetes Dokumentenmanagement, das jeden Scan liest und mit Seitenzitaten antwortet.

Live-Demo

Weiterlesen

Alle Artikel