Revolut réduit drastiquement les coûts de codage IA en auto-hébergeant des modèles chinois à poids ouverts

Revolut a fait passer son personnel d'ingénierie logicielle des assistants de codage IA commerciaux à un modèle à poids ouverts auto-hébergé, réalisant une réduction des coûts rapportée de 90 %. Le géant de la fintech exécute désormais GLM, développé par le laboratoire chinois Z.ai, sur sa propre infrastructure pour environ 2 000 ingénieurs. Ce changement stratégique a été détaillé par David Abitbol, responsable des opérations IA chez Revolut, lors d'une présentation à la conférence AI Engineer à New York.

Ce qui s'est passé

La migration vers GLM représente la dernière étape de l'approche itérative de Revolut pour intégrer l'IA dans son flux de travail de développement. Initialement, l'entreprise a déployé Gemini de Google auprès de ses équipes d'ingénierie, ce qui a entraîné une réduction de 20 % du temps de codage et une diminution de 10 % du délai de livraison (lead time). Le délai de livraison correspond à la durée entre la prise en charge d'une tâche et son intégration dans la base de code. Ensuite, Revolut a expérimenté Claude Code d'Anthropic, mais des plafonds budgétaires stricts par ingénieur ont limité son utilité. Bien que l'outil ait offert des avantages, les coûts élevés et les restrictions d'utilisation ont maintenu l'impact global à un niveau modeste.

Depuis le printemps 2026, Revolut exploite GLM sur son infrastructure interne, produisant des résultats radicalement différents. Dans un groupe témoin d'environ 2 000 ingénieurs, le temps de codage a chuté de 60 %, tandis que le délai de livraison a diminué de 70 %. Abitbol a noté que la baisse disproportionnée du délai de livraison suggère que le codage lui-même n'est pas le principal goulot d'étranglement. Les ingénieurs passent beaucoup de temps à fouiller dans leurs boîtes de réception, les tickets Jira et les pages Confluence. En supprimant les limites de tokens, Revolut a permis aux ingénieurs d'utiliser librement l'IA pour ces tâches de recherche et de synthèse sans rationner l'usage à la fin des trimestres financiers.

Comment cela fonctionne

Revolut exécute le modèle GLM, qui contient environ 800 milliards de paramètres, sur un cluster d'environ 56 unités de traitement graphique Nvidia B200. Cette configuration génère des tokens à un coût d'environ 30 cents par million, remplaçant les factures mensuelles imprévisibles par un coût opérationnel fixe. Cependant, la performance initiale « prête à l'emploi » était médiocre. Grâce à une optimisation rigoureuse, l'équipe a réduit le temps jusqu'au premier token de plus de 10 secondes à 1,6 seconde, même si la demande a augmenté de 76 %. Abitbol a souligné qu'une latence supérieure à cinq secondes déclenche immédiatement des plaintes des utilisateurs.

Le système utilise des contraintes spécifiques pour maintenir l'efficacité et la conformité. La fenêtre de contexte est plafonnée à 256 000 tokens, une décision défendue par Abitbol en affirmant que les capacités excessives de long contexte sont souvent inutiles pour les tâches de codage. Comme GLM ne traite que du texte, un routeur dirige les tâches liées aux images vers Gemini de Google. Bien que Claude Code et Codex d'OpenAI restent disponibles pour les cas exceptionnels, ils ne sont plus les outils par défaut. Cette approche hybride garantit que le modèle le plus adapté est utilisé pour chaque type spécifique de requête.

Détails clés

• Revolut signale une réduction de 90 % des coûts de codage IA par rapport aux dépenses antérieures pour les services d'Anthropic et d'OpenAI.
• L'infrastructure repose sur environ 56 puces Nvidia B200 pour servir 2 000 ingénieurs.
• Le temps de codage a diminué de 60 % et le délai de livraison d'ingénierie a chuté de 70 % après le passage à GLM.
• Les données sont traitées exclusivement dans des juridictions disposant de lois équivalentes sur la protection des données, notamment les États-Unis, l'UE, le Royaume-Uni et Israël.
• Les poids du modèle sont open-source, mais l'inférence s'exécute sur des serveurs occidentaux pour éviter d'utiliser des points de terminaison chinois.
• Le coût moyen des tokens est de 30 cents par million, avec un temps jusqu'au premier token optimisé à 1,6 seconde.

Pourquoi c'est important

Pour les responsables techniques, cette étude de cas met en évidence les avantages économiques potentiels de l'auto-hébergement de modèles à poids ouverts plutôt que de dépendre d'API propriétaires. La suppression des limites de tokens change la façon dont les ingénieurs interagissent avec les outils IA, encourageant une utilisation plus large pour des tâches non liées au codage comme la récupération d'informations. Ce changement suggère que la valeur de l'IA dans le développement logiciel va au-delà de la génération de code pour inclure l'accélération des flux de travail. Les entreprises capables de gérer la complexité de l'infrastructure peuvent réaliser des économies significatives et des gains de productivité que les fournisseurs closed-source ne peuvent égaler en raison de leurs structures tarifaires.

Cependant, cette approche nécessite un investissement initial substantiel et une expertise spécialisée. Les coûts matériels pour 56 puces B200 pourraient varier de 1,7 million à 3,5 millions de dollars, selon que les unités sont achetées ou louées. De plus, le cycle de sortie rapide des nouvelles architectures GPU signifie que ces actifs peuvent se déprécier rapidement. Les petites équipes sans personnel dédié à l'infrastructure IA pourraient avoir du mal à reproduire ces résultats, car les économies excluent les frais de cloud, de personnel et de surveillance. Le succès de ce modèle dépend fortement d'un ajustement continu et de protocoles de gouvernance stricts.

Ce que vous pouvez faire

• Évaluez le coût total de possession de l'auto-hébergement par rapport à l'utilisation d'API, y compris le matériel, l'énergie et le temps d'ingénierie.
• Implémentez des budgets de latence stricts, visant des temps de réponse inférieurs à deux secondes pour maintenir l'adoption par les développeurs.
• Utilisez des routeurs pour diriger des types de tâches spécifiques, tels que le traitement d'images, vers des modèles spécialisés tout en gardant les tâches textuelles sur des modèles à poids ouverts moins coûteux.
• Plafonnez les fenêtres de contexte pour prévenir la consommation inutile de ressources et réduire les coûts d'inférence.
• Assurez la conformité en matière de résidence des données en exécutant des modèles à poids ouverts sur une infrastructure située dans des juridictions légales approuvées.
• Maintenez des garanties humaines dans la boucle (human-in-the-loop) et des environnements sandbox pour satisfaire aux exigences réglementaires concernant les agents autonomes.