Le backend Pando d'OpenAI réduit par cinq la latence des push Git pour le codage agentique

OpenAI a remplacé son infrastructure standard de serveur Git par un backend personnalisé nommé Pando afin de soutenir l'augmentation massive du nombre de commits de code générés par ses développeurs et ses agents IA. Lancé en production en avril 2026, le système a été construit en seulement dix semaines en utilisant Rust et réduit considérablement la latence des push tout en gérant près d'un pétaoctet de données Git chaque jour.

Ce qui s'est passé

La transition vers Pando a été motivée par un changement radical dans la manière dont OpenAI écrit du code. D'ici la fin de 2026, les commits trimestriels sur le monorepo de l'entreprise devraient augmenter de plus de 2 400 % par rapport au premier trimestre 2024. Cette hausse est largement attribuée à l'adoption généralisée des outils de codage agentique, qui génèrent du code à un rythme bien supérieur à celui des équipes de développement composées uniquement d'humains. L'infrastructure Git existante peinait à suivre, avec une fiabilité tombant sous les 90 % en raison de fetchs lents et de fusions échouées.

Alors que certaines entreprises comme Anthropic ont choisi d'abandonner complètement Git au profit de nouvelles architectures, OpenAI a décidé de rester dans l'écosystème Git. L'équipe d'ingénierie, incluant Aaron Friel, Taylor Blau et Ted Nyman, a déterminé que le goulot d'étranglement ne résidait pas dans le protocole Git lui-même, mais plutôt dans la gestion des états et la coordination des écritures par les serveurs Git conventionnels. Ils cherchaient une solution qui conserverait la compatibilité avec les outils de développement existants tout en supprimant les plafonds de performance imposés par les conceptions traditionnelles de serveurs.

Le résultat est Pando, un backend qui découple la coordination des branches et élimine la nécessité de générer des packfiles personnalisés pour chaque requête client. Le système est devenu opérationnel en avril 2026 et sert désormais près d'un pétaoctet de données Git quotidiennement. OpenAI rapporte que la latence des push a été réduite de près de cinq fois, permettant aux développeurs humains comme aux agents IA de travailler sans les frictions qui entravaient auparavant leur flux de travail.

Comment cela fonctionne

Pando change fondamentalement deux hypothèses faites par les serveurs Git standards. Premièrement, il n'exige pas que toutes les branches du dépôt soient dans un état cohérent simultanément. Deuxièmement, il cesse de construire un packfile compressé unique pour chaque fetch client individuel. Dans Git traditionnel, une branche est simplement un pointeur vers le dernier commit, mais les serveurs ordonnent généralement les mises à jour à travers l'ensemble du dépôt. Cela signifie qu'un push sur une branche peut bloquer une autre même si elles sont sans lien. Pando gère chaque branche indépendamment, de sorte que les push sur différentes branches ne se bloquent pas mutuellement. Le compromis est qu'un client visualisant plusieurs branches pourrait les voir à des points temporels légèrement différents, mais OpenAI soutient que cela est acceptable puisque les utilisateurs s'intéressent principalement à l'historique linéaire d'une seule branche.

Lorsqu'un client pousse du code, Pando valide le packfile entrant pendant qu'il est directement streamé vers le stockage blob, sans le décompresser dans un dépôt local. Il enregistre la nouvelle pointe de branche et les métadonnées dans un magasin clé-valeur. Par défaut, Pando ne publie que la branche principale (trunk) comme base pour les branches fonctionnelles. Cette stratégie garantit que la plupart des packfiles sont réutilisables par d'autres clients qui possèdent déjà l'historique de la branche principale. Lorsqu'un client récupère du code, Pando sélectionne les packs stockés nécessaires en fonction de l'historique existant du client et renvoie des liens de téléchargement en utilisant la fonctionnalité packfile-uri du protocole Git.

Un service de cache appelé Express sert ces packs depuis des caches régionaux, atteignant un taux de réussite supérieur à 99 %. Pour empêcher les clients de télécharger des dizaines de milliers de petits packs, des workers en arrière-plan les fusionnent progressivement en fichiers plus volumineux, de manière similaire à la façon dont les bases de données structurées par log compacter les données. Cela permet à Pando de déterminer quels packs un client nécessite en temps logarithmique. Sur des VM cloud standard, cette architecture permet aux clones et aux fetchs d'atteindre la saturation d'une liaison réseau de 10 Gbps, une amélioration significative par rapport au repacking et au ramassage des ordures (garbage collection) gourmands en calcul requis par les serveurs traditionnels.

Détails clés

• Pando a réduit la latence des push de près de 5x par rapport à l'infrastructure précédente.
• Le système sert actuellement près d'un pétaoctet de données Git par jour.
• Les commits trimestriels sur le monorepo d'OpenAI devraient augmenter de plus de 2 400 % d'ici la fin de 2026 par rapport au T1 2024.
• Le backend a été construit en Rust en seulement 10 semaines, avec une conception centrale par un ingénieur et une implémentation assistée par des agents Codex.
• Pando atteint un taux de réussite de cache supérieur à 99 % grâce à son service de cache Express.
• OpenAI contribue à plusieurs correctifs côté client au projet Git open source, bien que Pando lui-même reste propriétaire.

Pourquoi c'est important

Pour les responsables d'ingénierie et les équipes d'infrastructure, Pando démontre que Git peut encore passer à l'échelle pour répondre aux exigences du développement assisté par IA si l'architecture du serveur est repensée. La croyance commune selon laquelle Git est intrinsèquement inadapté aux monorepos massifs ou aux commits automatisés à haute fréquence est ici remise en question. Le goulot d'étranglement n'était pas le système de contrôle de version lui-même, mais le modèle de serveur traditionnel qui privilégie la cohérence globale et la compression à la volée. En relâchant les exigences de cohérence entre les branches sans lien et en exploitant le stockage blob immuable, OpenAI a réalisé des gains massifs de débit sans forcer les développeurs à apprendre un nouvel outil.

Cette approche met également en lumière le rôle changeant de l'IA dans la construction d'infrastructures. Le fait qu'un système interne critique ait été implémenté en dix semaines avec une assistance significative des agents IA suggère un avenir où les outils fondamentaux peuvent être itérés beaucoup plus rapidement. Cependant, cela souligne aussi la pression immédiate que ces outils exercent sur les systèmes existants. À mesure que davantage d'organisations adoptent le codage agentique, elles seront probablement confrontées à des murs similaires de scalabilité. Comprendre comment découpler la coordination des écritures et optimiser les chemins de lecture deviendra une connaissance essentielle pour les ingénieurs de plateforme.

Ce que vous pouvez faire

• Évaluez les performances actuelles de votre serveur Git sous des charges d'écriture à forte concurrence, surtout si vous introduisez des assistants de codage IA.
• Étudiez la fonctionnalité du protocole packfile-uri dans vos clients Git pour permettre des téléchargements et mises en cache de packs plus efficaces.
• Considérez si votre équipe a réellement besoin d'une cohérence globale des branches ou si une gestion indépendante des branches pourrait réduire la contention.
• Surveillez la taille de vos annonces de références ; si la liste de toutes les branches crée de grandes charges utiles, envisagez de ne publier que les branches principales ou trunk.
• Explorez les stratégies de fusion structurées par log pour votre stockage d'artefacts afin de réduire le nombre de petits fichiers servis lors des fetchs.
• Consultez le tracker public des patchs d'OpenAI pour les améliorations des clients Git liées aux téléchargements concurrents et au traçage des transferts.