El backend Pando de OpenAI reduce la latencia de push en Git por 5x para la codificación agéntica

OpenAI ha sustituido su infraestructura estándar de servidores Git por un backend personalizado llamado Pando para soportar el masivo incremento de commits de código generado por sus desarrolladores y agentes de IA. Lanzado en producción en abril de 2026, el sistema fue construido en solo diez semanas utilizando Rust y reduce significativamente la latencia de push mientras gestiona casi un petabyte de datos de Git cada día.

Qué ocurrió

La transición a Pando fue impulsada por un cambio drástico en la forma en que OpenAI escribe código. Para finales de 2026, se proyecta que los commits trimestrales al monorepo de la empresa aumenten más de un 2.400% en comparación con el primer trimestre de 2024. Este aumento se atribuye principalmente a la adopción generalizada de herramientas de codificación agéntica, que generan código a un ritmo muy superior al de los equipos de desarrollo exclusivamente humanos. La infraestructura Git existente tenía dificultades para mantenerse al día, con una fiabilidad que cayó por debajo del 90% debido a fetches lentos y merges fallidos.

Mientras que algunas empresas como Anthropic han optado por abandonar Git por completo en favor de nuevas arquitecturas, OpenAI decidió permanecer dentro del ecosistema Git. El equipo de ingeniería, incluyendo a Aaron Friel, Taylor Blau y Ted Nyman, determinó que el cuello de botella no era el protocolo Git en sí, sino cómo los servidores Git convencionales gestionan el estado y coordinan las escrituras. Buscaban una solución que mantuviera la compatibilidad con las herramientas de desarrollo existentes mientras eliminaba los límites de rendimiento impuestos por los diseños tradicionales de servidores.

El resultado es Pando, un backend que desacopla la coordinación de ramas y elimina la necesidad de generar packfiles personalizados para cada solicitud de cliente. El sistema entró en funcionamiento en abril de 2026 y ahora sirve cerca de un petabyte de datos de Git diariamente. OpenAI informa que la latencia de push se ha reducido casi cinco veces, permitiendo tanto a los desarrolladores humanos como a los agentes de IA trabajar sin la fricción que anteriormente plagaba su flujo de trabajo.

Cómo funciona

Pando cambia fundamentalmente dos suposiciones realizadas por los servidores Git estándar. Primero, no requiere que todas las ramas del repositorio estén en un estado consistente simultáneamente. Segundo, deja de construir un packfile único y comprimido para cada fetch individual del cliente. En Git tradicional, una rama es simplemente un puntero al último commit, pero los servidores suelen ordenar las actualizaciones en todo el repositorio. Esto significa que un push a una rama puede bloquear a otra si son independientes. Pando maneja cada rama de forma independiente, por lo que los pushes a diferentes ramas no esperan entre sí. La compensación es que un cliente que visualiza múltiples ramas podría verlas en puntos ligeramente diferentes en el tiempo, pero OpenAI argumenta que esto es aceptable ya que los usuarios se preocupan principalmente por el historial lineal de una sola rama.

Cuando un cliente envía código (push), Pando valida el packfile entrante mientras se transmite directamente al almacenamiento de blobs, sin desempaquetarlo en un repositorio local. Registra la nueva punta de la rama y los metadatos en un almacén clave-valor. Por defecto, Pando solo anuncia la rama troncal (trunk) como base para las ramas de características. Esta estrategia asegura que la mayoría de los packfiles sean reutilizables por otros clientes que ya tienen el historial de la rama troncal. Cuando un cliente obtiene código (fetch), Pando selecciona los packs almacenados necesarios basándose en el historial existente del cliente y devuelve enlaces de descarga utilizando la característica packfile-uri del protocolo Git.

Un servicio de caché llamado Express sirve estos packs desde cachés regionales, logrando una tasa de aciertos superior al 99%. Para evitar que los clientes descarguen decenas de miles de packs pequeños, los trabajadores en segundo plano los fusionan en archivos más grandes con el tiempo, similar a cómo las bases de datos estructuradas por registro compactan los datos. Esto permite a Pando determinar qué packs necesita un cliente en tiempo logarítmico. En VMs estándar de la nube, esta arquitectura permite que los clones y fetches saturen un enlace de red de 10 Gbps, una mejora significativa frente al repacking intensivo en cómputo y la recolección de basura requerida por los servidores tradicionales.

Detalles clave

• Pando redujo la latencia de push casi 5x en comparación con la infraestructura anterior.
• El sistema actualmente sirve cerca de un petabyte de datos de Git por día.
• Se espera que los commits trimestrales al monorepo de OpenAI aumenten más de un 2.400% para finales de 2026 en comparación con Q1 2024.
• El backend fue construido en Rust en solo 10 semanas, con el diseño principal realizado por un ingeniero y la implementación asistida por agentes Codex.
• Pando logra una tasa de aciertos de caché superior al 99% utilizando su servicio de caché Express.
• OpenAI está contribuyendo con varias correcciones del lado del cliente al proyecto open source de Git, aunque Pando en sí permanece propietario.

Por qué importa

Para los líderes de ingeniería y los equipos de infraestructura, Pando demuestra que Git aún puede escalar para satisfacer las demandas del desarrollo asistido por IA si la arquitectura del servidor se replantea. Aquí se desafía la creencia común de que Git es inherentemente inadecuado para monorepos masivos o commits automatizados de alta frecuencia. El cuello de botella no era el sistema de control de versiones en sí, sino el modelo de servidor tradicional que prioriza la consistencia global y la compresión sobre la marcha. Al relajar los requisitos de consistencia entre ramas no relacionadas y aprovechando el almacenamiento inmutable de blobs, OpenAI logró ganancias masivas de throughput sin forzar a los desarrolladores a aprender una nueva herramienta.

Este enfoque también destaca el rol cambiante de la IA en la construcción de infraestructura. El hecho de que un sistema interno crítico fuera implementado en diez semanas con asistencia significativa de agentes de IA sugiere un futuro donde las herramientas fundamentales pueden iterarse mucho más rápido. Sin embargo, también subraya la presión inmediata que estas herramientas ejercen sobre los sistemas existentes. A medida que más organizaciones adoptan la codificación agéntica, probablemente enfrentarán barreras de escalabilidad similares. Comprender cómo desacoplar la coordinación de escrituras y optimizar las rutas de lectura se convertirá en conocimiento esencial para los ingenieros de plataforma.

Qué puedes hacer

• Evalúa el rendimiento de tu servidor Git actual bajo cargas de escritura de alta concurrencia, especialmente si estás introduciendo asistentes de codificación por IA.
• Investiga la característica del protocolo packfile-uri en tus clientes Git para habilitar descargas y caché de packs más eficientes.
• Considera si tu equipo realmente requiere consistencia global de ramas o si el manejo independiente de ramas podría reducir la contención.
• Monitorea el tamaño de tus anuncios de referencias; si listar todas las ramas crea payloads grandes, considera anunciar solo las ramas main o trunk.
• Investiga estrategias de fusión estructuradas por registro para tu almacenamiento de artefactos para reducir el número de archivos pequeños servidos durante los fetches.
• Revisa el rastreador público de parches de OpenAI para mejoras en los clientes Git relacionadas con descargas concurrentes y trazado de transferencias.