Revolut reduce drásticamente los costes de la IA para programación mediante el autoalojamiento de modelos chinos de pesos abiertos

Revolut ha migrado su plantilla de ingeniería de software desde asistentes de codificación con IA comerciales hacia un modelo de pesos abiertos autoalojado, logrando una reducción reportada del 90 % en los costes. El gigante fintech ahora ejecuta GLM, desarrollado por el laboratorio chino Z.ai, en su propia infraestructura para aproximadamente 2.000 ingenieros. Este cambio estratégico fue detallado por David Abitbol, quien supervisa las operaciones de IA en Revolut, durante una presentación en la conferencia AI Engineer en Nueva York.

Qué ocurrió

La migración a GLM representa el último paso en el enfoque iterativo de Revolut para integrar la IA en su flujo de trabajo de desarrollo. Inicialmente, la empresa desplegó Gemini de Google en sus equipos de ingeniería, lo que resultó en una reducción del 20 % en el tiempo de codificación y una disminución del 10 % en el tiempo de entrega (lead time). El tiempo de entrega se refiere a la duración desde que se toma una tarea hasta que se integra en la base de código. Posteriormente, Revolut experimentó con Claude Code de Anthropic, pero los estrictos límites presupuestarios por ingeniero limitaron su utilidad. Aunque la herramienta ofrecía beneficios, los altos costes y las restricciones de uso hicieron que el impacto general fuera modesto.

Desde la primavera de 2026, Revolut opera GLM en su infraestructura interna, produciendo resultados dramáticamente diferentes. En un grupo de muestra de aproximadamente 2.000 ingenieros, el tiempo de codificación cayó un 60 %, mientras que el tiempo de entrega disminuyó un 70 %. Abitbol señaló que la caída desproporcionada en el tiempo de entrega sugiere que la codificación en sí no es el principal cuello de botella. Los ingenieros pasan mucho tiempo buscando en bandejas de entrada, tickets de Jira y páginas de Confluence. Al eliminar los límites de tokens, Revolut permitió a los ingenieros usar la IA libremente para estas tareas de búsqueda y síntesis sin racionar el uso cerca del final de los trimestres financieros.

Cómo funciona

Revolut ejecuta el modelo GLM, que contiene aproximadamente 800 mil millones de parámetros, en un clúster de unas 56 unidades de procesamiento gráfico Nvidia B200. Esta configuración genera tokens a un coste de unos 30 centavos por millón, reemplazando las facturas mensuales impredecibles con un coste operativo fijo. Sin embargo, el rendimiento inicial «out-of-the-box» era deficiente. Mediante una optimización rigurosa, el equipo redujo el tiempo hasta el primer token de más de 10 segundos a 1,6 segundos, incluso cuando la demanda aumentó un 76 %. Abitbol enfatizó que una latencia superior a cinco segundos provoca quejas inmediatas por parte de los usuarios.

El sistema emplea restricciones específicas para mantener la eficiencia y el cumplimiento normativo. La ventana de contexto está limitada a 256.000 tokens, una decisión que Abitbol defendió afirmando que las capacidades excesivas de contexto largo suelen ser innecesarias para las tareas de codificación. Dado que GLM solo maneja texto, un router dirige las tareas relacionadas con imágenes a Gemini de Google. Si bien Claude Code y Codex de OpenAI siguen disponibles para casos excepcionales, ya no son las herramientas predeterminadas. Este enfoque híbrido garantiza que se utilice el modelo más adecuado para cada tipo específico de solicitud.

Detalles clave

• Revolut reporta una reducción del 90 % en los costes de codificación con IA en comparación con el gasto anterior en servicios de Anthropic y OpenAI.
• La infraestructura depende de aproximadamente 56 chips Nvidia B200 para dar servicio a 2.000 ingenieros.
• El tiempo de codificación disminuyó un 60 % y el tiempo de entrega de ingeniería cayó un 70 % tras cambiar a GLM.
• Los datos se procesan exclusivamente en jurisdicciones con leyes equivalentes de protección de datos, incluidos EE. UU., la UE, Reino Unido e Israel.
• Los pesos del modelo son de código abierto, pero la inferencia se ejecuta en servidores occidentales para evitar el uso de endpoints chinos.
• Los costes de tokens promedian 30 centavos por millón, con el tiempo hasta el primer token optimizado a 1,6 segundos.

Por qué importa

Para los líderes técnicos, este caso de estudio destaca las posibles ventajas económicas del autoalojamiento de modelos de pesos abiertos frente a la dependencia de APIs propietarias. La eliminación de los límites de tokens cambia cómo interactúan los ingenieros con las herramientas de IA, fomentando un uso más amplio para tareas no relacionadas con la codificación, como la recuperación de información. Este cambio sugiere que el valor de la IA en el desarrollo de software va más allá de la generación de código e incluye la aceleración del flujo de trabajo. Las empresas que puedan gestionar la complejidad de la infraestructura pueden encontrar ahorros significativos en costes y ganancias de productividad que los proveedores de código cerrado no pueden igualar debido a sus estructuras de precios.

Sin embargo, el enfoque requiere una inversión inicial sustancial y experiencia especializada. Los costes de hardware para 56 chips B200 podrían oscilar entre 1,7 y 3,5 millones de dólares, dependiendo de si las unidades se compran o se alquilan. Además, el rápido ciclo de lanzamiento de nuevas arquitecturas de GPU significa que estos activos pueden depreciarse rápidamente. Los equipos más pequeños sin personal dedicado a la infraestructura de IA pueden tener dificultades para replicar estos resultados, ya que los ahorros excluyen los gastos de nube, personal y monitoreo. El éxito de este modelo depende en gran medida de la sintonización continua y protocolos estrictos de gobernanza.

Qué puede hacer usted

• Evalúe el costo total de propiedad del autoalojamiento frente al uso de API, incluyendo hardware, energía y tiempo de ingeniería.
• Implemente presupuestos estrictos de latencia, apuntando a tiempos de respuesta inferiores a dos segundos para mantener la adopción por parte de los desarrolladores.
• Utilice routers para dirigir tipos específicos de tareas, como el procesamiento de imágenes, a modelos especializados, manteniendo las tareas de texto en modelos de pesos abiertos más económicos.
• Limite las ventanas de contexto para prevenir el consumo innecesario de recursos y reducir los costes de inferencia.
• Asegure el cumplimiento de la residencia de datos ejecutando modelos de pesos abiertos en infraestructura dentro de jurisdicciones legales aprobadas.
• Mantenga salvaguardas de intervención humana («human-in-the-loop») y entornos sandbox para satisfacer los requisitos regulatorios para agentes autónomos.