Agentes de IA

Reducción de la latencia de los agentes robóticos mediante el pipelining del pensamiento y el movimiento

Los ingenieros redujeron los tiempos de ejecución de tareas robóticas en el mundo real de 18 a 6 minutos al optimizar el harness del agente, utilizando kernels persistentes y ejecución en pipeline para ocultar la latencia del modelo detrás del movimiento físic

Ilustración de un brazo robótico doblando una toalla junto a un pipeline digital que representa la ejecución de código.
Ilustración generada para este artículo

Traducido automáticamente del original en inglés.

Los agentes de uso robótico han logrado puntuaciones impresionantes en benchmarks de simulación, pero siguen siendo imprácticamente lentos cuando se despliegan en hardware físico. Un reciente análisis técnico profundo revela que, aunque modelos como GPT-6 Astra pueden superar a las políticas tradicionales en entornos simulados, la ejecución en el mundo real está limitada por el tiempo que el robot pasa inactivo esperando que el modelo genere código. Al rediseñar el software harness en lugar del modelo mismo, los investigadores redujeron el tiempo mediano para una tarea de doblar toallas de 18 minutos a solo seis minutos.

Qué ocurrió

El problema central radica en cómo los benchmarks estándar evalúan el rendimiento robótico. Simuladores como RoboDojo utilizan un bucle de evaluación síncrono donde el reloj de la simulación se pausa hasta que la política devuelve su siguiente acción. En esta configuración, el tiempo que tarda un gran modelo de lenguaje en procesar la entrada y generar la salida, conocido como time to first token (TTFT), es efectivamente invisible. El benchmark mide el éxito por el número de pasos realizados, no por el tiempo real transcurrido. En consecuencia, los agentes que son computacionalmente costosos pero lógicamente sólidos parecen altamente eficientes en la simulación, incluso si harían que un robot real permaneciera inmóvil durante largos periodos entre movimientos.

Cuando estos mismos agentes se despliegan en hardware físico, el reloj nunca se detiene. El robot permanece estacionario mientras el modelo procesa datos visuales, razona sobre el siguiente paso y genera código Python para ejecutar. En un caso observado, un robot resolviendo un cubo rompecabezas tardó aproximadamente una hora, incluso después de editar las pausas del video. Esta brecha de latencia hace que muchos agentes de última generación sean inutilizables para tareas que requieren interacción oportuna con el mundo físico. Los investigadores se centraron en cerrar esta brecha optimizando la infraestructura que rodea al modelo, específicamente las herramientas, la gestión del contexto y la programación de la ejecución.

El equipo utilizó una configuración de robot de dos brazos con cuatro cámaras y GPT-6 Astra ejecutándose vía API. No alteraron la arquitectura ni el entrenamiento del modelo subyacente. En cambio, modificaron el harness—el código que conecta el modelo con el robot. Al tratar el modelo como una caja negra y enfocarse en cómo se estructuraban y ejecutaban las solicitudes, redujeron significativamente el tiempo inactivo. El resultado fue un sistema donde el robot estaba en movimiento el 84% del tiempo durante una tarea de manipulación de vasos, en comparación con frecuentes y largas pausas en implementaciones anteriores.

Cómo funciona

La principal optimización implicó reducir el número de viajes de ida y vuelta entre el agente y el servidor del robot. En configuraciones típicas, cada llamada a una herramienta incurre en sobrecarga debido a la latencia de red y el procesamiento del modelo. Los investigadores minimizaron esto utilizando un kernel persistente de Python. En lugar de iniciar un nuevo proceso para cada comando, el agente ejecuta código en un entorno de larga duración donde los imports se pagan solo una vez. Las variables y funciones auxiliares persisten entre llamadas, permitiendo que el modelo escriba scripts cortos y eficientes que aprovechen la lógica definida previamente. Este enfoque reduce el tiempo de inicio para cada acción de cientos de milisegundos a decenas de milisegundos.

Ganancias adicionales de eficiencia provinieron del pipelining del pensamiento y el movimiento. En un sistema sin pipeline, el robot espera a que el modelo termine de planificar antes de moverse. En el harness optimizado, el robot comienza a ejecutar la acción actual mientras el modelo planifica simultáneamente la siguiente. El sistema utiliza un mecanismo de cola donde las acciones se programan en segundo plano. Mientras el robot realiza un movimiento, el modelo recibe retroalimentación del paso anterior y genera el comando subsiguiente. Si el modelo termina temprano, puede revisar las acciones próximas; si es lento, el robot continúa moviéndose basándose en el último plan válido. Esto oculta la mayor parte de la latencia de inferencia del modelo detrás de la duración física de los movimientos del robot.

Detalles clave

  • El tiempo mediano para una tarea de doblar toallas cayó de aproximadamente 18 minutos a 6 minutos tras optimizar el harness.
  • Durante una tarea de manipulación de vasos, el robot estuvo en movimiento el 84% del tiempo, reduciendo significativamente los periodos de inactividad.
  • El sistema aún experimenta un retraso de latencia donde el robot actúa sobre datos visuales que tienen unos 5 segundos de antigüedad.
  • Benchmarks como RoboDojo no reflejan la latencia del mundo real porque pausan el reloj de la simulación durante la inferencia del modelo.
  • El agente utiliza GPT-6 Astra en el nivel de servicio ultrafast con esfuerzo de razonamiento medio, accedido vía API.
  • El código y las herramientas para el harness optimizado, incluyendo un pequeño simulador, están disponibles en GitHub bajo el repositorio fast-rua.

Por qué importa

Para los ingenieros que construyen sistemas de IA encarnada, este trabajo destaca una distinción crítica entre la corrección lógica y la eficiencia temporal. Un modelo puede generar código perfecto para una tarea, pero si el proceso de generación tarda demasiado, la oportunidad física de ejecutar ese código puede pasar. Esto es particularmente relevante para entornos dinámicos donde los objetos se mueven o las condiciones cambian rápidamente. Comprender que la latencia es principalmente un problema de ingeniería del harness, y no únicamente una cuestión de velocidad del modelo, permite a los equipos centrarse en optimizaciones arquitectónicas que producen mejoras inmediatas en el mundo real sin esperar modelos fundacionales más rápidos.

El cambio hacia la ejecución en pipeline también cambia cómo los desarrolladores deben diseñar los bucles de agentes. Los patrones tradicionales de solicitud-respuesta son insuficientes para la robótica en tiempo real. Los sistemas deben diseñarse para desacoplar la percepción, la planificación y la ejecución, permitiendo que se solapen. Esto requiere una gestión robusta del estado y mecanismos de seguridad, como las cercas de espacio de trabajo y las comprobaciones de distancia implementadas en el servidor del robot, para asegurar que las acciones asíncronas no conduzcan a colisiones o errores. A medida que los agentes de uso robótico se vuelvan más comunes, estas optimizaciones a nivel de harness serán esenciales para hacerlos viables en entornos de producción.

Qué puedes hacer

  • Audita tu harness de agente para identificar viajes de ida y vuelta innecesarios entre el modelo y las herramientas externas.
  • Implementa entornos de ejecución persistentes para agentes generadores de código para evitar costos repetidos de importación e inicio.
  • Diseña colas de acciones que permitan que la ejecución física proceda mientras el modelo planifica los pasos subsiguientes.
  • Mide el tiempo real además del conteo de pasos al evaluar agentes robóticos para capturar la latencia verdadera.
  • Utiliza APIs de herramientas white-box que permitan al modelo leer el código fuente y generar funciones auxiliares dinámicamente.
  • Prueba agentes en simuladores en tiempo real que no se pausen durante la inferencia para predecir mejor el rendimiento del despliegue físico.
  • #robotics
  • #llm ops
  • #latency
  • #agent engineering
  • #automation

Herramientas de la Tienda de Bytechap

$79

WorkBento

Suite de RR. HH. y gestión del entorno laboral impulsada por IA que puedes alojar tú mismo.

Demo en vivo

Seguir leyendo

Todos los artículos