Agents IA

Réduire la latence des agents robotiques en parallélisant réflexion et mouvement

Des ingénieurs ont réduit le temps d'exécution de tâches robotiques réelles de 18 minutes à 6 en optimisant l'environnement d'exécution de l'agent, grâce à des noyaux persistants et une exécution en pipeline pour masquer la latence du modèle derrière les mouve

Illustration d'un bras robotique pliant une serviette à côté d'un pipeline numérique représentant l'exécution du code.
Illustration générée pour cet article

Traduit automatiquement depuis l'original anglais.

Les agents destinés aux robots ont obtenu des scores impressionnants dans les benchmarks de simulation, mais ils restent trop lents lorsqu'ils sont déployés sur du matériel physique. Une récente analyse technique approfondie révèle que si des modèles comme GPT-6 Astra surpassent les politiques traditionnelles dans les environnements simulés, l'exécution réelle est limitée par le temps pendant lequel le robot reste inactif en attendant que le modèle génère du code. En re-concevant l'environnement logiciel (harness) plutôt que le modèle lui-même, les chercheurs ont réduit le temps médian pour une tâche de pliage de serviette de 18 minutes à seulement six minutes.

Ce qui s'est passé

Le problème fondamental réside dans la manière dont les benchmarks standards évaluent les performances robotiques. Les simulateurs comme RoboDojo utilisent une boucle d'évaluation synchrone où l'horloge de simulation se met en pause jusqu'à ce que la politique retourne son action suivante. Dans cette configuration, le temps nécessaire au grand modèle de langage pour traiter les entrées et générer des sorties, connu sous le nom de time to first token (TTFT), est effectivement invisible. Le benchmark mesure le succès par le nombre d'étapes effectuées, et non par le temps réel écoulé. Par conséquent, des agents coûteux en calcul mais logiquement corrects semblent très efficaces en simulation, même s'ils feraient rester un robot réel immobile pendant de longues périodes entre les mouvements.

Lorsque ces mêmes agents sont déployés sur du matériel physique, l'horloge ne s'arrête jamais. Le robot reste stationnaire tandis que le modèle traite les données visuelles, raisonne sur l'étape suivante et génère du code Python à exécuter. Dans un cas observé, un robot résolvant un cube puzzle a pris environ une heure, même après avoir supprimé les pauses vidéo. Cet écart de latence rend de nombreux agents à la pointe de la technologie inutilisables pour les tâches nécessitant une interaction rapide avec le monde physique. Les chercheurs se sont concentrés sur la réduction de cet écart en optimisant l'infrastructure entourant le modèle, spécifiquement les outils, la gestion du contexte et la planification de l'exécution.

L'équipe a utilisé une configuration de robot à deux bras avec quatre caméras et GPT-6 Astra fonctionnant via une API. Ils n'ont pas modifié l'architecture du modèle sous-jacent ni son entraînement. Au lieu de cela, ils ont modifié l'harness—le code qui connecte le modèle au robot. En traitant le modèle comme une boîte noire et en se concentrant sur la structure et l'exécution des requêtes, ils ont considérablement réduit le temps d'inactivité. Le résultat fut un système où le robot était en mouvement 84 % du temps lors d'une tâche de manipulation de tasse, contre de fréquentes longues pauses dans les implémentations précédentes.

Comment cela fonctionne

L'optimisation principale a consisté à réduire le nombre d'allers-retours entre l'agent et le serveur robotique. Dans les configurations typiques, chaque appel d'outil engendre une surcharge due à la latence réseau et au traitement du modèle. Les chercheurs ont minimisé cela en utilisant un noyau Python persistant. Au lieu de démarrer un nouveau processus pour chaque commande, l'agent exécute le code dans un environnement de longue durée où les imports ne sont payés qu'une seule fois. Les variables et les fonctions utilitaires persistent entre les appels, permettant au modèle d'écrire des scripts courts et efficaces qui exploitent la logique définie précédemment. Cette approche réduit le temps de démarrage de chaque action de plusieurs centaines de millisecondes à quelques dizaines de millisecondes.

Des gains d'efficacité supplémentaires ont été obtenus en mettant en pipeline la réflexion et le mouvement. Dans un système sans pipeline, le robot attend que le modèle termine la planification avant de bouger. Dans l'harness optimisé, le robot commence à exécuter l'action actuelle tandis que le modèle planifie simultanément la suivante. Le système utilise un mécanisme de file d'attente où les actions sont programmées en arrière-plan. Pendant que le robot effectue un mouvement, le modèle reçoit le retour de l'étape précédente et génère la commande suivante. Si le modèle finit tôt, il peut réviser les actions à venir ; s'il est lent, le robot continue de bouger selon le dernier plan valide. Cela masque la majeure partie de la latence d'inférence du modèle derrière la durée physique des mouvements du robot.

Détails clés

  • Le temps médian pour une tâche de pliage de serviette est passé d'environ 18 minutes à 6 minutes après l'optimisation de l'harness.
  • Lors d'une tâche de manipulation de tasse, le robot était en mouvement 84 % du temps, réduisant significativement les périodes d'inactivité.
  • Le système subit toujours un décalage de latence où le robot agit sur des données visuelles vieilles d'environ 5 secondes.
  • Les benchmarks comme RoboDojo ne reflètent pas la latence réelle car ils mettent en pause l'horloge de simulation pendant l'inférence du modèle.
  • L'agent utilise GPT-6 Astra au niveau de service ultra-rapide avec un effort de raisonnement moyen, accessible via une API.
  • Le code et les outils pour l'harness optimisé, y compris un petit simulateur, sont disponibles sur GitHub sous le dépôt fast-rua.

Pourquoi c'est important

Pour les ingénieurs construisant des systèmes d'IA incarnée, ce travail met en évidence une distinction critique entre la correction logique et l'efficacité temporelle. Un modèle peut générer un code parfait pour une tâche, mais si le processus de génération prend trop de temps, l'opportunité physique d'exécuter ce code peut passer. Ceci est particulièrement pertinent pour les environnements dynamiques où les objets bougent ou où les conditions changent rapidement. Comprendre que la latence est principalement un problème d'ingénierie de l'harness, plutôt que uniquement une question de vitesse du modèle, permet aux équipes de se concentrer sur des optimisations architecturales qui apportent des améliorations immédiates dans le monde réel sans attendre des modèles fondamentaux plus rapides.

Le passage vers une exécution en pipeline change également la façon dont les développeurs doivent concevoir les boucles d'agents. Les schémas traditionnels requête-réponse sont insuffisants pour la robotique en temps réel. Les systèmes doivent être conçus pour découpler la perception, la planification et l'exécution, leur permettant de se chevaucher. Cela nécessite une gestion robuste de l'état et des mécanismes de sécurité, tels que les barrières de zone de travail et les vérifications de distance implémentées dans le serveur robotique, pour garantir que les actions asynchrones ne conduisent pas à des collisions ou des erreurs. À mesure que les agents robotiques deviennent plus courants, ces optimisations au niveau de l'harness seront essentielles pour les rendre viables dans des environnements de production.

Ce que vous pouvez faire

  • Auditez votre harness d'agent pour identifier les allers-retours inutiles entre le modèle et les outils externes.
  • Implémentez des environnements d'exécution persistants pour les agents générateurs de code afin d'éviter les coûts répétés d'importation et de démarrage.
  • Concevez des files d'attente d'actions permettant à l'exécution physique de se poursuivre pendant que le modèle planifie les étapes suivantes.
  • Mesurez le temps réel (wall-clock time) en plus du nombre d'étapes lors de l'évaluation des agents robotiques pour capturer la vraie latence.
  • Utilisez des APIs d'outils en boîte blanche permettant au modèle de lire le code source et de générer des fonctions utilitaires dynamiquement.
  • Testez les agents dans des simulateurs en temps réel qui ne mettent pas en pause pendant l'inférence pour mieux prédire les performances de déploiement physique.
  • #robotics
  • #llm ops
  • #latency
  • #agent engineering
  • #automation

Outils de la Boutique Bytechap

Continuer la lecture

Agents IA

Repenser la revue de code à l'ère des agents IA

Robert C. Martin et les leaders du secteur soutiennent que les ingénieurs doivent passer d'une lecture ligne par ligne du code à une revue de l'intention, des critères et des décisions architecturales, alors que l'IA génère de plus en plus de logiciels.

Tous les articles