Développer avec l’IA

Distinguer l'état du flux de travail, la mémoire de l'agent et le RAG dans les systèmes d'IA

Les agents IA à longue durée d'exécution échouent lorsque les développeurs confondent les points de contrôle d'exécution, les préférences durables des utilisateurs et la récupération de connaissances externes. Séparer ces couches clarifie la propriété des donn

Un cube en verre divisé en trois couches représentant l'état du flux de travail, la mémoire de l'agent et les connaissances RAG.
Illustration générée pour cet article

Traduit automatiquement depuis l'original anglais.

Les développeurs qui créent des agents IA fonctionnant sur de longues périodes diagnostiquent souvent les erreurs de contexte comme étant des problèmes génériques de mémoire. En réalité, ces problèmes proviennent de la confusion entre trois couches de données distinctes : l'état du flux de travail, la mémoire durable de l'agent et les connaissances issues de la génération augmentée par récupération (RAG). Clarifier les frontières entre ces couches est essentiel pour créer des systèmes autonomes fiables et maintenables.

Ce qui s'est passé

À mesure que les agents IA passent d'interfaces de chat simples à des flux de travail complexes en plusieurs étapes, ils rencontrent de nouveaux modes de défaillance. Un agent peut reprendre une tâche à la mauvaise étape, appliquer une préférence utilisateur au mauvais compte ou citer un document politique obsolète. Ces erreurs sont fréquemment étiquetées comme des problèmes de mémoire, mais elles ont des causes profondes différentes selon le type de contexte mal géré.

Le problème central est que la persistance seule ne définit pas ce qu'un agent doit retenir. Un point de contrôle de flux de travail garantit qu'un processus peut continuer après une pause ou un plantage, mais il ne détermine pas les préférences utilisateurs à long terme. De même, récupérer un document fournit une preuve immédiate mais ne constitue pas un fait durable concernant un utilisateur. Traiter toutes les données persistées comme équivalentes conduit à des modèles de données embrouillés où l'historique du flux de travail devient accidentellement la mémoire permanente de l'agent.

Pour construire des agents robustes, les ingénieurs doivent attribuer des propriétaires clairs, des cycles de vie et des limites d'accès à chaque type de contexte. L'état du flux de travail gère la progression de l'exécution, la mémoire de l'agent stocke des faits validés entre les sessions, et le RAG fournit des preuves externes pour des requêtes spécifiques. Maintenir ces responsabilités explicites permet aux équipes de diagnostiquer précisément les échecs et de faire fonctionner des agents à longue durée avec confiance.

Comment cela fonctionne

L'état du flux de travail répond à la question de savoir où s'est arrêtée l'exécution actuelle. Dans des frameworks comme LangGraph, un checkpointer persiste l'état du graphe sous un identifiant de thread. Cela inclut les messages, les résultats des outils et la progression de l'exécution, permettant à l'agent de mettre en pause pour approbation humaine ou de récupérer après une panne d'outil. Cet état est transitoire par rapport à la tâche spécifique et expire lorsque l'exécution se termine ou est abandonnée.

La mémoire de l'agent, en revanche, conserve des informations sélectionnées pour être transportées entre les sessions. Cela comprend les préférences utilisateurs, les décisions et les procédures. Crucialement, ces données nécessitent une stratégie de gestion du cycle de vie. Une conversation peut produire un fait candidat, mais celui-ci ne devient une mémoire durable qu'après validation par des règles d'application ou confirmation de l'utilisateur. Lorsque les faits changent, les anciennes valeurs sont remplacées, et les demandes de suppression doivent se propager aux enregistrements sources et aux données dérivées.

La génération augmentée par récupération intègre des connaissances externes pertinentes dans la requête actuelle. Cette couche accède aux documents, aux cas de support ou aux registres de politiques via la recherche par mots-clés, la recherche vectorielle ou SQL. Bien que la recherche vectorielle classe les enregistrements par similarité, elle ne vérifie ni leur actualité ni leur autorité. Le chemin de récupération doit imposer des filtres de métadonnées, une portée tenant et des contrôles de version pour garantir que l'agent utilise des preuves valides plutôt que des informations sémantiquement similaires mais obsolètes.

Détails clés

  • Les points de contrôle de flux de travail persistent l'état d'exécution pour reprendre les tâches mais ne définissent pas la mémoire à long terme.
  • La mémoire durable de l'agent nécessite une validation, une portée et des règles de suppression explicites gérées par l'application.
  • Le RAG fournit des preuves externes pour les requêtes actuelles mais doit filtrer selon la version, l'autorité et la portée d'accès.
  • Des frameworks comme LangGraph et LangChain fournissent des abstractions mais ne remplacent pas la nécessité de frontières de données claires.
  • Les échecs sont plus faciles à diagnostiquer lorsque les équipes peuvent isoler les problèmes à l'état du point de contrôle, à la sélection de mémoire ou à la récupération.
  • Chaque couche peut partager une base de données mais doit maintenir des cycles de vie et des contrôles d'accès distincts dans le modèle de données.

Pourquoi c'est important

Pour les ingénieurs logiciels, confondre ces couches crée des systèmes difficiles à déboguer et à maintenir. Si un flux de travail reprend depuis le mauvais nœud, le problème réside dans la logique du point de contrôle. Si un agent se souvient d'une préférence obsolète, la faute incombe à la gestion du cycle de vie de la mémoire. Si une réponse cite le mauvais manuel, le problème vient de la requête de récupération ou du filtrage des sources. Sans frontières claires, le dépannage devient un exercice de supposition à travers un magasin de données monolithique.

Une propriété claire améliore également la sécurité et la conformité. Une préférence pour un utilisateur ne doit pas devenir une instruction globale, et les résultats d'outils d'un tenant ne doivent pas fuiter dans le contexte d'un autre. En définissant des portées strictes et des politiques de rétention dans la couche application, les développeurs empêchent les prompts d'appliquer involontairement des règles qui appartiennent au modèle de données. Cette séparation garantit que les informations conservées restent précises et utiles à mesure que le système évolue.

Ce que vous pouvez faire

  • Définissez l'état nécessaire pour reprendre un flux de travail spécifique avant d'ajouter des fonctionnalités de mémoire à long terme.
  • Identifiez quels faits doivent devenir une mémoire durable et établissez des règles pour leur validation et leur suppression.
  • Sélectionnez les méthodes de récupération en fonction du type de données, en utilisant des requêtes structurées pour les faits et la recherche vectorielle pour les passages sémantiques.
  • Testez indépendamment les points de contrôle de flux de travail, les chemins de mémoire et les routes de récupération avant de les combiner dans la boucle de l'agent.
  • Implémentez des filtres de métadonnées dans le RAG pour exclure les documents expirés et imposer les limites de tenant.
  • Tracez les identifiants de flux de travail, les enregistrements de mémoire sélectionnés et les sources de récupération pour expliquer comment le système a produit une réponse.
  • #ai agents
  • #rag
  • #software architecture
  • #langgraph
  • #data modeling

Outils de la Boutique Bytechap

$89

DocBento

Gestion documentaire auto-hébergée qui analyse chaque scan et répond avec des citations de pages.

Démo en ligne

Continuer la lecture

Tous les articles