Créer une récupération agentique sur AWS Bedrock avec CDK et des bases de connaissances gérées

Amazon Web Services a publié un guide technique détaillant comment construire des systèmes de récupération agentique de niveau entreprise en utilisant les Bases de connaissances Amazon Bedrock gérées et le kit de développement cloud AWS (CDK). Publiée fin octobre 2026, cette approche va au-delà de la génération augmentée par récupération (RAG) traditionnelle en une seule étape, en intégrant des agents de raisonnement qui planifient dynamiquement, récupèrent et citent des sources à travers plusieurs domaines de données. La solution met l'accent sur l'observabilité et l'évaluation intégrées, répondant à la complexité opérationnelle inhérente aux interactions IA multi-tours.

Ce qui s'est passé

Les systèmes RAG traditionnels suivent généralement un chemin linéaire : ils intègrent la question de l'utilisateur, récupèrent les fragments de données les plus proches depuis un seul index, puis génèrent une réponse. Bien que efficace pour les requêtes simples, cette méthode échoue souvent lorsque les réponses nécessitent des informations provenant de plusieurs corpus ou lorsque la source pertinente dépend d'un contexte nuancé. Dans de tels cas, une seule étape de récupération peut renvoyer des données incomplètes ou trompeuses, conduisant à des réponses fluides mais incorrectes. Pour remédier à ces limitations, Amazon Bedrock a fait évoluer son service de Base de connaissances pour prendre en charge la récupération agentique, où un agent de raisonnement décide s'il doit récupérer des données, quelle base de connaissances consulter, et si des recherches supplémentaires sont nécessaires avant de composer une réponse finale.

La nouvelle architecture repose sur la Base de connaissances gérée, une fonctionnalité du service qui prend en charge automatiquement l'ingestion, le stockage, l'indexation et la récupération. Contrairement aux options gérées par le client qui nécessitent le provisionnement et la mise à l'échelle de bases de données vectorielles comme Amazon OpenSearch Serverless, la version gérée élimine la surcharge d'infrastructure. Elle prend en charge l'API AgenticRetrieveStream, qui permet une planification multi-tours et une récupération pilotée par des outils. Cette capacité est exclusivement disponible sur les Bases de connaissances gérées, ce qui en fait le composant fondamental de cette stratégie de récupération avancée. Le système intègre également Amazon Bedrock AgentCore, qui expose chaque base de connaissances comme un outil du protocole de contexte modèle (MCP), permettant aux agents de router les requêtes sémantiquement plutôt que de rechercher dans un index fusionné.

Un changement significatif dans ce modèle de déploiement est l'intégration directe de l'observabilité et de l'évaluation dans le code d'infrastructure. Les itérations précédentes obligeaient les développeurs à séquencer manuellement les déploiements de piles et à ajouter des outils de surveillance après coup. La nouvelle application CDK provisionne deux tableaux de bord Amazon CloudWatch couvrant sept couches de télémétrie, ainsi que des métriques d'évaluation à la demande et continues. Cela garantit que chaque étape de la boucle de raisonnement de l'agent—de l'utilisation des tokens à la qualité de la récupération—est instrumentée dès le départ, offrant une visibilité sur le comportement du système et la pertinence des réponses.

Comment cela fonctionne

La solution opère via un flux de travail coordonné impliquant quatre composants principaux : l'exécution de l'agent, la passerelle de l'agent, les bases de connaissances gérées et les tableaux de bord d'observabilité. Lorsqu'un utilisateur soumet une question, l'agent hébergé sur Amazon Bedrock AgentCore Runtime initie un processus de raisonnement. Il détermine quelle base de connaissances est pertinente, telle que les données financières ou météorologiques, et appelle l'outil correspondant via la passerelle AgentCore Gateway. La passerelle utilise l'autorisation IAM et la signature SigV4 pour invoquer l'API AgenticRetrieveStream sur la Base de connaissances gérée sélectionnée.

À l'intérieur de la Base de connaissances gérée, le système décompose la requête en sous-requêtes, récupère les passages pertinents depuis son magasin de données interne géré, et synthétise une réponse citée. Si le contexte initial est insuffisant, l'agent effectue une boucle pour récupérer plus d'informations avant de finaliser sa réponse. Tout au long de ce processus, le Runtime émet des spans OpenTelemetry, des comptages de tokens et des métriques vers Amazon CloudWatch et AWS X-Ray. Ces données alimentent sept couches d'observabilité, y compris les métriques natives KB, le statut d'ingestion, la qualité de la récupération et les scores d'évaluation, permettant aux ingénieurs de surveiller la latence, le volume d'appels et la fidélité des réponses générées.

Détails clés

• Infrastructure gérée : La solution utilise des Bases de connaissances de type MANAGED, supprimant le besoin de provisionner, de mettre à l'échelle ou de patcher des bases de données vectorielles comme OpenSearch Serverless.
• API de récupération agentique : L'API AgenticRetrieveStream effectue une planification multi-tours et un reclassement interne, renvoyant des réponses synthétisées et citées disponibles uniquement sur les bases gérées.
• Automatisation CDK : L'ensemble du système est déployé comme une seule application Python CDK avec quatre piles, où les dépendances sont dérivées automatiquement des références de construction.
• Sept couches d'observabilité : La télémétrie couvre les métriques KB, l'ingestion, la qualité de la récupération, les métriques de la passerelle, les arbres de span OTEL, l'utilisation des tokens et les scores d'évaluation.
• Métriques d'évaluation : Le système inclut à la fois une évaluation à la demande et continue, mesurant la fidélité et la justesse pour détecter la dérive des réponses.
• Données d'exemple : Le déploiement comprend des données financières synthétiques et un vrai rapport du Congressional Research Service américain sur les tornades pour les tests.

Pourquoi c'est important

Pour les ingénieurs logiciels et les architectes IA, ce changement représente un passage de la construction de pipelines de récupération bruts à l'orchestration d'agents intelligents. En abstrayant la gestion de la base de données vectorielle, les équipes peuvent se concentrer sur la logique de récupération et la qualité des réponses plutôt que sur la maintenance de l'infrastructure. La capacité de router les requêtes vers des bases de connaissances distinctes garantit que les réponses sont ancrées dans le domaine correct, réduisant le risque d'hallucinations causées par un contexte non pertinent. Ceci est particulièrement critique dans les environnements d'entreprise où les silos de données sont courants et où la précision est primordiale.

De plus, l'accent mis sur l'observabilité répond à un point de douleur majeur dans les systèmes IA de production : la nature boîte noire du comportement des agents. Sans télémétrie détaillée, il est difficile de diagnostiquer pourquoi un agent a échoué ou de vérifier que ses réponses sont soutenues par des documents sources. En provisionnant des tableaux de bord et des métriques d'évaluation parallèlement à l'application, les développeurs obtiennent immédiatement une vision claire des performances et de la fiabilité du système. Cette transparence intégrée soutient l'utilisation responsable de l'IA en garantissant que les réponses sont auditables et traçables jusqu'à leur origine.

Ce que vous pouvez faire

• Déployez l'application CDK fournie pour provisionner un système complet de récupération agentique avec des bases de connaissances gérées et des tableaux de bord d'observabilité.
• Configurez le fichier config.py pour définir les noms de projet, les régions et les modèles d'incorporation, permettant plusieurs déploiements indépendants dans un même compte.
• Utilisez le notebook pilote inclus pour générer du trafic et alimenter les sept couches d'observabilité avec des métriques en temps réel et des scores d'évaluation.
• Testez le système avec les jeux de données financiers et météorologiques fournis pour comprendre comment l'agent route les requêtes et cite les sources à travers différents domaines.
• Surveillez les tableaux de bord CloudWatch pour suivre la latence, l'utilisation des tokens et la qualité de la récupération, en ajustant les paramètres de l'agent selon les besoins pour les charges de travail de production.
• Évaluez les scores de fidélité et de justesse pour garantir que les réponses restent ancrées dans les documents sources et détectez toute dérive des performances du modèle.