Aufbau von agentischer Suche auf AWS Bedrock mit CDK und verwalteten Wissensdatenbanken

Amazon Web Services hat einen technischen Leitfaden veröffentlicht, der detailliert beschreibt, wie sich unternehmensreife Systeme für agentische Suche (Agentic Retrieval) mithilfe von Managed Amazon Bedrock Knowledge Bases und dem AWS Cloud Development Kit (CDK) erstellen lassen. Diese im späten Oktober 2026 vorgestellte Herangehensweise geht über das traditionelle Single-Shot-Retrieval-Augmented-Generation (RAG) hinaus, indem sie Reasoning-Agenten integriert, die dynamisch planen, Daten abrufen und Quellen über mehrere Datendomänen hinweg zitieren. Die Lösung legt besonderen Wert auf integrierte Observability und Evaluation, um die operative Komplexität zu bewältigen, die inhärent in Multi-Turn-KI-Interaktionen liegt.

Was passiert ist

Traditionelle RAG-Systeme folgen typischerweise einem linearen Pfad: Sie betten eine Benutzerfrage ein, rufen die nächsten Daten-Chunks aus einem einzelnen Index ab und generieren eine Antwort. Obwohl diese Methode für einfache Abfragen effektiv ist, scheitert sie oft, wenn Antworten Informationen aus mehreren Korpora erfordern oder wenn die relevante Quelle von nuancierten Kontexten abhängt. In solchen Fällen kann ein einzelner Abrufschritt unvollständige oder irreführende Daten zurückgeben, was zu flüssig formulierten, aber falschen Antworten führt. Um diese Einschränkungen zu adressieren, hat Amazon Bedrock seinen Knowledge-Base-Dienst weiterentwickelt, um agentische Suche zu unterstützen. Dabei entscheidet ein Reasoning-Agent, ob Daten abgerufen werden sollen, welche Wissensdatenbank konsultiert wird und ob zusätzliche Nachschlagevorgänge erforderlich sind, bevor eine endgültige Antwort verfasst wird.

Die neue Architektur basiert auf der Managed Knowledge Base, einer Dienstfunktion, die Aufnahme, Speicherung, Indizierung und Abruf automatisch handhabt. Im Gegensatz zu kundengesteuerten Optionen, die die Bereitstellung und Skalierung von Vektor-Datenbanken wie Amazon OpenSearch Serverless erfordern, eliminiert die verwaltete Version den Infrastruktur-Overhead. Sie unterstützt die AgenticRetrieveStream-API, die Multi-Turn-Planung und tool-gesteuertes Retrieval ermöglicht. Diese Funktion ist ausschließlich bei Managed Knowledge Bases verfügbar, was sie zur grundlegenden Komponente für diese fortgeschrittene Suchstrategie macht. Das System integriert zudem Amazon Bedrock AgentCore, das jede Wissensdatenbank als Model Context Protocol (MCP)-Tool exponiert. Dies ermöglicht es Agenten, Abfragen semantisch zu routen, anstatt einen gemischten Index zu durchsuchen.

Ein wesentlicher Wandel in diesem Bereitstellungsmodell ist die Integration von Observability und Evaluation direkt in den Infrastrukturcode. Frühere Iterationen erforderten von Entwicklern, dass sie Stack-Bereitstellungen manuell sequenzierten und Monitoring-Tools nachträglich ergänzten. Die neue CDK-Anwendung stellt zwei Amazon CloudWatch-Dashboards bereit, die sieben Telemetrie-Ebenen umfassen, sowie sowohl On-Demand- als auch kontinuierliche Evaluationsmetriken. Dies stellt sicher, dass jeder Schritt des Reasoning-Loops des Agenten – vom Token-Verbrauch bis zur Qualität des Abrufs – von Anfang an instrumentiert ist und Einblicke in das Systemverhalten und die Fundiertheit der Antworten bietet.

Wie es funktioniert

Die Lösung arbeitet über einen koordinierten Workflow, der vier Hauptkomponenten umfasst: die Agent-Laufzeitumgebung, das Agent-Gateway, verwaltete Wissensdatenbanken und Observability-Dashboards. Wenn ein Benutzer eine Frage einreicht, initiiert der auf der Amazon Bedrock AgentCore Runtime gehostete Agent einen Reasoning-Prozess. Er bestimmt, welche Wissensdatenbank relevant ist (z. B. Finanz- oder Wetterdaten), und ruft das entsprechende Tool über das AgentCore Gateway auf. Das Gateway nutzt IAM-Autorisierung und SigV4-Signatur, um die AgenticRetrieveStream-API auf der ausgewählten Managed Knowledge Base aufzurufen.

Innerhalb der Managed Knowledge Base zerlegt das System die Abfrage in Teilabfragen, ruft relevante Passagen aus seinem intern verwalteten Datenspeicher ab und synthetisiert eine zitierte Antwort. Falls der anfängliche Kontext nicht ausreicht, kehrt der Agent zum Abruf weiterer Informationen zurück, bevor er seine Antwort finalisiert. Während dieses gesamten Prozesses emittiert die Runtime OpenTelemetry-Spans, Token-Zählungen und Metriken an Amazon CloudWatch und AWS X-Ray. Diese Daten füllen sieben Observability-Ebenen, einschließlich KB-nativer Metriken, Aufnahmestatus, Abrufqualität und Bewertungsscores. Dies ermöglicht es Ingenieuren, Latenz, Aufrufvolumen und die Treue (Faithfulness) der generierten Antworten zu überwachen.

Wichtige Details

• Verwaltete Infrastruktur: Die Lösung verwendet Knowledge Bases des Typs MANAGED, wodurch die Notwendigkeit entfällt, Vektor-Datenbanken wie OpenSearch Serverless bereitzustellen, zu skalieren oder zu patchen.
• Agentic Retrieval API: Die AgenticRetrieveStream-API führt Multi-Turn-Planung und internes Reranking durch und gibt nur bei verwalteten Basen verfügbare, synthetisierte und zitierte Antworten zurück.
• CDK-Automatisierung: Das gesamte System wird als einzelne Python-CDK-Anwendung mit vier Stacks bereitgestellt, wobei Abhängigkeiten automatisch aus Konstruktionsreferenzen abgeleitet werden.
• Sieben Observability-Ebenen: Die Telemetrie deckt KB-Metriken, Aufnahme, Abrufqualität, Gateway-Metriken, OTEL-Span-Bäume, Token-Nutzung und Bewertungsscores ab.
• Evaluationsmetriken: Das System umfasst sowohl On-Demand- als auch kontinuierliche Evaluationen, die Treue (Faithfulness) und Korrektheit messen, um Drift in den Antworten zu erkennen.
• Beispieldaten: Die Bereitstellung enthält synthetische Finanzdaten und einen echten Bericht des U.S. Congressional Research Service über Tornados für Testzwecke.

Warum das wichtig ist

Für Software-Ingenieure und KI-Architekten stellt dieser Wandel einen Übergang vom Aufbau roher Such-Pipelines hin zur Orchestrierung intelligenter Agenten dar. Durch die Abstraktion des Vektor-Datenbank-Managements können sich Teams auf die Logik des Abrufs und die Qualität der Antworten konzentrieren, anstatt auf die Wartung der Infrastruktur. Die Fähigkeit, Abfragen über verschiedene Wissensdatenbanken hinweg zu routen, stellt sicher, dass Antworten im korrekten Domänenkontext fundiert sind, und reduziert so das Risiko von Halluzinationen, die durch irrelevanten Kontext verursacht werden. Dies ist besonders kritisch in Unternehmensumgebungen, wo Datensilos häufig vorkommen und Genauigkeit paramount ist.

Darüber hinaus adressiert der Fokus auf Observability einen großen Schmerzpunkt in produktiven KI-Systemen: die Black-Box-Natur des Agentenverhaltens. Ohne detaillierte Telemetrie ist es schwierig zu diagnostizieren, warum ein Agent versagt hat, oder zu verifizieren, dass seine Antworten durch Quellmaterial gestützt werden. Indem Dashboards und Evaluationsmetriken zusammen mit der Anwendung bereitgestellt werden, erhalten Entwickler sofortige Einblicke in die Systemleistung und -zuverlässigkeit. Diese integrierte Transparenz unterstützt den verantwortungsvollen Einsatz von KI, indem sie sicherstellt, dass Antworten auditierbar und bis zu ihren Ursprüngen nachvollziehbar sind.

Was Sie tun können

• Stellen Sie die bereitgestellte CDK-Anwendung bereit, um ein vollständiges System für agentische Suche mit verwalteten Wissensdatenbanken und Observability-Dashboards zu provisionieren.
• Konfigurieren Sie die Datei config.py, um Projektnamen, Regionen und Embedding-Modelle festzulegen. Dies ermöglicht mehrere unabhängige Bereitstellungen in einem einzigen Konto.
• Verwenden Sie das enthaltene Driver-Notebook, um Traffic zu erzeugen und die sieben Observability-Ebenen mit Echtzeit-Metriken und Bewertungsscores zu füllen.
• Testen Sie das System mit den gebündelten Finanz- und Wetterdatensätzen, um zu verstehen, wie der Agent Abfragen routet und Quellen über verschiedene Domänen hinweg zitiert.
• Überwachen Sie die CloudWatch-Dashboards, um Latenz, Token-Nutzung und Abrufqualität zu verfolgen, und passen Sie Agentenparameter bei Bedarf für Produktionslasten an.
• Bewerten Sie die Scores für Treue (Faithfulness) und Korrektheit, um sicherzustellen, dass Antworten im Quellmaterial fundiert bleiben, und erkennen Sie jeglichen Drift in der Modellleistung.