Amazon Bedrock ergänzt Single-Shot-RAG und reine Retrieval-Modi

Amazon Web Services hat seine Bedrock Managed Knowledge Base aktualisiert, um drei unterschiedliche Abrufmodi über einen einzigen API-Endpunkt zu unterstützen. Die am 9. November 2026 veröffentlichte Änderung ermöglicht es Entwicklern, durch Anpassung eines einzelnen Parameters zwischen agentischer Planung, Single-Shot-Generierung oder rohem Textabruf zu wählen. Dieses Update zielt darauf ab, Latenz und Kosten für einfache Abfragen zu reduzieren, während die Fähigkeit zu tiefgehendem Schlussfolgern für komplexe Aufgaben erhalten bleibt.

Was passiert ist

Bisher mussten Entwickler, die retrieval-augmented generation (RAG)-Anwendungen auf Amazon Bedrock erstellten, separate Codepfade oder APIs für verschiedene Arten von Benutzerfragen verwalten. Einfache Nachschlagungen, wie das Finden eines bestimmten Checklistenpunkts, erforderten dieselbe schwere Orchestrierung wie komplexe Vergleichsfragen, die mehrere Suchiterationen benötigten. Dieser Einheitsansatz führte oft zu unnötiger Latenz und höherer Modellnutzung bei einfachen Anfragen.

Das neue Update führt den Parameter maxAgentIteration in die AgenticRetrieveStream-API ein, mit einem Bereich von 0 bis 5. Diese einzelne Einstellung steuert das Verhalten des Abrufprozesses. Durch Festlegen des Werts auf 1 können Entwickler „Single-Shot RAG“ auslösen, wobei eine einmalige Suche durchgeführt und eine Antwort ohne jegliche agentische Planung oder Query-Rewriting generiert wird. Das Setzen auf 0 aktiviert den „retrieval-only“-Modus, der Quellpassagen zurückgibt, ohne ein Foundation Model aufzurufen. Werte von 2 bis 5 behalten das bestehende agentische Abrufverhalten bei, bei dem das System mehrere Suchrunden plant und ausführt.

Diese Konsolidierung bedeutet, dass Anwendungen keine zweite API mehr integrieren oder separate Logikzweige für einfache versus komplexe Abfragen pflegen müssen. Der Dienst verwaltet den Workflow intern, sodass Entwickler den Abrufaufwand dynamisch an die spezifischen Anforderungen jeder Anfrage anpassen können. Wie in der Ankündigung erwähnt: „Anwendungen müssen keinen eigenen Loop implementieren, um diese Schritte zu koordinieren.“

Wie es funktioniert

Der Kernmechanismus basiert darauf, wie das System Iterationen zählt. Eine Iteration entspricht einem Aufruf des Foundation Models. Der Prozess endet immer mit einem finalen Aufruf zur Generierung der Antwort, wenn die Antwortgenerierung aktiviert ist. Daher erlaubt ein maxAgentIteration-Wert von n bis zu n minus 1 agentische Planungsrunden, wobei die letzte Iteration für die finale Antwortgenerierung reserviert ist. Wichtig ist, dass spekulatives Abrufen, das vor dem ersten Planungsschritt ausgeführt wird, um den Prozess zu beschleunigen, nicht gegen dieses Limit angerechnet wird.

Wenn maxAgentIteration auf 1 gesetzt ist, umgeht das System die Planungsphase vollständig. Es ruft relevante Passagen einmal basierend auf der ursprünglichen Abfrage ab und übergibt sie sofort an das Foundation Model zur Antwortgenerierung. Dies ist ideal für klar definierte Fragen, deren Antwort in einem einzelnen Dokument oder Abschnitt existiert. Bei einer Einstellung auf 0 führt das System einen garantierten Abruf durch, überspringt jedoch den Aufruf des Foundation Models vollständig und gibt nur die rohen Textpassagen zurück. Dies entspricht einem direkten Aufruf der Retrieve-API, hält den Workflow aber innerhalb der AgenticRetrieveStream-Schnittstelle.

Für Werte zwischen 2 und 5 fungiert das Foundation Model als Planer. Es zerlegt komplexe Fragen in Unterabfragen, bewertet die abgerufenen Beweise und entscheidet, ob weitere Suchen erforderlich sind. Dieser iterative Prozess hilft dabei, Informationslücken zu schließen, was ihn für mehrteilige Fragen oder Vergleiche über verschiedene Dokumente hinweg geeignet macht. Der Entwickler wählt den Modus über die Anwendungslogik aus, anstatt sich auf eine automatische Routing-Funktion des Parameters selbst zu verlassen.

Wichtige Details

• Der Parameter maxAgentIteration akzeptiert nun Werte von 0 bis 5 und ersetzt den zuvor eingeschränkten Bereich.
• Das Setzen von maxAgentIteration=1 aktiviert Single-Shot RAG, wobei ein Abruf und eine Antwortgenerierung ohne Planungsrunden durchgeführt werden.
• Das Setzen von maxAgentIteration=0 aktiviert den reinen Abrufmodus, der Passagen ohne Aufrufe des Foundation Models zurückgibt; generateResponse muss false sein.
• Agentisches Abrufen (Werte 2–5) erlaubt bis zu n minus 1 Planungsrunden und unterstützt Query-Decomposition und iteratives Sammeln von Beweisen.
• Alle drei Modi unterstützen mehrere Wissensbasen, was bedeutet, dass Single-Shot-Abrufe nicht auf eine einzelne Datenquelle beschränkt sind.
• Spekulatives Abrufen, das vor dem ersten Planungsschritt stattfindet, zählt nicht gegen das maxAgentIteration-Limit.

Warum das wichtig ist

Für Software-Ingenieure, die KI-Assistenten entwickeln, vereinfacht dieses Update die Architektur und verbessert die Kosteneffizienz. Zuvor konnte die Optimierung für niedrige Latenz bei einfachen Abfragen den Aufbau einer separaten leichten Abruf-Pipeline neben einem komplexeren agentischen System erfordern. Nun kann ein einzelner API-Aufruf beide Szenarien handhaben. Dies reduziert den operativen Aufwand für die Wartung mehrerer Integrationen und stellt sicher, dass Citations und Trace-Ereignisse über alle Abfragetypen hinweg konsistent behandelt werden.

Die Möglichkeit, zwischen Modi umzuschalten, bietet auch eine feinere Kontrolle über den Kompromiss zwischen Geschwindigkeit und Genauigkeit. In hochvolumigen Anwendungen, wie Customer-Support-Bots oder internen Enterprise-Suchtools, sind die meisten Abfragen wahrscheinlich einfache Faktenchecks. Die Nutzung von Single-Shot RAG für diese Anfragen reduziert den Tokenverbrauch und die Antwortzeit. Für die Minderheit komplexer Abfragen, die Querverweise über mehrere Dokumente hinweg erfordern, können Entwickler das Iterationslimit dynamisch erhöhen, um Gründlichkeit zu gewährleisten. Diese Flexibilität ermöglicht eine bessere Ressourcenzuweisung und eine reaktionsschnellere Benutzererfahrung.

Was Sie tun können

• Aktualisieren Sie Ihre AgenticRetrieveStream-Aufrufe so, dass sie den Parameter maxAgentIteration im agenticRetrieveConfiguration-Objekt enthalten.
• Setzen Sie maxAgentIteration=1 und generateResponse=true für direkte, klar definierte Fragen, um Single-Shot RAG zu aktivieren.
• Setzen Sie maxAgentIteration=0 und generateResponse=false, wenn Sie Quellpassagen für Benutzer anzeigen müssen, ohne eine KI-Zusammenfassung zu generieren.
• Verwenden Sie Werte von 2 bis 5 für komplexe, mehrteilige Fragen, die den Vergleich von Informationen über verschiedene Dokumente oder Wissensbasen hinweg erfordern.
• Testen Sie verschiedene Iterationslimits mit repräsentativen Fragen, um die optimale Balance zwischen Latenz und Antwortqualität für Ihren spezifischen Anwendungsfall zu finden.
• Stellen Sie sicher, dass Ihre Anwendungslogik den geeigneten Modus basierend auf der Komplexität der Abfrage bestimmt, anstatt sich darauf zu verlassen, dass die API dies automatisch erkennt.