Cuatro capas de ingeniería de contexto para agentes de IA en producción

Los agentes de IA en producción suelen fallar durante tareas complejas como el análisis de datos porque agotan sus ventanas de contexto. Una nueva implementación de referencia de Amazon Web Services, llamada Deep Insight, detalla una estrategia de cuatro capas para resolver este cuello de botella. Publicado el 4 de noviembre de 2026, la guía explica cómo aislar, controlar, externalizar y verificar el contexto para mantener la precisión y reducir costos.

Qué ocurrió

Los modelos de lenguaje grandes ofrecen ventanas de contexto generosas, como los 200K tokens disponibles en Anthropic Claude Sonnet 4.5 en Amazon Bedrock. Sin embargo, los flujos de trabajo del mundo real consumen rápidamente esta capacidad. Una solicitud típica para analizar datos de ventas y generar un informe implica múltiples etapas, incluyendo carga de datos, validación estadística y generación de gráficos. Estos pasos pueden consumir más de 150K tokens en solo 15 minutos, lo que lleva a fallos durante la ejecución, precisión degradada debido a información obsoleta y mayores costos.

Para abordar esto, los ingenieros de AWS desarrollaron Deep Insight, una solución multiagente de código abierto construida sobre el SDK Strands Agents y Amazon Bedrock AgentCore. El sistema aplica un enfoque estructurado a la ingeniería de contexto, yendo más allá de simples ajustes de prompts hacia una disciplina arquitectónica holística. La implementación muestra que combinar estas técnicas puede reducir los tokens añadidos por cada script en aproximadamente un 95 por ciento y disminuir los prompts del sistema en alrededor de un 97 por ciento.

La orientación se organiza en cuatro capas distintas: aislar el contexto a nivel de arquitectura, controlarlo mediante prompts, externalizarlo al sistema de archivos y verificarlo con salvaguardas independientes. Este método por capas asegura que cuando una técnica alcanza su límite, la siguiente capa compensa, previniendo la "podredumbre del contexto" que aflige a los sistemas de agente único.

Cómo funciona

La primera capa se centra en el aislamiento arquitectónico. En lugar de ejecutar todas las tareas en un solo agente, Deep Insight utiliza una jerarquía de agentes especializados, incluyendo un Coordinador, un Planificador, un Supervisor y varios Agentes de Herramientas. Cada agente opera en su propia ventana de contexto independiente. Se comunican a través de un diccionario de estado compartido que contiene solo resúmenes comprimidos, o "pistas", en lugar de historiales completos de conversación. Esto garantiza que incluso los agentes más activos, como el Coder, permanezcan por debajo de los 25K tokens.

La segunda capa controla el flujo de entrada de contexto mediante una ingeniería estricta de prompts. Cada agente tiene presupuestos explícitos de tokens de salida. Por ejemplo, el agente Coder está limitado a 1.500 tokens porque su código real se guarda en archivos, no se devuelve en el chat. Los prompts también imponen una filosofía de código autocontenido, requiriendo que cada script incluya sus propias importaciones y lógica de carga de datos. Esto evita la necesidad de mantener fragmentos de código anteriores en memoria, permitiendo descartar de forma segura el contexto antiguo.

La tercera capa, y la más impactante, externaliza el contenido pesado al sistema de archivos. Deep Insight reemplaza las herramientas separadas de escritura y ejecución con una única herramienta write_and_execute_tool. Esta herramienta escribe código Python en un archivo y lo ejecuta inmediatamente, devolviendo solo un breve resumen de éxito al agente. El código en sí nunca entra en la ventana de contexto. Además, la lógica común se almacena en módulos reutilizables, y los resultados detallados del análisis se guardan en archivos de texto estructurados como all_results.txt. Los agentes leen estos archivos solo cuando es necesario, manteniendo el contexto activo ligero.

Detalles clave

• Deep Insight reduce el uso de contexto de los scripts en aproximadamente un 95 por ciento utilizando una herramienta combinada de escritura y ejecución.
• La carga de habilidades bajo demanda reduce el tamaño del prompt del sistema en alrededor de un 97 por ciento.
• El sistema utiliza un diccionario shared_state para pasar solo pistas comprimidas y avisos de finalización entre agentes.
• Los agentes Coder están restringidos a 1.000–1.500 tokens de salida, obligándolos a resumir en lugar de volcar código.
• Las funciones utilitarias comunes se pregeneran en un módulo coder_analysis_utils.py para evitar regenerar código duplicado.
• Archivos de notas estructuradas como all_results.txt sirven como bus de comunicación inter-agente, reemplazando el paso de mensajes verboso.

Por qué importa

Para los ingenieros que construyen sistemas de IA en producción, la gestión del contexto ya no es solo una optimización de rendimiento; es un requisito de fiabilidad. Sin estas capas, los agentes sufren de degradación de la atención a medida que se llena la ventana de contexto. Las instrucciones importantes se pierden, y el modelo comienza a alucinar o ignorar restricciones recientes. Al aislar los contextos, los equipos pueden asegurar que cada subtarea reciba toda la atención del modelo sin interferencias de historiales no relacionados.

La eficiencia de costos es otro impulsor crítico. En modelos de precios por token, enviar cientos de miles de tokens para tareas rutinarias es insostenible. La estrategia de externalización basada en archivos demostrada en Deep Insight desplaza la carga de llamadas API costosas a operaciones de almacenamiento baratas. Esto permite a los desarrolladores construir agentes más complejos y de horizonte largo sin aumentos prohibitivos de costos.

Finalmente, este enfoque mejora la depurabilidad y el mantenimiento. Cuando el código y los resultados se almacenan en archivos en lugar de estar ocultos en el historial de chat efímero, los desarrolladores pueden inspeccionar los artefactos directamente. La separación de responsabilidades significa que los errores en un agente no necesariamente corrompen el estado de otro, haciendo al sistema más resiliente ante fallos parciales.

Qué puedes hacer

• Adopta una arquitectura multiagente donde trabajadores especializados manejen tareas distintas con ventanas de contexto aisladas.
• Implementa presupuestos estrictos de tokens de salida en tus prompts del sistema para evitar que los agentes generen texto verboso e innecesario.
• Reemplaza las herramientas separadas de escritura y ejecución de código con una sola herramienta que escriba en disco y devuelva solo resúmenes de ejecución.
• Impón la generación de código autocontenido requiriendo que los agentes incluyan todas las importaciones y la carga de datos en cada script.
• Usa el sistema de archivos como un bus de comunicación guardando resultados intermedios en archivos estructurados que los agentes posteriores puedan leer.
• Pregenera módulos utilitarios comunes para evitar repetir código boilerplate a través de múltiples turnos de agente.