Construir con IA

Grok 4.7 llega a Amazon Bedrock con razonamiento configurable y enfoque en agentes

Grok 4.7 de xAI ya está disponible en Amazon Bedrock, ofreciendo una ventana de contexto de 500K tokens y cuatro niveles de esfuerzo de razonamiento configurable para tareas de programación y agentes de larga duración.

Traducido automáticamente del original en inglés.

xAI ha lanzado Grok 4.7 en Amazon Bedrock, haciendo accesible su último modelo de frontera a los desarrolladores de AWS. Lanzado a finales de septiembre de 2026, esta actualización incorpora al catálogo de Bedrock un modelo optimizado específicamente para tareas complejas de programación, agentes de larga duración y trabajo profesional basado en conocimiento.

Qué ha ocurrido

Grok 4.7 se une a la línea de modelos de Amazon Bedrock como el sistema más capaz de xAI para ingeniería de software y flujos de trabajo intensivos en documentos. El modelo cuenta con una ventana de contexto de 500.000 tokens e introduce un esfuerzo de razonamiento configurable, permitiendo a los desarrolladores elegir entre los niveles de procesamiento low, medium, high y xhigh. Se sirve mediante perfiles de inferencia entre regiones (cross-Region) en el endpoint bedrock-runtime y admite interfaces estándar, incluidas las APIs Responses, Chat Completions y Converse.

Según xAI, el entrenamiento del modelo priorizó la resistencia sobre la velocidad bruta. Fue construido sobre un modelo base más grande y sometido a una ejecución más prolongada de aprendizaje por refuerzo centrada en tareas que requieren horas para completarse. Este enfoque busca mejorar la autoverificación, asegurando que el modelo revise su propia salida antes de continuar, lo que reduce fallos catastróficos en trayectorias largas de agentes. Las evaluaciones independientes de Artificial Analysis respaldan estas afirmaciones, mostrando mejoras significativas en el rendimiento de los agentes de código y en el trabajo de conocimiento a largo plazo en comparación con el anterior Grok 4.6.

Cómo funciona

El mecanismo central detrás de la mayor fiabilidad de Grok 4.7 es su esfuerzo de razonamiento ajustable. Por defecto, el modelo opera con un esfuerzo high, pero los desarrolladores pueden ajustar esto según la complejidad de la tarea. Los niveles de esfuerzo más altos activan pasos de verificación interna más extensos, lo que aumenta el uso de tokens pero mejora la precisión en problemas difíciles. Por ejemplo, los datos de Artificial Analysis muestran que Grok 4.7 con esfuerzo xhigh produce aproximadamente el doble de tokens de salida por tarea en comparación con Grok 4.6, reflejando este proceso de deliberación más profundo.

En Amazon Bedrock, el modelo se accede a través de dos perfiles de inferencia entre regiones: us.xai.grok-4.7 para residencia de datos solo en EE. UU. y global.xai.grok-4.7 para mayor capacidad y menor costo. Los desarrolladores pueden interactuar con el modelo utilizando el SDK de OpenAI mediante una clave API o el SDK de AWS (boto3) usando credenciales IAM. La API Converse es especialmente útil para el manejo unificado de mensajes y el registro de invocaciones, mientras que los endpoints compatibles con OpenAI permiten una migración más sencilla de integraciones existentes. También se habilita el almacenamiento en caché implícito de prompts, reduciendo costos para agentes que envían repetidamente grandes prompts de sistema o documentos de referencia.

Detalles clave

  • Ventana de contexto: Admite hasta 500.000 tokens, permitiendo el procesamiento de bases de código extensas o documentos largos.
  • Niveles de razonamiento: Cuatro configuraciones ajustables (low, medium, high, xhigh) controlan la profundidad de la verificación interna y el consumo de tokens.
  • Perfiles de inferencia: Disponibles mediante us.xai.grok-4.7 (geografía de EE. UU.) y global.xai.grok-4.7 (regiones comerciales globales).
  • Soporte de API: Compatible con las APIs Responses, Chat Completions y Converse; funciona tanto con el SDK de OpenAI como con AWS boto3.
  • Mejoras de rendimiento: Artificial Analysis informa de una puntuación de Índice de Inteligencia de 46 (frente a 44) y un Índice de Agente de Código de 56 (frente a 47) en comparación con Grok 4.6.
  • Funciones de seguridad: Incluye un nuevo conjunto de salvaguardas diseñado para rechazar prompts peligrosos de doble uso mientras permite investigación de seguridad legítima.

Por qué importa

Para los ingenieros que construyen agentes autónomos, la capacidad de configurar el esfuerzo de razonamiento es una palanca crítica para equilibrar el costo y la fiabilidad. Los agentes de larga duración a menudo fallan debido a errores tempranos que se acumulan con el tiempo; el enfoque de Grok 4.7 en la autoverificación ayuda a mitigar este riesgo. Sin embargo, esto conlleva una compensación: los niveles de esfuerzo más altos aumentan significativamente el uso de tokens. Los desarrolladores deben gestionar activamente estos ajustes en lugar de depender de los valores predeterminados, especialmente en aplicaciones de alto volumen o sensibles a la latencia, donde el esfuerzo low o medium puede ser suficiente para tareas simples de extracción.

La integración con Amazon Bedrock también simplifica la carga operativa. Funciones como el almacenamiento en caché implícito de prompts, Guardrails para filtrado de contenido y salidas estructuradas para análisis JSON son admitidas nativamente. Esto permite a los equipos desplegar flujos de trabajo robustos de agentes sin construir middleware personalizado para la gestión de estado o comprobaciones de seguridad. Además, la elección entre perfiles de inferencia de EE. UU. y Global ofrece flexibilidad para organizaciones con requisitos estrictos de residencia de datos o aquellas que priorizan la eficiencia de costos sobre el control geográfico.

Qué puedes hacer

  • Realizar pruebas comparativas de niveles de razonamiento: Prueba los esfuerzos low, medium, high y xhigh contra tu carga de trabajo específica para identificar el punto de rendimientos decrecientes entre costo de tokens y precisión.
  • Actualizar políticas de IAM: Asegúrate de que tus permisos incluyan bedrock:InvokeModel para los perfiles de inferencia específicos (us.xai.grok-4.7 o global.xai.grok-4.7) y el ARN del modelo fundacional subyacente.
  • Usar tokens de corta duración: Para entornos de producción, genera tokens bearer de corta duración utilizando el paquete aws-bedrock-token-generator en lugar de claves API de larga duración para mejorar la seguridad.
  • Monitorear el uso: Rastrea el consumo de tokens para entender el impacto de los diferentes niveles de esfuerzo en tus costos operativos.

Herramientas de la Tienda de Bytechap

$89

DocBento

Gestión documental autoalojada que lee cada escaneo y responde con citas de página.

Demo en vivo
$79

WorkBento

Suite de RR. HH. y gestión del entorno laboral impulsada por IA que puedes alojar tú mismo.

Demo en vivo

Seguir leyendo

Todos los artículos