Nube e infraestructura

Amazon CloudWatch añade visibilidad de GPU y aceleradores para clústeres EKS

AWS lanza insights de cómputo acelerado para ofrecer observabilidad a nivel de dispositivo, detección de desperdicio de costes y remediación automatizada para cargas de trabajo con GPU y aceleradores de IA en Amazon EKS.

Ilustración de servidores GPU conectados a un panel de monitoreo central que muestra datos de salud y costes.
Ilustración generada para este artículo

Traducido automáticamente del original en inglés.

Amazon Web Services ha presentado los insights de cómputo acelerado de Amazon CloudWatch, una nueva capacidad diseñada para aportar visibilidad granular del uso de GPU y aceleradores de IA dentro de los clústeres de Amazon Elastic Kubernetes Service (EKS). Lanzada durante KubeCon North America 2026, esta herramienta aborda los crecientes puntos ciegos operativos que enfrentan los equipos de plataforma al gestionar flotas costosas de aceleradores compartidos.

Qué ocurrió

Los aceleradores, como las GPU, se han convertido en el componente más costoso de los presupuestos de infraestructura moderna; sin embargo, muchas organizaciones carecen de la visibilidad necesaria para gestionarlos eficientemente. En entornos de clústeres compartidos, los equipos de plataforma suelen tener dificultades para identificar qué equipos o cargas de trabajo consumen recursos específicos, lo que conduce a una utilización ineficiente y costes inesperados. Cuando el rendimiento se degrada debido a fallos de hardware o limitaciones térmicas, los equipos frecuentemente descubren el problema solo después de que un trabajo falla o llega la factura mensual, viéndose obligados a reiniciar instancias completas en lugar de aislar dispositivos individuales defectuosos.

Para resolver esto, AWS lanzó los insights de cómputo acelerado, que proporcionan una vista operativa unificada de cada acelerador en una flota EKS. El servicio admite GPU de NVIDIA, AWS Trainium y AWS Inferentia, normalizando las métricas de estos diferentes tipos de hardware en un esquema común. Esto permite a los equipos que ejecutan flotas mixtas monitorear la salud, la utilización y el desperdicio de costes desde un único panel sin necesidad de herramientas separadas para cada proveedor de hardware.

El lanzamiento se basa en una serie de actualizaciones de observabilidad que AWS ha implementado para EKS durante 2025 y 2026, incluyendo OTel Container Insights y Application Performance Monitoring. Al añadir telemetría específica de aceleradores a este stack existente, AWS busca cerrar la brecha entre el monitoreo de infraestructura y el rendimiento de aplicaciones para cargas de trabajo de IA.

Cómo funciona

El sistema opera convergiendo rutas de recolección en la API de CloudWatch Metrics. Para las GPU de NVIDIA, el agente de CloudWatch y NVIDIA Exporter recopilan métricas a nivel de dispositivo, mientras que una Capa Unificada de Salud de Aceleradores normaliza los datos tanto de GPU como de chips Inferentia. Estos datos normalizados se ingieren en el almacenamiento centralizado de CloudWatch a través del endpoint OpenTelemetry (OTLP), sin requerir configuración por nodo ni pipelines de recolección personalizados por parte del usuario.

Una vez que los datos fluyen, el servicio enriquece las métricas de los aceleradores con metadatos de Kubernetes, incluyendo pod, namespace, nodo y etiquetas personalizadas como nombre de equipo o aplicación. Detecta automáticamente particiones Multi-Instance GPU (MIG) y otros esquemas de asignación de recursos como Kubernetes Dynamic Resource Allocation (DRA). Este contexto permite al sistema atribuir la utilización y el uso de memoria a cargas de trabajo específicas, habilitando un seguimiento preciso de quién está usando qué recursos.

Para la resolución de problemas, la herramienta se integra con CloudWatch Omni y el AWS DevOps Agent. Omni ofrece una vista centrada en la aplicación, vinculando directamente el rendimiento de las cargas de trabajo de inferencia con la salud del acelerador. El DevOps Agent puede analizar telemetría, logs y cambios recientes para distinguir entre modos de fallo, como un error de memoria que requiere reemplazo de hardware frente a un problema de controlador solucionable mediante un reinicio. Luego presenta un plan de acción respaldado por evidencia para su aprobación o, si está configurado, ejecuta remediaciones automáticamente.

Detalles clave

  • Hardware compatible: El servicio admite GPU de NVIDIA, AWS Trainium y AWS Inferentia, con métricas normalizadas en una única vista de Salud de Aceleradores.
  • Detección de desperdicio: Identifica tres tipos de desperdicio recuperable: oportunidades de ajuste de tamaño (right-sizing), brechas de eficiencia de entrenamiento basadas en la utilización de tensor cores y endpoints de inferencia que operan por debajo de la capacidad del hardware.
  • Integración con Kubernetes: Los datos de aceleradores se enriquecen con metadatos de pod, namespace y nodo, y detecta automáticamente particiones MIG y esquemas DRA sin configuración manual.
  • Remediación automatizada: El AWS DevOps Agent puede diagnosticar causas raíz y proponer o ejecutar correcciones, como reiniciar controladores o reemplazar nodos, basándose en runbooks predefinidos.
  • Instalación: Los usuarios activan la función instalando o actualizando el add-on de Observabilidad de Amazon CloudWatch para EKS a la versión 7.0.1 o superior mediante eksctl, Helm o Terraform.
  • Contexto de costes: Las cifras de costes proporcionadas son estimaciones operativas para guiar la toma de decisiones, no datos de facturación autoritativos, los cuales siguen disponibles a través de AWS Cost Explorer.

Por qué importa

Para ingenieros de software y líderes de infraestructura, el valor principal radica en pasar de la extinción reactiva de incendios a la optimización proactiva. Anteriormente, una sola GPU fallida podía forzar a un equipo a ciclar una instancia completa de ocho GPU, desperdiciando recursos sanos y esperando a que volviera la capacidad escasa. Con visibilidad a nivel de dispositivo, los equipos pueden aislar y reemplazar solo el hardware defectuoso, manteniendo la disponibilidad del resto de la carga de trabajo. Esta precisión reduce el tiempo de inactividad y previene los retrasos en cascada que a menudo plagan los trabajos de entrenamiento a gran escala.

Además, la capacidad de correlacionar la telemetría de hardware con el rendimiento de la aplicación ayuda a los desarrolladores a optimizar su código. Al identificar endpoints de inferencia subutilizados o trabajos de entrenamiento con baja utilización de flops del modelo (MFU), los equipos pueden ajustar configuraciones para obtener más valor de su hardware existente. Esto es crítico a medida que los costes de los aceleradores continúan aumentando, haciendo de la eficiencia una palanca clave para controlar el gasto en infraestructura sin sacrificar rendimiento.

Qué puedes hacer

  • Actualiza tu add-on de Observabilidad de Amazon CloudWatch para EKS a la versión 7.0.1 o posterior para habilitar la recolección de datos de aceleradores.
  • Instala el add-on utilizando los comandos de eksctl o Helm proporcionados en la documentación de AWS para comenzar a transmitir datos de OpenTelemetry inmediatamente.
  • Abre CloudWatch Omni para ver tus cargas de trabajo de inferencia junto con métricas de salud de aceleradores y categorías de desperdicio identificadas.
  • Revisa la vista de Salud de Aceleradores para identificar pods o namespaces específicos que consumen recursos desproporcionados o experimentan errores.
  • Configura el AWS DevOps Agent para recibir eventos de salud y prueba sus capacidades de diagnóstico en cargas de trabajo no críticas antes de habilitar la remediación automatizada.
  • Utiliza las estimaciones de desperdicio de costes para identificar oportunidades de right-sizing para trabajos de entrenamiento que están sobreprovisionados en relación con su uso real de hardware.
  • #aws
  • #kubernetes
  • #gpu
  • #observability
  • #cloudwatch
  • #ai-infrastructure

Herramientas de la Tienda de Bytechap

Seguir leyendo

Todos los artículos