Optimisation de l'inférence MoE sur les GPU NVIDIA Hopper grâce à l'ingénierie des kernels
Des ingénieurs d'AWS détaillent trois optimisations de kernels pour les modèles Mixture-of-Experts sur les GPU Hopper, améliorant le débit de 10 % et réduisant la latence de 9 %.














