Ejecutar LLMs de un billón de parámetros en clústeres de Mac Studio con MLX
Investigadores de Apple demuestran cómo ejecutar el modelo abierto Muse Spark de 816B en cuatro Mac Studios utilizando MLX y RDMA sobre Thunderbolt.
Cobertura diaria de IA, herramientas para desarrolladores e infraestructura. Cada artículo explica qué ocurrió y por qué es importante, con un enlace a la fuente original.
Investigadores de Apple demuestran cómo ejecutar el modelo abierto Muse Spark de 816B en cuatro Mac Studios utilizando MLX y RDMA sobre Thunderbolt.