Chạy các mô hình LLM nghìn tỷ tham số trên cụm Mac Studio với MLX
Các nhà nghiên cứu của Apple trình diễn cách chạy mô hình Muse Spark Open 816B trên bốn chiếc Mac Studio bằng cách sử dụng MLX và RDMA qua Thunderbolt.
Cập nhật hàng ngày về AI, công cụ lập trình và hạ tầng. Mỗi bài viết giải thích chuyện gì đã xảy ra và tại sao nó quan trọng, kèm link đến nguồn gốc.
Các nhà nghiên cứu của Apple trình diễn cách chạy mô hình Muse Spark Open 816B trên bốn chiếc Mac Studio bằng cách sử dụng MLX và RDMA qua Thunderbolt.