DeepSeek portiert Hochleistungs-GEMM-Bibliothek auf Huawei Ascend NPUs
DeepGEMM-Ascend bietet API-kompatible, nahezu peak-leistungsstarke Matrixmultiplikation für Huawei Ascend 950 Hardware und unterstützt FP4-, FP8- und BF16-Workloads.
Tägliche Berichterstattung zu KI, Entwicklertools und Infrastruktur. Jeder Artikel erklärt, was passiert ist und warum es wichtig ist, inklusive Link zur Originalquelle.
DeepGEMM-Ascend bietet API-kompatible, nahezu peak-leistungsstarke Matrixmultiplikation für Huawei Ascend 950 Hardware und unterstützt FP4-, FP8- und BF16-Workloads.
Das Speed-of-Light-Modell zeigt, dass FSDP bei DeepSeek-V3 über InfiniBand einen Kommunikationsengpass erzeugt und Pipeline-Parallelismus die notwendige Wahl für effizientes Training ist.