Ggml 1.0 stabilisiert lokale KI-Inferenz mit FP8 und Multi-Backend-Optimierungen
Die ggml-Bibliothek erreicht Version 1.0, führt FP8-Unterstützung, YaRN-Truncation-Steuerungen und erhebliche Leistungsverbesserungen über CUDA, Metal, Vulkan und andere Backends für lokale große Sprachmodelle ein.













