Ggml 1.0 ổn định suy luận AI cục bộ với FP8 và tối ưu hóa đa backend
Thư viện ggml đạt phiên bản 1.0, giới thiệu hỗ trợ FP8, kiểm soát cắt ngắn YaRN và cải thiện hiệu suất đáng kể trên các backend CUDA, Metal, Vulkan cùng nhiều nền tảng khác cho mô hình ngôn ngữ lớn cục bộ













