Couverture quotidienne de l’IA, des outils pour développeurs et de l’infrastructure. Chaque article explique ce qui s’est passé et pourquoi c’est important, avec un lien vers la source originale.
Une branche communautaire de llama.cpp permet désormais aux modèles Mixture of Experts (MoE) épars d'activer davantage d'experts lors de l'inférence, sacrifiant la vitesse au profit d'éventuels gains de qualité.
Magnitude compile et optimise les kernels directement sur l’appareil pour exécuter des modèles ouverts jusqu’à deux fois plus vite que llama.cpp, sur Apple Silicon, NVIDIA, AMD et configurations CPU.
