llama.cpp experimenta con la expansión de expertos MoE en tiempo de ejecución sin reentrenamiento
Una rama comunitaria de llama.cpp ahora permite que los modelos dispersos Mixture of Experts activen más expertos durante la inferencia, sacrificando velocidad a cambio de posibles mejoras en la calidad.
