“gguf” の検索結果

低VRAM環境でのLoRA学習において、bitsandbytesに代わりGGUFが採用

新たな技術により、限られたVRAMで巨大なQwenやDeepSeekモデルをGGUFベース形式を用いて学習可能となり、特定のハードウェアではCPUオフロードの必要性が解消されました。