MoE CPU

VRAM 12GB のGPUでローカルLLMと動画生成をどこまで回せるかを実測。収まるのは14Bクラスまでで、収まらなくなった後の速度はdenseとMoEで約8〜14倍割れる。コンテキストの上限はKVキャッシュの量子化でほぼ倍ずつ伸びる。動画は9月9日の構成では168フレームで失敗したが、ComfyUIなどを更新した9月28日の構成では264フレームまで通った。