GPU・グラフィックボード DiffusionGemmaをローカルで動かす|量子化時に約18GB VRAMで載る拡散LLM、自己回帰比で最大4倍速の理屈
DiffusionGemmaは、離散拡散(ブロック自己回帰型)で文章を生成するGoogle製オープンウェイトLLM。量子化時で約18GB VRAM、GPU上で自己回帰比・最大4倍速(Google公称)。KVキャッシュや対応ランタイム、16GB GPUで動くかまで公式一次情報で整理します。
GPU・グラフィックボード
ComfyUI