GPU・グラフィックボード VRAM 32GBで何が変わるか|16GBであふれる27〜35B級をカード2枚で全部載せて実測
27〜35B級の5モデルをQ4_K_M・コンテキスト8192で測ると、RTX 5080 16GBには収まらなかった。16GBのカード2枚で32GB分にして全部載せたときの速度と必要だった容量を実測し、単体32GBはRTX 5090の公称値だけを整理する。
GPU・グラフィックボード
ローカルLLM