GPU・グラフィックボード RTX 5080 16GB VRAMの壁に関するよくある疑問7選｜27B・32Bは起動するが6〜10 tok/sまで落ちる
RTX 5080 16GBでQwen3.5 27B・Gemma 4 31B・Qwen3 32Bを実測。既定タグでは全レイヤーが載らずCPU側へ回り6.2〜10.3 tok/sまで低下する一方、14Bクラスは75〜77 tok/s。MoEのGemma 4 26B A4Bは58.6 tok/sを維持した。
2026.04.30
GPU・グラフィックボードローカルAI環境