CPU 推論

GPUなしのCPUだけでローカルLLMは実用的か。Core i7-14700F実機で1B〜35Bの生成速度・読み込み時間・ロード時のサイズを実測し、2026年9月にはqwen3.5・gemma4の現行モデルも追加。3〜8B級は実用域、27Bは2.97トークン/秒、MoEはサイズの割に生成が速い。