CUDAコア

GPU・グラフィックボード

ローカルLLM推論エンジン比較|Ollama・llama.cpp・LM Studio・vLLMの選び方

Ollama, llama.cpp, LM Studio, vLLMの4大ローカルLLM推論エンジンを、速度・手軽さ・マルチGPU対応の3軸で徹底比較。RTX 5080+5060 Ti環境での実測データも交え、LM Studioのテンソル並列対応がもたらす影響や、あなたの環境に最適なエンジンの選び方を解説します。
GPU・グラフィックボード

vLLM v0.20.1解説|v0.20.0の不具合修正・DeepSeek V4対応・推論最適化

vLLM v0.20.1(2026年5月3日公開)を解説。DeepSeek V4ベースモデル対応、TopK=1024デッドロック修正、FlashInfer BF16/MXFP8通信とFP32→FP4変換の最適化を、PR番号と推奨アップグレード手順込みで整理。
GPU・グラフィックボード

CUDAコアとは?数が多いと何が変わるのかGPU選びの基本

RTX 4060のCUDAコアは3,072基。RTX 5080は10,752基で、約3.5倍の差がある。では、CUDAコア数が3.5倍なら性能も3.5倍になるのか?答えはノーだ。CUDAコア数はGPU選びの重要な指標だが、それだけで性能は決...