PC構成

GPU・グラフィックボード

ローカルLLMで長文を扱うとVRAMはどれだけ増えるか|16GBでKVキャッシュ膨張を実測し、あふれない設定を探る

KVキャッシュとは、LLMが処理済みトークンの中間状態を保持する作業メモリである。対応するマザーボードやGPUがあれば、ローカルAI環境は数分で立ち上がるところまで来ました。導入のハードルが下がった一方で、長い仕様書やソースコードを丸ごと貼り付けた瞬間に「VRAMが足りません」と落ちる。
GPU・グラフィックボード

ZLUDA v6アップデート解説|商用資金終了でホビー化、AMD GPUのCUDA互換に32-bit PhysX pre-alpha対応

ZLUDAとは、non-NVIDIA GPU上でNVIDIA CUDA向けソフトを動かす互換レイヤーである。現状はAMD Radeon RX 5000シリーズ以降が主な対象で、v6では商用資金喪失と32-bit PhysX pre-alpha実装が話題になった。
GPU・グラフィックボード

画像・動画生成でシステムRAMは何GB要るか|RTX 5080・VRAM 16GBで回したときのRAMピークをワークフロー別に実測

ComfyUIで画像・動画を作るときのシステムRAMをRTX 5080・RAM 96GBの1台で実測。観測RSSピークは画像20GiB台、動画44GiB台、アップスケールはフレーム数に沿って6.21〜69.17 GiB。確保量ピークとの違いと、測っていない範囲もまとめた。
GPU・グラフィックボード

ローカルLLMの量子化フォーマットの選び方|Q4_K_M〜Q8・QATを精度・サイズと16GB VRAMで見極める

量子化フォーマットとは、LLMの重みを低ビットに圧縮し容量と速度を稼ぐ方式。 Hugging Faceで同じモデルのページを開くと、量子化の種類がずらりと並びます。Q4_K_M、Q5_K_M、Q6_K、Q8_0、さらにQAT版――名前だけでは何がどう違うのか、すぐには判断できません。
GPU・グラフィックボード

RTX 5060 Ti 16GBでどこまでできる?ローカルLLM・AIコーディングの実用域とVRAM 16GBの選び方

RTX 5060 Ti 16GBでローカルAIはどこまでできるか。7B〜14BのLLMは快適に動き、中型モデルは16GBの上限に近い(26B級のMoEは一部があふれる)。クラウドAIはGPU不要。入門GPUの実用域と選び方を実測ベースで解説。
GPU・グラフィックボード

VRAM 16GBで動かすローカルLLM完全ガイド|モデル別の早見表と「収まる・あふれる」の境界を実測で解説

VRAM 16GBのGPUで動くローカルLLMを、モデル別の早見表で整理。量子化を前提にすれば7B〜14B級は快適、32B級は条件次第、70B級は16GB単体では厳しい。RTX 5080実機の実測値をもとに、収まる・あふれる・動かないの境界を解説します。
GPU・グラフィックボード

MTP(マルチトークン予測)でローカルLLMは本当に速くなるか|RTX 5080実測、非MoEで1.69倍・MoEは1.0〜1.4倍と構成次第

MTP(マルチトークン予測)でローカルLLMが何倍速くなるかをRTX 5080で実測。非MoEのgemma-4-12bは1.69倍、MoEは1.0〜1.4倍と量子化・GPU構成で振れる。効きを分けるのは1順伝播あたりのボトルネック(帯域/GPU間の受け渡し待ち)をMTPが薄められるか。llama.cppの実測で解説。
GPU・グラフィックボード

Zed 推奨スペック|「描画用GPU」と「AI推論用GPU」を切り分けるRust製ネイティブエディタの必要環境

Zedの推奨スペックで混同しやすいのが「描画用GPU」と「AI推論用GPU」。UI描画には一般GPU(Linux=Vulkan 1.3/Windows=DirectX 11対応)で足り、AI推論はクラウド利用なら高価なGPUは不要です。ローカルのOllamaを使うときだけVRAMが論点になります。
GPU・グラフィックボード

Continue 推奨スペック|クラウド構成はGPU不要、ローカルモデルで初めてVRAMが効く二面性

Continueの必要スペックがはっきりしないのは、推論の場所を自分で選べる二面性が理由です。クラウドAPI構成ならAI用GPUは不要でRAM・CPUが中心。一方、Ollama等でローカルモデルを回す構成にした途端、GPUのVRAMが体感速度を左右する主役になります。両構成の推奨スペックを切り分けて整理します。
GPU・グラフィックボード

Windsurf(現Devin Desktop)推奨スペック|スタンドアロンAIエディタはGPU不要、効くのはRAM・SSD

Windsurfを快適に使うのに、高価なAI用GPUは要りません。標準的な内蔵モデルやクラウドモデルを使う範囲では、重いAI推論はサービス側で処理されるため、手元のPCで効くのはRAM・CPU・SSDの3つ。結論を先に置くと、推奨はRAM 16GB以上・NVMe SSD・最近のミドルクラスCPUで十分です。