ローカルAI環境

GPU・グラフィックボード

qwen3-coder:30bをローカルで動かす実測|当サイト検証で最速級のコーディングLLMに必要なVRAMと選び方

qwen3-coder:30bをRTX 5080+RTX 5060 Tiで実測。num_ctx=8192で揃えた2枚構成と16GB単体の速度、GPU常駐率とVRAM配置量を公開し、MoEで速いのにVRAMが要る理由と必要なGPU構成の選び方を整理しました。
GPU・グラフィックボード

ローカルLLMの電力あたり生成速度を実測|両GPU合算電力でMoEはdense型の何倍効率的か(RTX 5080+5060 Ti)

電力あたり生成速度とは、消費電力1ワットで1秒間に生成できるトークン数です。本記事では、PC全体の壁コンセント消費電力ではなく、RTX 5080とRTX 5060 Tiの両GPUを合算した推論中ピークboard power(GPUボード単体...
GPU・グラフィックボード

RTX 5060 Ti 16GBでどこまでできる?ローカルLLM・AIコーディングの実用域とVRAM 16GBの選び方

RTX 5060 Ti 16GBでローカルAIはどこまでできるか。7B〜14BのローカルLLMは快適に動き、量子化した中型モデルも16GBにギリギリ収まる。Claude CodeなどクラウドAIはGPU不要。CUDA環境で低コストに16GBを確保できる入門GPUの実用域と選び方を実測ベースで解説します。
GPU・グラフィックボード

VRAM 16GBで動かすローカルLLM完全ガイド|モデル別の早見表と「収まる・あふれる」の境界を実測で解説

VRAM 16GBのGPUで動くローカルLLMを、モデル別の早見表で整理。量子化を前提にすれば7B〜14B級は快適、32B級は条件次第、70B級は16GB単体では厳しい。RTX 5080実機の実測値をもとに、収まる・あふれる・動かないの境界を解説します。
GPU・グラフィックボード

MTP(マルチトークン予測)でローカルLLMは本当に速くなるか|RTX 5080実測、非MoEで1.69倍・MoEは1.0〜1.4倍と構成次第

MTP(マルチトークン予測)でローカルLLMが何倍速くなるかをRTX 5080で実測。非MoEのgemma-4-12bは1.69倍、MoEは1.0〜1.4倍と量子化・GPU構成で振れる。効きを分けるのは1順伝播あたりのボトルネック(帯域/GPU間の受け渡し待ち)をMTPが薄められるか。llama.cppの実測で解説。
GPU・グラフィックボード

Zed 推奨スペック|「描画用GPU」と「AI推論用GPU」を切り分けるRust製ネイティブエディタの必要環境

Zedの推奨スペックで混同しやすいのが「描画用GPU」と「AI推論用GPU」。UI描画には一般GPU(Linux=Vulkan 1.3/Windows=DirectX 11対応)で足り、AI推論はクラウド利用なら高価なGPUは不要です。ローカルのOllamaを使うときだけVRAMが論点になります。
GPU・グラフィックボード

Continue 推奨スペック|クラウド構成はGPU不要、ローカルモデルで初めてVRAMが効く二面性

Continueの必要スペックがはっきりしないのは、推論の場所を自分で選べる二面性が理由です。クラウドAPI構成ならAI用GPUは不要でRAM・CPUが中心。一方、Ollama等でローカルモデルを回す構成にした途端、GPUのVRAMが体感速度を左右する主役になります。両構成の推奨スペックを切り分けて整理します。
GPU・グラフィックボード

Aider 推奨スペック|repo-mapとgit連携が効くCLI、推論はBYOKでクラウドにもローカルにも

Aiderとは、ターミナルで動くオープンソースのAIペアプログラミングCLIである。 Aiderに必要なスペックを聞かれたときの答えは、一段ではなく二段構えになります。一段目はAider本体。これはコードを書くAI処理そのものではなく、リポジトリを読み解いてgitに変更を反映する作業を回す部分です。
GPU・グラフィックボード

16GB VRAMで38%あふれる qwen3.5:35b-a3b、2枚目でオフロード解消し約1.9倍に|RTX 5080+5060 Ti(Oculink)実測

RTX 5080単体では35B MoE(qwen3.5:35b-a3b)の約38%がCPUへあふれ65.99 tok/s。Oculink接続の2枚目GPUで全量VRAM化(オフロード0%)し、125.87 tok/sへ約1.9倍に。効く決め手はVRAM容量(あふれの解消)という当サイトの実測を解説します。
GPU・グラフィックボード

VRAMに収まらない大型LLMをRAMオフロードで動かす

VRAMに収まらない大型LLMを、層をCPUのRAMへ分割するRAMオフロード(-ngl指定)で動かす手法を解説。RTX 5080(VRAM 16GB)で12B〜35BクラスのモデルのGPU/CPU分割比とtokens/secを実測し、速度低下の構造的な原因をまとめた。