ローカルLLM

GPU・グラフィックボード

Ornith-1.0をローカルで動かすには？9B〜397Bの必要VRAMとGPU選び【Dense/MoE別】

Ornith-1.0（DeepReinforce製、MITライセンス）を手元のGPUで動かす方法を解説。9B/31B Dense・35B/397B MoEのサイズ別メモリ目安を整理し、9B/35Bは当サイトのRTX 5080環境で実測。GPU選びとOllama起動手順も紹介します。
2026.07.08 AIハードウェア図鑑
GPU・グラフィックボードローカルLLM基礎知識
GPU・グラフィックボード

Nemotron 3 Nanoを16GBで実測｜Mambaハイブリッドの生成速度とVRAM、Qwen3.6 35B-A3Bと比較（RTX 5080/5060 Ti）

NVIDIA Nemotron 3 Nano（4B/30B-A3B）をRTX 5080・5060 Ti（16GB）でローカル実測。Mamba-2系ハイブリッドの生成速度・VRAM・必要構成を別系統の活性3B級MoE qwen3.6:35b-a3bと比較。4Bは16GBで205 tok/s。
2026.07.03 AIハードウェア図鑑
GPU・グラフィックボードローカルLLM
ローカルLLM

ローカルLLMでゲームやコードは自作できるか｜完全オフライン・反復前提で27〜30B級モデルが到達できる範囲

完全オフラインのローカルLLMでゲームやコードは自作できるのか？Redditで話題になった27B級モデルの想定を踏まえつつ、Qwen3-Coder-30B-A3Bを例に、反復とタスク分解を前提とした開発手法の可能性と、RTX 5080など最新GPUのVRAM要件（量子化）を、海外コミュニティの議論を交えて解説します。
2026.06.30 AIハードウェア図鑑
ローカルLLM
GPU・グラフィックボード

ローカルLLMの量子化フォーマットの選び方｜Q4_K_M〜Q8・QATを精度・サイズと16GB VRAMで見極める

量子化フォーマットとは、LLMの重みを低ビットに圧縮し容量と速度を稼ぐ方式。 Hugging Faceで同じモデルのページを開くと、量子化の種類がずらりと並びます。Q4_K_M、Q5_K_M、Q6_K、Q8_0、さらにQAT版――名前だけでは何がどう違うのか、すぐには判断できません。
2026.06.28 AIハードウェア図鑑
GPU・グラフィックボードPC構成ローカルLLM
ローカルLLM

ローカルVLMでデスクトップ操作を自動化｜OmniParser前処理で視覚トークン負荷を抑える

ローカルVLMでデスクトップを自動化する際、スクショ直渡しでは視覚トークンが膨らみ処理が重くなります。OmniParser型の前処理でUI要素を構造化すれば視覚トークンを大きく減らせ、未検証のコミュニティ報告では5〜10倍とも（削減幅は実装しだい）。ローカルでGUI操作を自動化するヒントを解説します。
2026.06.27 AIハードウェア図鑑
ローカルLLM
GPU・グラフィックボード

qwen3-coder:30bをローカルで動かす実測｜当サイト検証で最速級のコーディングLLMに必要なVRAMと選び方

qwen3-coder:30bをRTX 5080＋RTX 5060 Tiで実測。num_ctx=8192で揃えた2枚構成と16GB単体の速度、GPU常駐率とVRAM配置量を公開し、MoEで速いのにVRAMが要る理由と必要なGPU構成の選び方を整理しました。
2026.06.26 AIハードウェア図鑑
GPU・グラフィックボードローカルLLM基礎知識
GPU・グラフィックボード

ローカルLLMの電力あたり生成速度を実測｜両GPU合算電力でMoEはdense型の何倍効率的か（RTX 5080＋5060 Ti）

電力あたり生成速度とは、消費電力1ワットで1秒間に生成できるトークン数です。本記事では、PC全体の壁コンセント消費電力ではなく、RTX 5080とRTX 5060 Tiの両GPUを合算した推論中ピークboard power（GPUボード単体...
2026.06.25 AIハードウェア図鑑
GPU・グラフィックボードローカルLLM基礎知識
GPU・グラフィックボード

RTX 5060 Ti 16GBでどこまでできる？ローカルLLM・AIコーディングの実用域とVRAM 16GBの選び方

RTX 5060 Ti 16GBでローカルAIはどこまでできるか。7B〜14BのLLMは快適に動き、中型モデルは16GBの上限に近い（26B級のMoEは一部があふれる）。クラウドAIはGPU不要。入門GPUの実用域と選び方を実測ベースで解説。
2026.06.24 AIハードウェア図鑑
GPU・グラフィックボードPC構成ローカルLLM
GPU・グラフィックボード

VRAM 16GBで動かすローカルLLM完全ガイド｜モデル別の早見表と「収まる・あふれる」の境界を実測で解説

VRAM 16GBのGPUで動くローカルLLMを、モデル別の早見表で整理。量子化を前提にすれば7B〜14B級は快適、32B級は条件次第、70B級は16GB単体では厳しい。RTX 5080実機の実測値をもとに、収まる・あふれる・動かないの境界を解説します。
2026.06.23 AIハードウェア図鑑
GPU・グラフィックボードPC構成ローカルLLM
GPU・グラフィックボード

MTP（マルチトークン予測）でローカルLLMは本当に速くなるか｜RTX 5080実測、非MoEで1.69倍・MoEは1.0〜1.4倍と構成次第

MTP（マルチトークン予測）でローカルLLMが何倍速くなるかをRTX 5080で実測。非MoEのgemma-4-12bは1.69倍、MoEは1.0〜1.4倍と量子化・GPU構成で振れる。効きを分けるのは1順伝播あたりのボトルネック（帯域/GPU間の受け渡し待ち）をMTPが薄められるか。llama.cppの実測で解説。
2026.06.22 AIハードウェア図鑑
GPU・グラフィックボードPC構成ローカルLLM
次のページ