基礎知識

AI推論でメモリ帯域はどこに効くか｜プロンプト処理と生成で詰まる場所が入れ替わる仕組み

メモリ帯域とは、GPUが自身のVRAMとの間で1秒あたりに読み書きできるデータ量である。ローカルLLMを動かしていて「長い文章を投げると最初の一文字が出るまで待たされる」「出始めてからの速度はモデルを変えると大きく動く」という差を体感したことはありませんか。この二つは原因が別で、前者は演算器の量、後者はメモリ帯域が…

AIハードウェア図鑑

GPU・グラフィックボードPC構成基礎知識

AI用PCでCPUはどこまで重要か｜ローカルLLM・画像生成でGPUに予算を回す構成判断

AI用PCのCPUは、OSやモデル読み込み、前処理、GPUへの命令投入を担う土台役です。ローカルLLM・画像生成でCPUが効く場面と、GPU・VRAMへ予算を優先すべき構成判断を解説します。

AIハードウェア図鑑

GPU・グラフィックボードPC構成基礎知識

RTX 3060 12GBで始めるローカルAI｜3万円台で買える12GBは何が動くか、8GBとの差と物足りなくなる境界

RTX 3060 12GBで始めるローカルAI。中古おおむね3万円台で買える12GB VRAMは、8GBより文脈やモデルの余裕が増え、LLMや画像生成の幅が広がる。何が動いて何が無理か、8GBとの差、そして物足りなくなり16GB/24GBへ進む境界を、公称スペックと必要VRAMの目安で整理する。

AIハードウェア図鑑

GPU・グラフィックボード基礎知識

DiffusionGemmaをローカルで動かす｜量子化時に約18GB VRAMで載る拡散LLM、自己回帰比で最大4倍速の理屈

DiffusionGemmaは、離散拡散（ブロック自己回帰型）で文章を生成するGoogle製オープンウェイトLLM。量子化時で約18GB VRAM、GPU上で自己回帰比・最大4倍速（Google公称）。KVキャッシュや対応ランタイム、16GB GPUで動くかまで公式一次情報で整理します。

AIハードウェア図鑑

GPU・グラフィックボードPC構成基礎知識

AI用途にGPUは2枚必要か｜RTX 5080 + 5060 Ti + OCuLink外付けで2枚目の効果を実測

AI用途の2枚目GPUとは、速度でなくVRAM容量と同時実行を増やす手段である。基礎知識から接続構成、推論エンジンごとの帯域の効き方、そして実測データまで、AI用途でGPUを2枚にすべきか迷っている人が自分の用途で判断できるところまで一本で扱います。

AIハードウェア図鑑

GPU・グラフィックボードローカルAI環境基礎知識

AI用PCの冷却とケースの選び方｜24時間のローカルAI運用でGPU温度・エアフロー・ケースサイズをどう決めるか

AI用PCの冷却とは、持続高負荷でもGPU温度と持続クロックを保つ設計。24時間ローカルAIを回すPCの冷却は、冷やすより先に発熱を下げるのが近道です。電力制限で発熱そのものを落とし、メッシュ前面と正圧で残った熱を捌き、最後にGPUが物理的に入るケースを選ぶ。

AIハードウェア図鑑

GPU・グラフィックボードPC構成基礎知識

Ornith-1.0をローカルで動かすには？9B〜397Bの必要VRAMとGPU選び【Dense/MoE別】

Ornith-1.0（DeepReinforce製、MITライセンス）を手元のGPUで動かす方法を解説。9B/31B Dense・35B/397B MoEのサイズ別メモリ目安を整理し、9B/35Bは当サイトのRTX 5080環境で実測。GPU選びとOllama起動手順も紹介します。

AIハードウェア図鑑

GPU・グラフィックボードローカルLLM基礎知識

qwen3-coder:30bをローカルで動かす実測｜当サイト検証で最速級のコーディングLLMに必要なVRAMと選び方

qwen3-coder:30bをRTX 5080＋RTX 5060 Tiで実測。num_ctx=8192で揃えた2枚構成と16GB単体の速度、GPU常駐率とVRAM配置量を公開し、MoEで速いのにVRAMが要る理由と必要なGPU構成の選び方を整理しました。

AIハードウェア図鑑

GPU・グラフィックボードローカルAI環境基礎知識

ローカルLLMの電力あたり生成速度を実測｜両GPU合算電力でMoEはdense型の何倍効率的か（RTX 5080＋5060 Ti）

電力あたり生成速度とは、消費電力1ワットで1秒間に生成できるトークン数です。本記事では、PC全体の壁コンセント消費電力ではなく、RTX 5080とRTX 5060 Tiの両GPUを合算した推論中ピークboard power（GPUボード単体...

AIハードウェア図鑑

GPU・グラフィックボードローカルAI環境基礎知識

Dell Pro 3とPro Precision 5の違いは？AIノートのNPUとVRAMを仕様から見極める

デルのAI対応ビジネスノートDell Pro 3とPro Precision 5の6機種を題材に、AI対応の正体であるNPUの性能差（同じPro 3でも16〜50 TOPS）と、ローカルでLLMや画像生成を動かすのに効くVRAMの違いを、RTX 5080での参考値も交えて用途別に整理します。

AIハードウェア図鑑

GPU・グラフィックボードPC構成基礎知識

次のページ

1 2 3