GPU・グラフィックボード

GPU・グラフィックボード

RTX PRO 5500 Blackwellの84GBは何を載せられるか|公称スペックで読む容量・帯域・演算の増え方

NVIDIA RTX PRO 5500 Blackwell の84GB。同世代の RTX PRO 5000 から容量と CUDAコアは上がるのに、メモリ帯域は約4%しか増えていない。公称スペックの増え方を項目ごとに分け、当サイトの16GB・32GB実測との位置関係まで並べる。
GPU・グラフィックボード

VRAM 12GBの壁はどこにあるか|context・動画フレーム数・あふれた後の分かれ目を実測

VRAM 12GB のGPUでローカルLLMと動画生成をどこまで回せるかを実測。収まるのは14Bクラスまでで、収まらなくなった後の速度はdenseとMoEで約8〜14倍割れる。コンテキストの上限はKVキャッシュの量子化でほぼ倍ずつ伸び、動画は解像度より先にフレーム数で止まる。
GPU・グラフィックボード

VRAM 32GBで何が変わるか|16GBであふれる27〜35B級をカード2枚で全部載せて実測

27〜35B級の5モデルをQ4_K_M・コンテキスト8192で測ると、RTX 5080 16GBには収まらなかった。16GBのカード2枚で32GB分にして全部載せたときの速度と必要だった容量を実測し、単体32GBはRTX 5090の公称値だけを整理する。
AI動画生成

LTX 2.5 を 16GB VRAM で回す|モデル一式28GiBが収まらない状態の所要・RAM・2段構成を実測(RTX 5080 / 5060 Ti 16GB)

LTX 2.5 を 16GB の GPU で回すと、モデル一式 28.06GiB は VRAM に載らず段ごとに載せ替わる。4秒から30秒まで完走したが、増えたのは VRAM でなくシステムRAM だった。公式の2段構成との比較とデコード分割の痕跡も実測。
GPU・グラフィックボード

OpenCode 推奨スペック|公式のターミナル版前提に数値要件はなく、VRAMが要るのはローカルモデルをGPUで動かすとき

OpenCodeに必要なスペックは構成で二分される。外部プロバイダを挿すならGPUは要らず、ローカルモデルをGPUで動かす場合だけVRAMが論点になる。必要な長さは公式間で16k〜32kと64k以上に割れており、RTX 5060 Ti 16GBでモデル別に実測した。
GPU・グラフィックボード

複数GPUが認識されても使われない時の切り分け|Windows+OCuLinkで2枚目が使われる条件

nvidia-smiには2枚映るのに、推論中は片方の使用率もVRAM占有も0%のまま。故障でも設定ミスでもなく「分割する必要がないだけ」のことがあります。OS・ドライバ層/ランタイムの候補選定層/モデル配置層の3段で切り分ける手順と、RTX 5080+RTX 5060 Ti(OCuLink)でどのサイズから2枚に分かれたかのGPU別実測内訳。
GPU・グラフィックボード

VRAMに収まらないMoEモデルのデコードが約2倍になった|FreeTokenとOllamaをRTX 5080で実測比較

VRAM 16GBに収まらない35B級のMoEモデルを、推論エンジンをFreeTokenに替えて実測した。デコードは約2倍になる一方で最初のトークンまでは遅く、約44〜50トークンで総時間が逆転する。RTX 5080での実測値と導入の条件をまとめた。
GPU・グラフィックボード

NVIDIA DGX Sparkは買いか|16GB GPUを実測し公開ベンチと突き合わせて見えた、128GBが効く条件

DGX Spark(GB10)とRTX 5080/5060 Tiを同一のllama-bench条件で実測。VRAMに収まる範囲と収まらない範囲で優劣がどう変わるか、dense/MoEで結論が分かれる理由を実測値で示す。
GPU・グラフィックボード

2.6BのローカルLLMで128Kの文脈は張れるか|LFM2.5-2.6Bの必要VRAMを16GB GPUとCPUのみで実測

LFM2.5-2.6BをRTX 5060 TiとCPUのみで実測。131,072トークンを張っても必要VRAMは3,970 MiBで、KVキャッシュは1トークンあたり16.00 KiB。同条件の密なTransformerは16GBに収まらない。層構成が長文脈のメモリを決める仕組みを実測値で示す。
GPU・グラフィックボード

ローカルLLM推論時のGPU電力を実測|RTX 5080・5060 Tiの1枚/2枚構成を比較

ローカルLLMの推論中にGPUが実際に何W使うかを、RTX 5080とRTX 5060 Tiで1枚ずつ実測した。公称TDPとの余裕はカードごとに違う。2枚目を足した時の変化と、電源容量に見込む数字の選び方まで測定条件つきで示す。