ハードウェア

VRAMに収まらないMoEモデルのデコードが約2倍になった｜FreeTokenとOllamaをRTX 5080で実測比較

VRAM 16GBに収まらない35B級のMoEモデルを、推論エンジンをFreeTokenに替えて実測した。デコードは約2倍になる一方で最初のトークンまでは遅く、約44〜50トークンで総時間が逆転する。RTX 5080での実測値と導入の条件をまとめた。
2026.08.24 AIハードウェア図鑑
ハードウェア
ハードウェア

NVIDIA DGX Sparkは買いか｜16GB GPUを実測し公開ベンチと突き合わせて見えた、128GBが効く条件

DGX Spark(GB10)とRTX 5080/5060 Tiを同一のllama-bench条件で実測。VRAMに収まる範囲と収まらない範囲で優劣がどう変わるか、dense/MoEで結論が分かれる理由を実測値で示す。
2026.08.23 AIハードウェア図鑑
ハードウェア
ローカルLLM

「Qwen3.8-4B」は使えるか｜土台のQwen3.5-4Bと同条件でRTX 5080/5060 Ti実測

「Qwen3.8-4B」は公式のQwen3.8ではなくQwen3.5-4Bを土台にした第三者蒸留。RTX 5080と5060 Tiで土台と同条件比較すると、生成速度も必要VRAMもほぼ同じで、短答では思考トークンが中央値で約10分の1から30分の1だった。
2026.08.22 AIハードウェア図鑑
ローカルLLM
GPU・グラフィックボード

2.6BのローカルLLMで128Kの文脈は張れるか｜LFM2.5-2.6Bの必要VRAMを16GB GPUとCPUのみで実測

LFM2.5-2.6BをRTX 5060 TiとCPUのみで実測。131,072トークンを張っても必要VRAMは3,970 MiBで、KVキャッシュは1トークンあたり16.00 KiB。同条件の密なTransformerは16GBに収まらない。層構成が長文脈のメモリを決める仕組みを実測値で示す。
2026.08.21 AIハードウェア図鑑
GPU・グラフィックボードPC構成ローカルAI環境
GPU・グラフィックボード

ローカルLLM推論時のGPU電力を実測｜RTX 5080・5060 Tiの1枚／2枚構成を比較

ローカルLLMの推論中にGPUが実際に何W使うかを、RTX 5080とRTX 5060 Tiで1枚ずつ実測した。公称TDPとの余裕はカードごとに違う。2枚目を足した時の変化と、電源容量に見込む数字の選び方まで測定条件つきで示す。
2026.08.18 AIハードウェア図鑑
GPU・グラフィックボード
GPU・グラフィックボード

ASUS UGen300はローカルLLMに使えるか｜Hailo-10H搭載USBアクセラレータで動くモデルの範囲

ASUS UGen300はHailo-10Hと専用メモリ8GBを積んだUSB接続のAIアクセラレータ。動かせるLLMはHailoが配布するコンパイル済みモデルに限られ、その範囲と速度、GPUとの使い分けを一次情報で整理する。
2026.08.16 AIハードウェア図鑑
GPU・グラフィックボードPC構成ローカルAI環境
ローカルLLM

Qwen3.8-27BをVRAM 16GBで実測｜量子化3種の必要VRAMと起動オプションの差

Qwen3.8-27B の必要VRAMを、重み・KVキャッシュ・線形アテンション状態・計算バッファの内訳まで実測。量子化3種を16GBで動かし、起動オプションひとつで必要量が449MiB動くこと、載ったかどうかは生成速度と消費電力の組でしか判別できなかったことを RTX 5060 Ti・5080 で確かめた。
2026.08.15 AIハードウェア図鑑
ローカルLLM
ComfyUI

MiniMax Music 3をVRAM 16GBで動かす｜RTX 5080実測、ピークVRAMは必要量ではない

MiniMax Music 3をRTX 5080 16GBのComfyUI構成で実測。4条件はいずれも60秒指定の生成を完走したが、観測されたピークVRAMは必要量ではない。使えるVRAMを削る掃引、1曲の所要時間の内訳、日本語ボーカルの歌詞追従までを測定値で示す。
2026.08.15 AIハードウェア図鑑
ComfyUIローカルAI環境
GPU・グラフィックボード

TTFTとは何を測っているのか｜内訳を分けて2枚のGPUで実測すると、動く部分と動かない部分が分かれる

ローカルLLMのTTFTは、どの時点を「最初のトークン」と数えるか、未ロードから測ったかで値が桁で変わる。RTX 5060 Tiと5080で7モデルを実測すると、初回は95〜99%がモデルの読み込みだった。GPU差が素直に出る部分は、この指標にほとんど乗らない。
2026.08.15 AIハードウェア図鑑
GPU・グラフィックボードローカルAI環境
PC構成

Muse Glimmer 30BをVRAM 16GBで動かす｜全52層が載る条件とDFlashの効き方をRTX 5080・5060 Tiで実測

Meta の Muse Glimmer 30B を VRAM 16GB クラスで実測。公式想定は24GBだが、表示に使っていない16GB 1枚では全層を載せる指定で毎秒24.61トークン。層数・総コンテキスト指定・DFlash の効き方を llama.cpp b10356 で測った記録。
2026.08.12 AIハードウェア図鑑
PC構成
次のページ