ローカルAI環境

画像・動画・LLMなどのAIをローカルで動かす環境づくりを横断して扱います。

GPUだけでなく、OS、メモリ、ストレージ、運用上の詰まりどころまで確認できます。

GPU・グラフィックボード

Nemotron 3 Embed 8Bを16GB×2枚で動かす|NVLinkの無いRTX 5080+5060 Tiではテンソル並列よりパイプライン並列が速かった

VRAM 16GB 1枚では実用にならなかった埋め込みモデル Nemotron-3-Embed-8B-BF16 を、RTX 5080 と OCuLink 外付けの RTX 5060 Ti の2枚で vLLM に載せて実測。テンソル並列・パイプライン並列・CPUオフロードの速さと起動の仕方をまとめた。
ローカルAI環境

Strataで125BのQwen3.8-Flash-NextをVRAM 12GB・16GBで実測|素のllama.cpp・27B・Claude Codeとも比較

VRAM 12GB・16GBのGPU 1枚とメインメモリ96GBの検証環境で、125BのQwen3.8-Flash-NextをStrataと素のllama.cppで実測。RTX 5080・5060 Ti・4070 SUPERでの速さ、2枚目のGPUの分け方、量子化の違い、Qwen3.8-27BやClaude Codeとの比較をまとめた。
ローカルAI環境

llama-serverやOllamaを止めたのにVRAMが空かない|Windowsで居残ったプロセスを見つけて止める方法

Windowsでllama-serverやOllamaを止めたのにVRAMが空かないときの対処。親だけが終わって居残った子のプロセスをPowerShellで見つけ、再起動せずに止める手順と、居残らせない起動の仕方・止め方をまとめた。止め方11通りで子が居残るかを試した結果も載せている。
AI音楽・音声

F5-TTSをローカルで動かす必要スペック|RTX 5080・5060 TiでVRAMと生成時間を実測

F5-TTSをローカルで動かすのに要るGPUメモリと生成時間を、RTX 5080とRTX 5060 Tiで実測した。VRAMを一番使うのは生成中ではなくモデルの読み込み中で、既定のチェックポイントでは約1,990 MiB。生成時間は2枚で1.73倍から1.99倍の差がついた。
PC構成

Threadripper Halo Stationの2.6TBは1つのメモリではない|576GB HBM3eと2TB RDIMMを分けて読む

HBM3e最大576GB(144GB×4枚)とRDIMM最大2TBで合計2.6TB。帯域は16TB/sと410GB/sに分かれ、HBMに収まらない分の扱いは未公表。AMDがIFA 2026で公開したプロトタイプの公称値を、VRAM 16GBの手元から読む。
GPU・グラフィックボード

VRAM 12GBの壁はどこにあるか|context・動画フレーム数・あふれた後の分かれ目を実測

VRAM 12GB のGPUでローカルLLMと動画生成をどこまで回せるかを実測。収まるのは14Bクラスまでで、収まらなくなった後の速度はdenseとMoEで約8〜14倍割れる。コンテキストの上限はKVキャッシュの量子化でほぼ倍ずつ伸びる。動画は9月9日の構成では168フレームで失敗したが、ComfyUIなどを更新した9月28日の構成では264フレームまで通った。
PC構成

ローカルAIでSSDは何TB要るか|ComfyUI・Ollama・生成物で容量はどこに消えるか

当サイトの検証環境の2TB SSDを全ファイル数えた結果。AI関連は1326.9GBで、内訳はComfyUIのモデル440.6GB・Ollamaの層286.6GB・生成物168.4GB。見かけの合計が実消費より358.8GB大きく出る理由と、必要量を自分の構成から積み上げる手順まで示す。
AI動画生成

MiniMax H3の条件付けを使い回すと速くなるか|VRAM 16GB実測、縮むのはプロセスを立て直したときだけ

MiniMax H3の条件付けをディスクに保存して使い回すと所要時間がどう変わるかを、RTX 5080とRTX 5060 Tiで実測。同じカードで作った条件付けなら出力は1フレームも変わらないが、別のカードのものを読ませると全フレームが変わった。
ローカルAI環境

AIは民主化するのか|モデルが無料になっても、計算資源は無料にならない

オープンウェイトモデルの性能が上がっても、AIが誰にでも開かれるとは限りません。753B級のGLM-5.2はUnsloth配布のUD-IQ1_Sでも約217GBあり、家庭向けGPUのVRAMとは桁が違います。広がるのは性能の差ではなく、選べる手段の差です。実測をもとに整理します。
ComfyUI

ComfyUIで使えるVRAMを絞ると画像・動画生成は遅くなるか|ピークは測った全74組で下がるが、時間が増えたと言えたのは判定できた6構成のうち1つだけ

ComfyUI の --reserve-vram を 1.5GB→12GB に増やし、画像・動画7構成を RTX 5080 16GB で実測。ピークは全74組で下がったが、生成時間の増加を検出できたのは判定できた6構成のうち1つだけ。