ローカルLLM

Strata

Strataの思考設定none・low・medium・highを比べる｜Qwen3.8-Flash-NextをVRAM 16GBのRTX 5080で検証、noneとmediumは240Kトークンの長文でも

Strata で Qwen3.8-Flash-Next を使うときの思考設定 none・low・medium・high を、RTX 5080 で同じ問題を5回ずつ出して比べた。none が外した問題、high が出力の上限に達して答えを出さなかった回、約240K トークンの長文での値探しと計算の結果を載せている。
2026.10.10 AIハードウェア図鑑
StrataローカルAI環境ローカルLLM
LLM量子化・軽量化

Underdog Saluki 27BはVRAM何GBで動くか｜文脈長ごとの使用量、Ollama・LM Studioでの読み込み、Bonsai 2 27Bとの違い

Underdog Saluki 27B(Qwen3.8-27Bを8GB未満にしたGGUF、IQ2-mix)をRTX 5060 Ti・5080で実測。文脈の長さごとのVRAM、生成の速さ、Ollama・LM Studioでの読み込み、Claude Codeと税計算の結果をBonsai 2 27Bと並べた。
2026.10.10 AIハードウェア図鑑
LLM量子化・軽量化ローカルLLM
ローカルLLM

Qwen3.8-27BのNVFP4 GGUFをRTX 5080・5060 Tiで実測｜UD-IQ4_XSより速いのか、VRAM 16GBで文脈40Kまで比較

Qwen3.8-27BのNVFP4 GGUF 3本をRTX 5080・5060 Ti(VRAM 16GB)で実測。UD-IQ4_XSと生成・入力処理の速さ、共有メモリへのあふれを文脈40Kまで比べ、選び方をまとめた。RTX 4070 SUPERとClaude Codeでの結果も載せる。
2026.10.07 AIハードウェア図鑑
ローカルLLM
Strata

Strataで125BのQwen3.8-Flash-NextをVRAM 12GB・16GBで実測｜素のllama.cpp・27B・Claude Codeとも比較

VRAM 12GB・16GBのGPU 1枚とメインメモリ96GBの検証環境で、125BのQwen3.8-Flash-NextをStrataと素のllama.cppで実測。RTX 5080・5060 Ti・4070 SUPERでの速さ、2枚目のGPUの分け方、量子化の違い、Qwen3.8-27BやClaude Codeとの比較をまとめた。
2026.10.02 AIハードウェア図鑑
StrataローカルAI環境ローカルLLM
ローカルAI環境

llama-serverやOllamaを止めたのにVRAMが空かない｜Windowsで居残ったプロセスを見つけて止める方法

Windowsでllama-serverやOllamaを止めたのにVRAMが空かないときの対処。親だけが終わって居残った子のプロセスをPowerShellで見つけ、再起動せずに止める手順と、居残らせない起動の仕方・止め方をまとめた。止め方11通りで子が居残るかを試した結果も載せている。
2026.10.02 AIハードウェア図鑑
ローカルAI環境ローカルLLM
GPU・グラフィックボード

ローカルLLM用PCのおすすめスペック｜VRAM 16GBの3つの価格帯を構成と速さで比較

ローカルLLM用PCを、VRAM 16GBのRTX 5060 Ti・5070 Ti・5080の3つの価格帯で比べた。生成速度の実測と模擬値、完成品のよくある構成と価格の中央値、大きなモデルを使うならメインメモリを先に決める理由まで、買う前に知りたい点を初心者向けにまとめている。
2026.09.29 AIハードウェア図鑑
GPU・グラフィックボードPC構成ローカルLLM
PC構成

Threadripper Halo Stationの2.6TBは1つのメモリではない｜576GB HBM3eと2TB RDIMMを分けて読む

HBM3e最大576GB（144GB×4枚）とRDIMM最大2TBで合計2.6TB。帯域は16TB/sと410GB/sに分かれ、HBMに収まらない分の扱いは未公表。AMDがIFA 2026で公開したプロトタイプの公称値を、VRAM 16GBの手元から読む。
2026.09.22 AIハードウェア図鑑
PC構成ローカルAI環境ローカルLLM
GPU・グラフィックボード

Bonsai 2 27BはVRAM 16GBで動くか｜公称5.9GBの中身と、専用ビルドが要る理由を実測

PrismML が公開した Bonsai 2 27B を RTX 5080 16GB 単体で実測。標準の llama.cpp では読み込めず専用ビルドが要ること、配布される PTQ1_0 と PQ2_0 でプロンプト処理と生成の差の出方が変わること、公称5.9GBがどのファイルの値かを整理した。
2026.09.19 AIハードウェア図鑑
GPU・グラフィックボードLLM量子化・軽量化ローカルLLM
GPU・グラフィックボード

VRAM 12GBの壁はどこにあるか｜context・動画フレーム数・あふれた後の分かれ目を実測

VRAM 12GB のGPUでローカルLLMと動画生成をどこまで回せるかを実測。収まるのは14Bクラスまでで、収まらなくなった後の速度はdenseとMoEで約8〜14倍割れる。コンテキストの上限はKVキャッシュの量子化でほぼ倍ずつ伸びる。動画は9月9日の構成では168フレームで失敗したが、ComfyUIなどを更新した9月28日の構成では264フレームまで通った。
2026.09.13 AIハードウェア図鑑
GPU・グラフィックボードローカルAI環境ローカルLLM
ローカルLLM

指定できる文脈長と使える文脈長は違う｜Qwen3.8-27B を VRAM 16GB で実測

Qwen3.8-27B を VRAM 16GB 1枚で動かし、指定した文脈長が実際に使えるかを実測した。測った枠のうち 196,608 までは読み込みも生成も落ちず、262,144 だけが読み込みの途中で打ち切りになった。境目は専用VRAMの値には出ず、共有GPUメモリ側の増加として現れる。
2026.09.12 AIハードウェア図鑑
ローカルLLM
次のページ