コンテキスト長

Strata

Strataの思考設定none・low・medium・highを比べる｜Qwen3.8-Flash-NextをVRAM 16GBのRTX 5080で検証、noneとmediumは240Kトークンの長文でも

Strata で Qwen3.8-Flash-Next を使うときの思考設定 none・low・medium・high を、RTX 5080 で同じ問題を5回ずつ出して比べた。none が外した問題、high が出力の上限に達して答えを出さなかった回、約240K トークンの長文での値探しと計算の結果を載せている。
2026.10.10 AIハードウェア図鑑
StrataローカルAI環境ローカルLLM
GPU・グラフィックボード

VRAM 12GBの壁はどこにあるか｜context・動画フレーム数・あふれた後の分かれ目を実測

VRAM 12GB のGPUでローカルLLMと動画生成をどこまで回せるかを実測。収まるのは14Bクラスまでで、収まらなくなった後の速度はdenseとMoEで約8〜14倍割れる。コンテキストの上限はKVキャッシュの量子化でほぼ倍ずつ伸びる。動画は9月9日の構成では168フレームで失敗したが、ComfyUIなどを更新した9月28日の構成では264フレームまで通った。
2026.09.13 AIハードウェア図鑑
GPU・グラフィックボードローカルAI環境ローカルLLM
ローカルLLM

指定できる文脈長と使える文脈長は違う｜Qwen3.8-27B を VRAM 16GB で実測

Qwen3.8-27B を VRAM 16GB 1枚で動かし、指定した文脈長が実際に使えるかを実測した。測った枠のうち 196,608 までは読み込みも生成も落ちず、262,144 だけが読み込みの途中で打ち切りになった。境目は専用VRAMの値には出ず、共有GPUメモリ側の増加として現れる。
2026.09.12 AIハードウェア図鑑
ローカルLLM