VRAM 16GB

Strata

Strataの思考設定none・low・medium・highを比べる|Qwen3.8-Flash-NextをVRAM 16GBのRTX 5080で検証、noneとmediumは240Kトークンの長文でも

Strata で Qwen3.8-Flash-Next を使うときの思考設定 none・low・medium・high を、RTX 5080 で同じ問題を5回ずつ出して比べた。none が外した問題、high が出力の上限に達して答えを出さなかった回、約240K トークンの長文での値探しと計算の結果を載せている。
LLM量子化・軽量化

Underdog Saluki 27BはVRAM何GBで動くか|文脈長ごとの使用量、Ollama・LM Studioでの読み込み、Bonsai 2 27Bとの違い

Underdog Saluki 27B(Qwen3.8-27Bを8GB未満にしたGGUF、IQ2-mix)をRTX 5060 Ti・5080で実測。文脈の長さごとのVRAM、生成の速さ、Ollama・LM Studioでの読み込み、Claude Codeと税計算の結果をBonsai 2 27Bと並べた。
AI画像生成

Z-Image-TurboをVRAM 16GBで動かす|nvfp4・int8・bf16はどれを選ぶか、生成時間と画像の違いをRTX 5080・5060 Tiで比較

Z-Image-TurboをComfyUIでRTX 5080・5060 Ti(VRAM 16GB)に載せて実測。画像モデル本体3種(bf16・int8_convrot・nvfp4)とテキストエンコーダ3種の9通りで、速さ・VRAMとメインメモリの使い方・同じseedでの画像の違いを比べ、目的別の選び方をまとめた。
ローカルLLM

Qwen3.8-27BのNVFP4 GGUFをRTX 5080・5060 Tiで実測|UD-IQ4_XSより速いのか、VRAM 16GBで文脈40Kまで比較

Qwen3.8-27BのNVFP4 GGUF 3本をRTX 5080・5060 Ti(VRAM 16GB)で実測。UD-IQ4_XSと生成・入力処理の速さ、共有メモリへのあふれを文脈40Kまで比べ、選び方をまとめた。RTX 4070 SUPERとClaude Codeでの結果も載せる。
GPU・グラフィックボード

Nemotron 3 Embed 8Bを16GB×2枚で動かす|NVLinkの無いRTX 5080+5060 Tiではテンソル並列よりパイプライン並列が速かった

VRAM 16GB 1枚では実用にならなかった埋め込みモデル Nemotron-3-Embed-8B-BF16 を、RTX 5080 と OCuLink 外付けの RTX 5060 Ti の2枚で vLLM に載せて実測。テンソル並列・パイプライン並列・CPUオフロードの速さと起動の仕方をまとめた。
Strata

Strataで125BのQwen3.8-Flash-NextをVRAM 12GB・16GBで実測|素のllama.cpp・27B・Claude Codeとも比較

VRAM 12GB・16GBのGPU 1枚とメインメモリ96GBの検証環境で、125BのQwen3.8-Flash-NextをStrataと素のllama.cppで実測。RTX 5080・5060 Ti・4070 SUPERでの速さ、2枚目のGPUの分け方、量子化の違い、Qwen3.8-27BやClaude Codeとの比較をまとめた。
AI画像生成

Ming-Image-0.1-DesignをVRAM 16GBで動かす|透過PNGは2048×2048で抜けやすく、プロンプト拡張は既定のmtp設定のままだと止まる

Ming-Image-0.1-DesignをComfyUIとVRAM 16GBで実測。配布ファイルの4つの組み合わせの所要時間とメインメモリ、背景が透明なPNGが抜けやすい解像度、公式テンプレートのプロンプト拡張を動かす設定をRTX 5080・5060 Tiで確かめた。
GPU・グラフィックボード

ローカルLLM用PCのおすすめスペック|VRAM 16GBの3つの価格帯を構成と速さで比較

ローカルLLM用PCを、VRAM 16GBのRTX 5060 Ti・5070 Ti・5080の3つの価格帯で比べた。生成速度の実測と模擬値、完成品のよくある構成と価格の中央値、大きなモデルを使うならメインメモリを先に決める理由まで、買う前に知りたい点を初心者向けにまとめている。
AI動画生成

Wan Animate 2をVRAM 16GBで動かす|PyTorchのバージョンとキャッシュの置き場で所要が変わる実測

Wan Animate 2 を VRAM 16GB の RTX 5080・5060 Ti で動かした実測。480×848・81フレームはどの設定でも生成でき、所要を最も大きく変えたのは PyTorch の CUDA 版だった。キャッシュの置き場ごとの所要とホストRAMもまとめた。
AI画像生成

Qwen-Image-2.1をVRAM 16GBで動かす|30GiBのbf16も動く、量子化版はPyTorch cu130なら速い実測

Qwen-Image-2.1 のファイル一式は組み合わせで13.27〜30.21GiB。合計30.21GiB の bf16 同士も16GBのカードで生成できた。PyTorch cu130 版では量子化版が bf16 同士より1.7〜2.3倍速く、cu128 版では逆に遅かった理由もまとめた。