量子化

AI画像生成

Z-Image-TurboをVRAM 16GBで動かす|nvfp4・int8・bf16はどれを選ぶか、生成時間と画像の違いをRTX 5080・5060 Tiで比較

Z-Image-TurboをComfyUIでRTX 5080・5060 Ti(VRAM 16GB)に載せて実測。画像モデル本体3種(bf16・int8_convrot・nvfp4)とテキストエンコーダ3種の9通りで、速さ・VRAMとメインメモリの使い方・同じseedでの画像の違いを比べ、目的別の選び方をまとめた。
ローカルLLM

Qwen3.8-27BのNVFP4 GGUFをRTX 5080・5060 Tiで実測|UD-IQ4_XSより速いのか、VRAM 16GBで文脈40Kまで比較

Qwen3.8-27BのNVFP4 GGUF 3本をRTX 5080・5060 Ti(VRAM 16GB)で実測。UD-IQ4_XSと生成・入力処理の速さ、共有メモリへのあふれを文脈40Kまで比べ、選び方をまとめた。RTX 4070 SUPERとClaude Codeでの結果も載せる。
GPU・グラフィックボード

VRAM 16GBで動かすローカルLLM完全ガイド|モデル別の早見表と「収まる・あふれる」の境界を実測で解説

VRAM 16GBのGPUで動くローカルLLMを、モデル別の早見表で整理。量子化を前提にすれば7B〜14B級は快適、32B級は条件次第、70B級は16GB単体では厳しい。RTX 5080実機の実測値をもとに、収まる・あふれる・動かないの境界を解説します。