ローカルLLM

ローカルLLMでゲームやコードは自作できるか|完全オフライン・反復前提で27〜30B級モデルが到達できる範囲

完全オフラインのローカルLLMでゲームやコードは自作できるのか?Redditで話題になった27B級モデルの想定を踏まえつつ、Qwen3-Coder-30B-A3Bを例に、反復とタスク分解を前提とした開発手法の可能性と、RTX 5080など最新GPUのVRAM要件(量子化)を、海外コミュニティの議論を交えて解説します。
GPU・グラフィックボード

ComfyUI用の画像モデルGGUFをggufyで自作する|SDXL量子化のサイズ・VRAM・速度を実測

ComfyUIで使う画像モデルのGGUF量子化版を、単体ツールggufyで自作する手順と実測。SDXLでサイズ・所要時間・RAM(約90MB/ComfyUI内ノードは96GB+)を計測し、ComfyUIで実生成してVRAMと生成速度も実測。
GPU・グラフィックボード

ローカルLLMの量子化フォーマットの選び方|Q4_K_M〜Q8・QATを精度・サイズと16GB VRAMで見極める

量子化フォーマットとは、LLMの重みを低ビットに圧縮し容量と速度を稼ぐ方式。 Hugging Faceで同じモデルのページを開くと、量子化の種類がずらりと並びます。Q4_K_M、Q5_K_M、Q6_K、Q8_0、さらにQAT版――名前だけでは何がどう違うのか、すぐには判断できません。
ComfyUI

ComfyUIをPython不要・APIなしで自動化する方法|非エンジニアでもできる辞書式自動化入門

ComfyUIの自動化はPythonやAPIがなくても始められる。非エンジニア向けに、プロンプトやseed・steps・cfgを1行のテキストにまとめてノードへ配る「辞書式自動化」を、最小構成から応用、チャットAIでの整形まで実例付きで解説する。LTX系の動画生成プロンプトの実例も収録。
ローカルAI環境

ローカルVLMでデスクトップ操作を自動化|OmniParser前処理で視覚トークン負荷を抑える

ローカルVLMでデスクトップを自動化する際、スクショ直渡しでは視覚トークンが膨らみ処理が重くなります。OmniParser型の前処理でUI要素を構造化すれば視覚トークンを大きく減らせ、未検証のコミュニティ報告では5〜10倍とも(削減幅は実装しだい)。ローカルでGUI操作を自動化するヒントを解説します。
ComfyUI

FLUX.2 Klein 9BをVRAM 16GBで実測|RTX 5080・5060 TiでQ8_0 GGUFの速度とVRAMを比較

Black Forest LabsのFLUX.2 Klein 9BをQ8_0 GGUF量子化でVRAM 16GBのRTX 5080とRTX 5060 Tiで実測。1024px・4ステップを1枚約8秒(5080)/14.5秒(5060Ti)で生成し、VRAM・消費電力・GPU使用率をseed付きで比較した。
GPU・グラフィックボード

qwen3-coder:30bをローカルで動かす実測|当サイト検証で最速級のコーディングLLM(145 tok/s)に必要なVRAMと選び方

qwen3-coder:30bとは、コーディング用途に特化したオープンソースのローカルLLMである。 ローカルでコード生成・補完・エージェント用途を回すなら、qwen3-coder:30bは現状もっとも速い選択肢のひとつです。当サイトの検証...
GPU・グラフィックボード

ローカルLLMの電力あたり生成速度を実測|両GPU合算電力でMoEはdense型の何倍効率的か(RTX 5080+5060 Ti)

電力あたり生成速度とは、消費電力1ワットで1秒間に生成できるトークン数です。本記事では、PC全体の壁コンセント消費電力ではなく、RTX 5080とRTX 5060 Tiの両GPUを合算した推論中ピークboard power(GPUボード単体...
GPU・グラフィックボード

RTX 5060 Ti 16GBでどこまでできる?ローカルLLM・AIコーディングの実用域とVRAM 16GBの選び方

RTX 5060 Ti 16GBでローカルAIはどこまでできるか。7B〜14BのローカルLLMは快適に動き、量子化した中型モデルも16GBにギリギリ収まる。Claude CodeなどクラウドAIはGPU不要。CUDA環境で低コストに16GBを確保できる入門GPUの実用域と選び方を実測ベースで解説します。
GPU・グラフィックボード

VRAM 16GBで動かすローカルLLM完全ガイド|モデル別の早見表と「収まる・あふれる」の境界を実測で解説

VRAM 16GBのGPUで動くローカルLLMを、モデル別の早見表で整理。量子化を前提にすれば7B〜14B級は快適、32B級は条件次第、70B級は16GB単体では厳しい。RTX 5080実機の実測値をもとに、収まる・あふれる・動かないの境界を解説します。