GPU・グラフィックボード

手元のGPUでローカルLLMをファインチューニングできるか

VRAM 16GBのGPUでローカルLLMをファインチューニングできるか。フル微調整・LoRA・QLoRAの必要VRAMの違いから、16GBで狙えるモデルサイズ・学習時間・Unslothの使いどころまで整理します。
2026.07.10 AIハードウェア図鑑 編集部
GPU・グラフィックボードPC構成ローカルAI環境
GPU・グラフィックボード

ローカルLLMで長文を扱うとVRAMはどれだけ増えるか｜16GBでKVキャッシュ膨張を実測し、あふれない設定を探る

KVキャッシュとは、LLMが処理済みトークンの中間状態を保持する作業メモリである。対応するマザーボードやGPUがあれば、ローカルAI環境は数分で立ち上がるところまで来ました。導入のハードルが下がった一方で、長い仕様書やソースコードを丸ごと貼り付けた瞬間に「VRAMが足りません」と落ちる。
2026.07.09 AIハードウェア図鑑 編集部
GPU・グラフィックボードPC構成ローカルAI環境
GPU・グラフィックボード

Ornith-1.0をローカルで動かすには？9B〜397Bの必要VRAMとGPU選び【Dense/MoE別】

Ornith-1.0（DeepReinforce製、MITライセンス）を手元のGPUで動かす方法を解説。9B/31B Dense・35B/397B MoEのサイズ別メモリ目安を整理し、9B/35Bは当サイトのRTX 5080環境で実測。GPU選びとOllama起動手順も紹介します。
2026.07.08 AIハードウェア図鑑 編集部
GPU・グラフィックボードローカルLLM基礎知識
未分類

ZLUDA v6アップデート解説｜商用資金終了でホビー化、AMD GPUのCUDA互換に32-bit PhysX pre-alpha対応

ZLUDAとは、non-NVIDIA GPU上でNVIDIA CUDA向けソフトを動かす互換レイヤーである。現状はAMD Radeon RX 5000シリーズ以降が主な対象で、v6では商用資金喪失と32-bit PhysX pre-alpha実装が話題になった。
2026.07.07 AIハードウェア図鑑 編集部
未分類
ローカルAI環境

Whisperをローカルで動かす必要スペック｜large-v3とturboの必要VRAM・文字起こし速度を実測

Whisperをローカルで動かす必要スペックを実測。large-v3とturboをfloat16・int8で比べ、必要VRAMはいずれも5GB未満で8GBのGPUでも動作、turboはlarge-v3の約2.5倍速だった。faster-whisperでの結果と用途別の選び方をまとめる。
2026.07.06 AIハードウェア図鑑 編集部
ローカルAI環境
GPU・グラフィックボード

ローカルAIにシステムRAMは何GB必要か｜LLM推論と画像生成の消費量を96GB実機で実測

参考資料 llama.cpp 公式リポジトリ（GitHub） Unsloth: Qwen3-Coder-30B-A3B-Instruct GGUF モデルカード（量子化別ファイルサイズ） ComfyUI 公式リポジトリ（GitHub） KitGuru: Geekom A9 Max 2026 Mini PC Revie…
2026.07.05 AIハードウェア図鑑 編集部
GPU・グラフィックボードPC構成ローカルAI環境
GPU・グラフィックボード

RTX 50 SUPER（24GB）を待つべきか｜LLMは速度・ComfyUIはできることが変わる【2026年6月】

噂のRTX 50 SUPER（VRAM 24GB）を待つべきか。RTX 5080・5060 Tiの16GB実測をもとに、LLMでは速度、ComfyUIの画像・動画では「できること」が変わる差を用途別に整理。24GBでも足りない大型モデルの線引きと、デュアルGPUという代替手段まで解説します（2026年6月時点）。
2026.07.04 AIハードウェア図鑑 編集部
GPU・グラフィックボードローカルAI環境
GPU・グラフィックボード

Nemotron 3 Nanoを16GBで実測｜Mambaハイブリッドの生成速度とVRAM、Qwen3.6 35B-A3Bと比較（RTX 5080/5060 Ti）

NVIDIA Nemotron 3 Nano（4B/30B-A3B）をRTX 5080・5060 Ti（16GB）でローカル実測。Mamba-2系ハイブリッドの生成速度・VRAM・必要構成を別系統の活性3B級MoE qwen3.6:35b-a3bと比較。4Bは16GBで205 tok/s。
2026.07.03 AIハードウェア図鑑 編集部
GPU・グラフィックボードローカルAI環境
ComfyUI

Krea 2をローカルで動かす要件とライセンス｜12B画像モデルの必要VRAMと量子化（ComfyUI）

Krea 2は12Bのオープンウェイト画像モデル（RAW/Turbo）。無量子化のBF16は本体26.3GBと大きく24GBにも収まらず、現実的な下限は32GBのRTX 5090級。16GBはFP8量子化で対応。ライセンスは年商100万ドル未満なら商用可など条件付き。
2026.07.02 AIハードウェア図鑑 編集部
ComfyUIローカルAI環境
ComfyUI

Ideogram 4.0をローカルで動かす要件とライセンス｜9.3BオープンウェイトをComfyUIで実行する

Ideogram 4.0は9.3Bのオープンウェイト画像モデル。FP8構成は合計約30GB前後で、VRAM 16GBでも動く範囲にある。ただし重みは非商用ライセンスで、収益化サイトへの生成画像の利用は別途許諾が要る。ローカル実行の構成とライセンスの線引きを配布元の条文に沿って整理する。
2026.07.01 AIハードウェア図鑑 編集部
ComfyUIGPU・グラフィックボード
次のページ