GPU・グラフィックボード

DiffusionGemmaをローカルで動かす|量子化時に約18GB VRAMで載る拡散LLM、自己回帰比で最大4倍速の理屈

DiffusionGemmaは、離散拡散(ブロック自己回帰型)で文章を生成するGoogle製オープンウェイトLLM。量子化時で約18GB VRAM、GPU上で自己回帰比・最大4倍速(Google公称)。KVキャッシュや対応ランタイム、16GB GPUで動くかまで公式一次情報で整理します。
GPU・グラフィックボード

AI用途にGPUは2枚必要か|RTX 5080 + 5060 Ti + OCuLink外付けで2枚目の効果を実測

AI用途の2枚目GPUとは、速度でなくVRAM容量と同時実行を増やす手段である。基礎知識から接続構成、推論エンジンごとの帯域の効き方、そして実測データまで、AI用途でGPUを2枚にすべきか迷っている人が自分の用途で判断できるところまで一本で扱います。
GPU・グラフィックボード

AI用PCのマザーボードとPCIeレーンの選び方|2枚目のGPU・OCuLink eGPUで「帯域が足りない」を避ける構成

AI用PCで2枚目GPUやeGPUを足すときのマザーボード・PCIeレーンの選び方。AM5とIntel Core Ultra 200Sのレーン数、M.2との共有でGPUスロットが遅くなる罠、チップセット連結・BIOS設定、OCuLink(PCIe 4.0 x4)でも推論は帯域が足りることを実測で解説する。
GPU・グラフィックボード

AI用PCの冷却とケースの選び方|24時間のローカルAI運用でGPU温度・エアフロー・ケースサイズをどう決めるか

AI用PCの冷却とは、持続高負荷でもGPU温度と持続クロックを保つ設計。24時間ローカルAIを回すPCの冷却は、冷やすより先に発熱を下げるのが近道です。電力制限で発熱そのものを落とし、メッシュ前面と正圧で残った熱を捌き、最後にGPUが物理的に入るケースを選ぶ。
ComfyUI

AI用PCの電源(PSU)選び方|RTX 50世代の必要ワット数・12V-2×6・80 PLUSと「容量」と「電気代」の分け方

AI用PCの電源(PSU)選び方を実務目線で解説。容量はGPUのTGPではなくNVIDIA推奨システム電力(RTX 5080=850W/5060 Ti=600W・2026年7月時点)とトランジェント余裕で決めます。12V-2x6・ATX 3.1・80 PLUS効率と、「電源容量」と「電気代」を分けて考えるコツまで。
GPU・グラフィックボード

手元のGPUでローカルLLMをファインチューニングできるか

VRAM 16GBのGPUでローカルLLMをファインチューニングできるか。フル微調整・LoRA・QLoRAの必要VRAMの違いから、16GBで狙えるモデルサイズ・学習時間・Unslothの使いどころまで整理します。
GPU・グラフィックボード

ローカルLLMで長文を扱うとVRAMはどれだけ増えるか|16GBでKVキャッシュ膨張を実測し、あふれない設定を探る

KVキャッシュとは、LLMが処理済みトークンの中間状態を保持する作業メモリである。対応するマザーボードやGPUがあれば、ローカルAI環境は数分で立ち上がるところまで来ました。導入のハードルが下がった一方で、長い仕様書やソースコードを丸ごと貼り付けた瞬間に「VRAMが足りません」と落ちる。
GPU・グラフィックボード

Ornith-1.0をローカルで動かすには?9B〜397Bの必要VRAMとGPU選び【Dense/MoE別】

Ornith-1.0(DeepReinforce製、MITライセンス)を手元のGPUで動かす方法を解説。9B/31B Dense・35B/397B MoEのサイズ別メモリ目安を整理し、9B/35Bは当サイトのRTX 5080環境で実測。GPU選びとOllama起動手順も紹介します。
GPU・グラフィックボード

ZLUDA v6アップデート解説|商用資金終了でホビー化、AMD GPUのCUDA互換に32-bit PhysX pre-alpha対応

ZLUDAとは、non-NVIDIA GPU上でNVIDIA CUDA向けソフトを動かす互換レイヤーである。現状はAMD Radeon RX 5000シリーズ以降が主な対象で、v6では商用資金喪失と32-bit PhysX pre-alpha実装が話題になった。
ローカルAI環境

Whisperをローカルで動かす必要スペック|large-v3とturboの必要VRAM・文字起こし速度を実測

Whisperをローカルで動かす必要スペックを実測。large-v3とturboをfloat16・int8で比べ、必要VRAMはいずれも5GB未満で8GBのGPUでも動作、turboはlarge-v3の約2.5倍速だった。faster-whisperでの結果と用途別の選び方をまとめる。