PC構成

GPU・グラフィックボード

NightRunとは?OSを入れずにローカルLLMを起動するUEFIアプリ|Raspberry Pi 5とx86 PC対応

NightRunとは、OSを起動せずローカルLLMだけを直接立ち上げるUEFIアプリケーション。NightRunは、USBメモリやmicroSDカードから起動して、Linuxカーネルもスケジューラもネットワークスタックも持たないまま、いきなりLLMのチャット画面まで到達する実験的なオープンソースプロジェクトです。
GPU・グラフィックボード

AI用PCでCPUはどこまで重要か|ローカルLLM・画像生成でGPUに予算を回す構成判断

AI用PCのCPUは、OSやモデル読み込み、前処理、GPUへの命令投入を担う土台役です。ローカルLLM・画像生成でCPUが効く場面と、GPU・VRAMへ予算を優先すべき構成判断を解説します。
GPU・グラフィックボード

ローカルLLMを2枚のGPUのVRAMプールで動かす|OCuLink接続の帯域ボトルネックを見極める

1枚に載らないローカルLLMを2枚のGPUで動かすとき、OCuLink接続では分割方式で速度が変わる。RTX 5080+5060 Ti(OCuLink)の実測では、単一生成でテンソル並列がレイヤー分割より速い場面があり、プロンプト処理では逆に遅かった。実機ベンチをもとに分割方式の選び方を解説する。
GPU・グラフィックボード

ローカルLLM常駐時のVRAM配分|他のAI作業と同時に回すと重みとKVキャッシュで詰まる

ローカルLLMのVRAM配分とは、重み・KVキャッシュ・一時確保の3枠に容量を割り振る設計。それなのに、常駐させたまま画像生成を回した瞬間に生成が始まらなくなる。この症状の原因は「VRAMが足りない」ではなく「配分を決めていない」ことにあります。
PC構成

GPUなしでローカルLLMは実用になるか|CPUのみ推論をi7実機で検証

GPUを使わずCPUだけでローカルLLMを動かし、1B〜35Bの生成速度・プロンプト処理時間・Ollama報告サイズをCore i7-14700F実機で実測。3〜8B級は実用域、27Bは2.97トークン/秒、MoEの35Bは14Bより速く、連続負荷では1〜2割落ちた。
GPU・グラフィックボード

Nemotron-3-Puzzle 75B-A9Bは手元のGPUで動かせるか

Nemotron-3-Puzzle 75B-A9Bとは、NVIDIAが圧縮したハイブリッドMoEの大規模言語モデル。「アクティブが9.3Bなら、手元の16GB GPUでも動くのでは」——そう考えて検索した人ほど、答えは期待とずれます。結論を先に置くと、このモデルを手元で気軽に動かすのは現時点で難しいです。
GPU・グラフィックボード

中古RTX 3090 24GBはローカルAIに買いか|24GBの価値を新品16GB(RTX 5060 Ti/5070 Ti)と正直に比べる

中古RTX 3090 24GBはローカルAIに買いか。24GB VRAMと約936GB/sの帯域という強みを、新品16GBのRTX 5060 Ti/5070 Tiと価格・消費電力・保証の面から正直に比較。16GBの壁に当たった人がCUDA対応の24GBを比較的安く得る有力候補と、その代償を整理する。
ComfyUI

ローカルAIのSSD・メモリ選びは「どこに効くか」が重要|VRAMとの役割分担を見極める

ローカルAIで速いSSDが効くのは主にモデルの読み込み時です。VRAM容量はモデルが収まるかを決め、生成速度はデコードなら主にVRAM帯域、プリフィルや画像生成ならGPU演算性能が左右します。SSD・メモリ・VRAMの役割分担を実測で整理します。
GPU・グラフィックボード

DiffusionGemmaをローカルで動かす|量子化時に約18GB VRAMで載る拡散LLM、自己回帰比で最大4倍速の理屈

DiffusionGemmaは、離散拡散(ブロック自己回帰型)で文章を生成するGoogle製オープンウェイトLLM。量子化時で約18GB VRAM、GPU上で自己回帰比・最大4倍速(Google公称)。KVキャッシュや対応ランタイム、16GB GPUで動くかまで公式一次情報で整理します。
GPU・グラフィックボード

AI用PCのマザーボードとPCIeレーンの選び方|2枚目のGPU・OCuLink eGPUで「帯域が足りない」を避ける構成

AI用PCで2枚目GPUやeGPUを足すときのマザーボード・PCIeレーンの選び方。AM5とIntel Core Ultra 200Sのレーン数、M.2との共有でGPUスロットが遅くなる罠、チップセット連結・BIOS設定、OCuLink(PCIe 4.0 x4)でも推論は帯域が足りることを実測で解説する。