ローカルAI環境

GPU・グラフィックボード

DDR5メモリはクロックとレイテンシのどちらを優先すべきか

DDR5メモリは『クロック(6400MT/s)』と『低レイテンシ(CL30)』のどちらを優先すべきか。判断軸は2つ——AMD環境で1:1(UCLK=MCLK)が維持できるか、用途がGPU常駐のローカルAIかCPUオフロードを含む高負荷処理か。ゲームでは体感差は小さく、AIではCPUオフロード時に帯域が効いてきます。
2026.06.09 AIハードウェア図鑑 編集部
GPU・グラフィックボードPC構成ローカルAI環境
GPU・グラフィックボード

VRAM 16GBでローカルLLMのコンテキスト長はどこまで伸ばせるか｜KVキャッシュ量子化の実測

長文入力でつまずくとき、モデル本体とは別に、コンテキスト側のKVキャッシュがVRAMを食い尽くしているのが主因になっていることがある。前回、VRAM 16GBのGPUでGemma 4 12Bを動かす記事を書いた。モデル本体さえ16GBに収ま...
2026.06.06 AIハードウェア図鑑 編集部
GPU・グラフィックボードローカルAI環境ローカルLLM
GPU・グラフィックボード

VRAM 16GBでGemma 4 12Bを動かす｜RTX 5080/5060 Ti実測の速度・VRAMと16GB級LLMの選び方

Google が Gemma 4 12B を公開したのが 2026 年 6 月 3 日。エンコーダを持たない統合型のマルチモーダルモデルで、Google 自身が「16GB の VRAM またはユニファイドメモリを積んだノートで動く」サイズだ...
2026.06.04 AIハードウェア図鑑 編集部
GPU・グラフィックボードPC構成ローカルAI環境
GPU・グラフィックボード

ローカルLLMの量子化はどれを選ぶか｜Q4_K_M・Q8_0・FP16のVRAMと速度を実測比較

Ollama でモデルを探していると、同じモデル名でもタグがいくつも並んでいることに気づく。たとえば llama3.2:3b を引こうとすると、3b-instruct-q4_K_M や 3b-instruct-q8_0、3b-instruc...
2026.06.03 AIハードウェア図鑑 編集部
GPU・グラフィックボードローカルAI環境ローカルLLM
GPU・グラフィックボード

デュアルGPUでローカルLLMを動かす｜Ollama自動分散の実測と二枚目が遊ぶ落とし穴（RTX 5080+5060 Ti）

デュアルGPU(RTX 5080 + RTX 5060 Ti)で、16GBに載らない大型ローカルLLM(qwen3.5:35b-a3b 等)を動かした実測。Ollamaは設定なしで自動的に二枚へ分散し、筆者環境・Ollama 0.23.3・num_ctx=4096では100% GPUロードでqwen 約93・gemma 約109 tok/s を確認。OLLAMA_SCHED_SPREADは通常不要。複数serve競合で二枚目が遊ぶ落とし穴も解説する。
2026.06.02 AIハードウェア図鑑 編集部
GPU・グラフィックボードPC構成ローカルAI環境
GPU・グラフィックボード

VRAM 16GB GPU を選ぶなら｜AI 用途別に比較

この記事では VRAM 16GB モデルの GPU の選び方を解説する。 当サイトの検証環境では RTX 5080・RTX 5060 Ti という 16GB モデル 2 枚と、 RTX 4070 SUPER (12GB) を用途別に使い分け...
2026.05.27 AIハードウェア図鑑 編集部
GPU・グラフィックボードPC構成ローカルAI環境
GPU・グラフィックボード

Qwen3.6-35B-A3B とは？MoE型マルチモーダル LLM のローカル実行ガイド

Qwen3.6-35B-A3B は総350億・動作30億パラメータのMoE型マルチモーダルLLMである。FP8版34.87GBでRTX 5090級のローカル実行が可能で、視覚言語タスクに向いている。スペックと実行環境を整理する。
2026.05.23 AIハードウェア図鑑 編集部
GPU・グラフィックボードローカルAI環境
GPU・グラフィックボード

ローカルLLMとは？自分のPCでAIを動かす仕組みと始め方を初心者向けに解説

ChatGPTやClaudeのようなAIをインターネット接続なしで自分のPCで動かせる「ローカルLLM」。仕組みやGPUのVRAM容量、量子化レベルの選び方、OllamaとLM Studioの導入手順、トラブル対処までを公式ソース付きで初心者向けに一本でカバーする。
2026.05.23 AIハードウェア図鑑 編集部
GPU・グラフィックボードローカルAI環境基礎知識
GPU・グラフィックボード

VRAMとは？AI用途で必要な容量の目安をわかりやすく解説

ローカルでAIを動かす際に最重要となるVRAM（GPU専用メモリ）の基本から、ローカルLLM・画像生成・動画生成・ファインチューニングの用途別必要容量、量子化方式やKVキャッシュとの関係、おすすめGPUまで一次ソース付きで解説します。
2026.05.23 AIハードウェア図鑑 編集部
GPU・グラフィックボードローカルAI環境
GPU・グラフィックボード

llama.cpp b9145解説｜Intel ArcのSYCLメモリ二重消費を約9分の1に削減

llama.cpp b9145とは、SYCLバックエンドのメモリ二重消費を解消した修正リリース。 Intel Arc GPUでローカルLLMを動かすと、VRAMに余裕があるはずなのにシステムRAMが先に枯渇してOOMで落ちる。この奇妙な現象に2026年5月14日、ggml-org/llama.cppリリース「b914…
2026.05.21 AIハードウェア図鑑 編集部
GPU・グラフィックボードPC構成ローカルAI環境
次のページ