ローカルAI環境

GPU・グラフィックボード

Ollamaを常駐・並列運用する実運用設定|OLLAMA_NUM_PARALLEL・keep_alive・モデル切替時のVRAM挙動をRTX 5080で実測

Ollamaの常駐運用とは、モデルをVRAMに保持して再ロードを省く設定のこと。16GB級のGPUでOllamaを常駐・並列で回すとき、運用時に触る頻度が高い設定は3つ。keep_alive(APIリクエストのパラメータ。サーバー全体ではO...
GPU・グラフィックボード

ローカルLLM推論エンジン比較|Ollama・llama.cpp・LM Studio・vLLMの選び方

Ollama, llama.cpp, LM Studio, vLLMの4大ローカルLLM推論エンジンを、速度・手軽さ・マルチGPU対応の3軸で徹底比較。RTX 5080+5060 Ti環境での実測データも交え、LM Studioのテンソル並列対応がもたらす影響や、あなたの環境に最適なエンジンの選び方を解説します。
ローカルAI環境

Thunderbolt 5でローカルAIを外付け強化する選択肢

OWC Stack AIは、Thunderbolt 5でローカルAIを外付け強化するアクセラレータ兼ストレージハブ。2026年5月21日発表、価格・詳細スペックは未公開です。VRAMの壁を外付けで越える発想の意味と、TB5の帯域が内蔵直結に劣る現実を、eGPU/Oculink運用の実感から整理します。
GPU・グラフィックボード

Ollama 0.30系は本当に遅いのか? RTX 5080/5060 Tiで速度低下とCPUオフロードの罠を検証

Ollama 0.30系は本当に遅いのか。RTX 5080/5060 Tiで0.23.3・0.30.6・0.30.7を実測比較。0.30.6のqwen3:8b速度低下は0.30.7で回復し、体感の正体はnum_ctx自動拡大・GPU配置・CPUオフロードだと切り分け、gemma4:12b対応も解説します。
GPU・グラフィックボード

AIコーディング用ローカルLLMの必要スペック|RTX 5080実機で7B〜14B級のVRAMと速度を実測

AI支援コーディング向けPCはクラウドAPI型とローカルLLM型で要件が分かれます。Claude Code等はGPU不要でCPU・RAM・SSDが効き、ローカル併用はVRAM容量が律速。RTX 5080 16GB実機で7B〜14B級を実測し、用途・予算別の実用スペックを整理しました。
ローカルAI環境

デュアルGPUでローカルLLMを動かす|Ollama自動分散の実測と二枚目が遊ぶ落とし穴(RTX 5080+5060 Ti)

デュアルGPU(RTX 5080 + RTX 5060 Ti)で、16GBに載らない大型ローカルLLM(qwen3.5:35b-a3b 等)を動かした実測。Ollamaは設定なしで自動的に二枚へ分散し、筆者環境・Ollama 0.23.3・num_ctx=4096では100% GPUロードでqwen 約93・gemma 約109 tok/s を確認。OLLAMA_SCHED_SPREADは通常不要。複数serve競合で二枚目が遊ぶ落とし穴も解説する。
GPU・グラフィックボード

VRAM 16GB GPU を選ぶなら|AI 用途別に比較

この記事では VRAM 16GB モデルの GPU の選び方を解説する。 当サイトの検証環境では RTX 5080・RTX 5060 Ti という 16GB モデル 2 枚と、 RTX 4070 SUPER (12GB) を用途別に使い分け...
GPU・グラフィックボード

Qwen3.6-35B-A3B とは?MoE型マルチモーダル LLM のローカル実行ガイド

Qwen3.6-35B-A3B は総350億・動作30億パラメータのMoE型マルチモーダルLLMである。FP8版34.87GBでRTX 5090級のローカル実行が可能で、視覚言語タスクに向いている。スペックと実行環境を整理する。
GPU・グラフィックボード

ローカルLLMとは?自分のPCでAIを動かす仕組みと始め方を初心者向けに解説

ChatGPTやClaudeのようなAIをインターネット接続なしで自分のPCで動かせる「ローカルLLM」。仕組みやGPUのVRAM容量、量子化レベルの選び方、OllamaとLM Studioの導入手順、トラブル対処までを公式ソース付きで初心者向けに一本でカバーする。
ローカルAI環境

VRAMとは?AI用途で必要な容量の目安をわかりやすく解説

ローカルでAIを動かす際に最重要となるVRAM(GPU専用メモリ)の基本から、ローカルLLM・画像生成・動画生成・ファインチューニングの用途別必要容量、量子化方式やKVキャッシュとの関係、おすすめGPUまで一次ソース付きで解説します。