GPU・グラフィックボード

GPU・グラフィックボード

AIエージェント自動化のメモリ消費 — VRAM 議論を超える 4 階層モデル

「ローカル LLM なら VRAM 16GB で動く」 — この基準で組んだ構成が、 Claude Code とローカル LLM を並行稼働させた瞬間にシステム RAM を 50GB 食う。 VRAM 議論で完結しない領域が、 AI エージ...
GPU・グラフィックボード

deepseek-r1:8b の TTFT は llama3.1:8b の 4.5 倍

TTFTとは、リクエスト送信から最初のトークンが返るまでの応答時間である。 ローカルLLMの体感速度を決めるのは tokens/sec だけではありません。RTX 5080 で 7 モデルを横並び計測したところ、DeepSeek R1 8B...
GPU・グラフィックボード

llama3.2:3bとは?ドラフト生成で最速のローカルLLM|RTX 5080実測293.9 tok/sを解説

llama3.2:3bはMeta公開30億パラメータの軽量ローカルLLM。RTX 5080実測293.9 tok/sでドラフト用途最速クラス、phi4-mini:3.8bを16%上回る。VRAM 5.1GBで画像生成と並列稼働可、Q4_K_M量子化とOllama運用設定を実機データで解説。
GPU・グラフィックボード

RTX 5080で動かす日本語ローカルLLM比較

RTX 5080とは、NVIDIA Blackwell世代のハイエンドGPU(VRAM 16GB)である。 ローカルで自然な日本語チャットを動かしたいなら、選択肢は2つに集約されます。日本語特化の8Bクラス(Swallow / ELYZA)...
GPU・グラフィックボード

Oculink接続のGPUがOllamaに認識されない原因|デュアル GPU 化で初めて出る現象と OLLAMA_SCHED_SPREAD

OculinkでRTX 5060 TiをOllamaに認識させる手順。CUDA_VISIBLE_DEVICESとOLLAMA_SCHED_SPREADを段階適用し、RTX 5080とのデュアル構成で70B級モデルを動かす実機検証。電源2系統独立の落とし穴と帯域実測、トラブルシュート4手順、モデルサイズ別VRAM表も収録。
GPU・グラフィックボード

Honor WIN H9のローカルAI実行ガイド|6ファン冷却とRTX 5070 Ti Laptopの実力

Honor WIN H9は6ファン冷却とRTX 5070 Ti Laptop GPUを搭載するノートPCで、CPU+GPU合計270W級の電力枠を支える設計である。長時間のローカルLLM推論や画像生成で持続性能を引き出したい個人ユーザーに向いている。
GPU・グラフィックボード

Qwen3.6-27Bとは?Dense 27BコーディングLLMをローカルGPUで動かすガイド

Qwen3.6-27BはAlibabaのDense 27Bコーディング特化オープンウェイトLLMである。4bit量子化版なら16GB VRAM帯のコンシューマGPUで動かせる現実的な選択肢で、llama.cpp + Unsloth GGUFでのローカル運用に向いている。
GPU・グラフィックボード

llama.cppのビルドが20種類以上あるのはなぜ?OS・GPU別ビルドの選び方

llama.cppとは、CPUとGPUの双方でLLMをローカル実行するための軽量推論エンジンだ。 llama.cppの公式リリースを開くと、ひとつのタグに対して20種類以上のビルドが並んでいる。macOSのApple Silicon版、In...
ComfyUI

ComfyUIとは?AI画像生成の始め方を初心者向けに解説

Stable Diffusionで画像を生成したいのに、UIの選択で手が止まる。AUTOMATIC1111は古くなりつつあり、Forgeは開発の方向性が読めない。どれを選んでも「動くけど快適じゃない」という中途半端な体験になりがちだった。そ...
GPU・グラフィックボード

AIミニPCワークステーションとは?GMKtec EVO-T2S/EVO-X2で学ぶIntel・AMDの選び方

AIミニPCワークステーションとは、NPUとiGPUを統合してローカルでAI推論を動かす小型PCの総称。GMKtecのEVO-T2S(Intel Core Ultra)とEVO-X2(AMD Ryzen AI Max+ 395)を例に、メモリ帯域・TOPS・用途別の選び方を比較表と公式ソース付きで整理する。