ローカルLLM

ローカルLLM

RTX 5080で動かす日本語ローカルLLM比較

RTX 5080とは、NVIDIA Blackwell世代のハイエンドGPU（VRAM 16GB）である。 ローカルで自然な日本語チャットを動かしたいなら、選択肢は2つに集約されます。日本語特化の8Bクラス（Swallow / ELYZA）...
2026.05.04 AIハードウェア図鑑
ローカルLLM
ローカルLLM

Ollamaが2枚目のGPUを使わない理由｜nvidia-smiでは認識済みなのにVRAMが増えないとき

Ollamaはモデルが1枚のGPUに収まる場合はその1枚へ載せる（公式FAQ）。nvidia-smiで2枚とも見えているのに2枚目のVRAMが増えないのは、この既定動作によるもの。RTX 5080＋Oculink接続のRTX 5060 Tiで、CUDA_VISIBLE_DEVICES／OLLAMA_SCHED_SPREAD／num_gpuそれぞれの役割と本検証での結果、切り分け手順をまとめた。
2026.05.03 AIハードウェア図鑑
ローカルLLM
GPU・グラフィックボード

Qwen3.6-27Bとは？Dense 27BコーディングLLMをローカルGPUで動かすガイド

Qwen3.6-27BはAlibabaのDense 27BマルチモーダルLLMで、コーディング性能を重点強化。4bit量子化は16GB VRAMだとCPUオフロードを伴い、全量GPUは合計32GB級が目安。RTX 5080単体・デュアルの実測付きでローカル運用を解説。
2026.05.02 AIハードウェア図鑑
GPU・グラフィックボードローカルLLM
ローカルLLM

llama.cppのビルドが20種類以上あるのはなぜ？OS・GPU別ビルドの選び方

llama.cppとは、CPUとGPUの双方でLLMをローカル実行するための軽量推論エンジンだ。 llama.cppの公式リリースを開くと、ひとつのタグに対して20種類以上のビルドが並んでいる。macOSのApple Silicon版、In...
2026.04.30 AIハードウェア図鑑
ローカルLLM
GPU・グラフィックボード

RTX 5080 16GB VRAMの壁に関するよくある疑問7選｜今回測った27B〜32B（Dense型）は6.2〜10.3 tok/s

RTX 5080 16GBでQwen3.5 27B・Gemma 4 31B・Qwen3 32Bを実測。既定タグでは全レイヤーが載らずCPU側へ回り6.2〜10.3 tok/sまで低下する一方、14Bクラスは75〜77 tok/s。MoEのGemma 4 26B A4Bは58.6 tok/sを維持した。
2026.04.30 AIハードウェア図鑑
GPU・グラフィックボードローカルLLM
ローカルLLM

RTX 5080 16GBで12B〜14B級ローカルLLMを比較｜4モデルのVRAM・速度・ピーク電力実測

RTX 5080 16GBとRTX 5060 Ti 16GBで、Gemma 3/4 12B・Phi-4 14B・Qwen3 14BのQ4_K_Mを同条件実測。VRAM常駐、生成速度、生成中ピークボード電力を比較し、16GB GPUで選ぶ際の注意点を整理します。
2026.04.29 AIハードウェア図鑑
ローカルLLM
ローカルLLM

RTX 4060 8GBでQwen3.6 35B MoEを動かす

Qwen3.6-35B-A3Bとは、Alibabaが2026年4月に公開したMoE型の大規模言語モデル。 海外のRedditコミュニティ（r/LocalLLaMA）で、RTX 4060 Laptop（VRAM 8GB）＋RAM 96GBの構...
2026.04.28 AIハードウェア図鑑
ローカルLLM
ローカルLLM

翻訳用ローカルLLMをRTX 5080で実測

翻訳用ローカルLLMとは、PC上で動かし翻訳用途に使えるオープンソースの汎用言語モデルである（翻訳に特化した派生モデルもあるが、本記事では汎用モデルを翻訳タスクで比較する）。 結論から書きます。翻訳用途で「Gemma 3 4Bが最強」という...
2026.04.23 AIハードウェア図鑑
ローカルLLM
ローカルLLM

コーディング用ローカルLLM 5モデルをVRAM 16GBで比較｜日本語長文生成で速度・VRAMを実測

コーディング用ローカルLLMとは、IDEから呼び出してコード補完や生成に使う自前推論の言語モデルのこと。 VRAM 16GBクラスのGPU（本記事は主にRTX 5080で計測し、同じ16GBで下位クラスのRTX 5060 Ti 16GBの実...
2026.04.23 AIハードウェア図鑑
ローカルLLM
GPU・グラフィックボード

VRAM 16GB：RTX 5080 VRAM不足でLLMが起動しないエラーの解決法｜原因と対処法を徹底解説

RTX 5080（VRAM 16GB）でモデルが載らない・極端に遅いときの切り分け方。Ollamaの配置は100% GPU／100% CPU／CPU・GPU混在／ロード失敗の4つに分かれ、ollama psとsize_vramで判定できる。gemma4:26bは27%、qwen3.5:35b-a3bは42%がCPU側に置かれた実測とあわせて、対処の優先順位を整理した。
2026.04.22 AIハードウェア図鑑
GPU・グラフィックボードローカルLLM
次のページ