ローカルAI環境

GPU・グラフィックボード

RTX 5080で動かす日本語ローカルLLM比較

RTX 5080とは、NVIDIA Blackwell世代のハイエンドGPU(VRAM 16GB)である。 ローカルで自然な日本語チャットを動かしたいなら、選択肢は2つに集約されます。日本語特化の8Bクラス(Swallow / ELYZA)...
GPU・グラフィックボード

Oculink接続のGPUがOllamaに認識されない原因|デュアル GPU 化で初めて出る現象と OLLAMA_SCHED_SPREAD

OculinkでRTX 5060 TiをOllamaに認識させる手順。CUDA_VISIBLE_DEVICESとOLLAMA_SCHED_SPREADを段階適用し、RTX 5080とのデュアル構成で70B級モデルを動かす実機検証。電源2系統独立の落とし穴と帯域実測、トラブルシュート4手順、モデルサイズ別VRAM表も収録。
GPU・グラフィックボード

Honor WIN H9のローカルAI実行ガイド|6ファン冷却とRTX 5070 Ti Laptopの実力

Honor WIN H9は6ファン冷却とRTX 5070 Ti Laptop GPUを搭載するノートPCで、CPU+GPU合計270W級の電力枠を支える設計である。長時間のローカルLLM推論や画像生成で持続性能を引き出したい個人ユーザーに向いている。
GPU・グラフィックボード

Qwen3.6-27Bとは?Dense 27BコーディングLLMをローカルGPUで動かすガイド

Qwen3.6-27BはAlibabaのDense 27Bコーディング特化オープンウェイトLLMである。4bit量子化版なら16GB VRAM帯のコンシューマGPUで動かせる現実的な選択肢で、llama.cpp + Unsloth GGUFでのローカル運用に向いている。
GPU・グラフィックボード

llama.cppのビルドが20種類以上あるのはなぜ?OS・GPU別ビルドの選び方

llama.cppとは、CPUとGPUの双方でLLMをローカル実行するための軽量推論エンジンだ。 llama.cppの公式リリースを開くと、ひとつのタグに対して20種類以上のビルドが並んでいる。macOSのApple Silicon版、In...
GPU・グラフィックボード

RTX 5080 16GB VRAMの壁に関するよくある疑問7選|27B・32Bモデルが動かない理由を全部解説

RTX 5080 16GB VRAMの壁に関するよくある疑問7選|27B・32Bモデルが動かない理由を全部解説 RTX 5080は16GB VRAMを搭載していますが、Ollamaで一般的に使われるQ4_K_Mタグで27B以上のモデルを動か...
GPU・グラフィックボード

RTX 5080で12B-14B級LLMはどれを選ぶ?gemma3・phi4・qwen3のよくある疑問7選

RTX 5080 16GBでgemma3:12b・phi4:14b・qwen3:14bの3モデルを実測。速度・TTFT・消費電力・量子化形式の比較表に加え、Ollama公式・Phi-4論文・Qwen3公式の一次ソース付きで用途別の選び方を整理しました。
GPU・グラフィックボード

HP OmniBook 5 16-afに関するよくある疑問7選

HP OmniBook 5 16-afとは、Core Ultra 5搭載のAI対応16インチノートPCである。 Amazonで割引中のHP「OmniBook 5 16-af(BF8H9PA-AAAA)」をチェックしていて、「Core Ult...
GPU・グラフィックボード

RTX 4060 8GBでQwen3.6 35B MoEを動かす

Qwen3.6-35B-A3Bとは、Alibabaが2026年4月に公開したMoE型の大規模言語モデル。 海外のRedditコミュニティ(r/LocalLLaMA)で、RTX 4060 Laptop(VRAM 8GB)+RAM 96GBの構...
GPU・グラフィックボード

RTX 5080で最初に入れる7-8BローカルLLMはどれか

7-8BローカルLLMとは、パラメータ数70億〜80億級の中型言語モデルのこと。 phi4-miniやllama3.2:3bでOllamaの動作確認は済んだ。次は少し大きい7-8Bクラスを試したい。ただ、Ollamaライブラリで「7B」「8...