ローカルLLM

GPU・グラフィックボード

AIコーディング用ローカルLLMの必要スペック|RTX 5080実機で7B〜14B級のVRAMと速度を実測

AI支援コーディング向けPCはクラウドAPI型とローカルLLM型で要件が分かれます。Claude Code等はGPU不要でCPU・RAM・SSDが効き、ローカル併用はVRAM容量が律速。RTX 5080 16GB実機で7B〜14B級を実測し、用途・予算別の実用スペックを整理しました。
ローカルLLM

デュアルGPUでローカルLLMを動かす|Ollama自動分散の実測と二枚目が遊ぶ落とし穴(RTX 5080+5060 Ti)

デュアルGPU(RTX 5080 + RTX 5060 Ti)で、16GBに載らない大型ローカルLLM(qwen3.5:35b-a3b 等)を動かした実測。Ollamaは設定なしで自動的に二枚へ分散し、筆者環境・Ollama 0.23.3・num_ctx=4096では100% GPUロードでqwen 約93・gemma 約109 tok/s を確認。OLLAMA_SCHED_SPREADは通常不要。複数serve競合で二枚目が遊ぶ落とし穴も解説する。
GPU・グラフィックボード

M5 MacBook Air は AI とゲーム両方で何ができるか|実測ベース総合レビュー

2026 年 3 月 11 日に発売された M5 MacBook Air は、 「軽量ノートで AI もゲームもどこまでできるか」 を考えるうえで、 かなり分かりやすい基準になるモデルだ。10 コア CPU + 最大 10 コア GPU の...
GPU・グラフィックボード

Qwen3.6-35B-A3B とは?MoE型マルチモーダル LLM のローカル実行ガイド

Qwen3.6-35B-A3B は総350億・動作30億パラメータのMoE型マルチモーダルLLMである。FP8版34.87GBでRTX 5090級のローカル実行が可能で、視覚言語タスクに向いている。スペックと実行環境を整理する。
GPU・グラフィックボード

ローカルLLMとは?自分のPCでAIを動かす仕組みと始め方を初心者向けに解説

ChatGPTやClaudeのようなAIをインターネット接続なしで自分のPCで動かせる「ローカルLLM」。仕組みやGPUのVRAM容量、量子化レベルの選び方、OllamaとLM Studioの導入手順、トラブル対処までを公式ソース付きで初心者向けに一本でカバーする。
GPU・グラフィックボード

llama.cpp b9145解説|Intel ArcのSYCLメモリ二重消費を約9分の1に削減

llama.cpp b9145とは、SYCLバックエンドのメモリ二重消費を解消した修正リリース。 Intel Arc GPUでローカルLLMを動かすと、VRAMに余裕があるはずなのにシステムRAMが先に枯渇してOOMで落ちる。この奇妙な現象に2026年5月14日、ggml-org/llama.cppリリース「b914…
ローカルLLM

MacBook Air M5でローカルLLM 21モデル比較|Redditベンチと据え置きGPU実測の突き合わせ

ローカルLLMとは、自分のPC上でクローズドに推論を動かす大規模言語モデルのこと。 「印象論ではなくデータで比較したい」——海外のRedditコミュニティ(r/LocalLLaMA)で、MacBook Air M5を使って21個のローカルLLMをコーディング性能(HumanEval+)と推論速度で一斉検証した投稿が話…
ローカルLLM

推論モデルとは|deepseek-r1とqwen3 thinkingのRTX 5080実測VRAM消費とtokens/sec差を解説

推論モデルは回答前にthinking連鎖を内部展開するLLM群である。RTX 5080実測でdeepseek-r1:8bはVRAM 10.1GB・約104 tok/s、qwen3:14b thinkingは10.2GB・約74 tok/sを記録。Web標準値の約1.5倍を見積もる選定基準を解説する。
GPU・グラフィックボード

Qwen3.6 35B-A3B vs 27B UD AI用途で比較|M5 Pro 64GBの検証報告から見た選び方

Qwen 3.6とは、Alibaba Qwen Teamが公開する大規模言語モデルファミリーである。 海外のRedditコミュニティ(r/LocalLLaMA)で、MacBook P…
ローカルLLM

llama3.2:3bとは?ドラフト生成で最速のローカルLLM|RTX 5080実測293.9 tok/sを解説

llama3.2:3bはMeta公開30億パラメータの軽量ローカルLLM。RTX 5080実測293.9 tok/sでドラフト用途最速クラス、phi4-mini:3.8bを16%上回る。VRAM 5.1GBで画像生成と並列稼働可、Q4_K_M量子化とOllama運用設定を実機データで解説。