Ollama

LLM量子化・軽量化

Gemma 4 26B-A4BのQATをVRAM 16GBで動かす｜Ollamaとllama.cppのどちらを使うか

Ollama の qat タグ ( gemma4:26b-a4b-it-qat ) は RTX 5080 1 枚で 8K から 256K まで動いたが、この記事の Ollama の設定では、どの文脈長でも 16GB の GPU に全部は載らず、一部が CPU 側に回った。
2026.11.02 AIハードウェア図鑑
LLM量子化・軽量化ベンチマークローカルLLM
PC構成

生成AI向けパソコンの選び方｜GPUの次に決めるメモリとSSDは用途ごとに何GBを目安にするか

生成AI用のパソコンで、GPUの次にメインメモリとSSDを何GBにするか。96GBの測定機で画像・動画生成が使ったメモリ、Ollamaの報告によるLLMの配置、2TBのSSDの使われ方から目安を読み、電源と、BTOか自作かの決め方も示す。
2026.10.24 AIハードウェア図鑑
PC構成基礎知識
ローカルLLM

LFM2.5-24B-A2BはVRAM 16GBで動くか｜文脈長ごとの使用量と速さ、Ollamaでの読み込み、Qwen3.6-35B-A3Bとの違い

LFM2.5-24B-A2BをVRAM 16GBのRTX 5060 Ti・5080で実測。文脈の長さごとのVRAM使用量、入力の処理と生成の速さ、Ollamaでの読み込み、Claude Codeでの作業結果を、16GBに載りきらないQwen3.6-35B-A3Bと比べた。
2026.10.15 AIハードウェア図鑑
ローカルLLM
LLM量子化・軽量化

Underdog Saluki 27BはVRAM何GBで動くか｜文脈長ごとの使用量、Ollama・LM Studioでの読み込み、Bonsai 2 27Bとの違い

Underdog Saluki 27B(Qwen3.8-27Bを8GB未満にしたGGUF、IQ2-mix)をRTX 5060 Ti・5080で実測。文脈の長さごとのVRAM、生成の速さ、Ollama・LM Studioでの読み込み、Claude Codeと税計算の結果をBonsai 2 27Bと並べた。
2026.10.10 AIハードウェア図鑑
LLM量子化・軽量化ローカルLLM
ローカルAI環境

llama-serverやOllamaを止めたのにVRAMが空かない｜Windowsで居残ったプロセスを見つけて止める方法

Windowsでllama-serverやOllamaを止めたのにVRAMが空かないときの対処。親だけが終わって居残った子のプロセスをPowerShellで見つけ、再起動せずに止める手順と、居残らせない起動の仕方・止め方をまとめた。止め方11通りで子が居残るかを試した結果も載せている。
2026.10.02 AIハードウェア図鑑
ローカルAI環境ローカルLLM
GPU・グラフィックボード

TTFTとは何を測っているのか｜内訳を分けて2枚のGPUで実測すると、動く部分と動かない部分が分かれる

TTFT（Time To First Token）は、リクエストから最初のトークンが返るまでの時間。ただしローカルLLMでは、何を「最初」と数えるか、未ロードから測ったかで値が桁で変わる。RTX 5060 Tiと5080で7モデルを実測すると、初回は95〜99%がモデルの読み込みだった。
2026.08.15 AIハードウェア図鑑
GPU・グラフィックボードローカルLLM
ローカルLLM

Ollamaとは？ローカルLLMを動かす第一歩を初心者向けに解説

この記事では、Ollamaの基本から必要なPCスペック、モデルの選び方まで、初めてローカルLLMに触れる人が「自分のPCで動くのか」を判断できるように解説していくこの記事ではOllamaについて詳しく解説します。
2026.04.07 AIハードウェア図鑑
ローカルLLM