ローカルAI環境

ローカルAI環境

llama.cpp b8755解説|SnapdragonのHexagon DSPでローカルLLMを動かす

llama.cpp b8755とは、Snapdragon上のLinuxでHexagon DSPを扱えるよう拡張したリリースである。 「モバイル端末でローカルLLMを動かす」という話題が、この数ヶ月で急に現実味を帯びてきました。公開されたll...
PC構成

AI用ノートPCの選び方|ローカルLLM・画像生成に必要なVRAMと機種比較

AI用ノートPC選びはVRAM容量で決まる。ローカルLLMは8GB/12GB/16GBで扱えるモデルが変わり、画像生成は16GB以上が目安。RTX 50 Laptop搭載機をVRAM別に6メーカー14機種で比較し、CPU世代と実売価格まで並べた。
ローカルAI環境

llama.cppのGemma 4でRAMが枯渇する原因|VRAM余裕でもOOMする仕組みと回避策【2026年】

VRAM 32GBのGPUにモデルを載せた。VRAM使用量はまだ余裕がある。なのに数回プロンプトを送っただけでプロセスが強制終了される。原因はGPUではなく、システムRAMの枯渇だった。 海外のRedditコミュニティ(r/LocalLLa...
GPU・グラフィックボード

VRAM不足エラーの原因と解決法|Stable Diffusion・Ollama実測データで解説

Stable Diffusionで画像を生成しようとしたら、突然 CUDA out of memory の赤文字。Ollamaでモデルをロードした瞬間、画面がフリーズ。ローカルAI環境を使い始めた人が最初にぶつかる壁が、このVRAM不足エラ...
PC構成

AI用途別 必要メモリ容量ガイド|ローカルLLM・画像生成に何GB要るか(DDR5/DDR4の選び分け)

AI用PCを組むとき、メモリ(RAM)は何GB積めばいいのか。用途によって「足りるライン」は大きく変わる。ローカルLLMでは、モデルがGPUのVRAMに収まる場合はシステムRAM速度の影響は小さい。一方、VRAMに載りきらないモデルをCPU...
ローカルAI環境

AI用PCのSSD選び方ガイド|容量・速度・NVMe規格の違いを用途別に解説

AI 用途のSSD選びを容量・速度・規格の3軸で整理。NVMe Gen3/Gen4/Gen5 の理論帯域差、ローカルLLMや画像生成で必要な容量目安、主要SSDのTBW比較、M.2 PCIeレーン共有の落とし穴まで、公式仕様への参照付きで初心者向けに解説。
ローカルAI環境

llama.cppとは?ローカルLLM実行エンジンの仕組み・導入方法を初心者向けに解説

llama.cppはCPUでもLLMを動かせるMITライセンスのオープンソース推論エンジン。GGUF形式と量子化レベルの読み方、Ollama等との位置づけ、必要なRAM・VRAMの目安まで、ローカルLLM初心者が最初に知るべき内容を一次ソース付きで解説する。
GPU・グラフィックボード

RTX 4070 Super vs RTX 5060 Ti 16GB|VRAM 12GB vs 16GBのLLM実測比較

GPUをRTX 4070 SuperからRTX 5060 Ti 16GBに換装したら、14Bモデルの推論速度が14 tokens/secから44 tokens/secへ跳ね上がった。VRAMの差はたった4GB。だが、この4GBがローカルLL...
PC構成

Snapdragon X2搭載ASUS Zenbook SORA 16のAI性能を分析|NPU 80TOPSの実力

GPUをRTX 5080に換装してローカルLLMを回している筆者からすると、「NPU 80TOPS」という数字はどうしても気になる存在だった。2026年4月8日に発売されたASUS Zenbook SORA 16は、クアルコムの最新プロセッ...
GPU・グラフィックボード

CUDAコアとは?数が多いと何が変わるのかGPU選びの基本

RTX 4060のCUDAコアは3,072基。RTX 5080は10,752基で、約3.5倍の差がある。では、CUDAコア数が3.5倍なら性能も3.5倍になるのか?答えはノーだ。CUDAコア数はGPU選びの重要な指標だが、それだけで性能は決...