2枚目 GPU

Strata

Strataで動かせるモデルと必要なメモリ|VRAM 12GB・16GBのGPUでどれを選ぶか

Strataで動かせるQwen3.8-Flash-Next・Gyro・Coder・DeepSeek V4.1-Flashを、メインメモリの量とVRAM 12GB・16GBで選ぶ早見表で整理。DeepSeekに要るメモリとディスク、2枚目のGPUを足したときの測定結果も載せた。
Strata

Strataで125BのQwen3.8-Flash-NextをVRAM 12GB・16GBで実測|素のllama.cpp・27B・Claude Codeとも比較

VRAM 12GB・16GBのGPU 1枚とメインメモリ96GBの検証環境で、125BのQwen3.8-Flash-NextをStrataと素のllama.cppで実測。RTX 5080・5060 Ti・4070 SUPERでの速さ、2枚目のGPUの分け方、量子化の違い、Qwen3.8-27BやClaude Codeとの比較をまとめた。
GPU・グラフィックボード

GPUがSSDを直接読む仕組み|cuFileオープンソース化とローカルAIでモデルロードが速くなる条件

cuFileとは、GPUがストレージを直接読み書きするAPIである。「GPUがSSDを直接読む」と聞けば、ローカルLLMの起動が速くなるのでは、と期待したくなるところ。この記事の要点 cuFileはCPUのシステムメモリを介さずGPUメモリとストレージを直結させるAPI。
GPU・グラフィックボード

AI用PCのマザーボードとPCIeレーンの選び方|2枚目のGPU・OCuLink eGPUで「帯域が足りない」を避ける構成

AI用PCで2枚目GPUやeGPUを足すときのマザーボード・PCIeレーンの選び方。AM5とIntel Core Ultra 200Sのレーン数、M.2との共有でGPUスロットが遅くなる罠、チップセット連結・BIOS設定、OCuLink(PCIe 4.0 x4)でも推論は帯域が足りることを実測で解説する。