MoE消費電力

ローカルAI環境

RTX 5080でMoEの消費電力が低い理由|Ollamaで16GBに載りきらないgemma4:26b・qwen3.5:35b-a3b実測

RTX 5080でLLM 12モデル・アイドル・画像生成の消費電力をOllamaで実測。アイドル55W、推論104〜296W、画像生成230〜279W(定常区間の中央値)。16GBに載りきらないMoEの低電力は、Dense型を同じようにオフロードしても再現された。