この記事の要点
- GPU 1枚でテキスト生成の推論を回した時、RTX 5080 の観測最大値は316.8W（公称 Total Graphics Power は360W）、RTX 5060 Ti は179.5W（公称180W）。今回の条件では、公称との余裕がカードごとに違った。
- 今回1枚に収まらなかった2モデルでは、一部がCPU側にあふれ、カードの電力は大きく下がった。RTX 5080 で99.5〜105.3W、RTX 5060 Ti で64.3〜71.6Wまで落ちている。CPU側とのデータ移動や処理待ちでGPUが回り続けられていないためと考えられる（GPU使用率そのものは測っていない）。RTX 5080 では生成速度も落ちているので、電力が低い＝省エネとは読めない。ただし RTX 5060 Ti ではこの2本のほうが速く、向きは同じではない。
- 2枚目を足しても、Ollama の既定では1枚に収まるモデルは片方のカードにしか載らない。この環境では消費電力が低く生成も遅い側に載り、RTX 5080 1枚を基準にすると合計Wも速度も下がった。
- 逆に、今回1枚に収まらなかった2モデルは2枚に分かれて載り、合計Wが74〜84W増える代わりに速度が約2.2〜2.3倍になった。
- 本記事の実測値は2026年8月17日に測定した5モデル×3構成の15件で、Ollama 0.32.3・コンテキスト長8192・同一プロンプトに揃えてある。数値はすべて生成中に観測した
power.drawの最大値（この環境では直近1秒平均の最大）であって、消費電力量ではない。
まず1枚で回すとGPU電力はどこまで上がるか
ローカルLLM用にGPUを選ぶとき、電源容量は公称の Total Graphics Power から決めることになりやすい。実際にテキスト生成の推論を回すと実測値がどうなるのか、1枚構成から見ていく。
この記事の数字はテキスト生成の推論だけのものになる。画像生成や動画生成はGPUの使い方が違うため、ここに出てくる値をそのまま当てはめることはできない。負荷の種類が変われば電力の出方も変わるので、別用途で見積もるならその負荷で測り直してほしい。
RTX 5080 16GB 1枚
| モデル | カードの電力 | 生成速度 | GPU常駐率 |
|---|---|---|---|
| phi4:14b | 316.8W | 毎秒80.43トークン | 100% |
| qwen3:14b | 301.9W | 毎秒80.20トークン | 100% |
| gemma4:12b | 264.8W | 毎秒79.95トークン | 100% |
| qwen3-coder:30b | 105.3W | 毎秒72.45トークン | 74% |
| qwen3.6:35b-a3b | 99.5W | 毎秒55.52トークン | 58% |
観測最大は316.8Wで、公称360Wには届かなかった。ただしこれは今回の5モデル・コンテキスト長8192・出力512トークンという条件で観測した最大であって、このカードでテキスト生成を回したときの上限ではない。別のモデルや別の条件ではこれを上回りうる。
RTX 5060 Ti 16GB 1枚
| モデル | カードの電力 | 生成速度 | GPU常駐率 |
|---|---|---|---|
| phi4:14b | 179.5W | 毎秒44.08トークン | 100% |
| qwen3:14b | 166.5W | 毎秒43.56トークン | 100% |
| gemma4:12b | 155.4W | 毎秒46.44トークン | 100% |
| qwen3-coder:30b | 71.6W | 毎秒61.75トークン | 75% |
| qwen3.6:35b-a3b | 64.3W | 毎秒49.93トークン | 59% |
こちらは公称180Wに対し観測最大179.5Wで、公称のすぐ下まで上がっている。同じ条件で RTX 5080 は公称の88%だったのに対し、RTX 5060 Ti は99.7%に達している。「実測は公称よりかなり低い」を手持ちのカードに一律で当てはめると、見積もりが薄くなる側がある。
1枚に収まらなかった2モデルでは、電力が大きく下がった
上の2つの表で、下2モデルだけ電力が大きく落ちているのに気づく。qwen3-coder:30b と qwen3.6:35b-a3b は16GBに収まりきらず、常駐率が RTX 5080 で74%と58%、RTX 5060 Ti で75%と59%まで下がっている。あふれた分はCPU側で処理されるため、その間GPUは待たされていると考えられる。
RTX 5080 では、電力が低いのは省エネだからではない。生成速度も毎秒72.45トークン・55.52トークンと、収まっている3モデル（毎秒79.95〜80.43トークン）より遅い。電力だけを見て「このモデルは軽い」と読むと逆になる。
ただし RTX 5060 Ti では逆転する。あふれている2本が毎秒61.75トークン・49.93トークンで、収まっている3モデル（毎秒43.56〜46.44トークン）より速い。この2本はどちらもMoE構成で、1トークンごとに実際に計算するのは総パラメータの一部にとどまる。カードが遅いほど、あふれによる不利より計算量の少なさのほうが効いてくる、という読み方はできるが、今回の2本だけでは要因を分離できない。
1枚構成での電源の見積もり
GPU側に見込む数字は、上の表のカードの電力になる。今回のLLM推論負荷で観測した最大は RTX 5080 が316.8W、RTX 5060 Ti が179.5Wだった。いずれも実測上の参考値であって、カードの上限ではない。この値を置いて、そこにCPU・ストレージなどGPU以外の負荷と、過渡的な変動に対する余裕を積む。GPU以外は本記事では測っていない。なお電源の変換効率は、電源の定格容量へ損失分を足す話ではなく、主にコンセント側の消費電力に効く要素になる。システム全体としての決め方はAI用PCの電源（PSU）選び方で扱っている。
ここに出てくるのはすべて生成中に観測した power.draw の最大値（この環境では直近1秒平均の最大）であって、消費電力量ではない。生成中の平均電力や時間積分は取っていないため、1トークンあたりの消費電力量や、月間の電気代の比較には使えない。電源容量の見積もりに使う数字として読んでほしい。
メーカーが示す必要システム電源は RTX 5080 が850W、RTX 5060 Ti が600Wだが、これは特定の構成を基準にした値で、実際に要る容量はCPUや周辺構成、カードメーカーによって変わる。手元のカードの推奨値も確認してほしい。
2枚目を足すと何が変わるか
ここから先は、2枚目のGPUを増設する場合の話になる。1枚で足りているなら読み飛ばして構わない。
増設時にまず効くのは、電力の足し算ではなく「そもそも2枚とも働くのか」という点だった。RTX 5080 と RTX 5060 Ti の2枚を両方見せた状態で5モデルを回し、カード別のボード電力を取った。
| モデル | RTX 5080 の電力 | RTX 5060 Ti の電力 | 生成速度 | 載り方 |
|---|---|---|---|---|
| phi4:14b | 55.9W | 172.9W | 毎秒43.93トークン | 5060 Ti にだけ載った |
| qwen3:14b | 56.4W | 165.4W | 毎秒43.42トークン | 5060 Ti にだけ載った |
| gemma4:12b | 57.6W | 156.1W | 毎秒46.37トークン | 5060 Ti にだけ載った |
| qwen3.6:35b-a3b | 102.0W | 95.0W | 毎秒129.25トークン | 2枚に分かれて載った |
| qwen3-coder:30b | 112.9W | 99.4W | 毎秒157.83トークン | 2枚に分かれて載った |
上の3モデルで RTX 5080 側は55.9〜57.6Wだった。これは RTX 5060 Ti だけを見せて推論した時の RTX 5080、つまり待機している時の水準（51.5〜53.5W）に対して数W高いだけで、推論を回している時の265〜317Wとは桁が違う。推論処理にはほぼ参加していないと判断できる。下の2モデルでは102.0Wと112.9Wまで上がっており、こちらは働いている。
生成速度も同じ判定を支持する。上の3モデルの速度は、RTX 5060 Ti だけを見せて測った値（毎秒44.08 / 43.56 / 46.44トークン）とほぼ一致し、RTX 5080 だけを見せた値（毎秒80.43 / 80.20 / 79.95トークン）からは大きく離れている。
カード別のVRAM使用量も同じ判定になる。2枚とも見せた時の RTX 5080 側は、収まる3モデルが1,233〜1,279MiB（モデル由来の大きなVRAM増加は見られない）、収まらない2モデルが11,066MiBと13,852MiB。電力・速度・VRAMの3つが揃って同じ結論を指している。ただし RTX 5060 Ti 側の値（14,046〜16,011MiB）は直前に読み込んだモデルが残った分を含むため、そちらは判定に使えない。
収まる3モデルで選ばれたのは、いずれも RTX 5060 Ti 側だった。これは偶然ではなく、Ollama の選択規則で説明がつく。Ollama のスケジューラは、モデルが収まる候補のうち空きVRAMが多いカードを選ぶ（統合GPU（iGPU）よりディスクリートGPUを優先したうえで、空き容量の大きい方を採る。RTX 5080 も OCuLink 接続の RTX 5060 Ti もどちらもディスクリートGPUなので、今回の2枚を分けたのは空き容量のほうになる）。実際、Ollama がログに出した認識は RTX 5060 Ti が14.8GiB、RTX 5080 が14.6GiBで、差はわずか0.2GiB。この規則はGPUの演算性能を比べるものではないので、性能が上のカードでも空きが少なければ選ばれない。今回はこの0.2GiBの差で、毎秒80トークン台と40トークン台が入れ替わっている。RTX 5080 が画面表示を担当していることは空き容量の差を生む一因と考えられるが、0.2GiBのうちどれだけが表示由来かは切り分けていない。空き容量は他のプロセスや直前の使用状況でも動くため、常に同じ側が選ばれるとは限らない。
選ばせたいカードがあるなら、CUDA_VISIBLE_DEVICES で見せるGPUを絞るのが確実になる。Ollama は予測した必要VRAMと各GPUの利用可能なVRAMを比較して、1枚に収まるかを判定する。
Ollama の公式FAQには、モデルが1枚のGPUに丸ごと収まる場合はそのGPUへ読み込み、収まらない場合は利用可能な全GPUへ分散する、と記載されている。これは Ollama についての記載であって、他の推論ソフトの既定挙動ではない。たとえば llama.cpp の複数GPUに関する公式ドキュメントは、既定の分割方式（split-mode layer）で各GPUにレイヤーを分けて配置すると説明しており、1枚へまとめるには別の指定が要る。本記事では llama.cpp の挙動は実測していない。
2枚目が見えているのに使われていないように見える場合の切り分けはOllamaが2枚目のGPUを使わない理由で扱っている。1枚に収まらないモデルを2枚のVRAMにまたがって動かす側の話はローカルLLMを2枚のGPUのVRAMプールで動かすにまとめてある。
増設で電力と速度がどう動くか
基準はいずれも「RTX 5080 1枚で回した場合」。合計は同一サンプル時刻の2枚分の合算になる。
1枚に収まっていたモデル（3件） 16GBに載るかどうかを層数まで踏み込んで確かめた例はMuse Glimmer 30BをVRAM 16GBで動かすにある。
| モデル | 5080 1枚の合計W | 2枚とも見せた時の合計W | 差 | 5080 1枚の生成速度 | 2枚とも見せた時の生成速度 |
|---|---|---|---|---|---|
| phi4:14b | 339.4W | 227.2W | -112.2W | 毎秒80.43トークン | 毎秒43.93トークン |
| qwen3:14b | 324.6W | 221.8W | -102.8W | 毎秒80.20トークン | 毎秒43.42トークン |
| gemma4:12b | 287.8W | 210.8W | -77.0W | 毎秒79.95トークン | 毎秒46.37トークン |
3件とも、合計Wも生成速度も下がっている。2枚目を足したのに遅くなるという結果で、これは片方に載ったこと自体から出てくるものではない。この環境では3件とも RTX 5060 Ti に載っており、消費電力が低く生成も遅い側が処理を引き受けたことと整合する。載る先が違う環境では、同じ「片方にしか載らない」でも数字の向きは変わりうる。
1枚に収まらなかったモデル（2件）
| モデル | 5080 1枚の合計W | 2枚とも見せた時の合計W | 差 | 5080 1枚の生成速度 | 2枚とも見せた時の生成速度 | 常駐率(1枚→2枚) |
|---|---|---|---|---|---|---|
| qwen3-coder:30b | 128.8W | 212.3W | +83.5W | 毎秒72.45トークン | 毎秒157.83トークン | 74% → 100% |
| qwen3.6:35b-a3b | 122.8W | 196.9W | +74.1W | 毎秒55.52トークン | 毎秒129.25トークン | 58% → 100% |
2件とも、合計Wが上がる代わりに生成速度が約2.2〜2.3倍になった。1枚だとCPU側にあふれていた分がVRAMに収まりきり、GPUが待つ時間が減ったためと読める。増設が効くのはこちらの側で、1枚に収まっているモデルを速くするために2枚目を足しても、この環境では逆効果だった。
この2群を分けているのは「1枚で常駐率100%に届いたか」で、モデルの規模やアーキテクチャではない。ただし今回の2件はどちらも30B級のMoE構成に偏っており、VRAMの埋まり方とモデルの構成が同時に動いている。「何B以上なら向きが変わる」という境界を、この2件から引くことはできない。モデルの構造によって電力の出方が変わる側面はRTX 5080でMoEの消費電力が低い理由で扱っている。
待機側のカードも0Wではない
| 状況 | 観測最大値の範囲 |
|---|---|
| RTX 5080 が処理している間の RTX 5060 Ti | 22.6〜23.6W |
| RTX 5060 Ti が処理している間の RTX 5080(表示担当) | 51.5〜53.5W |
推論に使っていない側も0Wにはならない。RTX 5080 が処理している間、RTX 5060 Ti のVRAM使用量は13MiBで、モデルは載っていない。それでも22.6〜23.6Wを使っている。両者の差は小さくないが、この2枚は表示を担当しているかどうかのほかに、カードそのものと接続方式も違うため、差がどこから来ているかは本記事の測定では切り分けていない。
2枚構成での電源の見積もり
まず給電の形で見る欄が変わる。1台の電源ユニットで2枚を賄うのか、この測定環境のようにカードごとに別々の電源から給電する2系統なのか。
1台の電源で2枚を賄う場合は、合計の欄を見る。合計は同一サンプル時刻の2枚分の合算なので、その構成ではこれがそのままGPU側の負荷にあたる。
- 2枚積んで RTX 5080 だけを推論に使う場合: 合計は最大339.4W（5モデル・phi4:14b）。
- 2枚とも見せて1つのモデルを回す場合: 合計は最大227.2W（5モデル・phi4:14b）。
待機側のカードが使う分は、この合計にすでに入っているため別途足さない。
給電が2系統に分かれている場合は、系統ごとにカード別の欄を見る。この測定環境で本体側の電源ユニットが負ったのは、RTX 5080 の欄の値だけだった。待機側の系統には22.6〜23.6W（RTX 5080 が処理している間の 5060 Ti）または51.5〜53.5W（5060 Ti が処理している間の 5080）が乗る。2枚とも見せた構成で 5060 Ti 側に載った時は、5080 が55.9〜57.6Wまで上がっている。どちらの値になるかは構成で変わるため、今回観測した範囲ではこの57.6Wを置くのが安全側になる。
両方のカードに別々の仕事をさせる想定のときだけ、次の導出値を目安に置く。
| 項目 | 値 |
|---|---|
| RTX 5080 の観測最大値(このカードだけを見せて推論した時) | 316.8W |
| RTX 5060 Ti の観測最大値(このカードが処理した時) | 179.5W |
| 両者を単純に足した導出値(未測定の使い方に対する目安) | 496.3W |
496.3Wは測定値ではなく導出値になる。各カードが単独で記録した観測最大値を足しただけの数字で、両カードが同時にそれぞれの観測最大値まで上がる状態は実際には測っていない。足した2つの値自体も、測った5モデル・この条件の範囲での最大なので、別のモデルや別の負荷ではこれを上回りうる。
別々の構成の表から、カード別の欄どうしを足さないこと。両カードの観測最大値を足した目安が必要な場合は、上の導出値496.3Wを注記ごと使う。
公称の Total Graphics Power を足すと540Wになるが、これは公称値どうしの単純和であり、カード側の枠として参照する数字にとどまる。2枚目をどう接続するか（PCIeレーンの配分や OCuLink の帯域）はAI用PCのマザーボードとPCIeレーンの選び方で扱っている。
測定した条件
RTX 5080 16GB（PCIe接続・表示担当、PC本体の電源ユニットから給電）と RTX 5060 Ti 16GB（OCuLink接続、ドック側の独立した電源ユニットから給電。ドック側の構成はMINISFORUM DEG1 OCuLink eGPUドック実機レビューで扱っている）の2枚構成。NVIDIA ドライバは610.47。
測定は2026年8月17日の1日で、5モデル×3構成の15件すべてを Ollama 0.32.3・コンテキスト長8192・think=false・出力512トークン上限・同一プロンプト・同一seedで揃えている。生成速度は3回実行の中央値。構成の切り分けは、使用するGPUを環境変数で限定した別々のサーバーを立てて行った。ローカルで動かす環境そのものの立ち上げ方はローカルLLMとは？Ollama × Gemma 4で始めるAI環境で扱っている。
電力はGPUのボード電力で、壁のコンセントで測った消費電力ではない（CPU・その他パーツ・電源の変換損失を含まない）。生成の開始から終了までのあいだ nvidia-smi の power.draw を読み続け、カード別の値は各カードそれぞれの最大、合計は同一サンプル時刻の2枚分の合算の最大を採っている。カード別の最大は同じ瞬間とは限らないため、カード別の値を足しても合計の欄とは一致しない。この測定環境（ドライバ610.47）では power.draw は power.draw.average（直近1秒の平均）と同じ値を返したため、1秒より短い時間で起きる山は平均化される。
1台の電源ユニットで2枚を賄った状態そのものは測っていない。ただし測定環境の給電が分かれていることを理由に、1台構成の読者が合計の欄を割り引いて読む必要はない。
測っていないこと
- 画像生成・動画生成・学習・ゲーム負荷。測定対象はテキスト生成のLLM推論のみ。
- 消費電力量（Wh）と電気代。1トークンあたりのエネルギーも出せない。
- 壁のコンセントで測った消費電力。数値はすべてGPUのボード電力になる。
- 電力上限（power limit）を下げた場合の挙動。
- 他社のカード、および今回の2枚以外の型番。
- 今回の5モデル以外。8B以下の小さいモデルや、MoEでない20B〜30B級は測っていない。
- 2枚のカードで別々のモデルを同時に動かす構成。測定は1度に1モデルのみ。
- コンテキスト長8192以外の設定。
- 設定で分割を明示的に指定した場合の載り方。表に出ているのは、そうした指定をせずに読み込んだ結果（
OLLAMA_SCHED_SPREADは既定の false のまま）。 - モデルを入れ替えるたびにVRAMを空にする手順。掃除したのは15件を始める前の1回だけで、モデル間ではアンロードしていない。ただし Ollama は
OLLAMA_MAX_LOADED_MODELS=1で前のモデルを退避してから読み込むため、ロード判断に使う空き容量は5モデルとも同じ値（RTX 5060 Ti 14.8GiB / RTX 5080 14.6GiB）だった。RTX 5060 Ti 側のVRAM実測値だけは退避前の残りを含む。
よくある質問
GPU 1枚だと何Wの電源が要るか
GPU側に見込む出発点は、今回のLLM推論負荷で観測した最大の RTX 5080 316.8W、RTX 5060 Ti 179.5W。どちらも実測上の参考値であって、カードの上限ではない。ここにCPU・ストレージなどGPU以外の負荷と、過渡的な変動に対する余裕を積む。メーカーの必要システム電源は RTX 5080 が850W、RTX 5060 Ti が600Wとされているが、これは特定の構成を基準にした値で、実際に要る容量は構成で変わる。
2枚目のGPUを足したら、電源も買い替える必要があるか
判断材料になるのは、2枚とも見せて1つのモデルを回した時の合計の観測最大値で、5モデルでは最大227.2Wだった。RTX 5080 だけを見せた構成の最大339.4Wを超えていない。ただしこれは、1枚に収まる3モデルが消費電力の低い RTX 5060 Ti 側に載ったこの環境での結果になる。載る先が変わる環境では、この関係が保たれるとは限らない。1台の電源で2枚を賄う構成では、この合計がGPU側の負荷にあたる。ただしこれは1度に1つのモデルを回した場合の値で、両方のカードに別々の仕事をさせる使い方は測っていない。その想定では導出値496.3Wを目安に置くことになる。
2枚積んだのに速くならないのはなぜか
モデルが1枚のVRAMに収まっている場合、Ollama はそのモデルを片方のカードにだけ読み込むため、2枚目は使われない。速度は載った側のカードで決まる。この環境で phi4:14b・qwen3:14b・gemma4:12b が載ったのは RTX 5060 Ti 側で、RTX 5080 だけを見せた場合の毎秒80.43 / 80.20 / 79.95トークンに対し、2枚とも見せると毎秒43.93 / 43.42 / 46.37トークンだった。一方、1枚に収まらない qwen3-coder:30b と qwen3.6:35b-a3b では2枚に分かれて載り、毎秒72.45→157.83トークン、55.52→129.25トークンと2倍以上になっている。設定で分割を明示的に指定した場合は測っていない。
推論に使っていないカードは電気を食うのか
0Wにはならない。RTX 5080 が処理している間の RTX 5060 Ti は22.6〜23.6W、RTX 5060 Ti が処理している間の RTX 5080（表示担当）は51.5〜53.5Wだった。前者はVRAM使用量が13MiBでモデルが載っていない状態の値になる。1台の電源で2枚を賄う構成では、この分は合計の欄にすでに含まれている。
公称値で見積もると何が起きるか
今回の条件では、実測との余裕がカードごとに違った。RTX 5080 は公称360Wに対し観測最大値316.8W（88%）、RTX 5060 Ti は公称180Wに対し179.5W（99.7%）だった。公称値からの引き算で余裕を見込むと、5060 Ti 側では見込みが薄くなる。どちらも今回の5モデル・この測定条件での観測最大なので、別のモデルや別の条件では余裕がさらに減りうる。テキスト生成の推論という条件の外（画像生成や学習など）も測っていない。
まとめ
- 1枚で回したときの観測最大は、RTX 5080 が316.8W（公称360Wの88%）、RTX 5060 Ti が179.5W（公称180Wの99.7%）。
- 今回1枚に収まらなかった2モデルでは、一部がCPUへあふれ、電力が下がった。RTX 5080 で99.5〜105.3W、RTX 5060 Ti で64.3〜71.6W。RTX 5080 では速度も落ちており、省エネではなくGPUが十分に回り続けられていないためと考えられる。ただし RTX 5060 Ti ではこの2本のほうが速かった。
- 2枚目を足しても、Ollama の既定では1枚に収まるモデルは片方にしか載らない（この環境では RTX 5060 Ti 側だった）。RTX 5080 1枚を基準にすると合計Wが77.0〜112.2W下がり、速度も落ちた（載った先である RTX 5060 Ti 1枚を基準にすると、速度はほぼ変わらない）。増設が効いたのは、1枚に収まらなかった2モデル（合計W +74.1〜+83.5W、速度約2.2〜2.3倍）。
- これらはすべて生成中に観測した最大値で、消費電力量や電気代の比較には使えない。
