要点
- 16GBで足りるのか: 測った5本とも1枚には収まらず、所要量は最大 21.9 GiB だった。
- 32GB分にすると何が変わるか: 5本とも常駐率が100%になり、生成速度は1枚のときより上がった。
- 動かせるモデルは増えるのか: 上がったのは速度で、この5本では動く・動かないの境目は変わっていない。上がり幅は、測った5本ではモデルの型で分かれた。
数字はすべてコンテキスト8192・Q4_K_M・512トークン生成での値で、32GB側は16GBのカード2枚を合わせた構成による観測である。1枚と2枚では容量だけでなく演算資源・帯域・カード間の分割も同時に変わるため、速度差を容量だけの効果としては切り分けていない。単一の32GBカードでの速度、長いコンテキスト、学習用途は測っていない。対象は LLM の推論で、ComfyUI での画像・動画生成には同じ結論を移せない (後述)。
測った5本では、16GB+16GBの2枚構成にすると起動可否は変わらず速度が上がった
VRAM 16GB のカード1枚 (計測に使ったのは RTX 5080 16GB) では、測った5本とも重みが全部はVRAMに載らず、常駐率は58〜78%、生成速度は7.4〜72.5 tok/s に分かれた。同じ5本を RTX 5080 16GB と RTX 5060 Ti 16GB (OCuLink接続) の2枚に載せて合計32GBにすると、常駐率は5本とも100%になり、生成速度は25.7〜157.8 tok/s になった。起動しなかったものが起動するようになったのではなく、載りきらないまま動いていたものが、全部載った条件での速度に変わっている。
幅が広いのは、あふれたときの落ち方がモデルによって違うためである。活性パラメータが一部と公表されている2本は、常駐率が58%と74%まで落ちた状態でも 55.5 tok/s と 72.5 tok/s を保っていた。公式資料が Dense と読める3本は、常駐率61〜78%で、55.5 tok/s を出した1本の58%より高い水準でありながら 7.4〜12.8 tok/s まで落ちていた。前者にとっての2枚構成は、すでに出ていた速度を上積みする。後者にとっては 7.4〜12.8 tok/s という水準からの引き上げにあたる。同じ「32GBにする」でも、測った範囲では手元で使うモデルがどちらの側かで意味が変わっていた (Dense 3本・MoE 2本の観測である)。ただしこの比較では、VRAM の容量だけでなく2枚目の演算資源・メモリ帯域・カード間の分割と転送も同時に変わっている。速度差を全部載ったことだけの効果として切り分けてはいない。
以下、必要な容量・あふれたときの速度・全部載せたときの速度の順に、測った値を並べる。いずれもコンテキスト8192・Q4_K_M での値である。
16GBに載らないモデルは実際に何GB要るのか
Ollama は読み込み中のモデルについて、そのモデルの合計サイズを /api/ps で報告する。公式ドキュメントの /api/ps の項は、この値を「モデルのサイズ (バイト)」と説明している。本記事ではこの報告値を「所要量」と呼び、5本を並べる。
| モデル | 公表パラメータ数 | 所要量 |
|---|---|---|
| qwen3.5:27b | 27B | 16.3 GiB |
| qwen3-coder:30b | 30.5B (うち活性 3.3B) | 18.4 GiB |
| gemma4:31b | 30.7B | 20.0 GiB |
| qwen3:32b | 32.8B | 21.4 GiB |
| qwen3.6:35b-a3b | 35B (うち活性 3B) | 21.9 GiB |
この所要量は、本記事の環境で Ollama 0.32.3 が報告した値である。別のカード・別のドライバ・別の版で同じ値になることは確認していない。最小が 16.3 GiB、最大が 21.9 GiB で、5本とも16GBのカード1枚には収まらず、32GBには収まる。今回選んだ5本の Q4_K_M タグは、いずれも本記事の環境の16GBカードで空いていた容量を数GiB上回る位置にあった。あと数GiBあれば全部載る、という範囲である。16GB側で何が収まって何があふれるかの一覧は、VRAM 16GBで動かすローカルLLMの早見表にモデル別でまとめてある。表の公表パラメータ数は各モデルの公式モデルカードの表記による。定義と丸めは出典ごとに違い、たとえば Gemma 4 は公式カードが言語モデル 30.7B と約550M のビジョンエンコーダを分けて記すのに対し、配布ページの表示は 31.3B である。
もう一方の側、つまりカードで実際に空いている容量も、カタログの16GBそのままではない。各計測を始める直前に nvidia-smi で取得した値は次のとおりである。
| カード | 総容量 | 計測直前の空き |
|---|---|---|
| RTX 5080 (画面出力あり) | 16303 MiB | 14471〜14757 MiB |
| RTX 5060 Ti (画面出力なし) | 16311 MiB | 16050 MiB |
画面出力を受け持っているカードは、その分だけ空きが減る。常駐しているアプリの状況で増減するので固定値ではない。差が生まれるのは両側からで、所要量は重みだけの見積もりに収まらず、空き容量は画面表示や常駐アプリの分だけ削られる。公表パラメータ数と量子化から重みのサイズだけを見積もると、この二重の差のぶんだけ楽観側に外れる。手元で見積もるなら、16GBのカードで実際に空いていた 14471〜14757 MiB (画面出力を受け持つ場合) のほうを上限に置いて所要量を当てるほうが、実態に近くなる。
所要量はコンテキスト長で変わるため、ここの 16.3〜21.9 GiB は8192トークンでの値である。コンテキストを伸ばせばキャッシュのぶん増え、量子化を変えれば重みのぶんが変わる。8192 以外のコンテキスト長は本記事では測っていない。増え方そのものは長文を扱ったときのVRAMの増え方を実測した記事で扱っている。また、この所要量は Ollama の報告値であり、nvidia-smi が示すカードの使用量とは別の数え方になる (後述)。測定時に記録した digest は、qwen3.5:27b が 7653528ba5cb、qwen3-coder:30b が 06c1097efce0、gemma4:31b が 6316f0629137、qwen3:32b が 030ee887880f、qwen3.6:35b-a3b が 07d35212591f (いずれも先頭12桁) である。手元のモデルを取得したのは3本が2026年7月24日、qwen3:32b が6月18日、qwen3.6:35b-a3b が5月6日である。2026年9月8日にqwen3.6 のタグ一覧を見ると、qwen3.6:35b-a3b が指す digest は 096fdbd02fe6 に変わっていた。測定した 07d35212591f が消えたわけではなく、量子化まで明示した qwen3.6:35b-a3b-q4_K_M のほうに残っていて、短いタグの参照先だけが更新されている。残る4本は測定時と同じだった。タグ名だけを指定して取得すると測定時と別の中身が来ることがあるので、同じものを試すなら digest まで見て合わせる必要がある。
載りきらないときに起きること
常駐率は、Ollama の /api/ps が返すVRAM上の量と合計量の比である。100%を割った状態では、モデルの一部がVRAMの外に置かれている。本記事の測定ではその状態でも生成は最後まで完了したが、システムメモリの残量や同時に投げる要求の数によっては、待機や失敗が起こりうる。VRAMに載らない分をどう扱うかはVRAMに収まらない大型LLMをRAMオフロードで動かすで別に扱っている。以下は100%を割った状態で RTX 5080 1枚で測った値である。
| モデル | 型 | 常駐率 | 生成速度 |
|---|---|---|---|
| qwen3.5:27b | Dense | 78% | 12.8 tok/s |
| gemma4:31b | Dense | 61% | 7.5 tok/s |
| qwen3:32b | Dense | 64% | 7.4 tok/s |
| qwen3-coder:30b | MoE (活性 3.3B) | 74% | 72.5 tok/s |
| qwen3.6:35b-a3b | MoE (活性 3B) | 58% | 55.5 tok/s |
常駐率の順に並べても速度の順にはならない。58%の1本が55.5 tok/s で、64%の1本が7.4 tok/s である。あふれた量だけでは速度を説明できず、型の欄で分かれている。なお表の値は、モデルを積み替えると前のモデルが残ったまま次を測ってしまうため、1本ずつ降ろして空き容量を確認してから測り直した回のものである。型の欄は公式モデルカードの層構成の書き分けに従う。5本という小さな標本での観測で、同じ型ならどれでも同じになるとは言えない。
活性パラメータが一部と公表されている2本
qwen3.6:35b-a3b の実体である Qwen3.6-35B-A3B は、公式のモデルカードに総パラメータ 35B のうち1トークンあたり 3B が動く Mixture-of-Experts のモデルとして記載されている。qwen3-coder:30b の上流である Qwen3-Coder-30B-A3B-Instruct も、公式モデルカードに総パラメータ 30.5B のうち 3.3B が動くと記されている。内訳は、常駐率58%の qwen3.6:35b-a3b が 55.5 tok/s、常駐率74%の qwen3-coder:30b が 72.5 tok/s である。
公式資料が Dense と読める3本
gemma4:31b の実体である Gemma 4 の 31B は、Google のモデルカードの Dense Models 表に総パラメータ 30.7B として載っている。同じカードには 26B A4B の MoE が別の表で載っており、31B は Dense 側の行である。qwen3:32b の Qwen3-32B は、Qwen3 発表時の公式ブログが「dense」として挙げている6本のうちの1本にあたる。qwen3.5:27b の Qwen3.5-27B は、公式モデルカードが層構成を「16 × (3 × (Gated DeltaNet → FFN) → 1 × (Gated Attention → FFN))」と記しており、同じ欄に MoE ブロックを置く Qwen3.6-35B-A3B とは書き分けられている。同カードの特長欄は Qwen3.5 系列の特徴として sparse Mixture-of-Experts に触れるが、27B の層構成は FFN である。この3本の常駐率は61〜78%で、55.5 tok/s を出した1本の58%より高い。それでも生成速度は 7.4〜12.8 tok/s にとどまっている。
速度差の説明として言えること
この差は、1トークンを作るために読む重みの量の違いにあたると考えられる。活性が一部のモデルでは、GPUの外へ出た重みが毎回使われるとは限らない。ただし本記事が測ったのは速度と常駐率であって、VRAMの外に置かれた分が1トークンあたりどれだけ読まれたかは見ていない。ここでの機構の説明は、モデルカードの活性パラメータの記載に基づく推測を含む。あふれた重みの扱いそのものは、VRAMに収まらないMoEモデルの扱いをFreeTokenとOllamaで比較した記事で別に測っている。16GB 1枚での挙動をさらに細かく見る場合は、RTX 5080 16GBの壁についての疑問をまとめた記事もある。
2枚に全部載せたとき速度はどこまで上がったか
同じ5本を RTX 5080 と RTX 5060 Ti の2枚 (合計32GB) に載せ、同じコンテキスト長・同じ測り方で測り直した。
| モデル | 常駐率 | 生成速度 | 1枚からの倍率 |
|---|---|---|---|
| qwen3.5:27b | 100% | 30.1 tok/s | 約2.4倍 |
| gemma4:31b | 100% | 25.7 tok/s | 約3.4倍 |
| qwen3:32b | 100% | 25.9 tok/s | 約3.5倍 |
| qwen3-coder:30b | 100% | 157.8 tok/s | 約2.2倍 |
| qwen3.6:35b-a3b | 100% | 129.3 tok/s | 約2.3倍 |
倍率が大きいのは Dense 側の3本で、約2.4〜3.5倍になった。ただし到達した絶対値は 25.7〜30.1 tok/s である。活性が一部と公表されている2本は倍率こそ約2.2倍と約2.3倍だが、到達したのは 157.8 tok/s と 129.3 tok/s である。倍率で見るか到達した速度で見るかで、どちらが大きく変わったかの読み方は逆になる。買い足しの効果を見込むなら、倍率ではなく到達した値で見ておくほうが実態に近い。Dense 側の3本の場合、32GB分にしたあとの到達点は 25.7〜30.1 tok/s という水準になる。倍率は表の1枚の値との比で、いずれも同じ測り方・同じコンテキスト長での比較である。2026年9月8日に測った3本は別々の回で2度測っており、回ごとの差は 1.3% 以内だった。
速度が上がったのは常駐率が100%になった条件での観測であり、32GBを1枚で積んだカードで同じ値になるとは限らない。本記事の検証環境に RTX 5090 は無く、測っていない。2枚構成はカード間の転送を伴い、メモリ帯域の条件も1枚とは違う。この表の値は2枚に分けて載せた構成のものとして読む必要がある。
32GBを1枚で用意する場合
RTX 5080 の公称メモリ量は 16GB GDDR7 で、32GB を1枚に積むのは RTX 5090 のほうである。いずれも NVIDIA の公式製品ページのスペック表による。両者の公称値を並べる。総メモリ帯域だけはそのスペック表に行が無く、RTX 50 シリーズの発表記事に記載された値を使っている。以下はすべて公称値である。
| 項目 | RTX 5090 | RTX 5080 |
|---|---|---|
| 標準メモリ構成 | 32GB GDDR7 | 16GB GDDR7 |
| メモリインターフェイス幅 | 512-bit | 256-bit |
| CUDAコア | 21760 基 | 10752 基 |
| 総メモリ帯域 | 毎秒 1792GB | 最大で毎秒 960GB |
| Total Graphics Power | 575W | 360W |
| 必要なシステム電源 | 1000W | 850W |
ここに並べた32GBと16GBは搭載しているメモリ量であって、推論で使える量ではない。実際に空く量は前述のとおり総容量より小さく、画面出力の有無でも増減する。帯域も公称値であり、生成速度そのものではない。本記事の検証環境に RTX 5090 は無いため、この表の値と実測値を突き合わせることはしていない。本記事の環境で報告された所要量 (前掲の 16.3〜21.9 GiB) は、32GB という公称容量には収まる範囲にある。ただし別のカード・別の版で同じ所要量になることも、そこで全部載ることも、実機では確認していない。速度については測っていないため、なおさら言えない。
Total Graphics Power と必要なシステム電源も、公称の数値である。必要なシステム電源は特定のCPU構成を前提にした最小値として示されているもので、実測した消費電力ではない。なお RTX 5090 については、同じ公式製品ページの中でもスペック表が 1000W、電源確認の案内が 850W 以上と、2つの数値が並んでいる。表に載せたのはスペック表側の値である。32GBの手前には24GBという容量帯もあり、そちらの選択肢については24GBを待つかどうかを扱った記事で別に整理している。
ここまでの数字は LLM の推論のもので、2枚に分けて載るのは Ollama が複数GPUへ分割して載せる仕様による。ComfyUI での画像・動画生成は同じ扱いにならない。標準の ComfyUI には、2枚を 16GB+16GB=32GB の透過的な単一VRAMプールとして扱う仕組みが無い。複数GPUを使う本体同梱の機能はあり、v0.34.5 には1本の生成のサンプリングを分担する MultiGPU CFG Split や、モデル・CLIP・VAE の置き場所を分ける配置ノードが入っている。ただしこれらは処理や配置を分けるもので、VRAM の合算とは性質が違う。CFG Split のほうは NVIDIA の複数GPU向けガイドが対応GPUを Ampere 世代以降とし、2枚は同一機種である必要があるとしているため、本記事の RTX 5080 と RTX 5060 Ti の組み合わせは要件を満たさない。配置ノードを置かない通常のワークフローを別記事で測った範囲では、Windows の v0.34.5 は GPU の指定を書かずに起動すると1枚しか使わず、2枚を認識させただけでは1本の生成時間は変わらなかった。インスタンスを分けて、2枚で別々の生成を同時に走らせる使い方もできる。1つのモデルに32GBを渡したいなら、1枚あたりの容量を上げる側の構成になる。実測の内訳はComfyUI のマルチGPU運用を実測した記事で扱っている。
2枚で32GBにするときに要るもの
本実測機で足したのは2枚目のカードと、それをつなぐ接続 (本記事は OCuLink) である。同じ構成を組むにはこのほかに、ホスト側の対応、変換アダプター、補助電源、電源容量、ケースと冷却、対応ドライバの確認が要る。本記事は2枚運用に必要な電源容量を算定していない。どちらのカードに何GB載せるかは Ollama が決めるため、分割の設定作業そのものは要らなかった。Ollama の公式ドキュメントも、1枚に収まらないモデルは利用できる GPU 全体へ分けて載せると説明している。後述するカード別の内訳のとおり、実際に片方へ寄せきるのではなく両方のカードが埋まる形になった。
内訳を取った3本では、生成終了直後に採った3回のサンプルのうち2枚合計が最大だった値が 250.5〜265.5W だった。連続測定による生成中の最大ではないので、電源容量の算定には使えない。1枚あたりの公称値としては、RTX 5080 の Total Graphics Power が360W、必要なシステム電源が850W と示されている。電力側の実測はローカルLLM推論時のGPU電力を1枚と2枚で比較した記事で扱っている。
接続と分割方式についても、本記事は OCuLink接続の2枚で測ったという条件を示すにとどめている。カード間をどうつなぐか、どこがボトルネックになるかは、2枚のGPUのVRAMプールで動かす際の接続と帯域を扱った記事のほうで測っている。
まとめ
16GBであふれている状態から32GB分に移したときに変わったのは、常駐率と速度である。5本とも1枚では全部載らず、2枚で合計32GBにすると全部載った。変わったのは全部載るかどうかと速度で、動かなかったモデルが動くようになったわけではない。
測った5本では、手元で常用するモデルがどちらの群かで結果が分かれた。Dense 3本・MoE 2本の観測なので、型から一般にどちらになるかを決められるだけの本数は測っていない。今回の MoE 2本は、16GB 1枚であふれた状態でも 55.5 tok/s と 72.5 tok/s だった。Dense 3本は 7.4〜12.8 tok/s で、うち2本が一桁台である。2枚構成にしたときの倍率は Dense 3本が約2.4〜3.5倍、MoE 2本が約2.2〜2.3倍だった。型ごとに一般化できる本数ではない。ただしその差は容量だけの効果ではなく、演算資源と帯域と分割方式が同時に変わった結果である。もう一つの分かれ目はコンテキスト長で、所要量は8192での値であり、伸ばせば必要な容量も増える。
そして本記事の32GBは、16GBのカード2枚を合わせた構成である。1枚で32GBを積むカードの速度は測っていないため、ここの数字を単一カードの値として読むことはできない。構成の候補を条件から絞る用途はBTO選定ツールで扱っている。
この記事の測り方と、測っていないこと
実測はすべて Ollama 0.32.3 の /api/generate へ、think=false・num_predict=512・seed=42・num_ctx=8192 を指定して行った。temperature や top_p などのサンプリング設定は指定しておらず、各モデルの既定のままである。既定値はモデルごとに違い、配布ページでは qwen3.5:27b が temperature 1・top_k 20・top_p 0.95、gemma4:31b が temperature 1・top_k 64・top_p 0.95 となっている。サーバー側は Flash Attention を有効、KVキャッシュを f16、並列数を1、同時ロード数を1、コンテキスト上限を8192 に設定しており、1枚の測定と2枚の測定で同じ値を使っている。同じモデルの1枚と2枚は同じ既定値どうしの比較だが、モデルをまたいだ絶対速度の比較は条件を揃えたものではなく参考値である。量子化はすべて Q4_K_M である。
プロンプトは全モデル共通で、「以下の質問に日本語で詳しく回答してください。AIの進化が社会に与える影響について、技術的な観点と経済的な観点の両方から説明してください。具体的な事例を含めてください。」の1本だけを使っている。num_predict は生成の上限であって固定値ではないが、今回は全モデル・全構成で実際の生成トークン数が512だった。速度は Ollama が返す生成トークン数を生成時間で割った値で、読み込みとプロンプト処理の時間は含まない。値は3回の中央値を採っている。外れ値の判定には四分位範囲を使うが、3回では外れ値自身が四分位点になるため除外は起きず、今回も3回とも採用されている。
エンジンの版はこの比較のために揃えたもので、測定の途中で更新していない。ここに出てくる数値は 0.32.3 に固定した比較である。2026年9月8日に確認した公式のリリース一覧には、これより後の v0.33.3 が並んでいる。その版では測り直していない。本記事の実測値は、1枚の測定が2026年8月17日と8月25日、2枚の測定が2026年8月17日と9月8日に、当該構成で計測したものである。2枚構成のうち qwen3-coder:30b と qwen3.6:35b-a3b は8月17日、残る3本は9月8日に測った。
機材とソフトウェアの構成は次のとおりである。
| 項目 | 値 |
|---|---|
| OS | Windows 11 (10.0.26200) |
| CPU / メインメモリ | Core i7-14700F / 96GB |
| NVIDIA ドライバ | 610.47 |
| 推論エンジン | Ollama 0.32.3 (Python 3.11.9 から /api/generate を呼ぶ) |
| RTX 5080 の接続 | PCIe 第5世代 x16 |
| RTX 5060 Ti の接続 | MINISFORUM DEG1 (OCuLink 外付けドック)・PCIe 第4世代 x4 |
RTX 5060 Ti のリンクは実測で第4世代 x4 で、カード側の上限は x8 である。GPU の電力とクロックは既定のままで、上限を設定していない。各カードとマザーボードの個体の型番は計測の記録に残しておらず、ここでは示さない。
どのカードで動いたかは、各回について Ollama の /api/ps が返す VRAM 上の量とコンテキスト長、および nvidia-smi のカード別使用量で確認している。2026年9月8日に測った2枚構成の3本では、計測スクリプトが両カードの使用量の増分から2枚とも使われたことを確認して記録に残した。8月17日に測った2本はこの自動確認が入る前の計測で、カード別の使用量と電力の記録から両カードに載ったことを確認している。VRAM使用量と電力は nvidia-smi で取得している。カードごとの内訳を表に載せたのは、5本のうち次の3本である。残る2本については表に載せていない。
| モデル | RTX 5080側 | RTX 5060 Ti側 | 2枚の合計 | 生成終了直後の2枚合計電力 (3回中の最大) |
|---|---|---|---|---|
| qwen3.5:27b | 10873 MiB | 8796 MiB | 19669 MiB | 250.5 W |
| gemma4:31b | 13368 MiB | 10890 MiB | 24258 MiB | 256.0 W |
| qwen3:32b | 12672 MiB | 11110 MiB | 23782 MiB | 265.5 W |
この3本の合計 (19669〜24258 MiB) は2枚それぞれの使用量を足した値で、画面表示に使われている分やカードごとの実行時確保を含む。モデル単体の所要量として読むことはできず、先の表より大きくなるのはこのためである。モデルが必要とする量としては、Ollama が報告する所要量のほうを使っている。電力は nvidia-smi の power.draw を各回の生成が終わった直後に1回ずつ取得し、3回分のうち同じ時点の2枚の合計がいちばん大きかった値を採っている。生成中を連続で追ってはいないので、これは採取したサンプルの最大であって、生成中の本当の最大とは限らない。ボード電力であって、システム全体の消費電力でもない。
本記事が測ったのは、単発の生成 (512トークン) における速度・常駐率・VRAM使用量と、生成終了直後に採ったボード電力のサンプルだけである。電力は生成中の最大でも、システム全体の消費電力でもない。長いコンテキスト、並列実行、学習用途、画像や動画の生成は測っていない。単一の32GBカードでの速度も測っていない。これらの次元について、この記事の数字から優劣を導くことはできない。
よくある質問
RTX 5080 に 32GB の版はあるか
公式製品ページのスペック表に載る RTX 5080 の標準メモリ構成は 16GB GDDR7 で、メモリインターフェイス幅は 256-bit、CUDAコアは 10752 基である。同じ世代で 32GB を1枚に積むのは RTX 5090 のほうで、その公称値は本文の表に並べた。16GB のカードを2枚使って 32GB 分にする構成については、本記事の実測がそれにあたる。
32GBあれば27〜35B級はどれでも載るか
どれでも、とはこの5本からは言えない。測った5本の所要量は 16.3〜21.9 GiB で、この範囲なら32GB分の容量に収まる。ただしこれはコンテキスト8192・Q4_K_M での値で、コンテキストを伸ばせばキャッシュのぶん増え、量子化を変えれば重みのぶんが変わる。測っていない構成、および同じパラメータ数帯でも測っていないモデルについては、この数字からは言えない。
qwen3.5:27b は MoE と Dense のどちらか
Dense として扱っている。公式モデルカードが層構成を FFN と記しており、同じ欄に MoE ブロックを置く Qwen3.6-35B-A3B とは書き分けられているためである。同カードの特長欄が Qwen3.5 系列の特徴として sparse Mixture-of-Experts に触れているのは系列全体の説明で、27B 固有の構成ではない。公称パラメータ数は 27B である。
32GBを1枚で積んだカードなら同じ速度が出るか
本記事の検証環境にそのカードは無く、測っていない。2枚構成はカード間の転送を伴い、メモリ帯域の条件も1枚とは違う。ここに載せた速度は、16GBのカード2枚で常駐率100%になった条件での観測である。
画像・動画生成でも16GBのカード2枚で32GB分として使えるか
本記事の結論は移せない。標準の ComfyUI では、2枚のVRAMを単純に合算して1つのモデルに 16GB+16GB=32GB として使うことはできない。本体同梱の配置ノードでモデル・CLIP・VAE を別のカードへ置き分けることはできるが、これは配置であって合算ではない。1つのモデルが1枚に収まらないなら、容量の大きい1枚に載せる構成になる。本記事は ComfyUI 側を測っておらず、ここの記述は本文で挙げた別記事の実測による。
長いコンテキストや学習用途でも同じことが言えるか
測っていない。本記事が測ったのは単発の生成 (512トークン) における速度・常駐率・VRAM使用量と、生成終了直後に採ったボード電力のサンプルだけで、長いコンテキスト、並列実行、学習用途、画像や動画の生成は範囲外である。
参考資料
- NVIDIA GeForce RTX 5090 公式スペック
- NVIDIA GeForce RTX 5080 公式スペック
- NVIDIA GeForce News: RTX 50 シリーズ発表 (メモリ帯域)
- Qwen3.6-35B-A3B モデルカード
- Qwen3.5-27B モデルカード
- Qwen3 公式ブログ (dense と MoE の内訳)
- Gemma 4 モデルカード
- Ollama 公式 FAQ (複数 GPU への載せ方)
- Ollama API ドキュメント (/api/ps と /api/generate)
- Ollama qwen3.6 タグ一覧 (digest の確認先)
- NVIDIA How to Build a Multi-GPU AI PC (対応GPU世代と同一機種の要件)
32GB のさらに上、84GB を1枚で積むワークステーション向けカードが何を載せられるのかは、RTX PRO 5500 Blackwellの84GBは何を載せられるか|公称スペックで読む容量・帯域・演算の増え方で公称スペックから見ている。ここで測った27〜35B級の所要量との位置関係も並べた。

