デュアルGPUでローカルAIはどう変わるか｜2枚運用・Oculink・VRAM合算の実測

2枚目のGPUがはっきり役立つのは、1枚のVRAMに収まらない大型LLMと、複数の処理を同時に動かす場面です。逆に、1枚で収まる画像生成や小型LLMでは、2枚目が遊んでしまうことも少なくありません。
GPUを2枚にすると、ローカルAIは何が変わるのか。マルチGPU（複数GPU）構成の効果を、当サイトは RTX 5080＋RTX 5060 Ti（各16GB）を Oculink で2枚運用し、ローカルLLM・画像生成で実測してきました。良くなるケースと変わらないケースの両方を、実測したまま紹介します。

VRAMは2枚で足し算できるのか

よくある疑問が「2枚にすればVRAMは合算（足し算）できるのか」です。答えは 単純な足し算ではありません。2枚のVRAMが1つの大きなVRAMになるわけではなく、1つのモデルはそのままでは1枚にしか載りません。

ただし、モデルを層ごとに2枚へ分けて載せれば（モデル分割）、合算32GBに収まる大型モデルを実際に動かせます。当サイトでも、1枚（16GB）からあふれる qwen3.5:35b-a3b を2枚に分けて動かし、約1.9倍に高速化しました。一方で、合算32GBも超える超大型モデル（70B級など）は、この方法でも実用的な速度では動きません。分割したときに何が速度を決めるのかは 2枚のGPUのVRAMプールで動かす｜OCuLink接続の帯域ボトルネックを見極める で実測しています。ローカルLLMで1枚にするか2枚にするか迷っているなら、モデルの大きさ別に1枚と2枚を比べた目安を、同じ記事の冒頭に置いています。

2枚にして良くなるケース／変わらないケース

用途別・2枚目の効果の出やすさ

同じGPUを2枚そろえる必要があるか

2枚目を足すとき、1枚目と同じ型番をそろえるべきか。答えは使うツールによって変わります。当サイトは RTX 5080 と RTX 5060 Ti という型番の違う2枚（異種構成）で運用していて、ローカルLLMではこの構成のまま効果が出ています（1枚からあふれる qwen3.5:35b-a3b が約1.9倍）。モデルの層を分けて各GPUに置く方式なら、2枚の性能や容量が同じである必要はないからです。

一方で、同一GPU2枚を条件にしている機能もあります。ComfyUI に組み込みの MultiGPU CFG Split は、公式のノードドキュメントが対応構成を「Ampere以降の同一GPU2枚」とし、型番の違う混在は非対応と明記しています。当サイトの異種構成はこの条件から外れるため、この機能自体は未検証です。ただし異種でも別のやり方は残っていて、認識はされているのに2枚目が使われないときの切り分けは 複数GPUが認識されても使われない時の切り分け にまとめています。

実測ハイライト

構成と始め方

2枚目は Oculink eGPU ドック（MINISFORUM DEG1）で増設しています。Ollama では2枚目が認識されない場合があり、OLLAMA_SCHED_SPREAD 等の設定で2枚に振り分けます。外付けの選択肢として Thunderbolt 5 もあります。

• MINISFORUM DEG1 Oculink eGPUドック 実機レビュー（半年運用・認識しない時の対処）
• Oculink接続のGPUがOllamaに認識されない原因と OLLAMA_SCHED_SPREAD
• Thunderbolt 5 でローカルAIを外付け強化する選択肢

デュアルGPU 関連記事

関連ガイド

• 用途別 必要スペック早見｜どの用途に何GB要るか
• VRAM 16GBでローカルAIはどこまでできるか

検証環境