RTX 5080 16GB VRAMの壁に関するよくある疑問7選｜27B・32Bは起動するが6〜10 tok/sまで落ちる

RTX 5080は16GB VRAMを搭載している。今回検証したOllama既定タグのDense型27B〜32Bは、モデル全体がこのVRAMに載りきらなかった。ただし起動を拒否されるわけではなく、収まらないレイヤーをCPU側に置いた状態で実行される。当サイトの検証環境（2026-07-29計測）では、そのDense型3本が6.2〜10.3 tok/s。全レイヤーがGPUに載った14Bクラスは75.0〜76.7 tok/s だったので、境界を越えると生成速度は6.2〜10.3 tok/s まで下がる。一方でMoE型の Gemma 4 26B A4B は、同じくCPU側への配置が起きながら58.6 tok/s を保った。「境界を越えたら必ず遅くなる」わけではなく、モデル構造で結果が変わる。以下は今回検証したモデルの実測であって、27B以上すべてに当てはまる絶対的な線引きではない。

RTX 5080 16GBでQwen3.5 27B・Gemma 4 26B／31B・Qwen3 32Bはどう動く？

4モデルとも起動する。ただし既定タグでのモデル重量が、計測時にOllamaが利用可能と報告した14.2 GiBに収まらないため、載りきらないレイヤーはCPU側に配置された状態で実行される。測った結果が以下。

この14.2 GiBは、モデルをロードする前にOllamaが起動ログへ出力した利用可能VRAM。nvidia-smi 上のカード総容量は16303 MiB（約15.9 GiB）。差分にはデスクトップ表示や既存プロセスの使用分、ドライバ・ランタイム側の予約領域などが含まれる可能性があるが、本記事では内訳までは計測していない。Ollamaの起動ログはGiB表記、タグの配布サイズと ollama ps の表示はGB表記なので、数値を直接引き算しない方がいい。

部分的にCPUへ配置されると、そのレイヤーの計算はCPUが担当し、GPU側のレイヤーとの間で生成ステップごとに中間データの受け渡しが発生する。Dense型の Qwen3.5 27B が、GPU内で完結する14Bクラスに対して速度およそ7.3分の1まで落ちた主因は、CPU側の演算とGPUとの間のデータ転送にあると考えられる。gemma4:31b・qwen3:32bはCPU側の割合がさらに増え、6.6〜6.2 tok/s だった。

対照的なのが Gemma 4 26B A4B（gemma4:26b）で、CPU側の割合が27.3%と Qwen3.5 27B（22.1%）より高いのに、58.6 tok/s を保っている。このモデルは総パラメータ25.2Bに対し、1トークンで有効になるのは約3.8B（128エキスパート中8つ＋共有1つ）。CPU側に置かれたレイヤーでも、Dense型のように全重みを計算するわけではなく、ルーティングで選ばれた一部のエキスパートが主な計算対象になるため、CPU側の演算量がDense型ほど増えなかった可能性がある。ただし本記事で測ったのはスループットと配分比率だけで、どのレイヤーやエキスパートがCPU側へ回ったかは追跡していない。あくまで仮説として扱いたい。

ここから言えるのは、配布サイズだけでは全レイヤーがGPUに載るかを判断できない、ということ。モデル本体に加えてコンテキストやランタイム用の領域も必要になるため、VRAM容量と同程度の配布サイズでは余裕がほとんど残らない。RTX 5080でDense型の27B級を実用速度で扱うには、配布サイズの小さいタグを選ぶか、より大容量のGPUへ移行するかの判断が必要となる。

RTX 5080で全レイヤーをGPUに載せられた最大モデルサイズは？

今回検証したラインアップの中で、全レイヤーをGPUに載せたまま動いた最大は14Bクラスだった。前掲の表のとおり phi4:14b が ollama ps の SIZE表示10.72GBで75.0 tok/s、qwen3:14b が10.47GBで76.7 tok/s。パラメータ数だけでVRAM使用量が決まるわけではなく、量子化形式・DenseかMoEか・コンテキスト長・KVキャッシュの形式・ランタイムでも変わるため、「14Bまで」という数字は今回のモデル選定に紐づいた結果として読んでほしい。

14Bクラスでは ollama ps 上で100% GPU常駐を確認できた。ただし ollama ps の SIZE表示と、Ollamaが起動時に報告する利用可能VRAMは同じ指標ではないため、残りのVRAMを単純な引き算では出せない。コンテキストを伸ばしたときの余裕は、nvidia-smi の実使用量も併せて確認したい。

9B以下の軽量モデルなら余裕がさらに広がり、qwen3.5:9bで5.88GB、phi4-mini:3.8bでは3.7GB。複数モデル同時起動やマルチタスクを想定するなら、軽量モデル中心の運用が現実的な選択肢になる。

今回の対象を配布サイズで並べると、全部載った14Bクラスが9.05〜9.28GB、CPU配置が始まった27Bクラスが17.42GBで、この間が空いている。これは量子化方式の構造というより、既定タグで揃えたときにこのサイズ帯が手薄になるという選定上の段差。公式タグには qwen3.5:27b-int4 や gemma4:26b-a4b-it-qat（いずれも配布16GB表示）のように既定より小さい版もあるが、利用可能な14.2 GiBに対して余裕はほとんど残らない。本記事ではこれらを計測していない。

公称14GB台に見えるGemma 4 26B A4BはRTX 5080でどこまで使える？

Google 公式の Q4_0 目安（約14.4GB）だけ見れば乗りそうに見えますが、Ollama 経由の default 量子化では事情が変わります。gemma4:26b タグは18GB と表示され、これだけで利用可能な14.2 GiBを超えます。さらに実行時には KVキャッシュ用のバッファ確保、推論時のアクティベーションメモリ、CUDAコンテキストの予約領域が積み上がります。

Gemma 4ファミリーの公式サイズは 26B A4B（MoE）と 31B（Dense）で、Gemma 4 に「27B」というモデルは存在しません（27B は Gemma 3 のサイズ）。本セクションで扱う「14GB台に見えるモデル」は 26B A4B（Ollama: gemma4:26b）を指し、前掲の表で6.6 tok/s だった Gemma 4 31B（gemma4:31b）とは別モデルです。MoE構成は1トークンあたりに使う活性化パラメータこそ少ないものの、ロード時には全エキスパートぶんの重みを確保する必要があり、Dense型に近いメモリ要件になります。

当サイトの実測では、gemma4:26b は ollama ps の SIZE表示18.22GBのうち 72.7%がGPU側、残り27.3%がCPU側という配分になった。計測時にOllamaが利用可能と報告したVRAMは14.2 GiB（nvidia-smi 上のカード総容量は16303 MiB（約15.9 GiB））。18〜20GB級の配布サイズはこれを超えるため、全部をVRAMに置くことはできない。それでもMoEの場合はトークンあたりに使う重みが限られるため、この配分で58.6 tok/s と実用速度を保っていた。

Q2やQ3量子化に落とせばRTX 5080で27Bは動く？

まず前提として、量子化を落とせば必ず全部VRAMに載るとは言い切れません。2026-07-29時点のOllama公式ライブラリを確認した範囲では、gemma4:26b・gemma4:31b・qwen3.5:27b のいずれにも q2_K / q3_K_M の公式タグは用意されていません。公式に選べる軽量寄りのタグは qwen3.5:27b-int4（配布16GB表示）や gemma4:26b-a4b-it-qat（同16GB表示）で、それ以上落とすなら第三者が公開しているGGUFを取得するか、自分で量子化してOllamaへインポートする必要があります。

重み部分をビット数だけで単純比例させた粗い概算では、gemma4:26b（既定18GB表示）はQ3相当で14GB前後、Q2相当で11GB前後になります。ただし実際のGGUFサイズは量子化方式や量子化対象外のテンソル（埋め込み・出力層・メタデータ）によって変わり、この数値だけでロード可否は判断できません。実行時にはKVキャッシュとランタイム領域も上乗せされます。14GB級でも利用可能な14.2 GiBに対する余裕は小さく、コンテキスト設定によっては一部がCPU側に残る可能性があります。本記事ではこれらの軽量タグのロード可否・速度・出力品質を測っていません。

一般に低ビット量子化ほど出力品質へ影響する可能性が高まりますが、影響の大きさや現れ方はモデル・量子化方式・タスクによって異なります。本記事で計測したのは生成速度とGPU/CPUの配分だけで、品質は定量評価していません。Q4_K_Mが「品質と速度のバランス点」とされるのも一般的な経験則のため、常用前に実際の用途で確認するのが確実です。

量子化を下げたときの速度差は、モデルとランタイムの実装によって変わるため一概には言えず、本記事では測っていません。今回の実測で言えるのは、Dense型の27B〜32Bでは部分的なCPU配置が起きると6.2〜10.3 tok/s まで落ちた一方、MoE型の Gemma 4 26B A4B は同じくCPU配置が起きながら58.6 tok/s を維持した、ということ。全レイヤーがGPUに載るかどうかだけで速度を一律には判断できません。常用するなら既定タグで全部載る14Bクラスに留めるか、GPU換装を検討する方が判断しやすい選択になります。

代替路として、一部のCore Ultra搭載機の Built-in Intel Arc Pro GPU では、システムメモリの最大93%を GPU 側の作業メモリとして動的に割り当てられるドライバ機能が登場している。Intel の Arc Pro 向けドライバでメモリ割当の上限が引き上げられたもので、どのバージョンから使えるかは Intel のドライバ配布ページで確認したい。ただし対象は一部のCore Ultra内蔵の Arc Pro 構成に限られ、通常のIntel Arc iGPU全般に使える話ではない。32GB RAMの環境なら最大約30GBのシステムメモリを共有GPUメモリとして使える計算になり、「VRAMの壁」を別ルートで回避する手段として注目されています。ただし専用GDDR7 VRAMとは帯域も遅延も大きく異なり、推論速度は専用GPUに劣るため、速度より大規模モデルを動かすこと自体が目的の場合に限られる選択肢でしょう。

配布サイズ16GBのint4・QATタグならRTX 5080に全部載る？

断定はできません。公式ライブラリには qwen3.5:27b-int4（配布16GB表示）と gemma4:26b-a4b-it-qat（同16GB表示）があり、いずれも既定タグより小さい構成です。ただし配布サイズと実行時のVRAM消費量は一致しないため、タグの表示サイズだけでは判断できません。

今回Ollamaが利用可能と報告した14.2 GiBに対して、配布16GB表示は十分な余裕があるとはいえない水準。全レイヤーをGPUに載せられるかは本記事で計測していないため、ここは断定を避けます。既定タグで6.2〜10.3 tok/s まで落ちる構成から乗り換える価値があるかどうかは、実際にロードして ollama ps のPROCESSOR列を見るのが確実です。

RTX 5060 Ti 16GBや他の16GB GPUでも結果は同じ？

同じモデル・量子化・コンテキスト条件なら、16GB級GPUでは17〜20GB級の既定タグを全GPU常駐させにくいという大枠は共通します。ただし実際にCPU配置が始まる位置や配分率は、OS・表示出力・利用可能VRAM・ドライバ・バックエンドによって変わります。RTX 5060 Ti 16GB・RTX 5070 Ti 16GB・RTX 4070 Ti Super 16GB・RX 9070 XT 16GBのいずれも、今回検証した17〜20GB級の既定タグを全レイヤーGPU常駐させるのは難しいと考えられますが、本記事で実測したのは RTX 5080 のみです。

差が出るのは推論速度（tokens/sec）の方。GPUアーキテクチャ・演算性能・メモリ帯域・量子化カーネルの実装・バックエンド・CPUとRAMの性能など複数の要因で決まり、どこまでVRAMに載るかとは別の軸になります。NVIDIA同士の比較でもCUDAコア数だけで速度は決まりません。RTX 5060 Ti 16GBはCUDAコア4608基・GDDR7メモリで、当サイト検証では同じ14Bクラスのモデルを5080より遅い速度で実行する。市場価格は2026年4月時点で約9.5万円前後（各販売店ベース）、5080（約20万円前後）の半額以下。AI入門用途のコスパで選ぶGPUとして注目されています。

RX 9070 XTは16GBで約9.5万円前後（2026年4月時点）とNVIDIA比で割安。ただし公式サポートの状況がOSで分かれます。2026-07-29時点のOllama公式GPU一覧では、Linux版のROCm対応GPUとして 9070 XT が掲載されている一方、Windows版の対応一覧には掲載がありません。ただしOllamaはWindowsでもVulkanバックエンドを提供しているため、WindowsではVulkan経路を使える可能性があります。CUDA・ROCm経路とは実装が異なるので、速度や安定性は実環境で確認したいところ（llama.cppを直接使う選択肢もあります）。

5060 Ti 16GBについては、別記事「AI用PCの最低スペックガイド｜RTX 5060 Ti+RAM 32GBで始めるローカルAI環境」で具体的な構成例を解説しています。

RTX 5090（32GB）にアップグレードすべき？それとも5080維持？

判断軸は「常用したいモデルサイズ」一点に絞られます。常用が14B以下のモデル（今回の実測で ollama ps の SIZE表示10GB台）に収まるなら、RTX 5080で十分です。コンテキスト拡張の余地はありますが、実際の余裕はKVキャッシュ形式・プロンプト長・並列数・常駐アプリで変わるため、nvidia-smi の実使用量で確認したいところ。逆にDense型の27B〜32BクラスをQ4_K_Mのまま日常的に使いたいなら、24GB級がひとつの目安になります。ただし32B級や長文コンテキストでは24GBでも余裕が小さいため、安定運用まで考えるなら32GB級（RTX 5090等）が現実的です。

RTX 5090の国内定価は約39万円（NVIDIA / PC Watch）ですが、2026年4月時点の実売は店舗・モデルにより50万〜60万円超まで高騰していました（kakaku.com 実売）。RTX 5080（約20万円前後）との価格差は実売で30〜40万円規模となり、軽い投資ではありません。「27Bが必要かどうか」を冷静に判断するのが先決でしょう。週に1〜2回しか使わないなら、公式の16GB表示タグ（int4 / QAT）を試すか、カスタムGGUFの品質を実際の用途で確かめたうえで、5080を維持する方が合理的なケースもある。

第三の道としてデュアルGPU構成があります。当サイトの検証環境はRTX 5080 16GB + RTX 5060 Ti 16GBで物理的には合計32GBのVRAMを搭載していますが、これは単一GPUの連続した32GB VRAMとは別物です。モデル分割・KVキャッシュ・転送オーバーヘッドの影響を受けるため、単一GPUの連続した32GBと同じようには扱えません。Ollamaが2GPU間で分散ロードするのは、モデル重量が単一GPUに収まらない場合の回避策としての位置づけになります。

ローカルAI環境の発展が見込めるなら5090、ピンポイントで14Bクラスの常用なら5080維持、コスパ重視ならRTX 5060 Ti 16GB追加でデュアル構成、という3択で考えると判断しやすい。

RTX 5080の主要仕様とCPU配置が始まる境界

GPU購入検討時に確認しておきたい主要数値をまとめます。

まとめ：自分の常用モデルサイズで判断する

今回検証したOllama既定タグの範囲では、RTX 5080 16GB単体で14BクラスのDenseモデルは全レイヤーがGPUに載り、75.0〜76.7 tok/s で生成できた。一方 Dense型の Qwen3.5 27B（Ollama: qwen3.5:27b）・Gemma 4 31B（Ollama: gemma4:31b）・qwen3:32b は一部がCPU側に配置され、6.2〜10.3 tok/s まで落ちた。同じくCPU側への配置が起きたMoE型の Gemma 4 26B A4B は58.6 tok/s を維持しており、27B以上すべてに共通する絶対的な境界ではない。量子化形式・モデル構造・コンテキスト長・Ollamaのバージョンで動く数字として読んでほしい。

選択肢は3つ。既定タグで全部載る14Bまでに留めるならRTX 5080維持で十分。Dense型の27B以上を実用速度で動かしたいなら配布サイズの小さいタグ（int4 / QAT 等）を試すか、24GB級をひとつの目安にGPUを換える。32B級や長文コンテキストまで見るなら24GBでも余裕は小さく、RTX 5090（VRAM 32GB）が現実的。週次の使用頻度と品質要求を冷静に天秤にかけて、自分のワークロードに合った投資判断をしてください。それでも判断に迷う場合は、現状のRTX 5080で14Bクラスを使い込んでから、足りない部分を見極めて追加投資する方が後悔の少ない選択になります。

本記事は AIハードウェア図鑑 が記載時点の情報をもとに執筆。製品アップデートや第三者ベンチマーク・価格・対応ランタイム等の変動で評価が変わる可能性がある。一定期間経過した内容は再検証を推奨する。