報道のRTX 5080 24GBが出たら何が載るか|16GBで載り切らなかったLLMと動画生成は収まるか

RTX 5080 16GBと報道の24GB載り切らなかったLLMと動画生成(模式図) GPU・グラフィックボード

この記事の要点

VRAM を増やした RTX 5080 は NVIDIA が発表した製品ではなく、発売の時期・名前・価格は報道の段階にとどまる。待つかどうかを、発売日や値段の数字で決めることはまだできない。

今の RTX 5080 に全部載って動いているモデルは、容量が増えても生成が速くなる根拠が報道に無い。容量が増えて変わる側に入るのは、載り切らずにメインメモリ側へあふれていたモデルと、文脈を長くしたい使い方になる。

今の GPU で載り切らなかった LLM は、記録の使用量などを足した参考の値が増えた容量を下回るものと、ほぼ届くものに分かれた。動画生成はひとつのモデルの例だけで、FastH3 Omni は今の RTX 5080 の構成でも最後まで生成でき、拡散モデルの INT8 のファイルは増えた容量より小さかった。ほかの動画生成のモデルでは結果が変わりうる。

スポンサーリンク

RTX 5080 24GBについて報道で分かっていること

24GB の RTX 5080 は、NVIDIA が発表した製品ではない。2026年10月31日に確認した範囲では、NVIDIA の日本語の RTX 5080 の製品ページと GeForce の比較表に、24GB の RTX 5080 は見つけられなかった。24GB のカードについてこの記事が根拠にするのは、次の2つの海外の報道になる。ほかの媒体の記事もあるが、NVIDIA の発表ではない点は同じ。

先に出たのは2026年10月13日 (日本時間) の TechPowerUp の記事で、台湾の BenchLife の報道として、NVIDIA が 24GB の GDDR7 を積んだ RTX 5080 を2027年1〜3月 (記事の表現では2027年の第1四半期) に出し、今の 16GB のモデルを置き換える計画だと伝えた。同じ記事によると、ボードを作るパートナーには開発用の資料がまだ届いておらず、その資料を近く出すと口頭で伝えられただけだという。24GB の RTX 5080 が、以前から噂のある RTX 5080 SUPER と同一のカードかどうかは分かっていないとしている。

もう1つは2026年10月30日の VideoCardz の報道で、中国の流通筋 ChannelGate (Board Channels に関係する情報源) の話として、NVIDIA が 24GB の RTX 5080 の発売を早め、早ければ2026年12月、遅くとも2027年1月までに出す見込みだと伝えた。同じ報道は、NVIDIA が中国で 16GB の RTX 5080 の供給をやめる計画だとしている。

VideoCardz は、この報道が中国についてのもので、ほかの地域で同じ変更があるとは確かめていないと書いている。製品の正式な名前・クロック・価格も、まだ確かめられていないとしている。

今の RTX 5080 について NVIDIA が公式に載せている仕様と、24GB の RTX 5080 について報道された値を、項目ごとに並べる。24GB の列は報道の値で、NVIDIA の発表ではない。— は報道に値が無い欄を示す。

項目 今の RTX 5080 (NVIDIA 公式) 24GB の RTX 5080 (報道)
VRAM 16 GB GDDR7 24GB GDDR7
メモリのバス幅 256-bit 256bit
メモリ帯域幅 960 GB/sec (英語の比較表の値) —
CUDA コア 10752 —
時期 発売済み 2026年12月〜2027年1月 (ChannelGate) / 2027年1〜3月 (BenchLife)
名前・価格 — 確かめられていない

公式と報道を並べたこの対照表で、24GB の列に値が入っているのは容量・バス幅・時期だけになる。速さにかかわる帯域や CUDA コアは、報道には出てこない。比較表では、上位の RTX 5090 が 32 GB の GDDR7・512-bit で、24GB では足りず 32GB に収まる大きさを考えるときに比べる相手になる。

2つの報道は、時期だけでなく話の範囲も違う。BenchLife の報道は地域には触れずに今の 16GB のモデルを置き換える計画として伝え、ChannelGate の報道は中国での供給の話として伝えている。中国以外で 16GB の RTX 5080 がどうなるかについて、VideoCardz は確かめていないと書いている。

国内の在庫と価格については、2026年10月31日の GAZLOG の記事が伝えている。16GB の RTX 5080 で在庫のある製品は10月14日の20製品から10月30日には9製品に減り、最安値は26万7,700円から33万1,800円に上がったという (数字の出どころと、数えた販売店の範囲は記事に書かれていない)。同じ記事は中国の博板堂の話として、NVIDIA は GPU の在庫をすでにすべて出し切っており、出回っている 16GB 版の在庫もあと2か月ほどで売り切れるとしている。この在庫の話がどの地域のものかは書かれておらず、国内の在庫が2か月で尽きるとまでは読めない。博板堂の話も NVIDIA の発表ではない。時期が上の ChannelGate の話と同じで、同じ出どころの可能性があるが、確かめていない。国内の在庫が減った理由が 24GB への切り替えかどうかも、確かめられない。

VRAM を何 GB 選べばよいかを用途ごとに先に押さえたい場合は、画像生成・動画生成・LLM の用途別に必要な VRAM をまとめた入門記事から読むと、この先の話がつながりやすい。24GB のカードの噂と用途ごとの違いを2026年6月の時点で整理したものは、24GB の噂を6月に整理した記事にある。

24GBになって増えるのは容量で、メモリの速さは報道に無い

GPU のメモリには、どれだけ入るかを決める容量と、1秒あたりにどれだけ読み出せるかを決める帯域の2つの数字がある。報道が示しているのは容量で、帯域を決めるメモリの速さは示していない。

256bit のまま 24GB にする計算

VideoCardz の表では、24GB の RTX 5080 (噂の扱い) のメモリは 24GB の GDDR7・256bit とされている。256bit を 32bit 幅のメモリ8個でつなぐ構成を仮定すると、24GB なら1個あたり 3GB、今の 16GB なら1個あたり 2GB になる。容量とバス幅から組んだ仮定の計算で、メモリの個数や1個の容量は、NVIDIA は明記しておらず、この記事で引いた2つの報道にも書かれていない。

帯域は報道からは分からない

今の RTX 5080 の帯域 960GB/s を 256bit (32 バイト) で割ると、データ線1本あたり 30Gbps になる計算になる (32bit 幅のメモリ1個なら 32 本で 120GB/s、8個で 960GB/s)。報道はメモリの速さを示していないので、24GB の RTX 5080 の帯域は分からない。GPU コアの数も報道には無い。今と同じ速さのメモリを使うなら、バス幅が同じなので帯域も 960GB/s のままになる。

LLM の生成のように重みを毎回読み出す処理は、帯域で頭打ちになりやすい。今の 16GB に全部載って動いている LLM は、同じモデル・量子化・文脈の長さで1つの問いに答えを生成する使い方なら、容量が増えたことだけでは生成が速くなる根拠にならない。24GB の RTX 5080 の帯域とコアの数は報道に無いので、これらが今と違えばこの読み方は当てはまらない。この読み方は LLM の生成の話で、画像や動画の生成の速さには当てはめていない。LLM で速さが変わる見込みがあるのは、16GB では載り切らずにメインメモリ側へあふれていたものになる。増えた容量は、長い文脈や、同時にいくつもの問いを処理する使い方に回すこともできる。ここまでは公式の値と報道からの読み方で、24GB のカードは測っていない。

この記事での GiB と GB の数え方

この記事の計算は、2進の GiB (1GiB = 1,024MiB) でそろえる。GPU の使用量を見る nvidia-smi は MiB で表示し、Ollama がモデルの大きさを示すときは10進の GB を使うので、同じ「GB」に見えても数え方が違う。

24GB のカードは、比べるために容量を 24GiB (24,576MiB) とみなす。10進の 24GB から換算した値でも、24GB のカードで使える量を確かめた値でもない仮定になる。今の RTX 5080 は nvidia-smi で総量 16,303MiB (約15.92GiB) と表示された (Muse Glimmer 30B の測定時) ので、24GB のカードも 24,576MiB より少し小さく表示される見込みになる。24GB のカードの表示そのものは見ていない。/api/ps が返した 23.79GB は、2進に直すと 22.16GiB にあたる。

16GBのGPUで載り切らなかったLLMは24GBに収まるか

ここに並べるのは 16GB の GPU で取った過去の測定の記録で、24GB のカードで測った値ではなく、24GB に収まるかどうかは記録の値からの計算になる。

Muse Glimmer 30B は測る前の使用量が少ない時点で、全層を載せる指定が最も速かった

Muse Glimmer 30B (Meta 公式の GGUF muse-glimmer-30B-kquant-17gb、ファイル 15.61GiB) の記録では、RTX 5080 で全層を載せる指定 (LLM の層をすべて GPU に置く指定) にした回が、層を減らした回より速かった。ただし全層を載せる指定を測ったのは、画面の表示などに先に使われていた量が少ない時点だけになる。測ったファイルの名前は、いまの配布ページのファイル (Muse-Glimmer-30B-KQuant-17GB-Q4_K_M.gguf) と違う。同じ中身かは確かめておらず、いまのファイルで測り直した値ではない。

RTX 5080 で GPU に載せる層の数を変えたときの生成の速さを、層の数の表に並べる。値は llama.cpp b10356 の llama-bench の tg128 (入力の処理を含まず 128 トークンを生成する測り方、各3回の平均) で、文章を読ませたときや長い文脈での値ではない。測る前の使用量は、その測定の時点で画面の表示などに先に使われていた量で、同じ日の別の時点に測ったため行ごとに違う。48 層と 46 層は、測る前の使用量が少ない時点と多い時点の両方の記録がある。「全層」は層の指定を 99 にした行。

GPU に載せる層の指定 測る前の使用量 生成 (1秒あたりのトークン数)
全層 (99) 752MiB 42.36
50 層 891MiB 23.47
48 層 856MiB 21.02
48 層 約2.5〜2.8GiB 7.57
46 層 810MiB 17.44
46 層 約2.5〜2.8GiB 15.58

層の数の表では、全層を載せる指定の行が1秒あたり 42.36 トークンで最も速かった。同じ層の数どうしでは、測る前の使用量が少ない時点の方が速かった。48 層は少ない時点が 21.02 トークン、多い時点が 7.57 トークンで、46 層は少ない時点が 17.44 トークン、多い時点が 15.58 トークンになる。測る前の使用量が多い時点では 48 層が 46 層より遅く、その理由はこの記録からは分からない。どの行も別の時点に測ったもので、測る前の使用量だけを変えて比べた実験ではないので、速さの差の原因をその量だけに決めることはできない。RTX 5060 Ti の起動時の記録では、全層を載せる指定で 53/53 層を GPU に置いたと表示され、CPU 側にも 721.42MiB の領域が残っていた。

24GiB と比べる手がかりにするのは、全層を載せる指定で起動したときの GPU 全体の増え方になる。全層を載せる指定・文脈 4,096 で llama-server を起動したとき、画面を出していない RTX 5060 Ti では、使用量が起動前から 15,742MiB (約15.37GiB) 増えた。これは GPU 全体の増分で、CPU 側にも領域が残っていたので、全部を VRAM に置くのに要る量ではない。画面の表示に約2.8GiB 取られていたとして足すと約18.2GiB で、24GiB を下回る。この足し算は参考の計算で、24GB のカードでの置かれ方は確かめていない。

15,742MiB は RTX 5060 Ti で llama-server を起動したときの増分で、層の数の表の llama-bench とは測り方が違い、RTX 5080 で同じ値になるかは測っていない。この計算には、長い文脈を指定したときに増える分も含めていない。Muse Glimmer 30B の測定記事では、llama-server の文脈の長さの指定を大きくすると生成が落ち込んだが、その理由は特定できていない (層を減らして空きを作っても速さは戻らなかった)。指定した長さの文章を実際に読ませた測定ではなく、24GB で長い文章の処理や生成が速くなるかも分からない。

層の指定ごとの測り方と、全層が載る条件の詳しい記録は、Muse Glimmer 30B を VRAM 16GB で動かした測定にまとめてある。

qwen3.5:35b-a3b は1枚ではCPU側にあふれ、2枚で全部GPUに載った

Ollama の qwen3.5:35b-a3b (Q4_K_M、文脈 num_ctx 8192) は、RTX 5080 1枚には載り切らなかった。1枚の構成と、RTX 5060 Ti を足した2枚の構成で、Ollama の /api/ps が返した大きさとそのうち GPU 側の分、生成の速さを、構成ごとの表に並べる。値は Ollama 0.30.7 で2026年6月13日に測った、生成 512 トークンの3回の平均で、think は指定していない。生成したトークンのうち考える過程と答えの内訳は分けておらず、答えだけの速さではない。温度や seed の固定、試行ごとにモデルを読み込み直したかどうかはこの記事では示しておらず、2つの構成の比較は参考の比較になる。

構成 /api/ps が返した大きさ (size) うち GPU 側 (size_vram) 生成 (1秒あたりのトークン数)
RTX 5080 1枚 23.79GB (22.16GiB) 14.8GB (約13.79GiB。CPU 側は size の 37.8%) 65.99
RTX 5080 + RTX 5060 Ti 23.41GB (21.81GiB) すべて 125.87

構成ごとの表では、1枚のとき大きさ 23.79GB のうち 14.8GB だけが GPU に載り、37.8% が CPU 側に置かれて、生成は1秒あたり 65.99 トークンだった。全部が GPU に載った2枚では 125.87 トークンで、約1.9倍になる。この約1.9倍は記録の上で見えた比で、GPU の構成だけの効果を切り分けた倍率ではない。2枚の行は RTX 5060 Ti を OCuLink でつないだ構成の値で、24GB の1枚の値ではない。

24GiB と比べると、/api/ps が返した大きさ 22.16GiB に、1枚の測定の前に RTX 5080 で画面の表示に使われていた 1,239MiB (約1.21GiB) を足して、約23.37GiB になる。24GiB との差は約0.6GiB だが、これは仮定の容量から、API の size に nvidia-smi で読んだ測る前の使用量を足した参考の値を引いた算術の差で、使える空きの量ではない。同じ記録でも、読み込みで増えた nvidia-smi の使用量と、GPU 側の分 (size_vram) には約470MiB の開きがあった。/api/ps の大きさは置き方やバッファの数え方で変わり、24GB の1枚に全部を置いたときに要る量そのものではないので、全部が GPU に載るかはこの計算からは決められない。今の Ollama のバージョンでは大きさも置き方も変わりうる。

1枚ではあふれ、2枚目を足すと全部 GPU に載った経緯は、qwen3.5:35b-a3b を1枚と2枚で測った記事で詳しく扱っている。

Saluki 27B は文脈 262,144 で共有GPUメモリへあふれたとみられる

Saluki 27B (Underdog Saluki 27B 1.0 の IQ2-mix、ファイル 7.90GB。画像入力用の部品は読み込まず、本体だけを使った記録) は、ファイルが小さい一方で、文脈を長くするほど使用量が増えていった。KV キャッシュを q8_0 にした llama.cpp b11218 の llama-server で、画面を出していない RTX 5060 Ti に読み込んだ直後の使用量を、文脈の長さの表に並べる。170,752 は llama.cpp の --fit に文脈の長さを選ばせた回。表に出てくる共有 GPU メモリは、Windows のタスクマネージャーやパフォーマンスカウンタに出る名前で、VRAM に収まらなかった分が置かれることのある、メインメモリ側の領域の使用量を指す。

文脈の長さ (トークン) 読み込んだ直後の使用量
131,072 12,618MiB
170,752 (llama.cpp が自動で選んだ長さ) 14,130MiB
262,144 16,010MiB (共有 GPU メモリの使用が 1,880MiB 増加)

文脈の長さの表のとおり、131,072 と自動で選ばれた長さでは、読み込んだ直後の使用量がカードの総量を下回った。ただし 131,072 でも共有 GPU メモリの使用が 74MiB から 228MiB に増えた記録があり、その用途は切り分けていないので、全部が VRAM の中に収まったとは確かめていない。262,144 では共有 GPU メモリの使用が 1,880MiB 増え、VRAM からあふれたとみられるが、増えた分がすべてモデルの領域かは切り分けていない。値は読み込んだ直後の nvidia-smi のもので、作業中は少し増える。共有 GPU メモリの増え方は、Windows のカウンタを1秒おきに見て記録した。

262,144 の 16,010MiB と、共有 GPU メモリの増えた 1,880MiB を足すと約17,890MiB (約17.47GiB) で、24GiB を下回る。ただし GPU の使用量と共有 GPU メモリの増分は測っているものが違い、この足し算は全部を VRAM に置くのに要る量でも、その上限でもない参考の値になる。読み込んだ直後の値からの足し算で、長い入力を処理したときの最大の使用量も、24GB のカードで 262,144 を読み込んだときの様子も確かめていない。同じ記録で、画面の表示も受け持つ RTX 5080 では、llama.cpp が自動で選んだ文脈の長さは 165,888 で、16GB のままでは 262,144 より短い長さに絞られた。

文脈の長さごとの使用量の測り方は、Saluki 27B が VRAM 何 GB で動くかを測った記事に載せている。

Saluki 27B と qwen3.5:35b-a3b の記録から、使用量の足し算と Ollama の /api/ps が返した大きさを、RTX 5080 の総量・24GiB の線と同じ単位 (MiB) で並べた図を置く。値の種類が行ごとに違うので、行どうしの大小は比べない。qwen3.5:35b-a3b の棒は /api/ps が返した大きさだけで、1枚の測定の前に画面の表示に使われていた 1,239MiB を含まず、足すと約23,929MiB で 24GiB の線にほぼ届く。Saluki 27B の棒は、使用量と共有 GPU メモリの増分という種類の違う値を足した参考の値で、画面を出していないカードの記録のため表示の分を含まない。棒が 24GiB の線の内側にあることだけでは、24GB の1枚に載るとは言えない。

16GB の記録の値と、16GB・24GB の容量16GB の GPU の記録の値と、RTX 5080 の総量・24GiB を MiB で並べるRTX 5080 の総量 (nvidia-smi)16,303MiBSaluki 27B 文脈 262,144 (使用量と共有 GPU メモリの増加の参考の合計)17,890MiBqwen3.5:35b-a3b (/api/ps が返した大きさ)22,690MiB24GiB (仮定の線)24,576MiB単位: MiB
図: 16GB の GPU で測った記録の値と容量を MiB で並べたもの。行ごとに値の種類 (総量・使用量の参考の合計・/api/ps の値・仮定の線) が違う。24GiB は 24GB を 24GiB とみなした線で、24GB のカードでは測っていない

動画生成の1例として、FastH3 Omniは16GBの構成で最後まで生成でき、INT8のファイルは24GiBより小さかった

動画生成で VRAM がどれだけ要るか、足りないときに最後まで生成できるかは、モデルや設定によって大きく変わる。ここに並べるのは FastH3 Omni の1つの記録で、ほかの動画生成のモデルにそのまま当てはまるものではない。ComfyUI で、VRAM 16GB を超えるファイルを使って最後まで生成できた例になる。メインメモリ 96GB の測定機で、FastH3 Omni のテンプレートの設定で生成した1つの例で、ComfyUI がメインメモリ側に置いた分と、ドライバーが共有 GPU メモリを使った分は切り分けていない。FastH3 Omni (MiniMax H3 の参照つき動画生成を速くしたモデル) は、ComfyUI のテンプレートどおりに、拡散モデル INT8・テキストエンコーダ・映像の VAE・音声の VAE を読み込む。

FastH3 Omni が読み込むファイルの大きさと、RTX 5080 で 1376×768・5秒指定の動画 (出力は 24fps・124フレームで約5.17秒) を作ったときの時間とメモリのピークを、FastH3 Omni の表に並べる。値は ComfyUI v0.43.0 で2026年10月29日に、メインメモリ 96GB の測定機で同じプロセスのまま2本続けて生成したときのもの。時間は2本目の値で、2本の平均ではない。メモリのピークは、2本を通して監視したうちの最大の値になる。

項目 値
拡散モデル INT8 (テンプレートの既定) 20.69GiB
テキストエンコーダ (NVFP4 AWQ) 14.61GiB
映像の VAE / 音声の VAE 2.62GiB / 0.56GiB
5秒指定の動画の2本目にかかった時間 96.6秒
VRAM のピーク (2本の最大) 15,487MiB
共有 GPU メモリのピーク (2本の最大) 16,464MiB

FastH3 Omni の表からは、拡散モデル INT8 だけで RTX 5080 の VRAM より大きいのに、5秒指定の動画を最後まで生成できたことが分かる。2本目は、読み込み済みの ComfyUI で続けて生成した回の時間で、24GB のカードと比べた値ではない。メインメモリ 96GB のこの測定機とこのテンプレートの設定では、容量が足りずに動かないから 24GB を待つ、という状況ではなかった。ほかの設定やメインメモリの量で最後まで生成できるとは限らない。

共有 GPU メモリのピークは、アダプター全体の Windows のカウンタの値で、ほかのプロセスの分を含み、重みを逃がした量とは切り分けていない。VRAM のピークも nvidia-smi の値でほかのプロセスの分を含み、2つのピークが同じ時刻とは限らない。

24GiB と比べると、拡散モデル INT8 のファイル 20.69GiB は 24GiB より約3.3GiB 小さい。この約3.3GiB は容量とファイルの大きさの差で、動画の計算に使える空きの量ではない。テキストエンコーダの 14.61GiB と合わせると 35.30GiB になるが、テキストエンコーダは指示文を読む段階、拡散モデルは動画を作る段階で使う別の部品なので、この合計が同時に VRAM に要るとは限らない。16GB の記録で VRAM のピークが 15,487MiB だったのは、カードの総量の手前で止まった値で、24GB のカードで要る量を示すものではない。配布されている BF16 の拡散モデルは 41.20GiB で、それだけで 24GiB を超える。どれもファイルの大きさを GiB に直した値の足し算と引き算で、BF16 は手元に無く、配布元の示す大きさだけの比較になる。

今回の生成では VRAM に入りきらない分がメインメモリ側で扱われていたが、その置き方の内訳は切り分けていないので、24GB になって共有 GPU メモリの使用がどこまで減るか、時間がどれだけ縮むかは、この記録からは分からない。拡散モデルを 24GB のカードに置いたとき、動画の計算に使う分まで VRAM に収まるかも測っていない。

テンプレートの設定と、RTX 5080 で生成したときの測り方は、FastH3 Omni を VRAM 16GB で動かした記録にある。

スポンサーリンク

16GBのまま使うか、24GBを待つか

時期は2つの報道で「2026年12月〜2027年1月 (中国の流通筋)」と「2027年1〜3月 (BenchLife)」と幅があり、24GB の価格は報道でも確かめられていない。待つかどうかを決める材料に、発売日や価格の数字はまだ使えない。ただ、報道の節で触れたとおり、GAZLOG は国内の 16GB の RTX 5080 について、10月14日から30日のあいだに在庫のある製品が減り、最安値も上がったと伝えている。1つの媒体の2時点の数字だが、24GB を待つあいだに 16GB のカードが買いにくく、高くなる可能性も判断に入る。手元で判断に使えるのは、今使っている、またはこれから動かすつもりのモデルが 16GB に全部載るかどうかになる。この節の判断は、ここまでの記録と計算から導く読み方で、24GB のカードで確かめたものではない。

発売を待たずにいま 24GB の容量が要る場合は、いま買える 24GB のカードとして中古の RTX 3090 を扱った記事が判断の材料になる。ただし FastH3 Omni で使ったテキストエンコーダは NVFP4 AWQ のファイルで、配布元は NVFP4 での速い処理に Blackwell 世代の GPU が要るとし、ほかの GPU では BF16 か INT8 を選ぶよう案内している。この記事の FastH3 Omni の大きさや時間は、RTX 3090 で同じ構成を組んだときの値を示すものではない。

16GBに全部載って動いている場合

この場合に決めることは、容量の余裕が要るかどうかが中心になる。報道が示す容量の増加だけでは、生成の速さは判断の材料にならない。

16GB に全部載って動いているなら、24GB を待っても今の用途の生成が速くなる根拠は報道に無く、待つ理由は文脈を長くする、大きいモデルを試すといった容量の余裕になる。容量と速さを分けた節で見たとおり、24GB の RTX 5080 の帯域は報道に無い。ここでの読み方は、帯域 960GB/s の今の RTX 5080 から替える場合のものになる。帯域がこれより低い 16GB のカードから替える場合は、24GB の RTX 5080 の帯域が今と同じだとすると、容量の増加に加えてメモリの速さの差も出てくる。

16GBで載り切らずに遅くなっている場合

この場合に決めることは、足りない容量を 24GB の1枚で足すか、2枚目の GPU で足すかになる。どちらも容量の不足を解く方向にある。

載り切らずにメインメモリ側へあふれて遅くなっているモデルのうち、24GiB に収まる大きさのものは、24GB で変わる側に入る。qwen3.5:35b-a3b のようにぎりぎりのものは、この記事の計算からは決められない。ただし今回の qwen3.5:35b-a3b と Ollama 0.30.7 では、2枚目の GPU で容量を足すと全部が GPU に載り、約1.9倍だった。ほかのモデルや実行のソフトで、2枚目を足すだけで同じようになるとは限らない。この約1.9倍は、RTX 5080 と OCuLink でつないだ RTX 5060 Ti の、帯域と接続の条件が違う2枚に Ollama 0.30.7 で重みを分けて測った値なので、24GB の1枚に全部載ったときの速さはこの値から予測できない。

2枚目の GPU で容量を足す方法そのものは、RTX 5080 に OCuLink 外付けの RTX 5060 Ti を足して2枚目で何が変わるかを測った記事で扱っている。

24GBでも足りない大きさを使いたい場合

この場合、比べる相手は 24GB の RTX 5080 ではなくなる。決めることは、さらに大きい容量をどの形で用意するかになる。

FastH3 Omni の BF16 の拡散モデルは 41.20GiB で、それだけで 24GiB を超え、32GB の RTX 5090 の容量も超える。BF16 はこの記事では測っておらず、VRAM に入りきらない分をメインメモリ側に置いてどこまで動くかは分からない。2枚の構成で容量を足した記録は Ollama の LLM だけで、ComfyUI の動画生成を2枚に分けた値は無い。

測っていないこと

24GB の RTX 5080 は発表されておらず手元に無いので、24GB のカードでの速さ・使用量・載る文脈の長さは、どれも測っていない。この記事の 24GB の話は、16GB の GPU での記録と報道の値からの計算になる。

  • 記録は2026年6月〜10月の別々の測定で、ソフトのバージョンも記録ごとに違う。
  • 画質や答えの質は比べていない。Muse Glimmer 30B の記録でも、出力の質は測っていない。
  • 図の値は、行ごとに値の種類 (総量・使用量の参考の合計・/api/ps の値・仮定の線) が違う。
  • 24GB の RTX 5080 のメモリの速さ・帯域は、報道に無いため分からない。

検証環境と測り方

記録はすべて同じ測定機 (Intel Core i7-14700F・メインメモリ 96GB・Windows 11) で取った。GPU は、マザーボードのスロットに挿して画面の表示も受け持つ RTX 5080 16GB と、OCuLink で外付けにして画面を出していない RTX 5060 Ti 16GB の2枚になる。

4つの記録の測定日・GPU・ソフトのバージョン・設定を、記録ごとの環境の表にまとめる。

記録 測定日 GPU ソフトのバージョン 設定
Muse Glimmer 30B 2026年8月11〜12日 RTX 5080 (画面の表示も受け持つカード)。全層・文脈 4,096 の起動時の増分は RTX 5060 Ti llama.cpp b10356 (CUDA 13.3) Meta 公式の GGUF muse-glimmer-30B-kquant-17gb (16,756,681,056 バイト = 約15.61GiB)・llama-bench の tg128 を各3回の平均。起動時の増分 15,742MiB は、1回の起動の前後に読んだ GPU 全体の使用量の差で、平均した値ではない
qwen3.5:35b-a3b 2026年6月13日 RTX 5080 1枚 / RTX 5080 + RTX 5060 Ti (OCuLink で外付け) Ollama 0.30.7 Q4_K_M・num_ctx 8192・生成 512 トークンを3回の平均。大きさは Ollama の /api/ps が返した size と size_vram (10進の GB)。think は指定していない
Saluki 27B 2026年10月10日 RTX 5060 Ti (待機時の使用 0MiB)。自動で選ばれた文脈の長さは RTX 5080 でも記録 llama.cpp b11218 の llama-server IQ2-mix の本体だけ (画像入力用の mmproj は読み込んでいない)・KV キャッシュ q8_0・flash attention on。文脈を決めた行は -ngl 99 --fit off --parallel 1 -lm mmap --lazy-mode on、自動で選ばせた行は -c と -ngl を外し、--fit を有効にしたまま -fitc 16384 (自動で選べる文脈の長さの下限を 16,384 にする指定) を付けた。読み込んだ直後に nvidia-smi で読んだ使用量で、各行は1回の読み込みの値。131,072 と 262,144 は読み込みをやり直して同じ値になった
FastH3 Omni 2026年10月29日 RTX 5080 ComfyUI v0.43.0 テンプレートの設定 (拡散モデル INT8・テキストエンコーダ NVFP4 AWQ)・参照画像1枚・8 ステップ・VSA 有効・1376×768・5秒指定 (24fps・124フレーム)・同じプロセスで2本 (seed 771204598 / 771204599)。PyTorch 2.14.0+cu130・comfy-aimdo 0.6.0。VRAM のピークは nvidia-smi、共有 GPU メモリのピークはアダプター全体の Windows のカウンタで、どちらも監視中に記録した最大の値

FastH3 Omni で使ったファイルは、拡散モデル fasth3_omniref_8step_pruned_int8_convrot.safetensors・テキストエンコーダ qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors・映像の VAE minimax_h3_video_vae_int8_convrot.safetensors (INT8)・音声の VAE minimax_h3_audio_vae_fp32.safetensors で、大きさは手元のファイルのバイト数を GiB に直した値。BF16 の拡散モデルはダウンロードしておらず、配布元が示すファイルの大きさ 44,240,780,704 バイトを GiB に直した値を載せた。RTX 5080 の総量 16,303MiB は、Muse Glimmer 30B の測定時に nvidia-smi が示した値になる。

本記事の値は2026年6月〜10月に上記の測定機で記録したもので、報道の確認は2026年10月31日。

測定機の構成の詳細は、検証環境のページに載せている。

参考資料

タイトルとURLをコピーしました