WRX90 AI TOPはローカルLLMのどこで差が出るか|TRX50 AI TOPとどちらを選ぶか

WRX90 AI TOPとTRX50 AI TOPローカルLLMの構成で比べる(比較図) PC構成

この記事の要点

WRX90 AI TOP と TRX50 AI TOP の違いのうち、ローカル LLM の構成で差が出やすいのは、GPU を x16 で何枚つなげるか (ボードのスロットの数) と、メインメモリのチャンネル数 (載せる CPU とボードの組み合わせ) だ。

GPU を x16 で5枚か6枚つなぐなら WRX90 AI TOP になる。MoE のエキスパートをメインメモリに置いて動かし、8チャンネルを確実に取りたいなら、AMD と GIGABYTE の資料のどちらでも8チャンネルの WRX90 AI TOP と Threadripper PRO の WX を選ぶ。GPU が4枚までで、モデルを VRAM に収めるなら、TRX50 AI TOP でもスロットの数は足りる。

TRX50 AI TOP に PRO の WX を載せて8チャンネルで動くなら、チャンネル数を理由に WRX90 AI TOP を選ぶ必要はなくなるが、資料によって記載が違うので、買う前に GIGABYTE に問い合わせる。値段で比べて決めるのは、国内の発売日と価格が出てからになる。

スポンサーリンク

WRX90 AI TOPで差が出やすいのはGPUのつなぎ方とメインメモリの帯域

WRX90 AI TOP は GIGABYTE の AI TOP シリーズのマザーボードで、チップセットは AMD WRX90、ソケットは sTR5 だ。GIGABYTE の仕様ページの CPU 欄が対応 CPU として挙げるのは Ryzen Threadripper PRO 9000-WX と Ryzen Threadripper PRO 7000-WX で、同じ欄は、対応する CPU の一覧は GIGABYTE のサイトの CPU サポートリストを見るよう書いている。GIGABYTE の日本語の製品ページは、WRX90 AI TOP を AI TOP エコシステムの一員とし、独自のローカル AI システムを組むための基板と説明している。

AI TOP シリーズで先に出た TRX50 AI TOP と比べて、ローカル LLM の構成で差が出やすいのは、GPU (グラフィックスカード) のつなぎ方、つまり x16 で動くスロットの数と、メインメモリ (RAM) の帯域だ。理論上の帯域の差を決めるのはチャンネル数で、比べる CPU のメモリの速さの上限はどれも 6400 MT/s と表示されている。x16 で動くスロットの数は、CPU とプラットフォームの PCIe のレーン数を上限に、ボードの設計で決まる。チャンネル数は載せる CPU とボードの組み合わせで決まる。

この記事では、WRX90 AI TOP と Ryzen Threadripper PRO の WX (9975WX・9955WX) の組み合わせを「WRX90 の構成」、TRX50 AI TOP と PRO でない Threadripper の組み合わせを「TRX50 の構成」と呼ぶ。TRX50 の構成の CPU の例には、PRO でない Ryzen Threadripper 9980X を使う。TRX50 AI TOP には PRO の WX も載るが、そのときのチャンネル数は資料で分かれるので、この組み合わせはどちらの構成にも入れず、メインメモリの帯域の節で扱う。どちらを選ぶかの分かれ目は「WRX90とTRX50のどちらを選ぶか」の節にまとめた。

この記事の数字は、各社の公表値・報道と、そこからの計算だ。本記事の仕様と発売の状況は、2026年10月26日に GIGABYTE・AMD の公式ページと各社の発表・報道で確認したもので、当サイトでは WRX90 AI TOP の実機を測っていない。

発売日と価格

2026年10月26日に日本語の Web 検索と GIGABYTE の日本語のページで確認した範囲では、WRX90 AI TOP の国内の発売日と価格も、国内の代理店による取り扱いの発表も見つけられなかった。製品ページ (主な特徴・仕様・サポート) は、GIGABYTE の日本語サイトにある。

海外についても同じ日に調べた範囲では、価格と発売日は見つけられなかった。Notebookcheck は2026年10月23日の記事で、GIGABYTE は価格と小売の発売日を発表していないと報じている。

AI TOP シリーズで先に出た TRX50 AI TOP は、国内では CFD販売が2025年1月9日に取り扱いの開始を発表していた。GIGABYTE の AI TOP シリーズの計5モデル (マザーボード1・グラフィックスカード3・SSD 1) の一つとしての発表で、マザーボードはこの TRX50 AI TOP だけだった。価格はオープンプライスとしていた。これは TRX50 AI TOP についての事実で、WRX90 AI TOP の国内の扱いがどうなるかを示すものではない。

GPUを何枚つなげるか|x16のスロット6本とx8の1本

WRX90 AI TOP の拡張スロットは7本で、どれも CPU につながる PCIe 5.0 だ。GIGABYTE の仕様ページによれば、そのうち6本 (PCIEX16_1〜PCIEX16_5 と PCIEX16_7) が x16 で動き、残りの1本 (PCIEX8) は形は x16 のスロットで、x8 で動く。日本語の製品ページの書き方では「7*PCIe 5.0 x16 形状スロット (内 1 つは x8 帯域)」になる。x16 と x8 の違いは、CPU とカードの間の通り道 (PCIe のレーン) を何本使うかの違いで、x16 のほうが本数が多い。

仕様ページは、PCIe x16 のスロットはグラフィックスカードか NVMe の SSD だけに対応するとし、カードが1枚なら PCIEX16_1 に挿すよう書いている。この節で数えているのは GPU を幅を減らさずに挿せる本数で、x16 と x8 でローカル LLM の速さがどれだけ変わるかは確かめていない。

x16 を6本と x8 を1本並べると、計算上 104本ぶんのレーンになる。AMD の製品ページによれば、32コアの Ryzen Threadripper PRO 9975WX は PCIe のレーンが148本で、使えるのは144本、そのうち PCIe 5.0 が128本だ。16コアの Ryzen Threadripper PRO 9955WX も同じ表示で、AMD の Threadripper のページの表も WRX90 のプラットフォームを「最大128本の PCIe 5.0」としている。7本のスロットはどれも PCIe 5.0 なので、比べる相手は PCIe 5.0 の128本になる。当サイトの計算では、拡張スロットだけを数えた104本はこの128本に収まる。M.2 や MCIO 8i など、ほかに CPU のレーンを使う口の分は数えていない。この計算は CPU の公称のレーン数とスロットの公称の構成を照らし合わせただけで、基板全体の配線も、M.2 などのほかの機器も同時に使ったときの動作も、確かめたものではない。一方、6本が x16 で動くという根拠は、GIGABYTE の仕様ページの記載だ。

TRX50 AI TOP で比べる相手は、AMD の表が TRX50 のプラットフォームについて書く「最大80本の PCIe 5.0」になる。TRX50 用の Threadripper 9980X は、AMD の製品ページでは PCIe のレーンが92本、使えるのが88本と表示されている。2026年10月26日に確認した範囲では、このページに PCIe 5.0 の本数の内訳は見つけられなかった。

レーンの数は上限を決めるだけで、それを何本のスロットに分けるかはボードの設計だ。CFD販売の2025年1月の発表によれば、TRX50 AI TOP の x16 形状のスロットは PCI Express 5.0 (x16) が4本だ。GIGABYTE の TRX50 AI TOP の仕様ページは、2026年10月26日には GIGABYTE のサイトで開けなかったため、Internet Archive が2026年1月23日に保存したページで確かめた。そのページによれば、4本 (PCIEX16_1〜PCIEX16_4) はどれも CPU につながり、Threadripper PRO の WX か Threadripper 9000 のシリーズなら4本とも PCIe 5.0 x16 で動く。Threadripper 7000 のシリーズでは、PCIEX16_4 だけが PCIe 4.0 x16 になる。

MCIO 8iのコネクタと、報道にある9枚の展示

GPU の枚数は、GIGABYTE の仕様ページの記載に沿うなら7本のスロットの中で数える。報道にある9枚は、Computex 2026 の展示の話だ。WRX90 AI TOP には MCIO 8i のコネクタが2基ある。GIGABYTE の仕様ページはどちらもストレージの欄に載せ、PCIe 5.0 x4/x2 の SSD をつなぐコネクタ (MCIOX8_2 は SATA にも対応) としている。日本語の製品ページのほうは、2基の MCIO 8i について、必要に応じてストレージ、アクセラレータ、その他の PCIe デバイスを追加できると書く。同じ日に確認した範囲では、どちらのページにも GPU をつなぐときの対応の条件は見つけられなかった。

仕様ページの注記によれば、MCIOX8_1 は CPU 側の2基の M.2 (M2A_CPU・M2B_CPU) と帯域を分け合い、どちらかの M.2 を使うと MCIOX8_1 は使えなくなる。

Notebookcheck は、GIGABYTE が Computex 2026 で、MCIO 8i から外付けで2枚のグラフィックスカードを足し、GPU を最大9枚にした展示を見せたと報じている。この展示がどう動くかは確かめていない。

メインメモリの帯域が関わる場面|MoEのエキスパートをメインメモリに置くとき

DDR5-6400 の理論上の帯域は、8チャンネルなら 409.6GB/s、4チャンネルなら 204.8GB/s で、ちょうど2倍の差がある。チャンネルは、CPU とメモリの間でデータを並べて運ぶ経路の数のことだ。AMD の製品ページによれば、8チャンネルの例が Threadripper PRO 9975WX (DDR5 の RDIMM、最大 6400 MT/s)、4チャンネルの例が 64コアの Threadripper 9980X (DDR5 の RDIMM、最大 6400 MT/s) になる。

計算は、転送の速さ (MT/s) × 1回に運ぶ8バイト × チャンネル数で出す。8バイト (64ビット) はメモリメーカーの Kingston の説明によるもので、Kingston は、DDR5 のモジュールのデータの幅は、2つの32ビットのサブチャンネルに分かれていても合わせて64ビットだとしている。DDR5-6400 なら1チャンネルあたり 51.2GB/s になる。6400 MT/s は AMD が CPU の仕様に書く上限だ。メモリを8枚挿したときにその速さで動くかは、CPU とメモリの型番・枚数で変わるので、GIGABYTE のメモリサポートリストで確かめる (GIGABYTE の仕様ページは、CPU とメモリの構成によって、対応するメモリの種類・速さ・枚数が変わると書き、このリストを見るよう案内している)。実際に出る帯域は CPU の型番・メモリの速さ・挿す枚数で変わり、当サイトでは測っていない。

チャンネル数と容量の上限は、資料ごとに並べる。WRX90 AI TOP のメモリは DDR5 の ECC Registered (RDIMM/RDIMM-3DS) で、8スロット・最大 2TB だ。GIGABYTE の日本語の製品ページは1チャンネルに1枚 (1DPC) と書くので、8チャンネルを全部使うには8枚を挿す。GIGABYTE の仕様ページは、Threadripper PRO 9000-WX / PRO 7000-WX なら8チャンネルで動くと書く。AMD の Threadripper のページの表も、WRX90 のプラットフォームをメモリ8チャンネル・最大 2TB (RDIMM) としている。WRX90 AI TOP と PRO の WX の組み合わせでは、GIGABYTE と AMD の資料のどちらでも8チャンネル・最大 2TB だ。

TRX50 AI TOP のチャンネル数は、載せる CPU で話が分かれる。PRO でない Threadripper を載せるなら、GIGABYTE の TRX50 AI TOP の仕様ページも、AMD の表と 9980X の製品ページも4チャンネルだ。PRO の WX を載せたときは、資料の記載が食い違う。GIGABYTE の仕様ページ (Internet Archive が2026年1月23日に保存したページ) は、メモリを DDR5 の ECC Registered (RDIMM/RDIMM-3DS) で8スロット・最大 2TB とし、Threadripper PRO 9000-WX / PRO 7000-WX は8チャンネル、Threadripper 9000 / 7000 は4チャンネルで動くと書く。一方、AMD の表は TRX50 のプラットフォームを4チャンネル・最大 1TB (RDIMM) とし、対応 CPU として Ryzen Threadripper 9000・7000 のシリーズとともに Ryzen Threadripper PRO 9000 WX のシリーズも挙げている。国内の代理店の CFD販売の製品ページは、2026年10月26日に見た仕様欄で、Threadripper PRO 7000 は8チャンネル、Threadripper 7000 は4チャンネル (クアッド・チャネル) で動くとし、メモリを8スロット・最大 2TB とする (仕様欄が挙げる CPU は PRO 7000 と 7000 のシリーズ)。容量の上限も、GIGABYTE と CFD販売は 2TB、AMD の表は 1TB と分かれている。ただ、AMD の表が書くのは TRX50 のプラットフォームとしての値で、GIGABYTE と CFD販売のページが書くのは TRX50 AI TOP というボードの値だ。ワークステーションメーカーの Puget Systems の2025年8月7日の記事も、同じように分けて書いている。Threadripper PRO を TRX50 のボードに載せる話の中で、TRX50 のボードが公式に対応するメモリを4チャンネルまでとし、そのうえで GIGABYTE の TRX50 AI TOP を8チャンネルのボードとして挙げている。

ほかの資料では、CFD販売の発表が DDR5 の8スロット・最大 2TB (RDIMM/RDIMM-3DS に対応) とし、TechPowerUp は2024年6月3日の記事で、8枚の DIMM を挿せる8チャンネルの DDR5 メモリを持つボードと報じた (どの CPU を載せたときの話かは書いていない)。スロットの数とチャンネルの数は別の数で、スロットが8つあってもチャンネルが8つとは限らない。使える DIMM の枚数も CPU で変わる。Level1Techs の編集者が2025年8月21日に同サイトのフォーラムに書いた TRX50 AI TOP の解説は、スロットは8つあるが、PRO でない Threadripper で使える DIMM は4枚だとしている。GIGABYTE の TRX50 AI TOP の仕様ページも、CPU とメモリの構成で対応するメモリの種類・速さ・枚数が変わることがあると書いているので、挿せる枚数と容量は、使う CPU ごとに GIGABYTE のメモリサポートリストで確かめる。TRX50 AI TOP に PRO の WX を載せたときに8チャンネルで動くかは、当サイトでは確かめていない。先に挙げた Puget Systems の記事も、TRX50 AI TOP は詳しく扱わないと断っている。

ローカルLLMで帯域が答えを書く速さに関わる理由

LLM が答えを書く段階、つまり1トークン (モデルが文字列を扱う単位) ずつ出す段階 (decode) では、GPU の計算の力を使いきれず、遅延を主に左右するのは重みなどのデータを GPU のメモリから計算する部分へ運ぶ速さ (帯域) だと、NVIDIA の技術解説は書いている。これは GPU のメモリについての説明で、計算の速さが関係しないという意味ではない。同じ解説は、複数の要求をまとめて処理する (バッチを大きくする) と、計算の力をより多く使えるとも説明している。

MoE (Mixture of Experts) は、モデルの中にエキスパートと呼ばれる部品を多く持ち、トークンごとにその一部だけを使う作りだ。llama.cpp の llama-server には、MoE の重みを全部 CPU 側に置く指定 --cpu-moe と、先頭から N 層ぶんの MoE の重みだけを CPU 側に置く指定 --n-cpu-moe がある。CPU 側に置いた重みは、メインメモリに置かれる。

エキスパートの重みをメインメモリに置くと、答えを書く段階ではトークンごとに、選ばれたエキスパートの重みをメインメモリから読むことになり、この読み出しにかかる時間には、メインメモリの帯域で決まる下限がある。llama-server には CPU 側に置いたエキスパートを GPU のメモリにキャッシュする指定 --moe-cache-mib もあり (既定では無効)、キャッシュに載った分は毎回メインメモリから読むわけではない。ここで扱うのは、このキャッシュを使わない場合だ。理論上は、帯域が2倍なら、メインメモリから同じ量の重みを読む時間の下限は半分になる。ただしこれは読み出しの部分だけの話で、GPU 側の処理・CPU の計算・PCIe の転送を含めていないので、答えを書く速さ全体が2倍になるとは言えない。CPU の計算が先に詰まる場合は、帯域を増やしても時間が縮まらないことがある。答えを書く速さの値 (tok/s) も確かめていない。プロンプトの読み込みの速さには別の要因も関わるため、ここで扱うのは答えを書く段階だけだ。

モデルを全部 VRAM に置ける使い方では、答えを書く段階で読む重みは GPU のメモリにあるので、メインメモリのチャンネル数の差はこの読み出しには入らない。モデルの読み込み (起動時にファイルを読む時間) など、メインメモリが関わるほかの場面は、この説明の外にある。

エキスパートをメインメモリに置いて動かすソフトで、メインメモリの量からモデルを選ぶ話は、詳しくはStrataで動かせるモデルと必要なメモリの記事で扱っている。CPU と GPU が同じメモリを使う大容量メモリ機を公表帯域で見比べたローカルLLM向け大容量メモリ機の選び方の記事も、帯域で機種を比べるときの材料になる。

対応CPUはThreadripper PROのWXシリーズ|PROでないものは候補に入れない

GIGABYTE の仕様ページの CPU 欄が挙げるのは Threadripper PRO の WX シリーズで、AMD の Threadripper のページの表も、WRX90 の対応 CPU を Ryzen Threadripper PRO 9000 WX と PRO 7000 WX のシリーズだけとしている。コア数の少ない 16コアの Threadripper PRO 9955WX でも、AMD の製品ページの表示は、メモリが8チャンネル (DDR5 の RDIMM、最大 6400 MT/s)、PCIe のレーンが148本・使えるのが144本・うち PCIe 5.0 が128本で、32コアの 9975WX と同じだ。対応チップセットも WRX90・TRX50・Pro 695 で、9975WX と変わらない。これは表示が同じということで、実際に出る帯域が同じという意味ではない。

一方で、GIGABYTE の仕様ページのメモリ欄には、PRO でない Ryzen Threadripper 9000/7000 シリーズは4チャンネルで動く、という行もある。ただし、同じページの CPU 欄が挙げるのは PRO の WX シリーズだけだ。AMD の資料も同じで、Threadripper 9980X の製品ページは対応チップセットを TRX50 だけとし、WRX90 の表は対応 CPU を PRO の WX のシリーズに限っている。この記事では、メモリ欄のこの行を対応の根拠にはせず、PRO でない Threadripper は WRX90 AI TOP の候補に入れない。PRO でない Threadripper を載せたいなら、購入前に GIGABYTE の CPU サポートリストで確かめる。

スポンサーリンク

AIの作業に関わるそのほかの装備

  • 10GbE が2口:有線 LAN は Intel X710 の 10GbE が2口で、ほかに BMC 用の Realtek の 1GbE がある。GIGABYTE の日本語の製品ページは、この有線ネットワークでデータセットの転送、ネットワークストレージへのアクセス、帯域を大量に使う共同作業が速くなると説明している。
  • BMC と IPMI のリモート管理:BMC (ASPEED AST2600) を積み、IPMI のリモート管理で、OS と関係なくハードウェアの監視・電源の入れ直し・保守ができる。管理用の LAN 端子 (Server management LAN port) が別にある。
  • USB4 が2口:背面に USB4 の Type-C 端子が2つある (40Gbps)。
  • M.2 は3基:CPU につながる PCIe 5.0 x4/x2 の SSD 用が2基 (M2A_CPU・M2B_CPU、どちらも M key) と、チップセットにつながる PCIe 4.0 x4/x2 の SSD 用が1基 (M2C_SB)。CPU 側の2基のどちらかを使うと MCIOX8_1 は使えなくなる。
  • 電源の端子:24ピンの ATX が1つと 8ピンの ATX 12V が2つで、ほかに PCIe の電源コネクタが基板に4つある。
  • メモリのアクティブ冷却:メモリを冷やすアクティブ冷却 (DDR Wind Blade XTREME Duo) と、基板の SYS Wind Blade を備える。
  • OS と AI TOP Utility:対応 OS は Ubuntu 24.04 LTS と Windows 11 (64ビット) で、GIGABYTE の AI TOP Utility は仕様ページでは Ubuntu での対応と書かれている。Windows 11 で使える物理メモリの上限はエディションで違い、Microsoft の資料では Home が 128GB、Pro が 2TB、Pro for Workstations と Enterprise が 6TB だ。128GB より多いメモリを Windows 11 で使うなら、Home ではなく Pro 以上のエディションを選ぶ。
  • 大きさ:フォームファクタは E-ATX で、大きさは 30.5cm × 33.0cm。奥行きが 33.0cm あるので、組むケースが対応するかを確かめる。

TRX50 AI TOPとThreadripper 9980Xと並べる

ボードの比較表と CPU の比較表は、どちらも公表値・報道の記載と当サイトの計算を並べたもので、当サイトでは測っていない。

ボードの比較表

ボードの比較表で GPU のつなぎ方に関わる違いが出るのは x16 形状のスロットの行 (うち x16 で動く本数) で、ほかに M.2 の数・有線 LAN・対応 CPU の行も違う。

項目 WRX90 AI TOP TRX50 AI TOP
対応CPU Ryzen Threadripper PRO 9000-WX / PRO 7000-WX Ryzen Threadripper PRO 7000 / Threadripper 7000 (2025年1月の発表時点)。BIOS F10 (2025年5月) 以降で Threadripper 9000 / PRO 9000-WX に対応
チップセット AMD WRX90 AMD TRX50
メモリ DDR5 RDIMM 8スロット・最大2TB (1チャンネルに1枚) DDR5 8スロット・最大2TB (RDIMM/RDIMM-3DS。CFD販売・GIGABYTE の記載は CPU ごとの区別なし。AMD の TRX50 の表は最大1TB。Level1Techs の解説では、PRO でない Threadripper で使える DIMM は4枚)
メモリのチャンネル (資料ごとの記載) 8 (PRO の WX のとき。GIGABYTE の仕様ページ・AMD の WRX90 の表) PRO の WX は8・PRO でないものは4 (GIGABYTE の仕様ページ) / 4 (最大1TB。AMD の TRX50 のプラットフォームの表) / 8 (TechPowerUp の報道。CPU の条件の記載なし)
x16形状のスロット 7本 (どれも PCIe 5.0。x16動作が6本・x8動作が1本) 4本 (どれも x16動作。PRO の WX と Threadripper 9000 では4本とも PCIe 5.0、Threadripper 7000 では PCIEX16_4 だけ PCIe 4.0)
M.2 3基 (PCIe 5.0 x4 が2基・PCIe 4.0 x4 が1基) 4基 (PRO でない Threadripper では1基が使えない)
有線LAN 10GbE 2口 (Intel X710) と BMC 用の1GbE 10GbE 2口 (Marvell AQtion AQC113C)
フォームファクタ E-ATX (30.5cm × 33.0cm) E-ATX

TRX50 AI TOP の値は、CFD販売の2025年1月9日の発表 (GDM の掲載) と、GIGABYTE の TRX50 AI TOP の仕様ページ (Internet Archive が2026年1月23日に保存したページ) による。この発表は TRX50 AI TOP を、チップセットが AMD TRX50、ソケットが sTR5、フォームファクタが E-ATX で、ストレージは M.2 が4基と SATA 3.0 が4基のボードとしている。仕様ページによれば M.2 の4基はどれも CPU につながり、PRO でない Threadripper 9000 / 7000 を載せると、そのうちの M2D_CPU が使えなくなる。WRX90 AI TOP の値は、GIGABYTE の仕様ページと日本語の製品ページによる。

対応 CPU の行は、2025年1月の発表の時点の Ryzen Threadripper PRO 7000 と Ryzen Threadripper 7000 シリーズに、GIGABYTE の TRX50 AI TOP のサポートページの BIOS の一覧にある、2025年5月20日の F10 の「Ryzen Threadripper 9000 と Pro 9000-WX の CPU に対応する」AGESA の更新を足したものだ。チャンネルの行は資料ごとの記載で、TRX50 AI TOP に PRO の WX を載せたときは、GIGABYTE の仕様ページ (8チャンネル) と AMD の TRX50 の表 (4チャンネル) で記載が違う。

CPUの比較表

CPU の比較表で違いが出るのはメモリのチャンネルと使える PCIe レーンの行で、コア数の行は帯域の差とは別の話だ。

項目 Threadripper PRO 9975WX Threadripper PRO 9955WX Threadripper 9980X
コア数 32 16 64
対応チップセット WRX90・TRX50・Pro 695 WRX90・TRX50・Pro 695 TRX50
メモリのチャンネル 8 8 4
メモリの速さの上限 6400 MT/s (RDIMM) 6400 MT/s (RDIMM) 6400 MT/s (RDIMM)
使えるPCIeレーン (世代を問わない合計) 144 (うちPCIe 5.0 が128) 144 (うちPCIe 5.0 が128) 88 (PCIe 5.0 の内訳の表示なし)
理論上の帯域 (6400 MT/s・全チャンネル) 409.6GB/s 409.6GB/s 204.8GB/s

CPU の比較表の値は AMD の各製品ページの表示で、理論上の帯域の行は、メインメモリの帯域の節の式で計算した上限であり、実際に出る値ではない。9980X の PCIe レーンについては、AMD のページが PCIe 5.0 の本数の内訳を書いておらず、TRX50 のプラットフォームの PCIe 5.0 は AMD の表で最大80本とされている。PRO の2つの列のチャンネル数は CPU の表示で、PRO の WX を TRX50 AI TOP に載せたときのチャンネル数は、GIGABYTE の仕様ページと AMD の表で分かれる。CPU の比較表に、TRX50 で使う CPU として 9980X を置いたのは、PRO でない Threadripper なら、GIGABYTE の仕様ページと AMD の資料のどちらでも4チャンネルだからだ。

WRX90とTRX50のどちらを選ぶか

見るところは、x16 でつなぐ GPU の枚数と、モデルの重みをメインメモリに置くときのチャンネル数だ。

  • GPU を PCIe 5.0 x16 で5枚か6枚つなぐなら、スロットの数から WRX90 AI TOP になる (x16 で動くスロットは、WRX90 AI TOP が6本、TRX50 AI TOP が4本)。実際に挿せる枚数は、カードの厚み・長さとスロットの間隔のほか、ケース背面の拡張スロットの開口や電源の構成による。
  • MoE のエキスパートをメインメモリに置いて大きなモデルを動かし、8チャンネルを確実に取りたいなら、AMD と GIGABYTE の資料のどちらでも8チャンネル・最大 2TB と書かれている WRX90 AI TOP と Threadripper PRO の WX の組み合わせになる。エキスパートをメインメモリに置くこと自体は TRX50 の構成 (PRO でない Threadripper) でもでき、その場合は理論上の帯域が半分になる。Level1Techs の解説どおりなら、挿せる DIMM も4枚になる。答えを書く速さの差の大きさは確かめていないので、費用の差に見合うかは国内の価格が出てから比べる。
  • GPU が4枚までで、モデルを VRAM に収める使い方なら、TRX50 AI TOP でもスロットの数は足りる (GIGABYTE の仕様ページでは、PRO の WX か Threadripper 9000 なら4本とも PCIe 5.0 x16 で動く)。ここまではスロットの数の話だ。モデルを複数の GPU に分けて動かせるか、分けたときにどのくらいの速さが出るかは、使うソフトと GPU の組み合わせによる。
  • TRX50 AI TOP に PRO の WX を載せて8チャンネルを狙う組み合わせは、資料の記載が分かれている。チャンネル数は、GIGABYTE の仕様ページが8チャンネル (CFD販売の製品ページも PRO 7000 で8チャンネル)、AMD の TRX50 の表 (プラットフォームとしての値) が4チャンネルだ。容量の上限も、GIGABYTE と CFD販売が 2TB、AMD の表が 1TB と分かれる。買う前に GIGABYTE に、使う CPU でのチャンネル数と容量の上限を確かめる。8チャンネルで動けば、この記事で比べた2つの差 (GPU のスロットの数とチャンネル数) のうち、チャンネル数の差はなくなり、残るのは GPU のスロットの数になる。ただし、メモリの速さが同じになるとは限らず、M.2 の数や有線 LAN など、ボードの比較表のほかの行の差も残る。
  • 価格はまだ比べられないので、値段で決めるのは国内の価格が出てからになる。

決める前に、自分で確かめる点がある。

  • 使う GPU の厚み・長さと、ケース・電源の構成で、7本のスロットに何枚挿せるか
  • 組むケースが、奥行き 33.0cm の E-ATX に対応するか
  • PRO でない Threadripper を載せる計画なら、GIGABYTE の CPU サポートリスト
  • 8枚の RDIMM を挿したときの速さは、GIGABYTE のメモリサポートリスト

確かめていないこと

当サイトでは WRX90 AI TOP の実機を測っていない。確かめていないのは、次の項目だ。

  • 7本のスロットに GPU を物理的に何枚挿せるか
  • x16 と x8 で、ローカル LLM の速さがどれだけ変わるか
  • 8枚の RDIMM を挿したときに、何 MT/s で動くか
  • CPU が8チャンネルの理論上の帯域にどこまで近づくか (9955WX のようにコア数の少ない型番を含む)
  • TRX50 AI TOP に PRO の WX を載せたときのチャンネル数
  • MoE の重みをメインメモリに置いたときの、答えを書く速さ (tok/s)
  • プロンプトの読み込みの速さ
  • AI TOP Utility でできること
  • 報道にある9枚の展示の動作

参考資料

タイトルとURLをコピーしました