AIは民主化するのか｜モデルが無料になっても、計算資源は無料にならない

この記事の要点

モデルが無料でも、動かす側は無料になりません。753B級のGLM-5.2は、Unsloth配布のUD-IQ1_Sでも約217GB。GeForce最上位のRTX 5090でも32GBです。
GPUが無い構成でも、4bit量子化の3B〜8B級ならCPUだけで毎秒10.7〜22.3トークン出ました。
条件を揃えた比較ではありませんが、GPUを増やさず、同じモデルを別の推論環境で動かした例では、デコード速度が約2倍になる結果も出ています。

数字はすべて出所を分けています。速度や所要時間は当サイトの検証環境（Core i7-14700F・メモリ96GB・RTX 5080 16GB、一部は5060 Tiを足した2枚構成）での測定、モデルの規模や製品仕様は各公式・配布元の公開情報によります。価格の先行きは見立てです。

以前、AI用GPU・PCはいつ買うべきかという記事で、AIハードウェアの買い時を「クラウドAIの普及」と「ローカルLLMの進化」という2つの見え方から整理しました。ローカルでAIを動かすためにハードウェアへ投資するのか、それともClaudeやChatGPTのようなクラウドAIを使い続けるのか。当時の中心にあったのは、この選択でした。

2026年9月現在、この構図は少し変わってきています。Qwen、GLM、Kimiといったオープンウェイトモデルの性能向上が速く、これまで「フロンティアモデルを使うしかない」と考えられていた領域にも、手元で動かせるモデルが入り始めました。

ここだけを見れば、高性能なAIが無料で公開され、AIはさらに民主化していくように見えます。ただ、同時に逆向きの動きも進んでいるように見えます。モデルの性能が民主化することと、AIを使える環境が民主化することは、同じではないからです。

「無料で公開された」と「手元で動かせる」は別の話
クラウドAIが要らなくなるわけではない
利用者は3つの層に分かれていく
広がるのは「性能の差」ではなく「選べる手段の差」
「GPUを買えば終わり」という市場ではなくなる
ではクラウドAIは安くなるのか
この構図を変えるのは何か
まとめ
よくある質問
参考資料

「無料で公開された」と「手元で動かせる」は別の話

オープンウェイトのモデルは、重みのファイルが公開されていて誰でもダウンロードできます。ただ、ダウンロードできることと動かせることの間には、けっこうな距離があります。

わかりやすいのがGLM-5.2です。753B級のオープンウェイトモデルで、重みは公開されています。ところが実際に必要なメモリを詰めてみると、Unslothが配布しているUD-IQ1_Sの超低ビット量子化版でも、ファイルの合計は約217GBありました。家庭向けのGPUに載るVRAMは、現行GeForce最上位のRTX 5090でも32GBです。足りないという以前に、桁がひとつ違います。どのモデルなら手元のVRAMに収まるのかは、16GBを基準にした早見表で境界を整理しています。

モデルの重みが無料でも、それを動かすための計算資源まで無料になるわけではありません。GPU、VRAM、メインメモリ、ストレージ、電力、冷却、そして環境を組む最低限の知識。無料なのは重みの部分だけで、残りには値段が付いたままです。

クラウドAIが要らなくなるわけではない

手元のPCでモデルを動かす形が現実的になってきたとはいえ、Claude、ChatGPT、Codexといったクラウド型のサービスが要らなくなるとは考えにくいところです。一般的な使い方では、今後もクラウドAIが中心であり続ける可能性が高いと見ています。

理由は単純で、そのほうが早いからです。月額料金を払えばすぐ使えて、GPUの選定も設定もいりません。ローカルで動くモデルの性能がどれだけ上がっても、数十万円のPCを用意して環境を組むより、サービスを契約するほうが簡単だという人は多いはずです。

この層にとって大事なのは、モデルを所有できるかどうかではありません。必要なときに手間なく使えるかどうかです。

利用者は3つの層に分かれていく

これからのAI利用者は、大きく3つに分けて考えると見通しがよくなります。

一般利用層｜クラウドが中心のまま

前の節で書いたとおり、この層はクラウドAIが中心のままでしょう。ローカル環境を組む理由が、そもそも生まれにくいためです。

パワーユーザー・研究開発層｜使い分けが増える

いちばん変化が大きいのがこの層です。AIの利用量が多く、ハードウェアやソフトウェアにある程度詳しい人ほど、ローカルで動かす利点が大きくなります。使う量が増えれば、クラウドAIの料金や利用制限も無視できなくなるためです。

一方で、一度ハードウェアに投資してしまえば、手元の計算資源はある程度自由に使えます。そのため「クラウドAIかローカルLLMか」という二択ではなく、両方を用途ごとに使い分ける形が増えていくと見ています。

企業・組織層｜手段そのものを選べる

企業になると、選べる手段がさらに増えます。クラウドAPIを使う、自社でGPUサーバーを持つ、クラウドGPUを借りる、オープンウェイトモデルを自社環境で運用する。組み合わせることもできます。

つまり資本がある側ほど、AIを利用する方法そのものを選べます。ここが一般利用者との差になります。

広がるのは「性能の差」ではなく「選べる手段の差」

高性能なモデルそのものへのアクセスは、以前より確実に広がりました。けれど、そのモデルを自由に動かせる環境へのアクセスは別の問題として残ります。

資本がある側は、クラウドAIを使うことも、GPUを買うことも、大量のメモリを積むことも、クラウドGPUを借りることも、オープンウェイトモデルを自前で運用することもできます。必要なら組み合わせもできます。設備投資が難しい側は、クラウドAIを「選んでいる」というより、実質的にそれしか選べない状態に近くなります。

ここに差が生まれます。AIの賢さが当たり前になるほど、それを動かす計算資源のほうが相対的に価値を持つ、という関係です。

「GPUを買えば終わり」という市場ではなくなる

この変化は、AIハードウェアの見方にも影響します。これまでローカルAIといえば、GPUの性能とVRAM容量が話の中心でした。ただ、巨大なMoEモデルや新しい推論の仕組みが増えるにつれ、速度を左右する場所が広がっています。

たとえばGPUを2枚にしても、16GBと16GBが32GBのひとかたまりとして見えるわけではありません。重みをどう分けるかで速度が変わり、つなぎ方しだいでそこが頭打ちになることもあります。増やした分がそのまま速度になる、という単純な話ではなくなってきました。

逆方向の話もあります。GPUを持たない構成でも、CPUだけでどこまで動くかを測ったところ、4bit量子化の3B〜8B級なら毎秒10.7〜22.3トークンが出ました。日本語でおよそ16〜34文字ぶんです。短い質問と短い返答の往復なら、これで成立します。

ただし同じCPUのみでも、12B以上の密なモデル（MoE以外）では毎秒5.8〜6.4トークン、27Bでは毎秒2.97トークンまで落ちました。長文を貼って読ませる使い方はさらに厳しく、約2200字を27Bに読ませると58.7秒かかっています。いずれも1周目の値で、連続して回すと1〜2割下がりました。CPUだけで済むかどうかは、モデルの大きさと使い方しだい、というのが実際のところです。

GPUだけでなく、メモリ容量、メモリ帯域、CPU、接続経路。どこに予算を回すかで、結果が変わりやすくなってきました。

ではクラウドAIは安くなるのか

ローカルへ移る人が増えれば、クラウドAIの利用者が減って料金も下がるのではないか、という見方もできます。ただ、そう単純にはならないと見ています。

一般利用者の多くは今後もクラウドAIを必要としますし、AIの使い方そのものも変わってきました。以前はチャットで数回質問するだけだったものが、コーディング、調査、エージェント、自動処理へと広がっています。一人あたりが消費する計算資源は、むしろ増える方向です。

そのため差になるのは、月額料金そのものよりも「どこまで自由に使えるか」の部分でしょう。利用回数、計算量、モデルの種類、エージェントの実行時間。クラウドAIが一律に高くなるというより、大量に使う人ほど制限を意識する形に近づいていくと見ています。

この構図を変えるのは何か

ここまでの話は、今の状態が続く前提で書いてきました。ただ、この構図を崩しうる動きが3つあります。

1つ目は、モデル側の効率化です。量子化や蒸留のようにモデルそのものを小さくする工夫と、MoEのように1回の生成で使う部分を絞って計算量を減らす工夫です。ただ、どれくらい縮むかは場合によります。生成を速くするMTPという仕組みは、元の研究では、最初から4トークンを同時に予測するよう学習させたモデルで、推論が最大3倍速くなると報告されています。ただし学習済みのモデルへ後から載せる形は前提が違い、手元で測るとモデルによっては1.05〜1.69倍にとどまりました。無意味ではありませんが、報告された倍率がどの構成でも出るわけではありません。

2つ目は、動かし方側の進化です。ここがいちばん動きの大きいところでした。VRAMに収まらないMoEモデルをRTX 5080 16GB 1枚で走らせ、同じモデルを、それぞれの推論エンジンが対応する形式で動かして比べたところ、デコード速度の中央値が毎秒61.30トークンから毎秒123.40トークンへ、約2倍になりました。GPUは1枚のままです。

この比較は推論エンジン以外がすべて同じ条件ではありません。量子化の方式も実行環境も揃っていないため、差を取り寄せ方だけの成果として説明することはできません。倍率も起動し直すと1割ほど動くため、約2倍として読む値です。

3つ目は、ハードウェア側の進化です。GPU、メモリ、NPU、メモリ帯域が伸びて、今は高価な構成が普通のPCで扱えるようになれば、参入の敷居はまた下がります。

やや高価ではありますが、大規模なAI計算を前提にした機械が一般の市場へ入ってきてもいます。NVIDIAのDGX Sparkなどは統合メモリを128GB積んでいて、GPUとCPUが同じメモリを共有する形です。VRAMの容量で頭打ちになるという前提は、この種の構成では緩みます。ただし統合メモリは専用VRAMより帯域が狭く、載ることと、同じ速さで動くことは別です。

ただし万能ではありません。この記事の冒頭で挙げたGLM-5.2の約217GBの配布版は、統合メモリ128GBには届きません。手が届く価格帯で見れば敷居は下がる方向にありますが、いちばん大きいモデルまではまだ収まらない、という段階です。

この3つを並べてみると、ひとつ気づくことがあります。手元で測った範囲では、GPUを増やさないまま動かし方を変えただけで、速度が大きく動く場面がありました。GPUを足したときにどこまで伸びるかは2枚構成で実測した記事のほうで扱っています。差を縮める力は、資源を足すほうからだけ来るわけではないようです。

まとめ

オープンウェイトモデルがフロンティアモデルに近づいていることは、大きな変化です。ただ、それだけでAIが完全に民主化されるわけではありません。モデルは無料になっても、GPUは無料にならないからです。これからは見る場所がひとつ増えます。「いちばん賢いモデルは何か」に加えて、「その賢さを、どの環境で、どれだけ自由に使えるのか」です。

手元の話に落とすなら、買い足しを考える前に、いま使っている推論エンジンと、動かしたいモデルがMoE型かどうかを確かめるほうが順番として先になります。動かし方を変えると速度が大きく動く場面があり、GPUを増やしても経路の側で頭打ちになる場面もあるためです。

この記事が答えていないことが2つあります。ひとつは価格です。GPUやメモリがこの先いくらになるかは、市場の動き方しだいで変わるためわかりません。もうひとつは、ここに挙げた倍率が他の構成でも同じように出るかどうかです。測定はいずれも当サイトの環境（GPU1枚、一部は2枚）によるものです。

よくある質問

Q. 「753B」という数字は何を表していますか？

モデルの規模を示すパラメータ数で、Bは10億を指します。753B級なら7530億個です。数が大きいほど賢いとは限りませんが、必要なメモリ量の見当をつける最初の手がかりにはなります。ただし実際に要る量は、量子化をどこまで強くかけるかや、扱う文章の長さでも変わります。パラメータ数だけで決まるわけではありません。

Q. MoEとは何ですか？

1回の生成でモデル全体ではなく、一部だけを使う型です。GLM-5.2の場合はMoE層に振り分け用の専門家を256持ち、1トークンあたりで実際に選ばれるのはそのうち8個です。計算の量は小さく済みます。ただしどの専門家が選ばれるかは事前にわからないため、全体分の置き場所は用意しておくことになります。GPUのVRAMに全部を載せる必要はなく、メインメモリ側に置いて必要な分だけ取り寄せる作り方もあります。計算が軽いことと、容量が小さいことは別だという点がここでの要点です。

Q. 量子化するとモデルの品質は落ちますか？

1bitのように大きく削れば、品質が落ちる可能性は高くなります。ただし当サイトでは量子化の方式ごとの品質差を評価していないため、どこまで削って大丈夫かをこの記事から示すことはできません。サイズが小さいほど載せやすくなる一方で、削りすぎの線引きは用途によって変わります。量子化フォーマットごとの違いは別記事で扱っています。