AI用PCでCPUはどこまで重要か｜ローカルLLM・画像生成でGPUに予算を回す構成判断

AI用PCのCPUとは、OSとストレージI/O、モデルの読み込み、前処理、GPUへの命令投入を担うホスト側の土台役である。

AI用PCを組むとき、予算はまずGPUへ回す。ローカルLLMも画像生成も、計算の本体はGPU側で走り、CPUが速度を決める場面はごく限られています。とはいえ「CPUは何でもいい」と言い切れるかというと、そうでもありません。VRAMがあふれた瞬間や、画像生成の前処理では、CPUとメモリの性能が体感に響いてくる。この記事では、CPUが効く局面と効かない局面を切り分け、限られた予算をどこに寄せるかの判断基準を示します。

AI用PCで実際に計算しているのはGPU

ローカルLLM（自分のPC上で動かす大規模言語モデル）や画像生成を回すとき、ディスクリートGPUを載せた一般的な構成では、重い演算の大半をGPUが担います。本記事はこのGPU前提の構成を軸にCPUの積み方を考えます（NPUやCPUだけで動かす選択肢は後段で扱います）。ここで効いてくるのがVRAM（Video RAM、GPUに搭載された専用メモリのこと）です。モデルをVRAMに載せきれれば高速に動き、載らなければ大きく失速する。つまり「どのモデルを動かせるか」はVRAM容量が大きく左右します。「どれだけ速く動くか」については、1トークンずつ書き出す生成フェーズでGPUのメモリ帯域（メモリとGPUの間でデータをやり取りする速さ）が効く一方、入力をまとめて処理するフェーズは演算性能寄りで、量子化方式・モデル構造・コンテキスト長・推論バックエンドの最適化によっても変わります。

ここでCPUがボトルネックになりにくいのは、生成中の重い行列演算をGPUが一手に引き受けるからです。CPUは、モデルをディスクから読み込む・入力を整える・GPUに指示を出すといった「指揮」の役割が中心。演算の本体を担っていないため、VRAMに収まる範囲でGPU常駐推論を回す限り、CPUが速度の足を引っ張ることは稀です。

ファインチューニング（既存モデルに追加学習させ用途に合わせること）でも、主要な行列演算とVRAM消費はGPU側で発生します。ただしデータのトークナイズや読み込み、packing、CPUオフロードを使う構成では、CPU性能やシステムRAMも処理時間に影響します。主要な学習フレームワークであるUnsloth・Axolotl・TRL・LLaMA-Factoryを比較したMarkTechPostの記事も、各フレームワークの差は主にGPUカーネル・VRAM効率・分散学習方式に現れると整理しています。

当サイトの検証環境でも、qwen3.5:9b はVRAMに収まった状態で毎秒108.8トークンで動きました（3回計測の中央値。3回の実測値は104.7・108.8・109.6トークン毎秒、VRAM使用量9,945MB、ollama psのPROCESSOR表示は100% GPU＝モデル全体がGPUへロードされた状態）。計測環境と条件は次のとおりです。GPUはRTX 5080単体（VRAM 16GB）、CPUはCore i7-14700F、システムRAM 96GB、OSはWindows 11（ビルド26200）。モデルはOllamaの既定タグqwen3.5:9b（9.65B・Q4_K_M・ダイジェスト先頭6488c96fa5fa）、think=false、seed=42、生成トークン数512。temperature等は明示指定せずモデル既定値（temperature 1、top_k 20、top_p 0.95、presence_penalty 1.5）、num_ctxも明示指定なし。Ollama 0.30.7、NVIDIAドライバ610.47、計測日は2026年7月24日です。Ollamaはその後も更新されているため、この数値は当該版に固定した実測として読んでください。

同じ計測で、入力側のプロンプト評価は毎秒948トークンとなり、生成速度の約9倍でした。入力をまとめて処理する段階と、1トークンずつ進む生成段階とで速度特性が大きく異なることが、同一構成の数値にも表れています。ただしこの計測はCPU 1構成のみで、CPUの世代差そのものは比較していません。GPUに載りきる範囲ではCPUがボトルネックになりにくい、という一般的な整理と矛盾しない結果にとどまります。

VRAMが埋まると何が起きるか

VRAMがモデルサイズに対して足りないと、二つの結末が待っています。ひとつは、モデルの一部をシステムRAM（CPU側のメインメモリ）へ逃がす「オフロード」です。CPU側に残したレイヤーをCPUで計算する方式、必要な重みを都度転送する方式など、バックエンドによって実装は異なりますが、いずれもCPU演算やPCIe転送が推論経路に入るため、完全にGPUへ載っている状態より大きく落ち込みます。落ち込み幅は分割位置と実装で変わる。もうひとつが、それすら間に合わずに処理が止まるOOM（Out Of Memory、メモリ不足エラーのこと）です。7Bクラスのモデルを4bit量子化した場合、重みそのものは5GB前後に収まる例が多いものの、実行時にはKVキャッシュやランタイム領域が上乗せされ、コンテキストを伸ばすほど必要量は増えます。短いやり取りなら6GB級でも動きますが、余裕をみるなら8GB以上。速度を決めるのはCPUではなく、まずVRAMに載りきっているかどうかです。

マルチGPUで伸びるのはGPU側、CPUは指揮役

2枚目のGPUを足すと、1枚では載らなかったモデルを分割して動かせるようになります。ただし2枚のVRAMが自動的に1つの大きな領域になるわけではなく、ランタイムがモデルを分けて配置しているだけです。GPU間の転送が増えるぶん、速度が必ず伸びるとは限りません。当サイトの計測でも、1枚に収まるqwen3.5:9bはRTX 5080単体で毎秒108.8トークン、RTX 5080＋RTX 5060 Ti（OCuLink接続）の2枚構成では毎秒67.0トークンと、2枚にしたほうが遅くなりました（2枚のGPUでVRAMをプールしたときの帯域ボトルネックで詳しく検証しています）。ここで効いてくるのはCPUのコア数よりも、PCIeのトポロジ・各スロットの接続帯域・GPU間の転送方式です。2枚のGPUを束ねる構成では、CPUのコア数を増やすより、GPU間をつなぐPCIeレーンの帯域が効いてきます。CPUが供給できるPCIeレーン数は、2枚目のGPUを検討するときの土台になる要素です。外付けGPUの場合は接続方式で制約が変わり、OCuLinkならPCIe直結の帯域とレーン構成が、Thunderbolt/USB4接続のeGPUならそのリンク帯域が効いてきます。

CPUに載るNPUは重い生成タスクの主役にならない

Intel Core Ultra 7 265Kは、8基のPコアと12基のEコアを合わせた20コア20スレッドのデスクトップCPUです（この世代のPコアはハイパースレッディング非対応）。Processor Base Powerは125W、Maximum Turbo Powerは250Wとされています。

このCPUには内蔵NPU（Neural Processing Unit、AI推論に特化した専用回路のこと）が載っていますが、性能は13 TOPS（1秒あたり13兆回の演算）。MicrosoftのCopilot+ PC認定に必要な40 TOPSを大きく下回ります。ただし内蔵NPUでローカルLLMがまったく動かないわけではありません。IntelのOpenVINOはQwen3の1.7B・4B・8BをNPU上で動かす構成に対応しており、WindowsのPhi SilicaもNPU上で小型の言語モデルを実行します（Microsoft公式ドキュメントによれば、2026年10月にWindows Insiderへ後継のAion Instructの展開を開始し、11月に一般端末へ展開してPhi Silicaを削除する計画です）。動かせるモデルとランタイムの組み合わせが限られること、13 TOPSではCopilot+ PCの基準にも届かないことを踏まえると、幅広いモデルを速く回す用途ではディスクリートGPU（独立した専用グラフィックボード）が担う前提は当面変わらない、ということです。

NPUの得意領域とGPUの得意領域の線引き

NPUは、低消費電力で常時動く軽量AI（ノイズ抑制、背景ぼかし、リアルタイム文字起こしの一部など）に向いています。一方でNPUでも数十億パラメータ級の一部モデルは動きます。ただし対応するモデルとランタイムの組み合わせが限られるため、中〜大型のモデルを幅広く、速く回す用途では並列演算力と専用VRAMを持つGPUが依然として有利です。モバイル側ではNPUが強化される流れもあり、AMD Ryzen AI 9 HX PRO 470は12コア24スレッドで55 TOPSのNPU（総AI性能86 TOPS）を積み、Copilot+の40 TOPS要件を満たします。それでも、重い生成AIの主役がGPUという構図は動きません。NPUが進化しても、担う仕事の層が違うのです。

iGPU/APUの共有メモリという例外的な選択肢

例外として、iGPU（CPU内蔵のグラフィック機能）やAPU（CPUとGPUを統合したプロセッサ）で、システムRAMをGPUメモリとして共有する構成があります。この場合、専用VRAMを持たない代わりに大容量のシステムRAMをAIに割り当てられる。ここではメモリ速度が効いてきます。同じRyzen AI 9 HX PRO 470とRadeon 890Mを積む2台のノートを比べたStorageReviewの検証では、LPDDR5x-8533を積む機種が、より遅いDDR5-5600の機種に対し、AIテキスト生成の4項目すべてで上回りました。ただしメモリだけを差し替えた同一機ではなく筐体も冷却も電力設定も違うため、メモリ単独の効果を切り出した比較ではありません。それでもStorageReview自身が高速メモリの優位と評価している通り、共有メモリ構成ではCPU側のメモリ帯域が数値に出る場面がある、と読めます。

それでもCPUが効く3つの局面

「CPUは何でもいい」で片づけると、判断を誤ります。GPUが主役なのは事実ですが、CPUとシステムRAMが体感を左右する局面が確かに存在する。単純化しないために、効く場面を三つに分けて見ていきます。

まず、VRAM不足時のシステムRAMオフロード。モデルがVRAMに収まらず一部をCPU側へ回すと、CPU演算やPCIe転送が推論経路に入ります。生成速度はCPU性能・システムRAMの帯域・PCIe帯域・レイヤーの分割位置・バックエンドの実装の組み合わせで決まる。帯域の桁感でいえば、GPUのVRAM、システムRAM、NVMe SSDの順に、下の層へ落ちるほど帯域とレイテンシの条件が悪化し、大きく失速します。だからこそVRAMに載せきるのが第一で、あふれるならせめてシステムRAMで受け止めたい。ここでRAM容量が効きます。

次に、画像生成の前処理・モデルロード・複数プロセスの並行です。画像生成でも最重要要素はVRAMですが、モデルの読み込みや入力データの準備、複数のワークフローを同時に走らせる場面では、CPUのコア数が効いてくる。8コア級あると同時作業に余裕が出ます。ただしこれは本記事でコア数を並べて比較した値ではなく、構成を考えるときの出発点です。GPUが生成している間にCPUが次の準備を進められれば、待ち時間が減る。

三つめが、前述の共有メモリ構成。iGPU/APUでシステムRAMを共有する構成では、システムメモリの帯域がiGPU側のAI性能に影響しやすくなります。

システムRAMへのオフロードとRAM容量の目安

VRAMに収まらないモデルを動かすなら、システムRAMは32GB、余裕をみて64GBが実用的な目安になります。当サイトの検証環境ではシステムRAMを96GB積んでおり、大きめのモデルをRAMへ逃がす検証でも容量不足で止まることはありませんでした。ただしRAMへ逃がした分だけ速度は落ちる。容量は「動かすための保険」、速度を取り戻す本命はあくまでVRAMの増設です。

前処理・同時作業でコア数が効くケース

複数のバッチを並行させる、LLMを常駐させつつ別の処理を回す、入力画像の前処理や大量の読み書きを挟む——こうした同時作業ではコア数が効きます。なおVAEデコードは、ComfyUIでは通常GPU側で実行され、--cpu-vaeを指定した場合にCPUへ移されます。アップスケールは使用するノードやモデルの実装によって、GPUを使うものとCPU処理を含むものがあります。ここでCPUが効くのは、VRAM不足で処理をCPUへ寄せた場合や、CPU依存の前処理・カスタムノードを挟んだ場合です。逆に、モデルを一つ載せて対話するだけの使い方なら、コア数の多さはほとんど体感に出ません。自分の使い方が「一本を深く」なのか「複数を同時に」なのかで、CPUに払う額は変わってくる。

AI用PCの予算配分と構成判断

ここまでを構成判断に落とすと、優先順位ははっきりします。GPU（VRAM）を最優先で決め、次にシステムRAM、CPUは中位の6〜8コア級を出発点にする、という配分です。GPUがどのモデルを動かせるかを決め、他のパーツはそれを支えるために選ぶ。モデルをGPUに載せきって単一の推論を回す使い方なら、Ryzen 5 5600やCore i5-12400F級以上の中位CPUでも実用上は足りる場面が多い。ただし本記事はCPUを1構成しか計測しておらず、6コアと8コアを直接比較した結果ではありません。コア数の下限を厳密に決めるには、同一GPUで複数のCPUを並べた実測が要ります。

用途別のバランスを整理したのが次の表です。検証で確定した必要スペックではなく、構成を考える出発点として、優先度の高いパーツから予算を積む前提で読んでください。

表のファインチューニング行はLoRA/QLoRAを前提にしています。16GB級のVRAMでフルファインチューニングまで狙えるわけではありません（どこまでできるかは手元のGPUでローカルLLMをファインチューニングできるかで整理しています）。表の数値は用途ごとの出発点で、扱うモデルサイズが大きくなればVRAMもRAMも一段引き上げます。VRAM容量は「動かせるモデルの上限」を決めるので、迷ったらここに寄せるのが定石。一方でCPUは、下限さえ超えれば投資対効果が急に鈍ります。同じ額を足すなら、CPUの上位化よりVRAMの大きいGPUのほうが、AI用途では効いてくる。

参考までに、最後の行のAPIベースのコーディングはGPUを必要としません。Claude CodeのようにクラウドのAIを呼ぶツールは、手元のPCで推論を回さないため、効くのはRAMとSSDの快適さです。ローカルでモデルを動かす入り口については姉妹サイトの解説（ローカルLLMとは？Ollama × Gemma 4でコードを外に出さず使うAI環境を初心者向けに解説）も参考になります。

CPUで削っていい部分・削ってはいけない部分

削っていいのは、最上位CPUへの背伸びです。モデルをGPUに載せきって対話するだけの使い方なら、コア数を増やしても体感には出にくい。削ってはいけないのは、極端に古い世代への妥協です。CPUの世代が古すぎるとPCIeの規格やメモリ対応が足を引っ張り、GPUの実力を出しきれない場面が出ます。また、RAMオフロードやiGPU/APUでの推論を想定するなら、システムメモリの帯域も絞りすぎないようにします。CPU直結のPCIeレーン数も、2枚目のGPUを見据えるなら効いてくる要素です。たとえばCore Ultra 7 265Kは合計24レーンで、うち20レーンがGen5（グラフィック用x16＋ストレージ用x4）、残る4レーンがGen4という構成。マザーボード側がx16をx8＋x8へ分割できるか、各スロットがCPU直結かチップセット経由かも合わせて確認します。なおThunderbolt/USB4接続の外付けGPUでは、CPUの総レーン数よりリンク側の帯域が主な制約になります。OCuLink接続ならPCIe直結のレーン数と接続帯域を確認します。

まとめ

AI用PCの予算は、GPU（VRAM）→システムRAM→CPUの順に積むのが基本です。VRAM容量が動かせるモデルの上限を決め、生成速度もGPU側の条件で決まる以上、迷った額はGPUへ寄せたほうがAI用途では見返りが大きい。CPUは下限さえ超えれば投資対効果が急に鈍る土台役で、対話中心のローカルLLMなら中位の6コア級でも足りる場面が多い。

ただし下限は割らないこと。VRAMがあふれてオフロードが常態化する構成や、画像生成を多重に回す使い方では、極端に古い・低コアのCPUがGPUの足を引っ張ります。最上位CPUへの背伸びは削ってよく、古すぎる世代は避ける。RAMオフロードやiGPU/APU構成を想定するならメモリ帯域も絞りすぎない——ここが削っていい部分と削ってはいけない部分の境目。なお本記事はCPUを1構成しか計測しておらず、コア数の下限や世代差を比較検証したものではありません。まず自分のAI用途を一つ決め、用途別バランス表でVRAM・RAM・CPUクラスを照合するところから始めてください。

よくある質問

Q. AI用PCのCPUは何コアあれば足りますか？

GPUでローカルLLMや画像生成を回す前提なら、Ryzen 5 5600やCore i5-12400F級以上の中位CPUで足りる場面が多いです。画像生成の前処理や複数プロセスの並行が多い場合は8コア級だと余裕が出ます。対話中心の使い方なら、それ以上のコア数は体感に出にくい。ただしこれらは本記事でCPUを並べて比較した結果ではなく、構成の出発点として読んでください。

Q. RAMは何GB積めばよいですか？

ローカルLLM推論や画像生成なら32GBが実用的な目安です。VRAMに収まらないモデルをシステムRAMへオフロードして動かす、あるいはファインチューニングを想定するなら64GBを検討してください。RAMは「動かすための容量の保険」で、速度を取り戻す本命はVRAMの増設側にあります。

Q. NPU搭載CPUなら、GPUなしでローカルLLMは動きますか？

GPUなしでも、CPUや対応NPUで小型のローカルLLMを動かすこと自体はできます。OpenVINOはQwen3の1.7B〜8BクラスをNPU上で動かせますし、WindowsのPhi SilicaもNPUを使います。ただし対応するモデルとランタイムの組み合わせは限られ、デスクトップの内蔵NPUは13 TOPS程度でCopilot+ PC要件の40 TOPSにも届きません。幅広いモデルを実用速度で回すなら、現時点ではディスクリートGPUのほうが扱いやすい選択です。NPUはノイズ抑制や背景ぼかしなど、低消費電力で常時動く軽量AIにも向いています。

Q. 2枚目のGPUや外付けGPUを足すとき、CPUで気にすべき点はありますか？

複数のGPUを束ねる構成では、CPUのコア数を増やすよりGPU間をつなぐPCIeレーンの帯域が効いてきます。CPUは分散の指揮役で、演算の増強はGPU側が担うためです。CPU直結のPCIeレーン数（たとえばCore Ultra 7 265Kは合計24レーンで、うち20レーンがGen5）が土台になるので、2枚目を見据えるならスロットの分割可否と合わせて確認してください。Thunderbolt/USB4接続の外付けGPUではリンク側の帯域が主な制約になります。OCuLink接続では、PCIe直結のレーン数と接続帯域を確認してください。

Q. APIベースのAIコーディングツールにGPUは要りますか？

Claude CodeのようにクラウドのAIを呼ぶツールは、手元で推論を回さないためGPUは不要です。効いてくるのはRAM容量とSSD速度、そしてCPUの快適さ。ローカルでモデルを動かして初めて、VRAM＝GPUが必要になります。

参考資料

• Intel: Core Ultra 7 Processor 265K – Product Specifications (ARK)
• AMD: Ryzen AI 9 HX PRO 470 – 製品仕様
• Microsoft: Copilot+ PC / NPU要件に関する公式ドキュメント
• Microsoft: Get started with Phi Silica in the Windows App SDK
• Intel: OpenVINO 2025.3 リリースノート（Qwen3のNPU対応）
• Ollama: qwen3.5 モデルライブラリ（計測に使用したタグ）