AI用PCの最低スペックガイド|RTX 5060 Ti+RAM 32GBで始めるローカルAI環境

AI用PCの最低スペックガイドをテーマにしたアイキャッチ画像 PC構成

ローカルLLM(自宅のPCで動かすAI)を使うなら、グラフィックボードのメモリ(VRAM)は16GBあると安心です。タイトルにある「最低スペック」は「これ未満では動かない」という意味ではありません。VRAMが8GBや12GBでも、小さめのモデルなら動きます。当サイトの実測では、16GBなら中くらいの大きさ(14B級)のモデルが丸ごとGPUに収まり、もう一回り大きいモデル(22B級)もほとんどGPUの上で動きました。これが、この記事で16GBを「実用ライン」と呼ぶ理由です(どのモデルをどんな条件で測ったかは、後半の実測で紹介します)。RTX 5060 Ti 16GBを中心にした構成例は、合計で約28万円です(2026年9月29日時点のパーツ代。OSや組み立て費は別)。

「AI用PCは10万円で組める」という情報をネット上で見かけた人もいるだろう。しかし2026年9月時点では、VRAM 16GBのGPU(RTX 5060 Ti 16GB)だけで12万円以上。中古や12GB以下ならGPU代は下げられますが(GPU以外のパーツも実用ライン構成で約15.4万円かかります)、その分だけ動かせるモデルが絞られます。期待と現実の差は大きいが、その理由を知れば納得できるはず。ここからは、ローカルAIを快適に動かすための最低スペックを、当サイトの実測データとともに具体的な数値で示していく。

この記事の要点

  • 中くらいのAIモデル(14B級)や画像生成(SDXL)を1つずつ動かすところから始めるなら、VRAM 16GB・RAM 32GB・SSD 1TBが実用ライン。構成例の合計は約28万円(2026年9月29日時点、OS別。構成例そのものは組んで測っていない)。8GB・12GBでも小さめのモデルなら動く
  • RTX 5060 Ti 16GBの実測では、14B級のモデルは丸ごとGPUに載り、1秒あたり約44トークン(トークンは文字のかたまり)の速さで文章を生成。22B級もほぼGPUに載って約25トークン(2026年9月、条件は後半の実測表)
  • 文章生成のAIと画像生成を同時に使うなら、VRAMだけでなくメインメモリ(RAM)の余裕も確認したい(32GB・64GBの環境では未測定)
スポンサーリンク

2026年のローカルAI用PCに必要な最低スペック

ローカルでAIを動かすPCを組む場合、最も予算を集中させるべきパーツがGPU。ここでは各パーツの役割と、なぜこの構成がベースラインになるのかを、初心者にもわかるよう順を追って解説する。

以下が、2026年9月時点で14B級のLLMやSDXLを中心に始める場合の実用ライン構成です。価格と在庫は2026年9月29日にツクモの公式通販で確認した時点のもので、安価な製品の税込価格です(注文時には変わっていることがあります)。製品は一例で、とくにメモリとGPUは値動きが大きいパーツです。

パーツ 実用ラインの目安 確認した製品の例 価格(税込)
CPU Intel Core i5-14400F以上 Intel Core i5-14400F(BX8071514400F) 27,980円
GPU(最重要) GeForce RTX 5060 Ti 16GB ASUS Dual GeForce RTX 5060 Ti 16GB GDDR7 White OC Edition(DUAL-RTX5060TI-O16G-WHITE) 124,999円(セール価格)
RAM DDR5 32GB(16GB×2) Apacer FL.32GAC.PKRK2(DDR5-5600 16GB×2) 65,800円
SSD NVMe 1TB以上(第4世代なら理想) Lexar NQ790 1TB(LNQ790X001T-RNNNG、PCIe Gen4) 25,980円
マザーボード B760チップセット以上(LGA1700・DDR5対応) ASRock B760 Pro RS(DDR5対応) 16,794円
電源ユニット 750W 80PLUS Gold Thermaltake TOUGHPOWER GT 750W(PS-TPT-0750FNFAGJ-3、80PLUS Gold) 10,990円
ケース ミドルタワー Sharkoon VK4 Rainbow(SHA-VK4-Rainbow BK) 6,660円
合計 279,203円(約28万円)

※合計にはOS、組み立て費、追加のCPUクーラーは含みません。購入時には在庫と価格をあらためて確認してください。B760マザーボードにはDDR4用とDDR5用があるので、DDR5対応のものを選び、第14世代CPUに対応したBIOSかどうかも購入前に確認してください。

合計約28万円という数字は、ハイスペックなPC並みかそれ以上の投資。スペックを落とすほど、動かせるモデルのサイズと速度で妥協が必要になります。とくにVRAM容量は、RAMやSSDと違って後から足せないので、自分の用途に対して足りているかを先に決めておきたいところ。

組み立てずに完成品で買うならこの構成と同じ「RTX 5060 Ti 16GB・メモリ32GB」の条件のまま、販売中のBTOパソコンを絞り込めます。GPU・メモリ・価格から探せます。

BTO選びを開く →

なぜVRAM 16GBがスタートラインなのか

ローカルLLM(大規模言語モデル)を動かすとき、モデルのデータはGPUのVRAMに読み込まれる。VRAMに収まりきらなければ、あふれたデータをRAM側に逃がす「オフロード」が発生し、処理速度が劇的に低下してしまう仕組み。

では、VRAM容量ごとに何ができるのか。以下の表で整理した。

VRAM容量 動かせるLLMの目安(Q4量子化・context長8,192前後) 画像生成AI 制約・注意点
8GB 7B〜9B級(当サイトが16GBカードで測ったqwen3.5:9bのVRAM使用量が6.5GiB) SD 1.5向き。SDXLは軽量設定でも余裕が小さい(8GBカードは未測定) LLM用途では選べるモデルが狭い
12GB 当サイト実測で14B級はqwen3:14bが全部、phi4:14bはGPU配置95%(context長16,384では81%)。14B超のモデルは未検証 SDXL(fp8)は収まる見込み(当サイト未測定) 長いcontextで速度低下(phi4:14bで確認)
16GB 当サイト実測で14B級2モデルは全部載り、codestral:22b-v0.1-q4_K_MはGPU配置95% SDXL(fp8)はピーク約7.8GiBで余裕。Flux系は必要VRAMがモデルとワークフローで大きく違う(当サイト未測定) 2026年の実用的なスタートライン
24GB以上 32B級(Q4)が視野に入る(当サイトでは未検証) 大型ワークフローの選択肢が広がる(必要VRAMはモデル・精度・解像度で変わる。当サイト未検証) RTX 3090中古やRTX 5090が該当

押さえておきたいのは、12GBと16GBの差が表れるのは「どのサイズを、どれだけ長いcontextで全部GPUに載せられるか」だという点。VRAM 12GBのRTX 4070 SUPERで測った例(2026年9月9日、Ollama 0.32.3。context長8,192、出力上限512トークン、thinking無効、seed 42、同じプロンプトで3回測った中央値、GPU配置は /api/ps の size_vram ÷ size)では、14B級のqwen3:14bは全部GPUに載って47.1 tokens/sec、phi4:14bはGPU配置95%で41.8 tokens/secでした。phi4:14bのcontext長をモデルの上限の16,384まで伸ばすと、GPU配置の割合は81%に下がり、生成速度は24.9 tokens/secまで落ちています。16GBのRTX 5060 Tiでは、同じ14B級の2つがcontext長8,192で全部GPUに載り、22B級のcodestral:22b-v0.1-q4_K_MもGPU配置が95%でした(下の実測表)。12GBでも14B級は動くものの、context長やモデルサイズの余裕が16GBより小さい、というのが実測から言える差です(2つの測定はOllamaの版も0.32.3と0.34.4で違います)。なお、GPUが違えば演算性能やメモリ帯域も違うので、同じモデルが両方に収まる場合の速度差は別に比べる必要があります。

ちなみに、RTX 5060 Ti には8GB版も存在する。8GB版は2026年9月時点で16GB版より5万円ほど安く流通しているが、VRAM 8GB版はローカルLLMだと7Bクラスの小型モデルが中心になります。LLMを主目的にするなら16GB版を選びたいところ。

VRAM 8GBのGPUでモデルを全部GPUに載せたい場合、目安は7〜9B級の量子化版です。より大きいモデルもCPUとの併用なら動く場合がありますが、速度は構成によって大きく変わります(当サイトのqwen3.5:9bの6.5GiBは16GBカードで測った値で、8GBカードでの動作は未検証)。画像生成も、SD 1.5のような軽いモデルなら8GBで動かせますが、SDXLは当サイトの16GBカードでの測定でVRAM使用量がピーク約7.8GiB(fp8・1280×720)あったので、8GBカードで同じ設定のままだと余裕は小さいと考えられます(ComfyUIはVRAMが足りないとモデルの一部をRAMへ逃がして動かせますが、8GB・12GBカードでは当サイト未測定)。SDXL以上を主目的にするなら12GB以上を選びたいところです。Flux系は小さい版から大きい版まであって必要VRAMが大きく違うので、使うモデルごとの要件を確認してください(本記事では測っていません)。LLMを主目的にするなら、CUDAコア数や動作クロックより先にVRAM容量を確認してください。

CPU・RAM・SSDの選定基準

GPU以外のパーツは、AI推論においてGPUほど優先度が高くない。ただし、最低ラインを下回ると別の問題が生じてくる。

CPUはIntel Core i5-14400F程度で十分。モデルがVRAMに収まっている限り、推論処理はほぼすべてGPUが担当するので、ハイエンドCPUに予算を回す意味は薄い。逆に、VRAMからあふれるサイズを常用するつもりならCPU側の性能とメモリ帯域が効いてきます。その分をGPUやRAMに充てたほうが、体感の改善につながる選択と言える。

RAMは32GBを構成例の目安にしました。ただし当サイトの検証機は96GBで、32GBでの動作や余裕は測っていないので、使うモデルと同時に開くアプリのメモリ量は購入前に確かめてください。しかしLLMと画像生成AIを同時に使ったり、VRAMからあふれた分をRAMで受け止める場面では、32GBだとRAMまで足りずディスクへのページングが起きうるので64GBが欲しくなります(RAMを増やしてもオフロード自体が速くなるわけではありません)。最初は32GBで組んでおき、必要に応じて64GBに増設する前提で計画するのが賢いやり方。

SSDはNVMe接続の1TB以上。第4世代ならモデルのロード待ちがさらに短くなりますが、第3世代でも実用上の支障は小さく、避けたいのはSATA SSDとHDDの方です。AIモデルのファイルサイズは1つあたり数GB〜十数GBに達する。この記事で扱うようなモデルを5〜6個入れると数十GBを使います。1TBは、OSやほかのアプリ、画像・動画生成のモデルや生成物も置く場合の余裕を見た容量で、LLMを数個入れるだけならもっと小さい容量でも足ります。加えて、読み込み速度がモデルのロード時間に直結するので、SATA接続のSSDやHDDでは体験が大幅に悪化する。NVMe接続を選ぶ理由はここにあります。

用途別のアップグレード戦略

約28万円のベースライン構成は、14B級のLLMやSDXLを単体で使うところから始めるためのラインです。使い込むうちに不満が出てくるポイントは想定できるので、あらかじめアップグレードの優先順位を把握しておけば、無駄な出費を避けられる。

同時利用が増えたらRAM 64GBへ

同時利用が増えてきた場合に最初に検討したいのが、RAM 32GBから64GBへの増設です。以下のような場面でRAM不足が効いてきます。

  • LLMと画像生成AIを同時に立ち上げ、VRAMからあふれた分をRAM側で受け止める場面(RAMまで足りないとディスクへのページングに落ちます)
  • ブラウザや他のアプリケーションを開いたままLLMを動かすと、システム全体が重くなる場面
  • VRAMに収まりきらない大型モデルを試す際に、RAM不足でディスクへのページングが発生する場面(RAMが足りていればページングは避けられます)

当サイトの検証環境ではRAMを96GB搭載しているが、これは複数モデルの切り替えやマルチタスク時の安定性を確保するため。32GBと64GBの環境では測っていないので、増設するかどうかは、タスクマネージャーでメモリ使用量が上限に張り付いていないか、ディスクへのページングが起きていないかを見て判断してください。

SSDの容量追加(1TB→2TB)も、モデルファイルが増えてくると必要になるアップグレード。ただし体感改善という意味ではRAM増設のほうが優先度が高い。

GPU交換は「速度」か「VRAM容量」かで選ぶ

GPUのアップグレードは投資額が大きいため、目的を明確にしてから検討したい方針。方向性は「速度を上げる」「載るサイズを増やす」の2つで、24GB帯のように両方を兼ねる選択肢もあります。

速度重視の場合はRTX 5080(VRAM 16GB、CUDAコア 10,752基、TGP 360W)が有力な候補。VRAM容量は同じ16GBですが、CUDAコア数が4,608基から10,752基へと倍以上に増え、メモリバス幅も128-bitから256-bitへ倍になります。LLMのトークン生成はメモリ帯域の影響が大きく、画像・動画生成は演算性能(CUDAコア数・クロック・Tensorコアなど)の影響が大きいので、どちらの用途でも上積みが期待できる構成です。なお長いプロンプトを読み込ませる処理(プロンプト評価)は演算側を使うため、そこは演算性能向上の恩恵も受けやすくなります。

上位GPUの処理性能が創作活動の幅を広げた実感は、動画生成や大量画像処理を回すほど顕著になる。当サイトでもRTX 5080を使った4K動画生成ワークフローで成果を積み上げている段階で、上位GPUに投資する意味は体感できる領域に入っています(VRAM容量はRTX 5060 Ti 16GBと同じで、変わるのは速度の方)。

VRAM容量重視の場合は、24GB以上のGPUが選択肢に入ってくる。中古のRTX 3090(VRAM 24GB)なら32BクラスのQ4量子化モデルが視野に入る(当サイトでは未検証)。ただしTGPが350Wと高く、発熱と電源容量の両面で注意が必要になる。新品ではRTX 5090(VRAM 32GB、TGP 575W)が最上位。ベースライン構成の750W電源から載せ替えるなら、NVIDIA公式の要件に合わせて電源も1000W以上へ交換する必要があり、本体に加えて電源の買い替え費用も乗るため、個人の予算としてはかなりハードルが高い。

アップグレード先GPU VRAM CUDAコア TGP メリット
RTX 5070 Ti 16GB 8,960基 300W メモリバス幅が5060 Tiの2倍(128-bit→256-bit・ともにGDDR7)で、公式のメモリ帯域も448→896GB/s。LLMの生成速度の差は本記事では測っていない
RTX 5080 16GB 10,752基 360W バス幅は5060 Tiの2倍の256-bit(5070 Tiと同値)。5070 Tiと比べるとCUDAコア数(8,960→10,752基)が多く、メモリ帯域(896→960GB/s)とTGP(300→360W)も上。演算性能が効く画像・動画生成で差が出やすい
RTX 3090(中古) 24GB 10,496基 350W 24GB VRAMで32B級(Q4)が視野に入る
RTX 5090 32GB 21,760基 575W 32GB。Llama 3.3 70B(Ollamaのq4_K_Mタグはファイルサイズ43GB)はモデル本体だけで収まらず、CPU側への配置か、より小さい量子化版が前提
GPUを上位モデルに交換する際は、電源ユニットの容量を必ず確認すること。NVIDIA公式が示す必要電源(Required System Power)は、RTX 5080が850W、RTX 5090が1000W。ベースライン構成の750W電源はRTX 5080の公式値を下回るので、NVIDIA公式の要件に合わせるなら、5080へ載せ替えるときは電源も850W以上への交換が必要です。なおこの公式値はNVIDIAが特定のCPU構成を前提にした最小値なので、構成次第ではさらに余裕を見ておきたいところ。

電源容量に合うGPUを探すならいま使っている電源の容量を指定すると、NVIDIAの必要電源を満たす候補に絞れます。推奨電源と補助電源を型番ごとに並べています。購入前には、CPUを含む構成、補助電源コネクタ、カードの寸法とケース内の余裕も型番ごとに確認してください。

GPU選びを開く →

RTX 5060 Ti 16GBのAI性能を実測データで確認

スペック表の数字だけでは「実際にどれくらいの速度で動くのか」がつかめない。ここでは当サイトの検証環境(RTX 5060 Ti 16GB / i7-14700F / 96GB RAM)で計測した実測データを紹介する。

ローカルLLM(Ollama)の実測速度

Ollamaで主要なモデルを動かした際の生成速度(tokens/sec)、VRAM使用量、GPU配置の割合を、以下の表にまとめた。

測定条件
2026年9月27〜28日、RTX 5060 Ti 16GB(Oculink接続)、Ollama 0.34.4、NVIDIAドライバ 610.47。context長8,192、thinking無効、seed 42、全モデル共通の日本語プロンプト。温度はそろえておらず各モデルの既定値のままなので、モデル間の速度は参考比較として読んでほしい。出力の上限(num_predict)は512で、今回はどのモデルも512トークンまで出力した。各モデルとも1回目の前にモデルが読み込まれていない状態から3回続けて測った中央値(2・3回目は読み込み済みの状態。生成速度には読み込み時間を含まない)。生成速度は出力を生成している間の速さで、Ollama APIが返す eval_count を eval_duration(ナノ秒)で割り、秒あたりに直した値。VRAM使用量は nvidia-smi で見たこのGPUの使用量(MiB)をGiBに直した値で、測定前はほぼ0でした。GPU配置の割合は Ollama の /api/ps が返す size_vram ÷ size(100%未満ならCPUとの併用)。phi4:14bのみ2枚のGPUが見える状態で測りましたが、モデルはRTX 5060 Tiだけに載っていました。モデルのID(ollama list の先頭12桁)は qwen3.5:9b が 6488c96fa5fa、phi4:14b が ac896e5b8b34、qwen3:14b が bdbd181c33f2、codestral:22b-v0.1-q4_K_M が 9a43e868fd2c(下で触れるRTX 4070 SUPERでの測定も、phi4:14b・qwen3:14bは同じID)。
モデル(Ollamaのタグ) パラメータ数 生成速度 VRAM使用量 GPU配置の割合
qwen3.5:9b 9.7B 67.5 tokens/sec 6.5GiB 100%
phi4:14b 14.7B 44.6 tokens/sec 10.1GiB 100%
qwen3:14b 14.8B 43.6 tokens/sec 9.9GiB 100%
codestral:22b-v0.1-q4_K_M 22.2B 24.8 tokens/sec 13.9GiB 95%

まず9Bクラスのqwen3.5:9bは67.5 tokens/sec。VRAM使用量は6.5GiBで、16GBの半分以下しか使っていない。小型モデルなら余裕を持って動く。

14Bクラスはphi4:14bが44.6 tokens/sec、qwen3:14bが43.6 tokens/sec。どちらもcontext長8,192で全部GPUに載り、VRAM使用量は約10GiBでした。なお、表の速度は出力を生成している間の速さで、入力の読み込みにかかる時間や回答の質は含みません。

22Bのcodestral:22b-v0.1-q4_K_Mは、/api/ps で見たGPU配置の割合が95%で、CPUとGPUの併用になりました(nvidia-smi で見たVRAM使用量は13.9GiB)。なお検証機ではこのGPUを画面出力に使っておらず、測定前のVRAM使用量はほぼ0でした。構成例のCore i5-14400FはGPUを内蔵していないので、この構成ではRTX 5060 Tiが画面出力も受け持ちます。その場合はデスクトップ表示などでVRAMを使うぶん空きが減り、22B級のGPU配置の割合と速度は表の値より下がる可能性があります(14B級は使用量が約10GiBで空きが大きいので、影響は小さいと考えられます)。生成速度は24.8 tokens/secで、14B級より遅くなります。context長をさらに伸ばせばCPU側に回る分は増えるので、22B級は「16GBでも一部あふれる」前提で考えたほうが安全です。長いコードや複数ファイルを扱う場合の速度・品質は本記事では測っていません。また、このタグにはMistral AI Non-Production Licenseが適用されます。使えるのはテスト・研究・評価・個人の用途に限られ、会社員が日常の業務で使う場合や、収益を目的とする利用は許諾の範囲外です。業務や本番環境で使うなら、ライセンスの条件を確認したうえでMistral AIから必要なライセンスを受けてください。

tokens/secとは「1秒間に何トークン(おおむね単語の断片1つ分)を生成できるか」を示す指標。当サイトでは、20 tokens/sec以上をチャットで待たされにくい目安、40 tokens/sec以上を快適の目安としています(使用感にもとづく目安で、測定した値ではありません)。この表では、14Bクラスまでが40 tokens/secを超えました。

画像生成(ComfyUI)の実測速度

RTX 5060 Ti 16GBでComfyUIを使ったAI画像生成についても触れておく。SDXL(Stability AI 公式配布の sd_xl_base_1.0.safetensors。SHA-256 が公式の 31e35c80…893f7e5b と一致するファイルをfp8で読み込み、1280×720、30ステップ、sampler euler・scheduler normal・CFG 7、seedは毎回ランダム)の生成は、2回目以降の4回の平均で1枚約11.7秒でした(2026年9月27日、ComfyUI 0.37.1。時間は生成の依頼を送ってから完了が返るまで)。生成中のこのGPUのVRAM使用量はピークで約7.8GiB(nvidia-smi の値、測定前はほぼ0)。16GBの半分ほどなので、画像生成単体であれば余裕がある。

ただし注意点もある。OllamaでLLMを動かしながら同時にComfyUIで画像を生成すると、それぞれ単体で測った使用量の合計が16GBを超える組み合わせがある。たとえばphi4:14b(約10.1GiB)とSDXL(ピーク約7.8GiB)は、足すだけで約17.9GiBとなり、このGPUの容量(約15.9GiB)を上回る。同時に動かしたときの実際の使用量と安定性は当サイトでは測っていないが、単体で測ったときの使用量のままでは両方が収まらない計算になる。こうした同時利用を見据えるならRAMを64GB以上にしておくと、CPUオフロードや複数アプリの同時利用でシステムRAMが足りなくなりにくく、OSのスワップ(ディスクへのページング)が起きるリスクを下げられます。ただしRAM容量を増やしてもオフロード自体の遅さは解消しません(オフロード時の速度を決めるのは、LLMではCPUとメモリ帯域、ComfyUIがモデルの一部をRAMに置く場合はGPUとの間の転送速度です)。速度を落としたくないなら、VRAMに収まるモデルを選ぶか同時起動を避けるのが確実です。

まとめ

ローカルAIを14B級のLLMやSDXLを中心に始めるなら、RTX 5060 Ti 16GBを中心に組む構成(この記事の例で約28万円。2026年9月29日確認時のパーツ代、OS別)が実用ラインです(この構成例そのものは組んで測っていません)。当サイトの検証環境(i7-14700F / RAM 96GB)での実測では、VRAM 16GBでQ4量子化の14B級2モデルがcontext長8,192で全部GPUに載り、22B級のcodestral:22b-v0.1-q4_K_MもGPU配置が95%でした(ほかのモデルや設定にはそのまま当てはまりません)。画像生成(SDXL fp8)も単体なら余裕があります(LLMと同時に動かす場合は、単体の使用量を足すと16GBを超える組み合わせがあります)。

本記事の実用ライン構成を新品で10万円に収めるのは、いまの価格では難しいのが現状です。中古PCや用途を絞った構成なら10万円前後で始める道もありますが、その場合は動かせるモデルのサイズ、保証、在庫を個別に確かめる必要があります。約28万円のベースラインからスタートし、同時利用が増えたらRAM増設、モデルが増えたらSSD追加、動かしたいモデルのサイズが上がったらGPU交換、という順で足していく戦略なら、長期的に無駄のない投資になります。

まず自分がやりたいAI用途を明確にし、必要なVRAM容量を上の表で照合してみてほしい。ローカルLLMでの対話がメインなら、この構成を出発点として検討できる。ただし構成例そのものとRAM 32GBでの余裕は測っていないので、使うモデルと同時に開くアプリの必要量は購入前に確かめてほしい。

よくある質問(FAQ)

Q: 予算10万円でAI用PCは組めますか?

A: 本記事の実用ライン構成(新品)では難しい。RTX 5060 Ti 16GB単体で約12.5万円かかり、GPU以外のパーツも実用ライン構成では合計約15.4万円になるため、GPUを安いものに替えても10万円には収まらない計算です。総額を少しでも下げたい場合は、中古のRTX 3060 12GBを使う方法もあります。VRAM 12GBでも14BクラスのQ4量子化モデルはほぼ収まりますが(当サイトでRTX 4070 SUPER 12GBを使った実測では、context長8,192でqwen3:14bは全部、phi4:14bはGPU配置95%でした。画面出力に使っていないGPUで測った値)、context長を伸ばす場合はあふれます。14B超のモデルは12GBでは測っていませんが、22B級は16GBでも一部があふれたので、12GBでは載りきらない前提で考えたほうが安全です。またRTX 3060はメモリバス幅こそ192-bitとRTX 5060 Ti(128-bit)より広いものの、メモリ規格が1世代前のGDDR6(5060 TiはGDDR7)のぶん、仕様上のメモリ帯域は約360GB/sと5060 Tiの448GB/sを下回ります。本記事では両GPUを同じ条件で比べていないので速度差は未検証ですが、LLMのトークン生成は帯域の影響が大きいため、差が出る可能性はあります。

Q: ノートPCでローカルAIは動かせますか?

A: 動かせるが制約は多い。ノートPC向けGPU(例: RTX 4060 Laptop GPU)はデスクトップ版と同じVRAM容量でも、電力制限やクロック数の違いで推論速度が落ちる。「RTX 4060」と「RTX 4060 Laptop GPU」はまったくの別物という点に注意してほしい。一方、ChatGPTやClaude Codeのようにクラウド側でモデルを動かすサービスを使うだけなら、ローカル推論用のGPUは要らない。ただし入力した文章やファイルの内容はサービス側で処理される。ローカル実行が必要か、クラウドのサービスで済むかを、データの送り先も含めて先に判断するのが得策。

Q: CPUはIntelとAMDのどちらがいいですか?

A: モデルがVRAMに収まっている限り、ローカルLLMの推論処理はGPUがほぼすべてを担うため、CPUのメーカー選びで大きな差は出ない。Intel Core i5-14400FでもAMD Ryzen 5 7600でも、VRAMに収まるモデルなら推論速度への影響は小さい。VRAMからあふれるモデルを常用する場合は、CPU側の性能とメモリ帯域も速度に影響する。予算や入手性で選んで問題ないパーツと考えてよい。ただしCPUとマザーボードはソケットの互換性があるため、CPUを先に決めてからマザーボードを選ぶ順序だけは守ること。

本記事は AIハードウェア図鑑 が記載時点の情報をもとに執筆。製品アップデートや第三者ベンチマーク・価格・対応ランタイム等の変動で評価が変わる可能性がある。一定期間経過した内容は再検証を推奨する。

アフィリエイトについて
当サイトはAmazonアソシエイト・プログラムの参加者です。Amazonのアソシエイトとして、当サイトは適格販売により収入を得ています。
タイトルとURLをコピーしました