ローカルLLM向けGPUの選び方ガイド 2026年版：必要VRAMから逆算して RTX 5060 Ti 16GB 〜 RTX PRO 6000 まで選ぶ
ローカルLLM用にGPUを選ぶなら、動かしたいモデルのサイズからVRAMを逆算します。RTX 5060 Ti 16GB / 5070 Ti / 5080 / 5090 / RTX PRO 6000 と中古3090を、VRAM・メモリ帯域・価格・tok/secで整理し、予算別に失敗しない選び方をまとめました。
- #ローカルLLM
- #GPU選び方
- #VRAM
- #RTX 5090
- #RTX 5060 Ti
- #RTX PRO 6000
- #メモリ帯域
- #グラボ
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。
結論：ローカルLLM用GPUは「動かしたいモデル → 必要VRAM → GPU」の順で逆算します。14B級までなら RTX 5060 Ti 16GB（実勢8〜10万円）、32B〜70Bと速度を狙うなら RTX 5090（32GB・帯域1,792GB/s）、Q8/FP16や100B級を単体で扱うなら RTX PRO 6000 Blackwell（96GB）。安く大容量を作るなら中古 RTX 3090 24GB の2枚刺しで48GB、が2026年6月の現実解です。
ローカルLLM用のGPU選びでいちばんやってはいけないのは、「ゲーム性能（FPS）のランキング」で選ぶことです。LLMではコアの速さよりVRAM容量とメモリ帯域が効きます。この記事は、個別スペック対決ではなく「動かしたいモデルから逆算して、失敗しないGPU階層にたどり着く」意思決定フローとして書きます。価格は変動が大きいので、すべて2026年6月時点の実勢レンジとして扱ってください。
ステップ0：まず「動かしたいモデル」を決める
GPUから選ぶと失敗します。先に「何を動かしたいか」を決め、そこからVRAMを逆算します。Q4_K_M（実用量子化）を基準にした必要VRAMの目安です。
| 動かしたいモデル | Q4_K_M の重み目安 | 必要VRAM目安（KVキャッシュ込み） |
|---|---|---|
| 7〜8B（軽量チャット・要約） | 約 5GB | 8GB |
| 13〜14B（日常実用の主力） | 約 9GB | 12〜16GB |
| 30〜32B（論理・コードが安定） | 約 20GB | 24GB |
| 70B（業務エージェント水準） | 約 40〜43GB | 48GB（32GBはギリギリ） |
| 100B+ MoE / Q8・FP16 運用 | 70GB〜 | 96GB〜 |
この表の「必要VRAM」を満たす最も安いGPUを選ぶ、というのが基本戦略です。どのモデルがどのVRAMに乗るかの一覧は「VRAM別 ローカルLLMモデル早見表 2026年版」が詳しいです。
ステップ1：GPUを選ぶ4つの軸（FPSではない）
LLM用途で見るべきスペックは、ゲームとは順番が違います。
- VRAM容量（最重要）：これが「そもそも乗るか」を決める。足りなければCPUオフロードで速度が桁落ちする。
- メモリ帯域（GB/s）：モデルが乗っている前提で、tok/sec を主に決めるのがこれ。容量の次に効く。
- 価格：LLMは「速いGPU1枚」より「VRAMの大きいGPU」が効くため、コスパの基準がゲームと違う。
- 消費電力・電源：5090級は最大消費が大きく、電源・ケースまで含めた設計が必要。
「容量が足りないと、いくらコアが速くても遅い」。これがLLM GPU選びの一丁目一番地です。なぜ帯域が tok/sec を決めるのかは「メモリ帯域幅(GB/s)がローカルLLMの tok/sec を決める仕組み 2026年版」で仕組みから解説しています。
ステップ2：GPU横断比較表（2026年6月時点）
LLM用途で候補に挙がる主要GPUを、容量・帯域・価格・動かせる規模で並べます。価格は変動が激しいため幅で示します。
| GPU | VRAM | メモリ帯域目安 | 実勢価格（2026年6月） | 快適に動く規模（Q4_K_M） |
|---|---|---|---|---|
| RTX 5060 Ti 16GB | 16GB GDDR7 | 中位 | 8〜10万円 | 〜14B |
| RTX 5070 Ti | 16GB GDDR7 | 高位 | 15〜18万円 | 〜14B（速度に余裕） |
| RTX 5080 | 16GB GDDR7 | 高位 | 20〜23万円 | 〜14B（32B以上は不利） |
| RTX 5090 | 32GB GDDR7 | 1,792 GB/s | 55〜69万円（品薄変動・中古37万〜） | 32B快適 / 70B Q4ギリギリ |
| RTX PRO 6000 Blackwell | 96GB GDDR7 | 最高位 | 約160〜164万円（$13,250） | 70B Q8 / 100B+ |
| 中古 RTX 3090 | 24GB GDDR6X | 中上位 | 14〜18万円 | 32B / ×2で70B |
注意点を2つ。RTX 5080 は VRAM が16GB止まりで、32B以上を回すとCPUオフロードが発生して速度が激減します。ゲームでは強いカードですが、LLMで32B超を狙うなら避けるか、5090へ一気に上げるのが正解です。もう一つ、RTX 5090 は品薄で価格が大きく揺れています。新品55〜69万円、中古でも37万円前後の報告があり、購入タイミングの影響が大きいGPUです。
ステップ3：予算別の推奨構成
逆算の結論を「予算」に落とし込みます。
| 予算 | 推奨 | 動かせる規模 | コメント |
|---|---|---|---|
| 〜10万円 | RTX 5060 Ti 16GB | 〜14B | ローカルLLM入門の本命。16GBで日常用途は十分 |
| 〜20万円 | RTX 5070 Ti / 中古3090 | 〜14B / 32B | 速度を取るなら5070 Ti、容量を取るなら中古3090 |
| 〜30万円 | 中古 RTX 3090 ×2（48GB） | 70B Q4 | コスパ最強の大容量。電源・ケース設計は要注意 |
| 〜70万円 | RTX 5090 | 32B快適・70B Q4 | 速度と容量のバランス頂点。単体運用の本命 |
| 100万円〜 | RTX PRO 6000 Blackwell | 70B Q8・100B+ | Q8/FP16を単体で扱える唯一級。業務・研究向け |
**安く大容量を狙うなら中古 RTX 3090 24GB の2枚刺し（合計48GB）**が2026年でも有効です。70B Q4 が無理なく乗り、新品5090の半額以下で組めます。ただし2枚分の電源（合計700W級の余裕）とケースのエアフロー、PCIeレーンの確保が前提で、初心者には組み立てハードルが上がります。中古GPUの選び方とリスクは「中古GPUでローカルLLM機を組む 2026年版」にまとめました。
よくある失敗3パターン
最後に、相談でよく見る「買ってから後悔する」パターンを3つ。
- FPSランキングで5080を買って32Bが動かない：5080は16GB。LLMで32B超を狙うなら5090か、容量重視で中古3090系へ。
- VRAMだけ見て帯域を忘れる：統合メモリ128GBのミニPCは「乗る」が、帯域が低いと70Bの tok/sec が一桁になることもある。容量と帯域は両方見る。
- 電源を後回しにする：5090や3090×2は瞬間消費が大きい。GPUだけ買って電源が足りず起動不良、は定番の失敗。電源は余裕を持って選ぶ。
5090 と PRO 6000 のAI用途での直接比較は「RTX 5090 vs 4090 vs PRO 6000 — AI用途で選ぶGPU 2026」で扱っています。本記事で階層を掴んだら、最終候補の2枚をそちらで突き合わせると判断が固まります。
入手先・関連商品
当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。
予算別の「本命」3枚を入手先としてまとめます。
- NVIDIA GeForce RTX 5060 Ti 16GB を Amazon.co.jp で見る：8〜10万円、ローカルLLM入門の本命（〜14B）
- NVIDIA GeForce RTX 5090 を Amazon.co.jp で見る：32GB・帯域1,792GB/s、速度と容量の頂点（32B快適・70B Q4）
- NVIDIA GeForce RTX 3090（中古／24GB）を Amazon.co.jp で見る：2枚で48GB、コスパ重視の大容量構成
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
よくある質問
- ローカルLLM用GPUはVRAMが何GBあればいいですか？
- 動かしたいモデルのサイズから逆算します。Q4_K_M量子化を前提に、7〜8Bなら8GB、13〜14Bなら12〜16GB、30〜32Bなら24GB、70Bなら重みだけで約40GBになるため32GBでもギリギリ、余裕を持たせるなら48GB以上が目安です。「まず動かしたいモデル → 必要VRAM → そのVRAMを満たすGPU」の順で選ぶと失敗しません。
- ローカルLLMにはRTX 5090とRTX 5060 Ti 16GBのどちらがいいですか？
- 予算と動かす規模次第です。14B級までの日常用途なら RTX 5060 Ti 16GB（実勢8〜10万円前後）で十分実用になります。32B〜70Bまで視野に入れる、または速度を最優先するなら VRAM 32GB・メモリ帯域1,792GB/sの RTX 5090 が決定的に有利です。5080は16GB止まりで32B以上がCPUオフロードになり速度が激減するため、LLM目的では5090か5060 Ti 16GBの二択が現実的です。
- tok/secはVRAM容量とメモリ帯域のどちらで決まりますか？
- モデルが丸ごとVRAMに乗っている前提では、生成速度（tok/sec）を主に決めるのはメモリ帯域です。RTX 5090のGDDR7は1,792GB/sで前世代を大きく上回り、これが高速化の核です。逆にVRAMが足りずCPUにオフロードされると速度は桁で落ちるため、まず『乗ること（容量）』、次に『速いこと（帯域）』という優先順位になります。