48GB VRAM で組むローカルLLM 母艦PCの構成ガイド 2026年版:RTX PRO 5000 48GB / RTX 3090 ×2 / RTX 4090 + 4060 Ti 16GB で 70B・120B を回すハードウェア別選択

結論:48GB VRAM は「70B / 72B クラス Q4 を余裕で回せる最小構成」として、ローカルLLM 母艦の現実的なスイートスポットです。組み方は 3 ルートあり、新品 RTX PRO 5000 Blackwell 48GB 単体（約 60 万円・300W・完結性◎）、中古 RTX 3090 24GB ×2 で 48GB を作る（約 25〜30 万円・700W・コスパ◎）、新品 RTX 4090 24GB + RTX 4060 Ti 16GB（約 40 万円・500W・保証と省電力の折衷）。速度と電力・完結性・組みやすさで性格が違うため、用途と設置環境で選び分ける必要があります。

「70B ローカルで動かしたい」の入口として、48GB VRAM は 2026 年時点で最も現実的なターゲットです。24GB では Llama 3.3 70B Q4_K_M（約 42GB）が入らず、96GB は Strix Halo か RTX PRO 6000 Blackwell の 2 択で機材が限られる。48GB はその中間で、市販パーツで「複数の組み方」から選べる希少な帯域です。

ただし「48GB を作る方法」は複数あり、初期投資・電力・組みやすさ・拡張性が大きく異なります。本記事では 2026 年 7 月時点で現実的な 3 ルートを、パーツ構成・実効 tok/sec・電力・注意点で横並びに整理します。

VRAM 容量と動かせるモデルの対応は「VRAM 容量別ローカルLLM モデル早見表 2026年版」、予算軸で 50 万円構成を検討する場合は「予算50万円で組むローカルLLM母艦PC構成 2026年版」も合わせて確認してください。

3 ルートを一覧で:何で違いが出るか

まず 3 ルートの性格を 1 枚に集約します。

ルート	GPU 構成	VRAM 合計	初期投資（GPU のみ）	推論時消費電力	保証	静音性
A: RTX PRO 5000 単体	RTX PRO 5000 Blackwell 48GB ×1	48GB	約 ¥60 万	約 300W	新品 3 年	◎（単機・低発熱）
B: 中古 RTX 3090 ×2	中古 RTX 3090 24GB ×2	48GB	約 ¥25〜30 万	約 700W	中古（保証店舗次第）	△（2 枚・大型ケース必須）
C: RTX 4090 + 4060 Ti 16GB	新品 RTX 4090 24GB + RTX 4060 Ti 16GB ×1	40GB（+16GB 追加可）	約 ¥40 万	約 500W	新品 3 年	○（消費電力控えめ）

同じ 48GB でも「初期投資が 2 倍以上違う」「消費電力が 2 倍以上違う」「拡張余地が違う」ため、用途で選び分ける必要があります。順に内訳を見ていきます。

ルート A:RTX PRO 5000 Blackwell 48GB 単体

「静音・省電力・単機完結」で 48GB を作る最短ルートです。NVIDIA RTX PRO 5000 Blackwell は Ampere 世代の RTX A6000 の後継にあたるプロシューマ向け dGPU で、48GB GDDR7 を単一 GPU に搭載しています。

パーツ構成（2026 年 7 月時点・税込実勢価格）

パーツ	製品例	価格
CPU	AMD Ryzen 9 9950X3D（16C/32T、Zen 5、170W）	約 ¥88,000
GPU	NVIDIA RTX PRO 5000 Blackwell 48GB	約 ¥600,000
マザー	ASUS ROG X870E-Hero	約 ¥90,000
メモリ	DDR5-6000 96GB（32GB×3、CL30）	約 ¥55,000
ストレージ	NVMe Gen4 2TB（WD Black SN850X 等）	約 ¥20,000
電源	Corsair RM850x SHIFT ATX 3.1	約 ¥25,000
CPU クーラー	360mm 簡易水冷	約 ¥25,000
ケース	Fractal Design North / Meshify 2	約 ¥25,000
合計		約 ¥928,000

GPU 単体で約 60 万円と初期投資は最も高いですが、代わりに「単機で 48GB が完結」「消費電力が 300W 前後」「静音・省スペース」というメリットが揃います。

動かせるモデルと実効 tok/sec

モデル	量子化	サイズ	tg tok/sec	pp512 tok/sec
Llama 3.3 70B	Q4_K_M	約 42GB	約 22〜28	約 1,400〜1,900
Qwen 2.5 72B	Q4_K_M	約 43GB	約 20〜26	約 1,300〜1,800
Gemma 3 27B	FP16（Q8 に落として）	約 27GB	約 30〜36	約 2,000〜2,600
gpt-oss 120B	MXFP4	約 63GB	✗ 単体では KV 込みで厳しい	–

強み:単機で 70B / 72B Q4 が快適に回る。KV キャッシュに 6GB 程度の余裕があるため、8K 前後のコンテキストでも余裕。企業用途で保証が必要な場合や、ラック搭載・24 時間運用にも向く。

弱み:120B クラスは単体では KV キャッシュ込みで難しく、Q4 に落としても厳しい。初期投資 60 万円は個人予算で重い。

適する用途

• 個人開発者で「電気代・静音・完結性」を重視する
• 企業の PoC 用に保証つき機材が必要
• 将来的に RTX PRO 6000 Blackwell 96GB へアップグレードするステップとして

ルート B:中古 RTX 3090 24GB ×2 で 48GB を作る

「初期投資を最低限に抑えて 70B を実用速度で回す」ルートです。中古 RTX 3090 24GB は 2026 年 7 月時点で 1 枚 12〜15 万円が相場で、2 枚買っても 25〜30 万円。RTX PRO 5000 単体の半額以下で 48GB を確保できます。

パーツ構成（2026 年 7 月時点・税込実勢価格）

パーツ	製品例	価格
CPU	AMD Ryzen 9 9950X3D	約 ¥88,000
GPU	中古 GeForce RTX 3090 24GB ×2	約 ¥260,000
マザー	ASUS ROG X870E-Hero（x8/x8 分割対応）	約 ¥90,000
メモリ	DDR5-6000 96GB	約 ¥55,000
ストレージ	NVMe Gen4 2TB	約 ¥20,000
電源	1200W ATX 3.1（12V-2x6 対応）	約 ¥40,000
CPU クーラー	360mm 簡易水冷	約 ¥25,000
ケース	Fractal Design Meshify 2 XL（大型・エアフロー重視）	約 ¥35,000
ライザーケーブル or GPU ブラケット		約 ¥8,000
合計		約 ¥621,000

パーツ総額でも 62 万円と、ルート A の約 3 分の 2。GPU が半額以下になるインパクトが大きい構成です。

動かせるモデルと実効 tok/sec

モデル	量子化	サイズ	tg tok/sec	pp512 tok/sec
Llama 3.3 70B	Q4_K_M	約 42GB	約 15〜18	約 1,000〜1,300
Qwen 2.5 72B	Q4_K_M	約 43GB	約 14〜17	約 950〜1,200
DeepSeek-Coder-V2 33B	FP16	約 66GB	✗ 収まらない	–
Gemma 3 27B	FP16	約 54GB	✗ 収まらない	–

Ampere 世代のため tensor コアは Blackwell / Ada より旧世代ですが、Llama 3.3 70B Q4_K_M で 15〜18 tok/sec は「対話用途で十分実用」のレンジです。

強み:初期投資が半額以下。1 枚追加で 72GB 化する余地もあり、拡張性が高い。llama.cpp / vLLM とも tensor parallel 対応が成熟。

弱み:消費電力 700W と大きく、電気代・冷却・電源容量の設計が重い。中古ゆえの個体差リスク（マイニング歴・ファン劣化）は保証つき販売店で買うか、動作確認済み中古を選ぶことで軽減。大型ケース（Meshify 2 XL 等）が事実上必須。

適する用途

• 「70B を毎日回したい」開発者・研究者
• コスト最優先で、消費電力と発熱は許容できる
• 中古パーツの目利きに自信がある

中古 GPU 選びの詳細は「中古 GPU で組むローカルLLM 機ガイド 2026年版」で扱っています。

ルート C:RTX 4090 24GB + RTX 4060 Ti 16GB の変則構成

新品保証を維持しつつ、消費電力とコストの中間を取るルートです。24GB + 16GB = 40GB で 70B Q4_K_M（約 42GB）に一歩足りませんが、CPU オフロード併用または Q4_0 変換で回避可能。48GB フル運用を狙うなら 4060 Ti 16GB を 2 枚（4090 + 4060 Ti ×2 = 56GB）にする発展形もあります。

パーツ構成（2026 年 7 月時点・税込実勢価格）

パーツ	製品例	価格
CPU	AMD Ryzen 9 9950X3D	約 ¥88,000
GPU 1	GeForce RTX 4090 24GB	約 ¥300,000
GPU 2	GeForce RTX 4060 Ti 16GB	約 ¥90,000
マザー	ASUS ROG X870E-Hero	約 ¥90,000
メモリ	DDR5-6000 96GB	約 ¥55,000
ストレージ	NVMe Gen4 2TB	約 ¥20,000
電源	1000W ATX 3.1（12V-2x6 対応）	約 ¥30,000
CPU クーラー	360mm 簡易水冷	約 ¥25,000
ケース	Fractal Design Meshify 2	約 ¥28,000
合計		約 ¥726,000

GPU パーツ合計は 39 万円で、ルート B より 13 万円高いですが新品保証つき。

動かせるモデルと実効 tok/sec

モデル	量子化	サイズ	tg tok/sec	備考
Llama 3.3 70B	Q4_K_M	約 42GB	約 12〜16	40GB VRAM + 2GB CPU オフロード
Qwen 2.5 72B	Q4_0	約 40GB	約 15〜18	全レイヤー VRAM
Gemma 3 27B	Q8	約 27GB	約 24〜30	4090 単体で完結
Llama 3.3 8B	FP16	約 16GB	約 90〜120	4090 単体で高速動作

llama.cpp では 4060 Ti 16GB を「はみ出しレイヤー用」に使う変則構成が動作します。ただし tensor parallel は同世代 GPU 前提のため、vLLM で tensor parallel を回すのは困難で、llama.cpp のレイヤー分割で運用するのが素直です。

強み:新品保証つきで消費電力 500W。1200W 電源が不要。将来 4060 Ti 16GB をもう 1 枚追加すれば 56GB まで拡張可能。

弱み:tensor parallel が実質使えないので、vLLM で高スループット推論を狙う用途には向かない。llama.cpp 前提。

適する用途

• 新品保証を維持したい
• 消費電力を 500W に抑えたい
• 4090 を単体でも活用したい（ゲーム・動画編集の兼用機）

3 ルート横断比較:同じ 70B Q4 で何が違うか

Llama 3.3 70B Q4_K_M を共通指標にして 3 ルートを並べます。

比較軸	A: PRO 5000	B: 3090 ×2	C: 4090 + 4060 Ti
tg tok/sec	約 22〜28	約 15〜18	約 12〜16
pp512 tok/sec	約 1,400〜1,900	約 1,000〜1,300	約 800〜1,100
総システム価格	約 93 万円	約 62 万円	約 73 万円
推論時消費電力	約 300W	約 700W	約 500W
年間電気代（8h/日、¥31/kWh）	約 ¥27,000	約 ¥63,000	約 ¥45,000
保証	新品 3 年	中古次第	新品 3 年
拡張余地	RTX PRO 6000 に移行のみ	3 枚目追加で 72GB 化	4060 Ti 16GB を 1 枚追加で 56GB 化

tg tok/sec はルート A が最速、B と C は同程度。初期投資 は B が最安、A が最高。電気代 は 5 年で見ると A と B の差が 20 万円弱に達し、初期投資差の一部を回収できます。拡張性 は C が最も柔軟で、まず 4090 単機で使って必要なら 4060 Ti 16GB を追加、という段階的アプローチが可能です。

VRAM 使い切り運用のコツ:llama-swap と KV キャッシュ確保

48GB VRAM で 70B Q4_K_M（約 42GB）を回すと、残り約 6GB が KV キャッシュに割り当てられます。4K コンテキストなら十分ですが、16K を超えるとギリギリになり、32K は Q4_K_M では厳しいラインです。

対策として以下を組み合わせます。

1. KV キャッシュを Q8 量子化:llama.cpp の --cache-type-k q8_0 --cache-type-v q8_0 で KV サイズを半減。実質のコンテキスト上限が 2 倍になる
2. モデル切り替えは llama-swap で自動化:70B を常駐させず、8B / 32B と切り替える運用で VRAM を柔軟に使う
3. CPU オフロードは最終手段:70B Q4_K_M を CPU オフロードすると tg が 2〜3 tok/sec まで落ちるため、48GB に収まる Q4_0 を選んだ方が実用的

複数モデルの VRAM 管理は「llama-swap でローカルLLM のマルチモデル運用を最適化する 2026年版」で詳しく扱っています。KV キャッシュとコンテキスト長の関係は「ローカルLLM のコンテキスト長と VRAM / KV キャッシュ消費の関係 2026年版」を参照してください。

48GB の次:96GB へアップグレードするタイミング

48GB で 70B / 72B Q4 は快適に回りますが、以下のケースでは 96GB への移行が視野に入ります。

• gpt-oss 120B MXFP4（約 63GB）を単体ロードしたい
• Llama 3.3 70B FP16（約 140GB）に手を出したい（96GB でも足りず、Mac Studio 512GB か dGPU 複数枚が必要）
• コンテキスト 32K〜128K を安定運用したい
• Qwen 2.5 72B FP16（約 145GB）や DeepSeek-V3 Q4（約 85GB）を試したい

96GB クラスは Ryzen AI MAX+ 395 / RTX PRO 6000 Blackwell / Mac Studio M3 Ultra の 3 択で、それぞれ性格が違います。詳細は「RTX PRO 6000 Blackwell 96GB vs Mac Studio M3 Ultra 512GB」で扱っています。

決めきれない人向けの三択チャート

用途を絞ってから逆算する視点です。

• 「電気代と静音を最優先。新品保証必須」→ ルート A（RTX PRO 5000）
• 「初期投資 30 万円以内で 70B を回したい」→ ルート B（中古 3090 ×2）
• 「消費電力 500W 以下・新品保証・4090 のゲーム兼用」→ ルート C（4090 + 4060 Ti）
• 「48GB では足りない。120B クラスを回したい」→ 96GB 構成へジャンプ（別記事参照）

デュアル GPU 構成のベンチ実測は「デュアル RTX 5090 マルチGPU ローカルLLM ベンチマーク 2026年版」で扱っています。「ローカルLLM を動かす PC の最低スペック」は「ローカルLLM を動かす PC の最低スペック 2026年版」を参照してください。

入手先・関連商品

当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。

3 ルートの主役 GPU

• GeForce RTX 3090 24GB を Amazon.co.jp で見る — ルート B の主役。中古 1 枚 12〜15 万円が相場
• GeForce RTX 4090 24GB を Amazon.co.jp で見る — ルート C のメイン GPU
• GeForce RTX 4060 Ti 16GB を Amazon.co.jp で見る — ルート C のはみ出しレイヤー用

---

あなたに合うPCを診断する

用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。

→ 診断スタート

関連記事

• 中古 GPU で組むローカルLLM 機ガイド 2026年版:RTX 3090 中古選びの目利きと保証の考え方
• VRAM 容量別ローカルLLM モデル早見表 2026年版:24GB / 48GB / 96GB / 128GB で動くモデル
• 予算50万円で組むローカルLLM母艦PC構成 2026年版:予算軸で 50 万円構成を検討する場合
• デュアル RTX 5090 マルチGPU ローカルLLM ベンチマーク 2026年版:マルチGPU の tensor parallel 実測