中古GPUでローカルLLM機を安く組むガイド 2026年版：RTX 3090 24GBと3090×2枚48GBでVRAMを最大化する予算別構成と落とし穴

結論：ローカルLLMで「VRAMを安く積みたい」なら、2026年でも中古RTX 3090（24GB）が性能当たり価格の本命。 1枚なら約14〜20万円で24GB＝14B級が快適、2枚挿せば約30〜40万円で48GB＝32〜70B級まで手が届きます。新品RTX 5090（約47万円・32GB）は確かに速いものの、「大きいモデルが載るか」を決めるのはVRAM容量で、そこを最優先するなら中古3090をVRAMが必要なだけ積むのが、いちばん安く目的に届く道です。ただし中古には中古の壁、すなわち電源・PCIeレーン・発熱・個体リスクがあり、ここを読み違えると安物買いになります。

ローカルLLMを自宅で動かしたいが新品ハイエンドGPUは高すぎる、というのは多くの人が突き当たる壁です。この記事は「中古GPU市場でVRAMをコスパ最大化する」という一点に絞り、3090を中心に、1枚機・2枚機の予算別構成と、中古ならではの落とし穴を実価格ベースで整理します。新品前提のワークステーション構成はワークステーションPC構築ガイドに、AI用途のGPU選定そのものはRTX 5090 vs 4090 vs PRO 6000にまとめてあるので、本記事は「中古で安く積む」判断に集中します。

なぜローカルLLMでは中古3090なのか

GPUのスペックでローカルLLMに効くのは、世代の新しさよりVRAM容量です。モデルが載らなければ、どれだけGPUが速くても1トークンも出せません。逆に容量さえ足りれば、多少遅くても回ります。この「容量が一次、速度が二次」という性質が、世代落ちの3090を今なお現役にしています。

GPU	VRAM	2026年6月の価格目安	立ち位置
中古 RTX 3090	24GB	約14〜20万円（中央値15万前後）	VRAM/円の本命
中古 RTX 4090	24GB	約40万円前後	速いがVRAMは3090と同じ
新品 RTX 5090	32GB	約47万円	速度・容量とも最上位、ただし高い

ポイントは、3090も4090もVRAMは同じ24GBだということです。4090は速度（特にプロンプト処理）で上回りますが、「載るモデルの大きさ」は変わりません。LLM用途で容量を優先するなら、同じ24GBに約40万円を払うより、中古3090を約15万円で確保し、足りなければもう1枚足す。この戦い方のほうが性能/円で合理的です。速度がどうしても要るなら、中古4090を狙うより新品5090（32GB）まで上げたほうが、VRAMも増えて筋が通ります。

予算別構成

1枚24GB機（合計目安：25〜35万円）

中古3090を1枚積む、ローカルLLM入門の王道構成です。

• GPU：中古 RTX 3090 24GB（約15万円）
• CPU：Ryzen 7 / Core Ultra 7 クラス（推論はGPU主体なので中位で十分）
• メモリ：DDR5 64GB（モデルのロードやKVキャッシュのオフロードに余裕を持たせる）
• 電源：850W 80PLUS Gold以上（3090単体でも瞬間的に高負荷）
• ストレージ：NVMe SSD 2TB（モデルファイルは1本で数十GB）

これで14B級のLLMがQ4で快適、8B級なら長いコンテキストでも余裕。RAGやコーディング補助といった実用にそのまま入れます。

2枚48GB機（合計目安：45〜60万円）

中古3090を2枚でVRAM 48GBを束ね、32〜70B級の大型モデルに挑む構成です。

• GPU：中古 RTX 3090 24GB ×2（約30〜40万円）
• CPU / マザー：PCIeレーンを2枚に配れるもの（x8/x8で割れる構成が望ましい）
• メモリ：DDR5 64〜128GB
• 電源：1000〜1200W 80PLUS Gold以上、ATX 3.1 / 12V-2x6対応
• ケース：GPU 2枚ぶんのクリアランスとエアフローを確保できる大型ミドル〜フルタワー

3090×2の48GB機が約30〜40万円のGPU費で組めるのは、プロ向け大容量GPU（RTX PRO 6000等）の数分の1。70B級をローカルで回したい個人にとって、いまだ最もコスパの良い経路です。2枚挿しでのテンソル並列の実効性能や設定はデュアルRTX 5090 マルチGPU LLMベンチマークの検証も判断材料になります（GPUは違っても2枚挿しの考え方は共通です）。

中古2枚挿しの落とし穴

VRAM 48GBは魅力的ですが、2枚挿しは「挿せば動く」ものではありません。事前に潰すべき壁が5つあります。

1. 電源：3090は1枚でもピーク消費が大きく、2枚＋CPUでシステム900W級に達します。1000〜1200Wの良質な電源を、ATX 3.1 / 12V-2x6コネクタ対応で用意してください。電源の余裕計算は電源ユニット（PSU）の選び方で詳しく扱っています。
2. PCIeレーン配分：2枚を活かすにはマザー・CPUがx8/x8に割れる必要があります。安価な構成だと2枚目がx4に落ち、テンソル並列の実効が削られます。なおAmpere世代（3090）のNVLinkは事実上終息しており、2枚連携はPCIe経由のテンソル並列が前提です。
3. 発熱・エアフロー：3090は2スロット以上を占有する大型カードが多く、2枚を近接させると上側カードが吸気不足で熱だれします。スロット間隔・ケースの吸排気を最初から設計に織り込むこと。
4. マイニング中古の個体リスク：長時間高負荷で酷使された個体はファン・サーマルパッドが劣化していることがあり、保証も基本なし。可能なら動作確認・保証付きのショップ中古を選び、格安の個人売買はメンテ前提で価格を見ます。
5. 物理クリアランス：3090は全長が長いカードが多く、ケースのGPU対応長やラジエーターとの干渉を必ず実寸で確認します。

これらを「買ってから気づく」と、追加の電源やケース買い直しで結局割高になります。先に箱と電源を48GB機前提で選んでおくのが、結果的に安く済むコツです。

まとめ：容量が要るなら中古、速度が要るなら新品

中古GPUでローカルLLM機を組む判断は、「自分が容量と速度のどちらを優先するか」で割り切れます。

• VRAM容量を安く積みたい → 中古RTX 3090。1枚24GBで約15万円、2枚48GBで約30〜40万円。LLM用途の性能/円では今なお本命
• 速度を上げたい → 中古4090（24GBで割高）より、新品5090（32GB）まで上げるほうが容量も増えて合理的
• 2枚挿しは事前設計が命 → 電源1000W級・x8/x8レーン・大型ケースを最初から前提に。後付けは割高

「新品ハイエンドは高すぎて手が出ない」で諦める前に、中古3090でVRAMを必要なだけ積む選択肢を一度検討する価値があります。落とし穴さえ先回りで潰せば、数十万円の差でローカル70B級が現実になります。

入手先・関連商品

当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。

中古GPU本体はAmazonでの在庫が薄いため、ここでは2枚挿し機を支える周辺パーツを中心に挙げます（GPUは中古ショップ・オークションでの確保が基本です）。

2枚挿し機の土台となる電源・ケースと、両構成で推奨したメモリを挙げます。

• 1000W ATX 3.1 電源 を Amazon.co.jp で見る
• フルタワー PCケース エアフロー を Amazon.co.jp で見る
• DDR5 64GB メモリ を Amazon.co.jp で見る

---

あなたに合うPCを診断する

用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。

→ 診断スタート

関連記事

• ワークステーションPC構築ガイド 2026年版
• 電源ユニット（PSU）の選び方 2026年版
• RTX 5090 vs 4090 vs PRO 6000：AI用途で選ぶGPU 2026