AI開発 ガイド

ローカルLLM ファインチューニング向けPC構成ガイド 2026年版：QLoRA で何B まで学習できるか、推論機との VRAM 要件の違い

ローカルLLMの「学習」は推論と必要VRAMが桁違いに変わります。QLoRA / LoRA / フルファインチューニングで何B モデルまで自宅で回せるか、RTX 5090 32GB・デュアル5090・PRO 6000・Mac の容量別に、勾配とオプティマイザ状態まで含めた現実的な構成を整理します。

  • #ローカルLLM
  • #ファインチューニング
  • #QLoRA
  • #LoRA
  • #VRAM
  • #RTX 5090
  • #PRO 6000
  • #AI開発PC

本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。

ローカルLLM ファインチューニング向けPC構成 2026：QLoRA モデルサイズ別 学習VRAM 早見表

結論：QLoRA(4bit) なら 7B は 16GB、13B は 24GB の単機で学習できます。30B超を本気で回すなら 48GB、70B のファインチューニングはデュアル RTX 5090(64GB) か RTX PRO 6000(96GB)、もしくは Mac Studio の 128GB ユニファイドメモリが現実的な下限です。 「推論で 70B が動いたから学習もできる」という発想は通用しません。学習は重みのほかに勾配・オプティマイザ状態・アクティベーションを抱えるため、同じモデルでも必要メモリが推論の数倍に膨らみます。

この記事では、2026年6月時点で主要モデルを自宅でファインチューニングするために本当に要るVRAMを、QLoRA / LoRA / フルファインチューニングの方式別に整理し、容量別の構成例まで落とし込みます。推論用の最低スペックを知りたい人は先に「ローカルLLMを動かすPCの最低スペック 2026年版」を読んでおくと、この記事の「学習はこんなに違う」が腑に落ちます。

なぜ学習は推論より VRAM を食うのか

推論時にGPUが抱えるのは、ざっくり「モデル重み + KVキャッシュ」だけです。ところが学習（ファインチューニング）では、これに加えて次の3つが乗ります。

  • 勾配（gradient）：学習対象パラメータと同じサイズ。逆伝播のたびに計算される
  • オプティマイザ状態（optimizer state）：Adam系だと1パラメータあたり一次・二次モーメントの2つ、つまりパラメータの2倍のメモリ
  • アクティベーション（activation）：順伝播の中間結果。バッチサイズとシーケンス長に比例して増える

フルファインチューニング（全パラメータ更新）で FP16 + Adam を素直に回すと、重み2バイト + 勾配2バイト + オプティマイザ状態8バイト（FP32換算）で、1パラメータあたり12バイト前後が必要になります。70B なら重みだけで 140GB、学習用の付帯メモリ込みで 800GB 超。これが「フルFTはクラウドのH100 80GB を複数枚束ねる領域」と言われる理由です。

そこで個人が使うのが、更新するパラメータを一部のアダプタだけに絞る LoRA、さらにベース重みを4bitに凍結量子化する QLoRA です。QLoRA は更新対象が全体の1%未満なので、勾配・オプティマイザ状態が抱える量が激減し、消費者向けGPUでも大型モデルに手が届きます。

モデルサイズ別 学習VRAM 早見表（QLoRA 4bit）

QLoRA(4bit NF4) でファインチューニングする場合の、おおよその実測VRAM消費です。バッチサイズ1・勾配チェックポイント有効・シーケンス長2048程度を前提にした目安です。

モデルQLoRA(4bit) 必要VRAM最低限のせられるGPU推論時(Q4)との比較
7B約 12GBRTX 4060 Ti 16GB / 5060 Ti 16GB推論 ~5GB → 学習 ~12GB
13B約 20GBRTX 4090 / 5090（24-32GB）推論 ~9GB → 学習 ~20GB
32-34B約 44GBRTX PRO 6000 / A6000 48GB推論 ~20GB → 学習 ~44GB
70B約 46-48GB（最適化時）/ 余裕を見て 64-80GBデュアル5090 / PRO 6000 96GB / A100 80GB推論 ~40GB → 学習 ~48GB

ポイントは、同じ70Bでも推論なら 40GB の1枚運用でいけるのに、QLoRA学習だと 48GB を切り詰めてようやく、安定運用には64GB以上ほしいという落差です。推論の感覚で「32GB の5090一枚で70Bを学習する」と踏むと、OOM（メモリ不足）で止まります。

LoRA(16bitベース)やフルFTになると、この表の数倍に跳ね上がります。

方式70B の必要VRAM 目安現実的な置き場所
QLoRA(4bit)約 48GB〜デュアル5090 / PRO 6000 / Mac 128GB
LoRA(16bit ベース)約 160GB〜H100 80GB ×2〜
フルFT(全パラメータ)約 800GB〜H100 80GB ×8（クラウド）

「自宅でファインチューニング」が現実に成立するのは、ほぼ QLoRA の列だけだと考えてよいです。LoRA以上は基本クラウドの話になります。

容量別 構成例 4パターン

① 入門：RTX 5090 単機（32GB）、〜13B QLoRA が実用、20B級が上限

パーツ構成例
GPURTX 5090 32GB（新品 54.5万円〜）
CPURyzen 9 7950X / Core i7-14700K
メモリDDR5 64GB（VRAMの2倍が経験則）
電源1200W、80 PLUS Gold

7B・13B の QLoRA なら快適に回ります。Qwen3 14B や Llama 3.1 8B を自前データで微調整するのに過不足ない帯です。20B級は勾配チェックポイントとシーケンス長の切り詰めでギリギリ、32B以上は単機では現実的ではありません（44GB必要なので32GBに乗らない）。

「まず自分のデータでファインチューニングが回るのか試したい」「7-13B級のドメイン特化モデルを作りたい」人の入口です。推論も兼ねるなら、この一台でかなり遊べます。

② 本格：デュアル RTX 5090（64GB, FSDP/DeepSpeed）、70B QLoRA に手が届く

パーツ構成例
GPURTX 5090 32GB ×2（合計64GB）
CPURyzen 9 7950X / Threadripper
メモリDDR5 128GB
電源1600W（5090×2 はピークで効く）

RTX 5090 を2枚挿し、DeepSpeed ZeRO や FSDP（Fully Sharded Data Parallel）でモデル・勾配・オプティマイザ状態を2枚に分散すると、70B QLoRA が射程に入ります。ただし Blackwell 世代でも NVLink は廃止され、2枚は PCIe（x8/x8）でつながります。学習時はGPU間の同期通信が頻発するため、PCIe帯域がボトルネックになりやすく、単純に「速度2倍」にはなりません。

2枚挿し構成の実際の挙動とボトルネックは「デュアル RTX 5090 マルチGPU ローカルLLM 実測ベンチ 2026年版」で推論側を検証しています。学習でも同じ「NVLink無し・PCIe同期」の制約が効きます。

③ 静音・大容量：RTX PRO 6000（96GB ECC）、70B QLoRA を1枚で完結

パーツ構成例
GPURTX PRO 6000 Blackwell 96GB（130〜160万円）
CPUThreadripper / Xeon
メモリDDR5 128GB以上（ECC推奨）
電源1200W

1枚で96GB載るため、70B QLoRA はもちろん、長めのシーケンス長やバッチサイズを取った学習も1枚で完結します。マルチGPUの同期通信に悩まされないぶん、設定もシンプルです。さらに ECCメモリを持つのが学習で効きます。数時間〜数日かけて回す長時間学習では、メモリのビット反転（bit flip）が損失の発散や静かな精度劣化を招くことがあり、ECCはこれを訂正します。

5090 / 4090 / PRO 6000 をAI用途で比べた選定軸は「RTX 5090 vs 4090 vs PRO 6000：AI用途で選ぶGPU 2026」に整理してあります。

④ 省電力・巨大容量：Mac Studio M3 Ultra（128GB+）、MLX で大型モデルが「乗る」

構成特徴
Mac Studio M3 Ultra 128GB / 192GBmlx-lm の LoRA で 70B 級の微調整が動く。速度はNVIDIAに劣るが消費電力200W前後・静音

Apple Silicon は CPU/GPU が同じメモリ空間（ユニファイドメモリ）を使うため、128GB あれば 70B クラスの LoRA/QLoRA が「とにかく乗る」状態を作れます。mlx-lm の LoRA 学習が安定してきており、CUDA環境を組まずに自宅で大型モデルを微調整できる数少ない選択肢です。

トレードオフは速度です。学習スループットでは NVIDIA の専用GPUに及ばず、エポックを回す時間は長くなります。「速度より、巨大モデルが省電力・静音で乗ること」を優先する人向けです。

触れておくべき実装上の注意

  • 勾配チェックポイント（gradient checkpointing）：アクティベーションを保持せず再計算することでVRAMを節約する。速度は1〜2割落ちるが、容量が厳しい単機では事実上必須
  • bitsandbytes / 4bit NF4：QLoRA の量子化は bitsandbytes の NF4 が標準。Windowsでも動くが、トラブルが少ないのは Linux + CUDA
  • マルチGPUは NVLink 前提で語らない：ネット上の古い記事は NVLink を前提にした学習速度を出していることがある。Blackwell（5090/PRO 6000）世代は NVLink 非搭載で、GPU間は PCIe。スケール効率は控えめに見積もる
  • システムRAM は VRAM の2倍：オフロードやデータローダのために、メモリは VRAM 合計の2倍を確保しておくと詰まりにくい

「学習は推論の延長」ではなく「別物」として構成を組むのが、ファインチューニングPCの最大のコツです。推論機をそのまま流用しようとして電源・メモリ・GPU容量で詰むのが、いちばん多い失敗パターンです。

入手先・関連商品

当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。

GPU（学習の主役）

学習機の中心はGPUです。記事の構成例に対応する3つのパス（コンシューマNVIDIA・プロ向けNVIDIA・Apple）を挙げておきます。CPU・メモリ・電源・ストレージは各構成例の表を参照してください。

あなたに合うPCを診断する

用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。

→ 診断スタート

関連記事