パーツ 比較 更新 2026年11月13日

RTX 5060 Ti 16GB vs RTX 5070 12GB でローカルLLM はどっちを買うべきか 2026年版:$120 差の VRAM 4GB 増で 14B・32B Q4 が動くかを判断する

$429 MSRP の RTX 5060 Ti 16GB と $549 MSRP の RTX 5070 12GB を、ローカルLLM 用途に絞って比べます。VRAM 16GB と 12GB の差で 14B Q4・32B Q4・Qwen 3 32B・gpt-oss 20B がどこまで載るか、GDDR7 帯域と CUDA コア数で tok/sec がどう変わるか、KV キャッシュ・投機的デコード・オフロード設定で 12GB を延命できるか、$120 差の意味を「載る B 数」で判断できる形に整理します。

  • #RTX 5060 Ti
  • #RTX 5070
  • #ローカルLLM
  • #VRAM 16GB
  • #GDDR7
  • #Qwen 2.5
  • #gpt-oss
  • #KVキャッシュ
  • #Blackwell
  • #PCIe 5.0

本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。

RTX 5060 Ti 16GB vs RTX 5070 12GB:VRAM 4GB 増で 14B・32B Q4 がどこまで載るか

結論:RTX 5060 Ti 16GB は「Qwen 2.5 14B Q4 を長いコンテキストで安全に載せたい」入門者向け、RTX 5070 12GB は「12GB の制約を KV キャッシュ量子化で回避しつつ、速度で稼ぎたい」中級者向けです。

GDDR7 の帯域は 448 GB/s vs 672 GB/s。CUDA コア数は 4608 vs 6144。MSRP は $429 vs $549 と $120 差。同じ 14B Q4_K_M でも 5070 の方が帯域比どおり約 1.5 倍の tok/sec が出る計算です。12GB の境目は私の RTX 4070 12GB(5070 と同じ 12GB・192-bit)で実測しました。「載せたい最大モデル」を先に決めれば、$120 差の答えは自ずと決まります。

RTX 50 番台の $500 前後クラスは「GDDR7 世代で 16GB を積んだ唯一のミドル」(5060 Ti 16GB)と「GDDR7 帯域と CUDA コア数で押し切るミドル上位」(5070 12GB)が並ぶ、ローカルLLM 入門者にとっての分岐点です。この記事では 2 枚を LLM 用途に絞って横並びに置き、「$120 差で何が動くようになるか」を数値で整理します。

スペック差分:Blackwell 世代の中位 2 枚

まず両者のスペックを 1 つの表にまとめます。数値は NVIDIA 公式スペックシートと TechPowerUp GPU Database で確認できる範囲のものです。

項目RTX 5060 Ti 16GBRTX 5070 12GB差
アーキテクチャBlackwell(GB206)Blackwell(GB205)同世代
CUDA コア数4,6086,144+33%
Tensor コア第 5 世代(144 基)第 5 世代(192 基)+33%
RT コア第 4 世代(36 基)第 4 世代(48 基)+33%
VRAM16 GB GDDR712 GB GDDR7-25%(5070 側)
メモリバス128-bit192-bit5070 側が広い
メモリ帯域448 GB/s672 GB/s+50%(5070 側)
メモリ速度28 Gbps28 Gbps同
TGP180 W250 W+39%(5070 側)
PCIeGen 5 x8Gen 5 x165070 側が広い
推奨電源600 W650 W+50 W
MSRP$429(16GB 版)$549+$120

数字を眺めると、5070 の方があらゆる CUDA / Tensor / メモリ帯域で 33〜50% 上回っています。LLM の生成は「メモリ帯域律速」。なので tok/sec は概ねメモリ帯域比に比例します。同じモデルで比較すると、5070 12GB は 5060 Ti 16GB の約 1.5 倍(672 ÷ 448)の tok/sec が出ると見積もれます。

その代わり VRAM は 12 GB と、4 GB 少なくなります。

この 4 GB 差が「動くモデル」の境界を作る、というのがローカルLLM 用途での焦点です。

VRAM 使用量の実態:14B / 20B / 32B / 70B が載るか

「16GB か 12GB か」を判断するには、代表的なモデルの実 VRAM 使用量を押さえておく必要があります。GGUF 形式(llama.cpp・LM Studio・Ollama で使う)の主要量子化での目安を並べます。KV キャッシュは FP16(llama.cpp の既定)で、2 × 層数 × KV ヘッド数 × head_dim × 2 バイト × トークン数 から計算した値です(層数などは各モデルの config.json の公開値)。実際にはこれに計算用バッファが数百 MB 乗ります。

モデル量子化モデルウェイトのみKV キャッシュ(8k ctx)KV キャッシュ(32k ctx)合計目安(32k)
Llama 3.1 8BQ4_K_M4.6 GB1 GB4 GB8.6 GB
Qwen 2.5 14BQ4_K_M8.5 GB1.5 GB6 GB14.5 GB
gpt-oss 20BMXFP412 GB0.2 GB0.75 GB12.75 GB
Qwen 2.5 32BQ4_K_M19.5 GB2 GB8 GB27.5 GB
Qwen 2.5 32BQ3_K_M15 GB2 GB8 GB23 GB
Llama 3.3 70BQ4_K_M40 GB2.5 GB10 GB50 GB
Llama 3.3 70BQ3_K_M32 GB2.5 GB10 GB42 GB

gpt-oss 20B の KV が小さいのは、24 層のうち半分が直近 128 トークンだけを見るスライディングウィンドウ層で、残りの層も head_dim が 64 と小さいためです。

これを VRAM 12 GB / 16 GB の枠に当てはめると、次のような判定になります。

モデル12GB(RTX 5070)16GB(RTX 5060 Ti)
Llama 3.1 8B Q4_K_M32k まで可、128k は KV q4_0 なら計算上載る(約 9 GB)32k 余裕、128k は KV q8_0 で可(約 13 GB)
Qwen 2.5 14B Q4_K_M8k は快適、16k は KV q8_0 で、32k は収まらない16k 快適、32k は FP16 だと約 14.5 GB でギリギリ、KV q8_0 なら余裕
gpt-oss 20B MXFP4収まらない(オフロード必須)32k 可、128k は約 15 GB でギリギリ
Qwen 2.5 32B Q4_K_M収まらない収まらない
Qwen 2.5 32B Q3_K_M収まらない収まらない(8k でも 20 GB)
Llama 3.3 70B Q4_K_M収まらない収まらない

「Qwen 2.5 14B Q4_K_M をコンテキスト 16k〜32k で使う」というラインが、両者の境界です。16GB なら 32k まで届き、12GB は 16k 前後で頭打ちになる、という違いが出るのがこのクラスの実情です。

32B 以上は両方とも単体では入りきらず、CPU オフロードや量子化を強めた運用が必須になります。

保有実機での実測:RTX 4070 12GB で 14B の文脈を伸ばす

5060 Ti と 5070 は手元にありません。代わりに私の RTX 4070 12GB で、12GB の境目がどこにあるかを測りました。4070 は 5070 と同じ 12GB・192-bit バスなので、「何が載るか」はほぼ同じです。帯域は 504 GB/s で 5070(672 GB/s)より遅いので、速度の絶対値はそのまま当てはまりません。

条件:2026-11-13。llama.cpp(コミット cd959bae9、CUDA)。Qwen3 14B Q4_K_M(ウェイト 8.4 GiB)。flash attention on。KV キャッシュ FP16。llama-bench で積み上がった文脈(depth)の後に生成 128 トークン、2 回平均。VRAM は nvidia-smi で計測中の最大値。

積み上がった文脈生成 tok/sVRAM 使用量(最大)
052.48,942 MiB
4k45.39,594 MiB
8k42.810,238 MiB
16k40.511,526 MiB
32k7.511,773 MiB(頭打ち)

16k までは VRAM がトークン 1 個あたり約 160 KB ずつ増え、計算どおりの KV キャッシュ(Qwen3 14B は 40 層 × KV 8 ヘッド × 128 で 160 KiB/トークン)が載っています。32k では必要量が約 13.4 GiB になって 12GB を超え、生成は 40.5 から 7.5 tok/s に落ちました。エラーでは止まらず、Windows の共有 GPU メモリ(メインメモリ)にはみ出して動き続けたと見ています。

続けて、KV キャッシュを q8_0 にした場合と、この記事で扱っている Qwen 2.5 14B Q4_K_M も同じ 4070 で測りました(条件は同じ、Qwen 2.5 は bartowski 版の GGUF)。

モデルKV キャッシュ積み上がった文脈生成 tok/sVRAM 使用量(最大)
Qwen3 14Bq8_016k39.010,298 MiB
Qwen3 14Bq8_032k29.111,674 MiB
Qwen 2.5 14BFP16049.98,944 MiB
Qwen 2.5 14BFP1616k35.911,734 MiB
Qwen 2.5 14Bq8_016k34.210,552 MiB
Qwen 2.5 14Bq8_032k22.2(17.3 と 27.1 でぶれる)11,799 MiB(頭打ち)

Qwen3 14B は q8_0 にすると 32k が載り、FP16 の 7.5 tok/s から 29.1 tok/s に戻りました。Qwen 2.5 14B は 48 層で KV キャッシュが Qwen3 14B より 2 割大きく、FP16 の 16k ですでに VRAM が上限に張り付きます。このとき生成は 35.9 tok/s で動きますが、プロンプトの読み込み(prefill)は 2 回の試行で 509 と 233 tok/s とぶれました。q8_0 なら 16k は余裕を持って載ります。q8_0 の 32k ははみ出し、prefill は 20 tok/s まで落ちました。

まとめると、12GB で Qwen 2.5 14B を使うなら KV q8_0 で 16k までが現実的な線です。16GB なら同じ 32k が計算上 q8_0 で約 11.7 GB。FP16 でも約 14.5 GB で収まります。

$120 差で買えるのは、主にこの「14B を長い文脈で使える余白」です。

tok/sec の見積もり:帯域律速の割合

生成の速さは、1 トークンごとにモデルのウェイト全体を VRAM から読む速さで上限が決まります。上限は「メモリ帯域 ÷ モデルのファイルサイズ」です。私の RTX 4070 では、Qwen3 8B Q4_K_M が上限 100 tok/s に対して実測 95.0 tok/s(95%)。Qwen3 14B Q4_K_M が上限 56 tok/s に対して 50.1 tok/s(89%)でした。この割合を 2 枚の上限に掛けて見積もります。

モデル(ファイルサイズ)RTX 5060 Ti 16GB(448 GB/s)RTX 5070 12GB(672 GB/s)差
Llama 3.1 8B Q4_K_M(4.9 GB)上限 91 / 見積もり 約 86 tok/s上限 137 / 見積もり 約 129 tok/s約 1.5 倍
Qwen 2.5 14B Q4_K_M(9.0 GB)上限 50 / 見積もり 約 45 tok/s上限 75 / 見積もり 約 67 tok/s約 1.5 倍

見積もりは 4070(Ada 世代・GDDR6X)の割合を流用した計算で、5060 Ti・5070 の実測ではありません。それでも上限は物理的に超えられないので、「5060 Ti で 8B が 100 tok/s 超」といった数字は割り引いて読むのが安全です。

gpt-oss 20B は MoE(1 トークンで動くのは約 3.6B 分)で、読むウェイトがファイルサイズより小さいため、この式では見積もれません。Qwen 2.5 32B はどちらでもオフロードになり、速さは GPU よりメインメモリの帯域で決まります。

帯域律速のため、両者の VRAM 内に収まるモデルでは 5070 12GB が一貫して速いという結果になります。

5060 Ti 16GB が優位に立てるのは、5070 の VRAM に入りきらない場合です。gpt-oss 20B MXFP4 を丸ごと VRAM に載せる使い方と、14B を 32k 前後の長い文脈で使う使い方がこれに当たります。オフロード発生時のペナルティは重く、DDR5-6400 デュアルチャネル(102 GB/s)に落ちるため、5060 Ti 16GB でも tok/sec は半分近くまで落ちます。

KV キャッシュ量子化とオフロード:12GB の延命策

12GB VRAM で 14B〜20B を扱う場合、「延命策」の理解が体感速度に直結します。

主な手段を並べます。

KV キャッシュ量子化(q8_0 / q4_0)

llama.cpp / LM Studio では KV キャッシュ自体を q8_0(8bit)や q4_0(4bit)に量子化するオプションがあります。Qwen 2.5 14B の 32k コンテキストで FP16 なら約 6 GB の KV キャッシュが、q8_0 で約 3.2 GB、q4_0 で約 1.7 GB に圧縮できます(q8_0 は 1 値あたり 8.5 ビット、q4_0 は 4.5 ビット相当)。q8_0 は精度低下ほぼ無し。q4_0 は長文の再現性が微妙に落ちる、という傾向があります。

コンテキスト長を短くする

コンテキスト 128k を要求するタスクは実務では多くありません。Coding アシスタントで 32k。要約タスクで 16k。通常チャットで 8k、というのが実感値です。「動くコンテキスト」を要件から逆算すると、12GB でも 14B は十分実用範囲に入ります。

投機的デコード(Speculative Decoding)

大きいモデル + 小さいドラフトモデル(1B〜3B)でトークンを先読みし、確定してから大モデルで検証する方式です。14B + 1B の組み合わせで tok/sec が 1.5〜2 倍に伸びるケースがありますが、ドラフトモデル分の VRAM が余計に必要になります。1B Q4 で約 0.7 GB。これを CPU にオフロードすれば影響は最小です。詳しくは「投機的デコード(Speculative Decoding)の仕組み」で解説しています。

部分オフロード(—n-gpu-layers)

llama.cpp / Ollama では「モデルのうち何レイヤを GPU に載せるか」を層単位で指定できます。全 40 レイヤのうち 30 レイヤだけ GPU。10 レイヤは CPU。という運用で VRAM を意図的に節約する形です。CPU レイヤの通過が遅いため tok/sec は 30〜50% 落ちますが、「VRAM に入り切らないが動かしたい」というシーンでは有効です。

これらを組み合わせると、12GB VRAM でも Qwen 2.5 14B Q4_K_M を 16k コンテキストで常用する構成は成立します。32k は KV q8_0 でもウェイト 8.5 GB と合わせて約 11.7 GB になり、計算用バッファを足すと 12GB に収まりません。私の RTX 4070 12GB で測っても、q8_0 の 32k は VRAM からはみ出しました(上の実測の節)。KV が小さい Qwen3 14B なら、q8_0 で 32k まで載ります。「載る/載らない」の 2 分では答えが出ないケースが多く、「どこを妥協するか」で選択肢が変わる、というのがローカルLLM の実感です。KV キャッシュとコンテキスト長の関係は「ローカルLLM のコンテキスト長と VRAM・KV キャッシュ」で細かく整理しています。

5060 Ti 16GB を 2 枚挿し:合計 32GB で 70B が動くか

「$500 の 5060 Ti 16GB を 2 枚買えば、合計 32GB で $1000 の 5090 相当になるのでは」という発想は、実際にコミュニティでも試されています。結論を先に置くと、モデルウェイトだけを見れば 70B Q3 は動くが、実効性能・電源・環境構築で 5090 単体に負けやすい。というのが実情です。

動く構成の要件

  • マザーボード:PCIe 5.0 x8+x8 に分割できるチップセット(X870E / Z890 の一部)
  • 電源:最低 850W、推奨 1000W(180W × 2 + CPU 150W + マージン)
  • モデル並列:llama.cpp の tensor parallelism を有効化、または vLLM で複数 GPU 指定
  • モデルサイズ:Llama 3.3 70B Q3_K_M(32 GB) + KV キャッシュ 8k で約 34 GB、2 枚合計 32 GB では KV を圧縮しないと入らない

落とし穴

  • 通信オーバーヘッド:PCIe 5.0 x8 は理論 32 GB/s、GDDR7 の 448 GB/s と比べると 1/14。レイヤ境界でのアクティベーション転送が発生する tensor parallelism では、tok/sec が理論値の 60〜70% に落ちる
  • 消費電力:合計 360 W + CPU で 500 W 超、5090 単体(575 W)と大差なくなる
  • モデル選択の柔軟性:合計 VRAM 32GB は 5090 単体と同じだが、単一 GPU に載る場合の方が量子化を軽く(Q4 → Q5)できる

同じ予算感なら RTX 5090 32GB 単体。または中古 A6000 48GB を狙う方が合理的なケースが多く、5060 Ti 16GB 2 枚挿しは「既に電源と PCIe レーンが確保できていて、追加投資を最小にしたい」場合の選択肢になります。

選び方まとめ:$120 差の判断

3 パターンに整理します。

ローカルLLM 入門・14B までを長く使いたい → RTX 5060 Ti 16GB

  • Qwen 2.5 14B Q4_K_M を 32k コンテキストまで(FP16 でギリギリ、KV q8_0 なら余裕)
  • gpt-oss 20B MXFP4 が「オフロード無し」で動く唯一のこのクラス
  • TGP 180W で電源要件が緩い(NVIDIA 公式推奨 600W)
  • 速度は 5070 12GB の約 3 分の 2(帯域比)だが、常用モデルが 14B までなら体感は十分

速度重視・KV キャッシュ量子化で 12GB を回避 → RTX 5070 12GB

  • 帯域 672 GB/s で 5060 Ti 16GB の約 1.5 倍の tok/sec
  • Qwen 2.5 14B Q4_K_M を KV q8_0 で 16k まで、単発チャット用途で速度優先
  • ゲーミングとの兼用でも上位クラス(RTX 4070 Ti Super と同等のゲーム性能)
  • TGP 250W と電源要件はやや厳しい(650W 推奨)

20B・32B を本気で回したい → どちらでも不十分、RTX 5090 か RTX PRO 6000 を検討

  • Qwen 2.5 32B Q4_K_M は 20 GB 必要で両者とも収まらない
  • Llama 3.3 70B Q4_K_M は 40 GB 必要で両者とも遠い
  • 予算があれば RTX 5090 32GB、業務なら RTX PRO 6000 96GB が現実解

上位クラスの比較は「RTX 5070 / 5070 Ti / 5080 のローカルLLM 実測」、VRAM 別に動くモデルを一望するなら「VRAM 別に動くローカルLLM モデル早見表」を参照してください。GPU を「必要 VRAM」から逆算して選ぶ全体観は「ローカルLLM 用 GPU 選び方ガイド」でまとめています。

$120 差の答えは「載せたい最大モデルの VRAM 要件」を先に決めれば単純です。

14B を長い文脈で使うなら 5060 Ti 16GB の余裕。8B〜14B を短い文脈で速く回すなら 5070 12GB、という 2 択に収まります。両方の中間で迷ったら、「1〜2 年後に 14B〜20B クラスが主流化する」という長期見立てで 16GB に寄せる方が、後悔しにくい選択になります。

入手先・関連商品

当サイトは Amazon.co.jp アソシエイト・プログラムに参加しています。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。

RTX 5060 Ti 16GB(14B までを余裕で常用したい入門者向け)

RTX 5070 12GB(速度優先・KV 量子化で 12GB を回避)

比較参考として上位クラス


あなたに合うPCを診断する

用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。

→ 診断スタート

関連記事

よくある質問

RTX 5060 Ti 16GB と RTX 5070 12GB は、ローカルLLM 用途ではどちらが有利ですか?
「載せたい最大モデル」で分かれます。Qwen 2.5 14B Q4_K_M(約 8.5 GB)は両方に載りますが、コンテキスト長を 32k まで伸ばすと KV キャッシュが FP16 で約 6 GB 追加で必要になり、12GB には収まりません。同じ 12GB の RTX 4070 で Qwen3 14B Q4_K_M を測ったところ、16k までは生成 40 tok/s 台を保ち、32k で VRAM からはみ出して 7.5 tok/s まで落ちました。Qwen 2.5 32B Q4_K_M(約 20 GB)はどちらの単体でも VRAM に収まらず、CPU オフロード前提です。14B までを常用するなら 5060 Ti 16GB が余裕、短めのコンテキストで速度優先なら 5070 12GB の方が帯域(672 GB/s vs 448 GB/s)の分、約 1.5 倍の tok/sec が出ます。
RTX 5060 Ti 16GB を 2 枚挿しすれば 70B Q4 が動きますか?
モデルウェイトだけで見れば動く可能性があります。Llama 3.3 70B Q4_K_M は約 40 GB で、2 枚合計 32 GB では収まりませんが、Q3_K_M(約 32 GB)や Q2_K(約 26 GB)なら 2 枚挿しの合計 VRAM に収まります。ただし PCIe 5.0 x8+x8 のマザーが必要で、モデル並列(tensor parallelism)の設定と、レイヤ分割時の GPU 間通信オーバーヘッドで tok/sec は理論値の 60〜70% に落ちます。同じ予算で RTX 5090 32GB 単体を狙う方が実効性能・消費電力・環境構築のいずれでも合理的なケースが多く、2 枚挿しは「電源と PCIe レーンを既に確保できている」場合の選択肢になります。
12GB VRAM で 14B モデルを常用するのは現実的ですか?
KV キャッシュを q8_0 量子化(半分に圧縮)、コンテキスト長を 8k〜16k に抑え、投機的デコード用のドラフトモデル(1B 前後)を CPU に追い出す構成であれば、Qwen 2.5 14B Q4_K_M は 12GB でも十分実用範囲です。ただしコンテキスト 32k・128k を常用する場合、あるいは Vision Language Model(Qwen 2.5-VL 7B など)を並行で動かす場合は 16GB の余裕が効きます。「今後 1〜2 年で 14B〜20B が主流化する」という見立てなら 16GB の 5060 Ti、単発チャットで速度優先なら 5070 12GB、という選び方が明快です。