RTX 5060 Ti 16GB vs RTX 5070 12GB でローカルLLM はどっちを買うべきか 2026年版:$120 差の VRAM 4GB 増で 14B・32B Q4 が動くかを判断する
$429 MSRP の RTX 5060 Ti 16GB と $549 MSRP の RTX 5070 12GB を、ローカルLLM 用途に絞って比べます。VRAM 16GB と 12GB の差で 14B Q4・32B Q4・Qwen 3 32B・gpt-oss 20B がどこまで載るか、GDDR7 帯域と CUDA コア数で tok/sec がどう変わるか、KV キャッシュ・投機的デコード・オフロード設定で 12GB を延命できるか、$120 差の意味を「載る B 数」で判断できる形に整理します。
- #RTX 5060 Ti
- #RTX 5070
- #ローカルLLM
- #VRAM 16GB
- #GDDR7
- #Qwen 2.5
- #gpt-oss
- #KVキャッシュ
- #Blackwell
- #PCIe 5.0
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。

結論:RTX 5060 Ti 16GB は「Qwen 2.5 14B Q4 を長いコンテキストで安全に載せたい」入門者向け、RTX 5070 12GB は「12GB の制約を KV キャッシュ量子化で回避しつつ、速度で稼ぎたい」中級者向けです。
GDDR7 の帯域は 448 GB/s vs 672 GB/s。CUDA コア数は 4608 vs 6144。MSRP は $429 vs $549 と $120 差。同じ 14B Q4_K_M でも 5070 の方が帯域比どおり約 1.5 倍の tok/sec が出る計算です。12GB の境目は私の RTX 4070 12GB(5070 と同じ 12GB・192-bit)で実測しました。「載せたい最大モデル」を先に決めれば、$120 差の答えは自ずと決まります。
RTX 50 番台の $500 前後クラスは「GDDR7 世代で 16GB を積んだ唯一のミドル」(5060 Ti 16GB)と「GDDR7 帯域と CUDA コア数で押し切るミドル上位」(5070 12GB)が並ぶ、ローカルLLM 入門者にとっての分岐点です。この記事では 2 枚を LLM 用途に絞って横並びに置き、「$120 差で何が動くようになるか」を数値で整理します。
スペック差分:Blackwell 世代の中位 2 枚
まず両者のスペックを 1 つの表にまとめます。数値は NVIDIA 公式スペックシートと TechPowerUp GPU Database で確認できる範囲のものです。
| 項目 | RTX 5060 Ti 16GB | RTX 5070 12GB | 差 |
|---|---|---|---|
| アーキテクチャ | Blackwell(GB206) | Blackwell(GB205) | 同世代 |
| CUDA コア数 | 4,608 | 6,144 | +33% |
| Tensor コア | 第 5 世代(144 基) | 第 5 世代(192 基) | +33% |
| RT コア | 第 4 世代(36 基) | 第 4 世代(48 基) | +33% |
| VRAM | 16 GB GDDR7 | 12 GB GDDR7 | -25%(5070 側) |
| メモリバス | 128-bit | 192-bit | 5070 側が広い |
| メモリ帯域 | 448 GB/s | 672 GB/s | +50%(5070 側) |
| メモリ速度 | 28 Gbps | 28 Gbps | 同 |
| TGP | 180 W | 250 W | +39%(5070 側) |
| PCIe | Gen 5 x8 | Gen 5 x16 | 5070 側が広い |
| 推奨電源 | 600 W | 650 W | +50 W |
| MSRP | $429(16GB 版) | $549 | +$120 |
数字を眺めると、5070 の方があらゆる CUDA / Tensor / メモリ帯域で 33〜50% 上回っています。LLM の生成は「メモリ帯域律速」。なので tok/sec は概ねメモリ帯域比に比例します。同じモデルで比較すると、5070 12GB は 5060 Ti 16GB の約 1.5 倍(672 ÷ 448)の tok/sec が出ると見積もれます。
その代わり VRAM は 12 GB と、4 GB 少なくなります。
この 4 GB 差が「動くモデル」の境界を作る、というのがローカルLLM 用途での焦点です。
VRAM 使用量の実態:14B / 20B / 32B / 70B が載るか
「16GB か 12GB か」を判断するには、代表的なモデルの実 VRAM 使用量を押さえておく必要があります。GGUF 形式(llama.cpp・LM Studio・Ollama で使う)の主要量子化での目安を並べます。KV キャッシュは FP16(llama.cpp の既定)で、2 × 層数 × KV ヘッド数 × head_dim × 2 バイト × トークン数 から計算した値です(層数などは各モデルの config.json の公開値)。実際にはこれに計算用バッファが数百 MB 乗ります。
| モデル | 量子化 | モデルウェイトのみ | KV キャッシュ(8k ctx) | KV キャッシュ(32k ctx) | 合計目安(32k) |
|---|---|---|---|---|---|
| Llama 3.1 8B | Q4_K_M | 4.6 GB | 1 GB | 4 GB | 8.6 GB |
| Qwen 2.5 14B | Q4_K_M | 8.5 GB | 1.5 GB | 6 GB | 14.5 GB |
| gpt-oss 20B | MXFP4 | 12 GB | 0.2 GB | 0.75 GB | 12.75 GB |
| Qwen 2.5 32B | Q4_K_M | 19.5 GB | 2 GB | 8 GB | 27.5 GB |
| Qwen 2.5 32B | Q3_K_M | 15 GB | 2 GB | 8 GB | 23 GB |
| Llama 3.3 70B | Q4_K_M | 40 GB | 2.5 GB | 10 GB | 50 GB |
| Llama 3.3 70B | Q3_K_M | 32 GB | 2.5 GB | 10 GB | 42 GB |
gpt-oss 20B の KV が小さいのは、24 層のうち半分が直近 128 トークンだけを見るスライディングウィンドウ層で、残りの層も head_dim が 64 と小さいためです。
これを VRAM 12 GB / 16 GB の枠に当てはめると、次のような判定になります。
| モデル | 12GB(RTX 5070) | 16GB(RTX 5060 Ti) |
|---|---|---|
| Llama 3.1 8B Q4_K_M | 32k まで可、128k は KV q4_0 なら計算上載る(約 9 GB) | 32k 余裕、128k は KV q8_0 で可(約 13 GB) |
| Qwen 2.5 14B Q4_K_M | 8k は快適、16k は KV q8_0 で、32k は収まらない | 16k 快適、32k は FP16 だと約 14.5 GB でギリギリ、KV q8_0 なら余裕 |
| gpt-oss 20B MXFP4 | 収まらない(オフロード必須) | 32k 可、128k は約 15 GB でギリギリ |
| Qwen 2.5 32B Q4_K_M | 収まらない | 収まらない |
| Qwen 2.5 32B Q3_K_M | 収まらない | 収まらない(8k でも 20 GB) |
| Llama 3.3 70B Q4_K_M | 収まらない | 収まらない |
「Qwen 2.5 14B Q4_K_M をコンテキスト 16k〜32k で使う」というラインが、両者の境界です。16GB なら 32k まで届き、12GB は 16k 前後で頭打ちになる、という違いが出るのがこのクラスの実情です。
32B 以上は両方とも単体では入りきらず、CPU オフロードや量子化を強めた運用が必須になります。
保有実機での実測:RTX 4070 12GB で 14B の文脈を伸ばす
5060 Ti と 5070 は手元にありません。代わりに私の RTX 4070 12GB で、12GB の境目がどこにあるかを測りました。4070 は 5070 と同じ 12GB・192-bit バスなので、「何が載るか」はほぼ同じです。帯域は 504 GB/s で 5070(672 GB/s)より遅いので、速度の絶対値はそのまま当てはまりません。
条件:2026-11-13。llama.cpp(コミット cd959bae9、CUDA)。Qwen3 14B Q4_K_M(ウェイト 8.4 GiB)。flash attention on。KV キャッシュ FP16。llama-bench で積み上がった文脈(depth)の後に生成 128 トークン、2 回平均。VRAM は nvidia-smi で計測中の最大値。
| 積み上がった文脈 | 生成 tok/s | VRAM 使用量(最大) |
|---|---|---|
| 0 | 52.4 | 8,942 MiB |
| 4k | 45.3 | 9,594 MiB |
| 8k | 42.8 | 10,238 MiB |
| 16k | 40.5 | 11,526 MiB |
| 32k | 7.5 | 11,773 MiB(頭打ち) |
16k までは VRAM がトークン 1 個あたり約 160 KB ずつ増え、計算どおりの KV キャッシュ(Qwen3 14B は 40 層 × KV 8 ヘッド × 128 で 160 KiB/トークン)が載っています。32k では必要量が約 13.4 GiB になって 12GB を超え、生成は 40.5 から 7.5 tok/s に落ちました。エラーでは止まらず、Windows の共有 GPU メモリ(メインメモリ)にはみ出して動き続けたと見ています。
続けて、KV キャッシュを q8_0 にした場合と、この記事で扱っている Qwen 2.5 14B Q4_K_M も同じ 4070 で測りました(条件は同じ、Qwen 2.5 は bartowski 版の GGUF)。
| モデル | KV キャッシュ | 積み上がった文脈 | 生成 tok/s | VRAM 使用量(最大) |
|---|---|---|---|---|
| Qwen3 14B | q8_0 | 16k | 39.0 | 10,298 MiB |
| Qwen3 14B | q8_0 | 32k | 29.1 | 11,674 MiB |
| Qwen 2.5 14B | FP16 | 0 | 49.9 | 8,944 MiB |
| Qwen 2.5 14B | FP16 | 16k | 35.9 | 11,734 MiB |
| Qwen 2.5 14B | q8_0 | 16k | 34.2 | 10,552 MiB |
| Qwen 2.5 14B | q8_0 | 32k | 22.2(17.3 と 27.1 でぶれる) | 11,799 MiB(頭打ち) |
Qwen3 14B は q8_0 にすると 32k が載り、FP16 の 7.5 tok/s から 29.1 tok/s に戻りました。Qwen 2.5 14B は 48 層で KV キャッシュが Qwen3 14B より 2 割大きく、FP16 の 16k ですでに VRAM が上限に張り付きます。このとき生成は 35.9 tok/s で動きますが、プロンプトの読み込み(prefill)は 2 回の試行で 509 と 233 tok/s とぶれました。q8_0 なら 16k は余裕を持って載ります。q8_0 の 32k ははみ出し、prefill は 20 tok/s まで落ちました。
まとめると、12GB で Qwen 2.5 14B を使うなら KV q8_0 で 16k までが現実的な線です。16GB なら同じ 32k が計算上 q8_0 で約 11.7 GB。FP16 でも約 14.5 GB で収まります。
$120 差で買えるのは、主にこの「14B を長い文脈で使える余白」です。
tok/sec の見積もり:帯域律速の割合
生成の速さは、1 トークンごとにモデルのウェイト全体を VRAM から読む速さで上限が決まります。上限は「メモリ帯域 ÷ モデルのファイルサイズ」です。私の RTX 4070 では、Qwen3 8B Q4_K_M が上限 100 tok/s に対して実測 95.0 tok/s(95%)。Qwen3 14B Q4_K_M が上限 56 tok/s に対して 50.1 tok/s(89%)でした。この割合を 2 枚の上限に掛けて見積もります。
| モデル(ファイルサイズ) | RTX 5060 Ti 16GB(448 GB/s) | RTX 5070 12GB(672 GB/s) | 差 |
|---|---|---|---|
| Llama 3.1 8B Q4_K_M(4.9 GB) | 上限 91 / 見積もり 約 86 tok/s | 上限 137 / 見積もり 約 129 tok/s | 約 1.5 倍 |
| Qwen 2.5 14B Q4_K_M(9.0 GB) | 上限 50 / 見積もり 約 45 tok/s | 上限 75 / 見積もり 約 67 tok/s | 約 1.5 倍 |
見積もりは 4070(Ada 世代・GDDR6X)の割合を流用した計算で、5060 Ti・5070 の実測ではありません。それでも上限は物理的に超えられないので、「5060 Ti で 8B が 100 tok/s 超」といった数字は割り引いて読むのが安全です。
gpt-oss 20B は MoE(1 トークンで動くのは約 3.6B 分)で、読むウェイトがファイルサイズより小さいため、この式では見積もれません。Qwen 2.5 32B はどちらでもオフロードになり、速さは GPU よりメインメモリの帯域で決まります。
帯域律速のため、両者の VRAM 内に収まるモデルでは 5070 12GB が一貫して速いという結果になります。
5060 Ti 16GB が優位に立てるのは、5070 の VRAM に入りきらない場合です。gpt-oss 20B MXFP4 を丸ごと VRAM に載せる使い方と、14B を 32k 前後の長い文脈で使う使い方がこれに当たります。オフロード発生時のペナルティは重く、DDR5-6400 デュアルチャネル(102 GB/s)に落ちるため、5060 Ti 16GB でも tok/sec は半分近くまで落ちます。
KV キャッシュ量子化とオフロード:12GB の延命策
12GB VRAM で 14B〜20B を扱う場合、「延命策」の理解が体感速度に直結します。
主な手段を並べます。
KV キャッシュ量子化(q8_0 / q4_0)
llama.cpp / LM Studio では KV キャッシュ自体を q8_0(8bit)や q4_0(4bit)に量子化するオプションがあります。Qwen 2.5 14B の 32k コンテキストで FP16 なら約 6 GB の KV キャッシュが、q8_0 で約 3.2 GB、q4_0 で約 1.7 GB に圧縮できます(q8_0 は 1 値あたり 8.5 ビット、q4_0 は 4.5 ビット相当)。q8_0 は精度低下ほぼ無し。q4_0 は長文の再現性が微妙に落ちる、という傾向があります。
コンテキスト長を短くする
コンテキスト 128k を要求するタスクは実務では多くありません。Coding アシスタントで 32k。要約タスクで 16k。通常チャットで 8k、というのが実感値です。「動くコンテキスト」を要件から逆算すると、12GB でも 14B は十分実用範囲に入ります。
投機的デコード(Speculative Decoding)
大きいモデル + 小さいドラフトモデル(1B〜3B)でトークンを先読みし、確定してから大モデルで検証する方式です。14B + 1B の組み合わせで tok/sec が 1.5〜2 倍に伸びるケースがありますが、ドラフトモデル分の VRAM が余計に必要になります。1B Q4 で約 0.7 GB。これを CPU にオフロードすれば影響は最小です。詳しくは「投機的デコード(Speculative Decoding)の仕組み」で解説しています。
部分オフロード(—n-gpu-layers)
llama.cpp / Ollama では「モデルのうち何レイヤを GPU に載せるか」を層単位で指定できます。全 40 レイヤのうち 30 レイヤだけ GPU。10 レイヤは CPU。という運用で VRAM を意図的に節約する形です。CPU レイヤの通過が遅いため tok/sec は 30〜50% 落ちますが、「VRAM に入り切らないが動かしたい」というシーンでは有効です。
これらを組み合わせると、12GB VRAM でも Qwen 2.5 14B Q4_K_M を 16k コンテキストで常用する構成は成立します。32k は KV q8_0 でもウェイト 8.5 GB と合わせて約 11.7 GB になり、計算用バッファを足すと 12GB に収まりません。私の RTX 4070 12GB で測っても、q8_0 の 32k は VRAM からはみ出しました(上の実測の節)。KV が小さい Qwen3 14B なら、q8_0 で 32k まで載ります。「載る/載らない」の 2 分では答えが出ないケースが多く、「どこを妥協するか」で選択肢が変わる、というのがローカルLLM の実感です。KV キャッシュとコンテキスト長の関係は「ローカルLLM のコンテキスト長と VRAM・KV キャッシュ」で細かく整理しています。
5060 Ti 16GB を 2 枚挿し:合計 32GB で 70B が動くか
「$500 の 5060 Ti 16GB を 2 枚買えば、合計 32GB で $1000 の 5090 相当になるのでは」という発想は、実際にコミュニティでも試されています。結論を先に置くと、モデルウェイトだけを見れば 70B Q3 は動くが、実効性能・電源・環境構築で 5090 単体に負けやすい。というのが実情です。
動く構成の要件
- マザーボード:PCIe 5.0 x8+x8 に分割できるチップセット(X870E / Z890 の一部)
- 電源:最低 850W、推奨 1000W(180W × 2 + CPU 150W + マージン)
- モデル並列:llama.cpp の tensor parallelism を有効化、または vLLM で複数 GPU 指定
- モデルサイズ:Llama 3.3 70B Q3_K_M(32 GB) + KV キャッシュ 8k で約 34 GB、2 枚合計 32 GB では KV を圧縮しないと入らない
落とし穴
- 通信オーバーヘッド:PCIe 5.0 x8 は理論 32 GB/s、GDDR7 の 448 GB/s と比べると 1/14。レイヤ境界でのアクティベーション転送が発生する tensor parallelism では、tok/sec が理論値の 60〜70% に落ちる
- 消費電力:合計 360 W + CPU で 500 W 超、5090 単体(575 W)と大差なくなる
- モデル選択の柔軟性:合計 VRAM 32GB は 5090 単体と同じだが、単一 GPU に載る場合の方が量子化を軽く(Q4 → Q5)できる
同じ予算感なら RTX 5090 32GB 単体。または中古 A6000 48GB を狙う方が合理的なケースが多く、5060 Ti 16GB 2 枚挿しは「既に電源と PCIe レーンが確保できていて、追加投資を最小にしたい」場合の選択肢になります。
選び方まとめ:$120 差の判断
3 パターンに整理します。
ローカルLLM 入門・14B までを長く使いたい → RTX 5060 Ti 16GB
- Qwen 2.5 14B Q4_K_M を 32k コンテキストまで(FP16 でギリギリ、KV q8_0 なら余裕)
- gpt-oss 20B MXFP4 が「オフロード無し」で動く唯一のこのクラス
- TGP 180W で電源要件が緩い(NVIDIA 公式推奨 600W)
- 速度は 5070 12GB の約 3 分の 2(帯域比)だが、常用モデルが 14B までなら体感は十分
速度重視・KV キャッシュ量子化で 12GB を回避 → RTX 5070 12GB
- 帯域 672 GB/s で 5060 Ti 16GB の約 1.5 倍の tok/sec
- Qwen 2.5 14B Q4_K_M を KV q8_0 で 16k まで、単発チャット用途で速度優先
- ゲーミングとの兼用でも上位クラス(RTX 4070 Ti Super と同等のゲーム性能)
- TGP 250W と電源要件はやや厳しい(650W 推奨)
20B・32B を本気で回したい → どちらでも不十分、RTX 5090 か RTX PRO 6000 を検討
- Qwen 2.5 32B Q4_K_M は 20 GB 必要で両者とも収まらない
- Llama 3.3 70B Q4_K_M は 40 GB 必要で両者とも遠い
- 予算があれば RTX 5090 32GB、業務なら RTX PRO 6000 96GB が現実解
上位クラスの比較は「RTX 5070 / 5070 Ti / 5080 のローカルLLM 実測」、VRAM 別に動くモデルを一望するなら「VRAM 別に動くローカルLLM モデル早見表」を参照してください。GPU を「必要 VRAM」から逆算して選ぶ全体観は「ローカルLLM 用 GPU 選び方ガイド」でまとめています。
$120 差の答えは「載せたい最大モデルの VRAM 要件」を先に決めれば単純です。
14B を長い文脈で使うなら 5060 Ti 16GB の余裕。8B〜14B を短い文脈で速く回すなら 5070 12GB、という 2 択に収まります。両方の中間で迷ったら、「1〜2 年後に 14B〜20B クラスが主流化する」という長期見立てで 16GB に寄せる方が、後悔しにくい選択になります。
入手先・関連商品
当サイトは Amazon.co.jp アソシエイト・プログラムに参加しています。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。
RTX 5060 Ti 16GB(14B までを余裕で常用したい入門者向け)
RTX 5070 12GB(速度優先・KV 量子化で 12GB を回避)
比較参考として上位クラス
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
よくある質問
- RTX 5060 Ti 16GB と RTX 5070 12GB は、ローカルLLM 用途ではどちらが有利ですか?
- 「載せたい最大モデル」で分かれます。Qwen 2.5 14B Q4_K_M(約 8.5 GB)は両方に載りますが、コンテキスト長を 32k まで伸ばすと KV キャッシュが FP16 で約 6 GB 追加で必要になり、12GB には収まりません。同じ 12GB の RTX 4070 で Qwen3 14B Q4_K_M を測ったところ、16k までは生成 40 tok/s 台を保ち、32k で VRAM からはみ出して 7.5 tok/s まで落ちました。Qwen 2.5 32B Q4_K_M(約 20 GB)はどちらの単体でも VRAM に収まらず、CPU オフロード前提です。14B までを常用するなら 5060 Ti 16GB が余裕、短めのコンテキストで速度優先なら 5070 12GB の方が帯域(672 GB/s vs 448 GB/s)の分、約 1.5 倍の tok/sec が出ます。
- RTX 5060 Ti 16GB を 2 枚挿しすれば 70B Q4 が動きますか?
- モデルウェイトだけで見れば動く可能性があります。Llama 3.3 70B Q4_K_M は約 40 GB で、2 枚合計 32 GB では収まりませんが、Q3_K_M(約 32 GB)や Q2_K(約 26 GB)なら 2 枚挿しの合計 VRAM に収まります。ただし PCIe 5.0 x8+x8 のマザーが必要で、モデル並列(tensor parallelism)の設定と、レイヤ分割時の GPU 間通信オーバーヘッドで tok/sec は理論値の 60〜70% に落ちます。同じ予算で RTX 5090 32GB 単体を狙う方が実効性能・消費電力・環境構築のいずれでも合理的なケースが多く、2 枚挿しは「電源と PCIe レーンを既に確保できている」場合の選択肢になります。
- 12GB VRAM で 14B モデルを常用するのは現実的ですか?
- KV キャッシュを q8_0 量子化(半分に圧縮)、コンテキスト長を 8k〜16k に抑え、投機的デコード用のドラフトモデル(1B 前後)を CPU に追い出す構成であれば、Qwen 2.5 14B Q4_K_M は 12GB でも十分実用範囲です。ただしコンテキスト 32k・128k を常用する場合、あるいは Vision Language Model(Qwen 2.5-VL 7B など)を並行で動かす場合は 16GB の余裕が効きます。「今後 1〜2 年で 14B〜20B が主流化する」という見立てなら 16GB の 5060 Ti、単発チャットで速度優先なら 5070 12GB、という選び方が明快です。