RTX 5070 / 5070 Ti / 5080 ローカルLLM 実測ベンチマーク 2026年版：12GB / 16GB VRAM で 8B・14B・32B は何 tok/sec で動くか
RTX 5090 は高いけれど 5090 未満の中位 RTX 50 では LLM はどこまで戦えるのか。RTX 5070（12GB）/ 5070 Ti（16GB）/ 5080（16GB）を Llama 3.1 8B・Qwen 3 14B・Qwen 2.5 32B（Q4）で公開ベンチと実運用値から並べ、tok/sec・VRAM 実使用量・コンテキスト長の上限・電力効率まで整理する 2026 年版ベンチマークです。
- #RTX 5070
- #RTX 5070 Ti
- #RTX 5080
- #ローカルLLM
- #tok/sec
- #VRAM
- #Llama 3.1
- #Qwen 3
- #Qwen 2.5
- #Blackwell
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。
結論：8〜14B は RTX 5070（12GB）で戦えます。14B を余裕で動かしたい・32B も工夫して回したいなら RTX 5070 Ti / 5080（16GB）。32B を素の tok/sec で快適に動かしたいなら中位帯を飛ばして RTX 5090（32GB）や中古 3090（24GB）に上げるほうが結果的に安く済みます。5070 Ti と 5080 の LLM tok/sec 差は 5090 との差ほど開かず、価格差ほどの LLM 性能差は出ません。
RTX 5090 は魅力的ですが、55〜69 万円のカードは誰でも買えるわけではありません。「RTX 5090 が高すぎるのは分かった、じゃあ RTX 5070 / 5070 Ti / 5080 でローカルLLM はどこまで戦えるのか」。この記事は、その問いに数字で答えるための 2026 年 7 月時点のまとめです。数値は公開ベンチマーク・vLLM / llama.cpp コミュニティ計測・NVIDIA 公称スペックの整理で、独自の新規実測ではない部分は「公開ベンチの整理」と明示します。
中位 RTX 50 3 モデルの基本スペック
まず土台の 3 モデルを並べます。すべて GDDR7、PCIe 5.0 x16、Blackwell 世代（compute capability 12.0 系）です。
| GPU | VRAM | メモリ帯域目安 | TGP | PCIe | 実勢価格（2026年7月） |
|---|---|---|---|---|---|
| RTX 5070 | 12GB GDDR7 | 中位（約 672 GB/s 級） | 約 250W | 5.0 x16 | 10〜13 万円 |
| RTX 5070 Ti | 16GB GDDR7 | 高位（約 896 GB/s 級） | 約 300W | 5.0 x16 | 15〜18 万円 |
| RTX 5080 | 16GB GDDR7 | 高位（約 960 GB/s 級） | 約 360W | 5.0 x16 | 20〜23 万円 |
| （参考）RTX 5090 | 32GB GDDR7 | 1,792 GB/s | 約 575W | 5.0 x16 | 55〜69 万円 |
LLM 用途で見るべき順は VRAM 容量 → メモリ帯域 → 価格 → 消費電力です。ゲーム性能（コアクロック・レイトレ）は LLM tok/sec にほぼ効きません。この優先順位の理由は「ローカルLLM向けGPUの選び方ガイド 2026年版」で詳しく扱っています。
中位 RTX 50 で注目すべきポイントは 2 つあります。第 1 に、5070 Ti と 5080 は VRAM 容量が同じ 16GB です。載せられるモデルの上限は同じで、差はメモリ帯域と電力に集中します。第 2 に、5090 との帯域差が大きく、5090 の 1,792 GB/s に対して 5080 は約 960 GB/s と半分強。tok/sec は帯域におおむね比例するため、5090 との差は数値で出ます。ただし 5070 Ti と 5080 の間の帯域差は小さく、tok/sec 差もそれに準じます。
テスト対象モデル 3 種と VRAM 目安
対象は llama.cpp / Ollama で扱いやすい 3 種類です。すべて Q4_K_M（実用量子化）を基準にします。
| モデル | パラメータ数 | Q4_K_M 重み目安 | 実行時 VRAM 目安（KV込み・8k コンテキスト） |
|---|---|---|---|
| Llama 3.1 8B Instruct | 8B | 約 5GB | 6〜7GB |
| Qwen 3 14B | 14B | 約 9GB | 11〜12GB |
| Qwen 2.5 32B Instruct | 32B | 約 18〜19GB | 21〜23GB |
「実行時 VRAM 目安」はコンテキスト長やバッチサイズで大きく変わります。長文（32k+）を扱う場合は KV キャッシュが数 GB 単位で膨らむので、上の目安から+2〜4GB を見込むのが安全です。VRAM 別に動かせるモデルの一覧は「VRAM別 ローカルLLMモデル早見表 2026年版」も併せて確認するとよいです。
実測ベンチマーク：8B（Llama 3.1 8B Q4_K_M）
軽量帯の Llama 3.1 8B Q4_K_M（重み約 5GB）は 12GB / 16GB のどれでも VRAM に全載りします。llama.cpp / Ollama の公開計測から傾向を整理します。
| GPU | tok/sec（生成、context 2k） | tok/sec（生成、context 32k） | prefill tok/sec |
|---|---|---|---|
| RTX 5070 | 90〜110 | 75〜90 | 4,000〜5,500 |
| RTX 5070 Ti | 120〜140 | 100〜120 | 6,000〜7,500 |
| RTX 5080 | 130〜155 | 110〜130 | 7,000〜8,500 |
| （参考）RTX 5090 | 200〜240 | 170〜200 | 12,000〜15,000 |
数値は llama.cpp コミュニティの公開ベンチと NVIDIA 公称帯域からの推定を組み合わせた 2026 年 7 月時点の目安です。実測環境（CPU・DDR5 速度・OS）で ±15% 程度は動きます。
5070 の 12GB でも 8B は完全に実用水準です。90 tok/sec あれば人が読む速度の 5〜6 倍で、対話用途で速度が不満になることは事実上ありません。日常的に 8B クラスを主に使うなら 5070 で足ります。5070 Ti / 5080 との差は「体感で分かるほど速い」より「大量バッチで効いてくる」領域です。
実測ベンチマーク：14B（Qwen 3 14B Q4_K_M）
Qwen 3 14B Q4_K_M（重み約 9GB、実行時 VRAM 11〜12GB）は、12GB VRAM の RTX 5070 ではギリギリ乗る位置です。コンテキスト長 4k〜8k なら動きますが、32k を狙うと KV キャッシュで VRAM が足りなくなります。
| GPU | tok/sec（生成、context 2k） | tok/sec（生成、context 32k） | 備考 |
|---|---|---|---|
| RTX 5070 | 40〜55 | 動作困難（VRAM 不足） | 8k までなら実用 |
| RTX 5070 Ti | 55〜70 | 45〜58 | 32k まで実用 |
| RTX 5080 | 60〜75 | 50〜62 | 32k まで実用、5070 Ti +10〜15% |
| （参考）RTX 5090 | 100〜125 | 85〜105 | 帯域差でリード大 |
14B クラスは 16GB VRAM で「余裕を持って動く」帯域です。5070 の 12GB は VRAM ヘッドルームが薄く、長文セッションや複数リクエスト同時実行で不安定になりやすい傾向があります。14B を「32k コンテキストで安定運用したい」なら 5070 Ti 以上が正解です。5070 Ti と 5080 の tok/sec 差は 10〜15% 程度で、価格差（5〜7 万円）ほど大きくは開きません。
実測ベンチマーク：32B（Qwen 2.5 32B Q4_K_M）
Qwen 2.5 32B Q4_K_M（重み約 18〜19GB、実行時 VRAM 21〜23GB）は、16GB VRAM でも全載りしません。3 つの逃げ道があります。
- Q3_K_M / Q3_K_S など強い量子化：重み約 14〜16GB まで縮み、5070 Ti / 5080 でギリギリ載る。ただし精度は Q4 より落ちる
- CPU オフロード：一部レイヤー（例：20 レイヤー中 5 レイヤー）を CPU/DRAM に逃がす。速度は 3〜5 tok/sec 程度まで落ちる
- KV キャッシュ削減：コンテキスト長を 2k〜4k に絞って VRAM を確保。長文用途を諦める
計測目安（Q4_K_M・オフロード込み）:
| GPU | tok/sec（Q4_K_M・CPU オフロード） | tok/sec（Q3_K_M・全載り） | 実用度 |
|---|---|---|---|
| RTX 5070 (12GB) | 2〜4（重い） | 動作困難 | 実用にならない |
| RTX 5070 Ti (16GB) | 4〜6 | 15〜25 | 実用ぎりぎり |
| RTX 5080 (16GB) | 5〜7 | 18〜28 | 実用ぎりぎり |
| （参考）RTX 5090 (32GB) | 45〜60（全載り） | 55〜70（全載り） | 快適 |
32B を素の Q4 で快適に動かしたいなら 16GB では足りません。中位 RTX 50 で 32B を回すには量子化を強めるか CPU オフロードで我慢する形になります。「32B が本命」の用途では、中位帯より VRAM 24GB 以上のクラスに上げるのが穏当です。中古 RTX 3090 24GB（実勢 14〜18 万円）や RTX 5090 32GB（55〜69 万円）が現実解になります。RTX 5070 Ti 2 枚（32GB 合計）という発想もありますが、NVLink が無い Blackwell 世代ではマルチGPU のスループット効率が伸びず、単体大 VRAM のほうが素直です。マルチGPU の実態は「RTX 5090 2枚挿しマルチGPUでローカルLLMは本当に速くなるのか」で数値込みで整理しています。
電力効率と tok/sec あたりコスト
LLM 用途の「本命指標」は tok/sec / W と tok/sec / 円です。8B（Llama 3.1 Q4_K_M）を基準にした目安を並べます。
| GPU | 実効消費電力（推論時） | tok/sec | tok/sec per W | 価格 | tok/sec per 万円 |
|---|---|---|---|---|---|
| RTX 5070 | 約 200W | 100 | 0.50 | 11 万円 | 9.1 |
| RTX 5070 Ti | 約 250W | 130 | 0.52 | 16 万円 | 8.1 |
| RTX 5080 | 約 300W | 145 | 0.48 | 21 万円 | 6.9 |
| RTX 5090 | 約 480W | 220 | 0.46 | 60 万円 | 3.7 |
「tok/sec あたりの価格効率」で見ると、8B〜14B の日常用途では RTX 5070 が最も安上がりです。5070 Ti は価格効率で 5070 に僅かに劣りますが、14B の 32k コンテキスト運用まで見込むと VRAM ヘッドルームの安心感が加算されます。5080 は「LLM 単体で選ぶ理由」は弱く、ゲームとの兼用で選ばれるカードです。RTX 5090 は絶対性能とスループット効率が別格ですが、価格効率だけを見ると 5070 の 40% 水準。速度と VRAM 32GB を活かす用途（32B 快適・複数モデル切り替え・スループット重視）で真価が出ます。
用途別の選び方
3 モデルの立ち位置を用途別にまとめます。
| 主な使い方 | 推奨 | 理由 |
|---|---|---|
| 8B チャット・コード補完中心 | RTX 5070 | 12GB で 8B は完全に足りる。tok/sec / 円が最良 |
| 14B を長文（32k+）で安定運用 | RTX 5070 Ti | 16GB VRAM で余裕、価格効率も 5080 より上 |
| ゲーム 4K + LLM ときどき 14B | RTX 5080 | ゲーム性能が主目的、LLM は 5070 Ti と大差なし |
| 32B を素の Q4 で快適に動かしたい | 中古 RTX 3090（24GB）または RTX 5090（32GB） | 16GB では 32B は工夫が要る |
| RAG・ベクトルDB・複数モデル切り替え | RTX 5070 Ti または中古 3090 | 16GB 以上あれば埋め込みモデルと LLM 同居可能 |
「LLM 単体で選ぶなら中位帯の本命は 5070 Ti」というのが 2026 年 7 月時点の見立てです。5070 は「8B までなら十分・安く済ませたい」、5080 は「ゲーム性能が主目的で LLM も動けばよい」層に位置します。
入手先・関連商品
当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。
この記事の主対象 3 枚
- GeForce RTX 5070 12GB を Amazon.co.jp で見る
- GeForce RTX 5070 Ti 16GB を Amazon.co.jp で見る
- GeForce RTX 5080 16GB を Amazon.co.jp で見る
上位帯（RTX 5090 32GB、中古 RTX 3090 24GB）や周辺構成の詳細は「ローカルLLM向けGPUの選び方ガイド 2026年版」で扱っています。
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
よくある質問
- RTX 5070（12GB）でローカルLLMはどこまで動きますか？
- 8B クラス（Llama 3.1 8B Q4_K_M など）は VRAM に全部載って余裕で動きます。14B（Qwen 3 14B Q4_K_M）は重み約 9GB ですが KV キャッシュを含めると 12GB VRAM の残り 2〜3GB が限度で、コンテキスト長 4k〜8k 程度なら動作可能、それ以上は制限がかかります。32B（Qwen 2.5 32B Q4_K_M、重み約 18〜19GB）は 12GB では乗り切らず CPU オフロードが必須で、実用速度は出ません。中位 RTX 50 で 30B クラスを狙うなら 16GB の 5070 Ti / 5080 が現実的です。
- RTX 5070 Ti と RTX 5080 は LLM 性能で差が出ますか？
- VRAM 容量が同じ 16GB のため、載せられるモデルの上限は同じです。差が出るのはメモリ帯域と電力で、5080 のほうがメモリ帯域と TGP がわずかに上、その分 tok/sec も数〜十数パーセント速い傾向があります。ただし RTX 5090 との差（帯域 1,792 GB/s、VRAM 32GB）ほど 5070 Ti と 5080 の間には差はありません。価格差ほどの LLM 性能差は出にくいので、LLM 用途に絞るなら 5070 Ti のコスパが良く、ゲーム性能も欲しいなら 5080、という選び方が穏当です。
- 16GB VRAM で 32B モデルは動きますか？
- Qwen 2.5 32B Q4_K_M（重み約 18〜19GB）は 16GB VRAM に全部は載りません。方法は 3 つで、(1) より強い量子化（Q3_K_M など、約 15〜16GB）で載せる、(2) 一部レイヤーを CPU オフロードする、(3) KV キャッシュを削減してコンテキスト長を短くする、のどれかです。いずれも tok/sec は落ちますが、CPU オフロードで 3〜5 tok/sec 程度、Q3_K_M で 15〜20 tok/sec 程度が目安になります。32B を快適に動かしたいなら 24GB 以上（RTX 3090 中古 / RTX 5090）が本命です。
- LLM 用途で中位 RTX 50 を選ぶなら結局どれ？
- 動かしたいモデルサイズと予算次第です。8〜14B までを主に使うなら RTX 5070（12GB）が最安で、実売 10〜13 万円前後の見込み。14B を余裕で動かしつつ 32B も工夫して回したい・多少ゲーム性能も欲しいなら RTX 5070 Ti（16GB、実売 15〜18 万円）。ゲーム性能重視で LLM もそれなりに動けばいい、なら RTX 5080（16GB、実売 20〜23 万円）。「32B を素で動かしたい」なら中位帯より VRAM 24GB 以上のクラス（中古 RTX 3090 / RTX 5090）を検討する方が満足度が高くなります。