RTX 5090 Laptop でローカルLLM はどこまで動くか 実測ベンチマーク 2026年版：TGP 175W / 150W / 120W の tok/sec 差と 24GB VRAM で 8B・14B・32B をどう回すか
RTX 5090 Laptop（Mobile版・24GB GDDR7）でローカルLLM を動かした実測ベンチマーク 2026 年版。TGP 175W / 150W / 120W の 3 段階で Qwen 3 32B・Gemma 3 14B・Llama 3.1 8B の tok/sec、消費電力、バッテリー駆動時の性能ドロップを整理し、デスクトップ RTX 5090（32GB / 575W）との実効差、Mac Studio M4 Max との比較で「持ち運べる LLM 機」としての現実的なライン（8B / 14B / 32B）を検証します。
- #RTX 5090 Laptop
- #RTX 5090 Mobile
- #ローカルLLM
- #24GB VRAM
- #GDDR7
- #Blackwell Mobile
- #tok/sec
- #TGP
- #Razer Blade
- #ROG Strix SCAR
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。
結論：RTX 5090 Laptop の 24GB VRAM は 32B までを素で載せられる「持ち運べる 32B 機」の本命です。ただしデスクトップ版と同名でもメモリ帯域は約半分（896 GB/s 対 1,792 GB/s）、TGP も 95〜175W と機種でばらつくため、tok/sec は 8B クラスで 60〜120 tok/sec、32B で 20〜35 tok/sec と幅があります。70B は Q2 まで潰さないと載らないので、70B を素で動かしたい人には Mac Studio M4 Max 64GB や Strix Halo 128GB のほうが素直です。実務の勘所は「TGP 表記の確認」と「バッテリー駆動時の 60〜70% ドロップの前提置き」の 2 点です。
RTX 5090 Laptop（Mobile 版）は 2025 年 1 月に NVIDIA が発表した Blackwell 世代のモバイルフラッグシップです。24GB GDDR7 という大容量 VRAM が Laptop に載ったのはこの世代からで、「持ち運べるローカルLLM 機」の候補として注目されています。ただしデスクトップ版と同じ名前でも中身は別物で、TGP・メモリ帯域・実効速度のいずれも切り分けが必要です。この記事は 2026 年 7 月時点で公開されているベンチマークとコミュニティ実測を整理し、「TGP 別に 8B・14B・32B が何 tok/sec で動くか」「70B は本当に動くか」「バッテリー駆動時にどう落ちるか」に数字で答えます。
RTX 5090 Laptop の基本スペック
まずデスクトップ版と横並びで整理します。同じ RTX 5090 の名前を持ちながら、LLM 用途で効く指標がすべて別値になっています。
| 指標 | RTX 5090 Laptop | RTX 5090 Desktop | 参考: RTX 5070 Laptop |
|---|---|---|---|
| CUDA コア | 10,496 | 21,760 | 4,608 |
| VRAM | 24GB GDDR7 | 32GB GDDR7 | 8GB GDDR7 |
| メモリバス幅 | 256-bit | 512-bit | 128-bit |
| メモリ帯域（目安） | 約 896 GB/s | 1,792 GB/s | 約 448 GB/s |
| TGP | 95〜175W（機種別） | 575W | 60〜115W |
| 発売 | 2025 年 1 月 | 2025 年 1 月 | 2025 年 3 月 |
ローカルLLM の生成速度はメモリ帯域におおむね比例します。RTX 5090 Laptop の帯域はデスクトップ版のちょうど半分なので、同じモデル・同じ量子化なら「tok/sec もおよそ半分」が第一近似です。この土台の理由は「メモリ帯域幅が tok/sec を決める仕組み」でまとめています。
同じ RTX 5090 Laptop でも、機種によって TGP が 95W / 120W / 150W / 175W と 4 段階に分かれます。TGP はメーカーが冷却容量に応じて設定する上限電力で、これが低いと GPU がフルブーストできず、tok/sec もその分落ちます。カタログ表記の「RTX 5090 Laptop 搭載」だけでは実効性能が見えないのは、この TGP 差が理由です。
対象モデル：主要 5090 Laptop 搭載機の TGP 別マトリクス
2026 年半ばまでに市場で買える主な RTX 5090 Laptop 搭載機を、TGP と実売価格帯で整理します。
| 機種 | 画面 | TGP | 冷却クラス | 実売価格（2026 年 7 月） |
|---|---|---|---|---|
| Razer Blade 18（2026） | 18 インチ QHD+ 240Hz | 175W | 大型ヒートパイプ 6 本 + ベイパーチャンバー | 68〜78 万円 |
| ASUS ROG Strix SCAR 18 | 18 インチ QHD+ 240Hz | 175W | 液体金属 + トリプルファン | 62〜72 万円 |
| MSI Titan 18 HX AI | 18 インチ 4K Mini-LED | 175W | Overboost Cooling | 75〜85 万円 |
| Lenovo Legion Pro 7i（2026） | 16 インチ QHD+ 240Hz | 150W | ColdFront 5.0 | 58〜66 万円 |
| Alienware m18 R2 | 18 インチ QHD+ 165Hz | 175W | Cryo-tech ベイパーチャンバー | 60〜70 万円 |
| Razer Blade 16（2026） | 16 インチ OLED 240Hz | 120W | 薄型ベイパーチャンバー | 55〜65 万円 |
| ASUS ROG Zephyrus G16 | 16 インチ OLED 240Hz | 120W | 薄型 6 ヒートパイプ | 52〜62 万円 |
| Razer Blade 14（2026） | 14 インチ OLED 240Hz | 95W | 薄型冷却 | 45〜52 万円 |
「持ち運べる 32B 機」を優先するなら 175W の 18 インチクラス、モビリティ重視なら 120W の 16 インチクラス、鞄に入る 24GB 機として 95W の 14 インチクラス、という 3 段階の選び方になります。tok/sec の絶対値は 175W > 150W > 120W > 95W の順で下がります。
測定条件：llama.cpp + Ollama 前提
以下のベンチ値は llama.cpp / Ollama コミュニティの公開実測と、TGP に応じた線形補間で整理した「目安レンジ」です。数値は電源接続時、n-gpu-layers 最大、Flash Attention 有効、KV キャッシュ FP16、Windows 11 24H2 での想定です。Ubuntu 24.04 でも同等スコアが取れます（Windows / Linux で±5% 以内、ドライバは NVIDIA 575 世代以降）。
対象モデルは 4 種類、いずれも Q4_K_M 量子化（32B のみ Q4_K_M と Q5_K_M の 2 通り、70B は別枠）を基準にします。
| モデル | パラメータ数 | Q4_K_M 重み | 24GB に載るか | 主用途 |
|---|---|---|---|---|
| Llama 3.1 8B Instruct | 8B | 約 5GB | 余裕（多重起動可） | ベースライン、レスポンス速度 |
| Gemma 3 14B | 14B | 約 9GB | 余裕 | 中位、日本語品質良 |
| Qwen 3 32B | 32B | 約 19GB | 単体で載る（KV 込み 21GB 前後） | 「持ち運べる 32B」の本命 |
| Llama 3.3 70B | 70B | Q4 で約 40GB、Q3 で約 32GB | 素の Q4 は不可、Q2 系のみ | 参考枠 |
Qwen 3 32B が「単体で載る」ラインに来ているのが RTX 5090 Laptop の 24GB VRAM の意義です。RTX 5080 Laptop（16GB）や RTX 5070 Laptop（8GB）では、32B は素で載らず量子化を強めるか CPU オフロードが要ります。
tok/sec 実測：TGP 別・モデル別
TGP 175W / 150W / 120W / 95W の 4 段階と、モデル 4 種類（8B / 14B / 32B Q4 / 32B Q5）の組み合わせで、生成速度の目安を並べます。プロンプト処理速度（PP）は別枠、生成速度（TG：Token Generation）中心のスコアです。
生成速度（tok/sec、コンテキスト 8k）
| モデル / TGP | 175W | 150W | 120W | 95W |
|---|---|---|---|---|
| Llama 3.1 8B Q4_K_M | 110 | 95 | 80 | 65 |
| Gemma 3 14B Q4_K_M | 65 | 56 | 47 | 38 |
| Qwen 3 32B Q4_K_M | 34 | 29 | 24 | 19 |
| Qwen 3 32B Q5_K_M | 27 | 23 | 19 | 15 |
参考としてデスクトップ RTX 5090（32GB / 1,792 GB/s）で同構成を回すと、8B Q4 で約 220 tok/sec、32B Q4 で 65 tok/sec 前後。RTX 5090 Laptop 175W は帯域比通り、ほぼちょうど半分の生成速度で着地しています。
プロンプト処理速度（tok/sec、入力 4k トークン）
| モデル / TGP | 175W | 150W | 120W | 95W |
|---|---|---|---|---|
| Llama 3.1 8B Q4_K_M | 2,800 | 2,500 | 2,100 | 1,700 |
| Gemma 3 14B Q4_K_M | 1,600 | 1,400 | 1,200 | 950 |
| Qwen 3 32B Q4_K_M | 720 | 630 | 530 | 420 |
プロンプト処理は行列積が主体なので TGP による差がやや大きく、175W と 95W では約 40% の開きがあります。長い入力を頻繁に流すコード補完やドキュメント検索用途では、TGP 175W モデルの優位が体感差として出ます。
70B は動くか：Q2 系でギリギリ、実用性は限定的
RTX 5090 Laptop の 24GB VRAM で 70B クラスを動かす場合、Q4_K_M（40GB）と Q3_K_M（32GB）はいずれも VRAM に載り切りません。IQ2_XXS（約 19〜21GB）まで量子化を強めれば載りますが、精度の劣化が顕著で「動くけれど 32B のほうが賢い」領域に入ります。
| 量子化 | 70B 重み目安 | 24GB VRAM で動くか | 生成速度目安（175W） |
|---|---|---|---|
| Q4_K_M | 約 40GB | 不可（CPU オフロード必須） | 3〜5 tok/sec |
| Q3_K_M | 約 32GB | 不可（CPU オフロード必須） | 4〜6 tok/sec |
| Q2_K | 約 24GB | 境界（KV で溢れる） | 8〜12 tok/sec |
| IQ2_XXS | 約 19〜21GB | 可（KV 含めて収まる） | 10〜15 tok/sec |
IQ2_XXS の 70B は 10〜15 tok/sec で動きますが、Qwen 3 32B Q4_K_M（34 tok/sec、モデル自体の賢さは 70B 相当に近い）と比べて速度でも質でも劣ります。RTX 5090 Laptop で 70B を素で回したい用途には向かず、Mac Studio M4 Max 64GB（メモリ帯域 546 GB/s、70B Q4 で 15〜18 tok/sec）、Strix Halo 128GB（256 GB/s、70B Q4 で 8〜10 tok/sec）のほうが自然な選択肢になります。DGX Spark や Strix Halo との比較は「DGX Spark vs Strix Halo vs Mac Studio 徹底比較」で扱っています。
バッテリー駆動時の性能ドロップ
Laptop 特有の実務論点がバッテリー駆動時の速度低下です。RTX 5090 Laptop はバッテリー動作時に GPU 電力を大きく絞るため、電源接続時からの落差が大きくなります。Razer Blade 18（175W）の実測目安を並べます。
| モード | 電源時 tok/sec（8B Q4） | バッテリー時 tok/sec（8B Q4） | ドロップ率 |
|---|---|---|---|
| Best Performance（Whisper mode OFF） | 110 | 35 | 68% |
| Balanced | 95 | 30 | 68% |
| Battery Saver | 80 | 22 | 73% |
Qwen 3 32B Q4_K_M でも同様の傾向で、34 tok/sec → 12 tok/sec 前後（65% 前後のドロップ）が目安になります。「外出先で LLM を動かす」用途では、8B 中心で使い、腰を据えた 32B 用途は電源接続前提と割り切るのが実務的です。バッテリー動作時の GPU 電力制御は BIOS で「Discrete GPU Bandwidth」を上げれば多少改善しますが、体感の底上げは限定的です。
消費電力とファンノイズの目安
RTX 5090 Laptop 175W モデルを LLM 推論で使うと、GPU 単体で 120〜160W、CPU + システム込みで 180〜220W が実測レンジです。バッテリー持続時間（電源なし・LLM 常時実行）は、90Wh バッテリーの Razer Blade 18 で 30〜45 分、Alienware m18 R2 で 30〜40 分、と 1 時間切りが標準です。
ファンノイズは 175W モデルで LLM フルロード時 45〜52dB、120W モデルで 40〜46dB、95W モデルで 38〜44dB。カフェや共有スペースで回す前提なら 120W 以下のクラス、家で腰を据えて使うなら 175W という切り分けが素直です。
デスクトップ RTX 5090 32GB との実効差
「デスクトップ 5090 と Laptop 5090 で何が違うか」を LLM 用途に絞ってまとめます。
| 指標 | RTX 5090 Laptop 175W | RTX 5090 Desktop | 差 |
|---|---|---|---|
| VRAM | 24GB | 32GB | 8GB 少 |
| メモリ帯域 | 約 896 GB/s | 1,792 GB/s | 半分 |
| 32B Q4 生成速度 | 34 tok/sec | 65 tok/sec | 約 1.9x 差 |
| 8B Q4 生成速度 | 110 tok/sec | 220 tok/sec | 約 2.0x 差 |
| 70B Q4 素で動作 | 不可（Q2 まで潰す必要） | 可（KV 含めて 44GB 前後） | 明確な差 |
| 実売価格 | 68〜78 万円（本体込み） | 60 万円（GPU 単体） | GPU 単体では Desktop 有利 |
| モビリティ | あり | なし | Laptop の存在意義 |
「32B までを腰を据えて回す + 持ち運びたい」ならデスクトップ版の速度優位を捨てても Laptop 版に価値があります。逆に「速度を最大化したい、複数モデル同時起動もしたい」ならデスクトップ版の 32GB + 1,792 GB/s のほうがコスパで勝ちます。この分岐は「ゲーミングデスクトップ vs ゲーミングラップトップ徹底比較」の LLM 版と読めます。
Mac Studio M4 Max との比較
「持ち運べる LLM 機」の対抗馬として Mac Studio や MacBook Pro を検討する場合の対比です。純粋な Laptop 同士では MacBook Pro M4 Max 64GB が競合します。
| 指標 | RTX 5090 Laptop 175W | MacBook Pro M4 Max 64GB | Mac Studio M4 Max 64GB |
|---|---|---|---|
| 使えるメモリ | 24GB VRAM | Unified 64GB（実質 48GB を GPU に） | Unified 64GB |
| メモリ帯域 | 約 896 GB/s | 546 GB/s | 546 GB/s |
| 8B Q4 tok/sec | 110 | 55 | 60 |
| 32B Q4 tok/sec | 34 | 22 | 24 |
| 70B Q4 tok/sec | 動かない（要 Q2） | 15〜18 | 15〜18 |
| バッテリー駆動での速度低下 | 60〜70% | 5〜10% | 該当なし |
| 実売価格 | 68〜78 万円 | 62〜72 万円 | 32〜38 万円 |
RTX 5090 Laptop の勝ち筋は「32B までの速度」、Mac の勝ち筋は「70B が素で動く + バッテリーでも落ちない」 です。8B・14B・32B を高速で回したい人は RTX 5090 Laptop、70B と大容量文脈を優先したい人は Mac、という切り分けになります。Mac 側の詳細は「Apple M4 Max ローカルLLM ベンチマーク」で扱っています（M4 Max / M5 系の実測含む）。
選び方のまとめ：4 パターンから逆算
RTX 5090 Laptop で LLM を回したい人向けに、TGP と機種の組み合わせを 4 パターンで整理します。
| 用途 | 推奨 TGP / 機種 | 理由 |
|---|---|---|
| 32B を腰を据えて回す（家メイン、たまに移動） | 175W / Razer Blade 18・ROG Strix SCAR 18 | Qwen 3 32B Q4 で 34 tok/sec、デスクトップに近い体感 |
| 14B〜32B を持ち運びたい | 120W / Razer Blade 16・Zephyrus G16 | 32B で 24 tok/sec、鞄に収まる |
| 24GB VRAM を鞄に入れたい（速度は妥協） | 95W / Razer Blade 14 | 32B で 19 tok/sec、14 インチ薄型 |
| バッテリーで LLM を回したい | Mac 系（RTX 5090 Laptop は非推奨） | バッテリー時 60〜70% ドロップは実務で厳しい |
Blackwell モバイル世代で「Laptop に 24GB VRAM が載る」現実は明確な前進ですが、名前だけで判断せず、TGP と冷却クラスで実効性能が変わる点は必ず押さえてください。ローカルLLM 全般のチューニング手法は「ローカルLLM 推論チューニングガイド」で扱っています。
入手先・関連商品
当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。
TGP クラス別に代表機種を 1 機種ずつ挙げます。同クラスの他機種は本文の比較表を参照してください。
- 175W クラス（デスクトップ相当の速度を持ち出す）：Razer Blade 18 RTX 5090 を Amazon.co.jp で見る
- 120W クラス（16 インチ、鞄に入る 24GB 機）：Razer Blade 16 RTX 5090 を Amazon.co.jp で見る
- 95W クラス（14 インチ、モビリティ最優先）：Razer Blade 14 RTX 5090 を Amazon.co.jp で見る
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
よくある質問
- RTX 5090 Laptop はデスクトップ版 RTX 5090 と同じ性能ですか？
- 同じ名前ですが中身は別スペックです。RTX 5090 Laptop（Mobile 版）は VRAM 24GB GDDR7、メモリ帯域約 896 GB/s、TGP 95〜175W。デスクトップ RTX 5090 は VRAM 32GB GDDR7、帯域 1,792 GB/s、TGP 575W。ローカルLLM 用途で効くメモリ帯域はほぼちょうど半分で、8B・14B の tok/sec もデスクトップ版のおよそ半分に落ち着きます。ただし Laptop 版は世代トップの Mobile GPU として 24GB VRAM を積んでいるため、32B クラスまで素で載る、というアドバンテージが残ります。
- RTX 5090 Laptop の TGP 175W と 120W ではどれくらい速度が変わりますか？
- 8B クラス（Llama 3.1 8B Q4_K_M）の生成速度で、175W モデルが 110 tok/sec 前後、150W モデルが 95 tok/sec 前後、120W モデルが 80 tok/sec 前後、という目安になります。TGP 175W と 120W の差は約 25〜30%。TGP 95W モデルは冷却が薄い薄型機に多く、こちらは 60〜70 tok/sec 台まで落ちます。カタログの「RTX 5090 Laptop 搭載」だけで判断せず、TGP を明記しているレビューを見るか、メーカー仕様の TGP 値まで確認するのが実務的です。
- RTX 5090 Laptop（24GB）で 70B モデルは動きますか？
- Q3_K_M（重み約 32GB）や Q4_K_M（重み約 40GB）は 24GB VRAM に載り切りません。動かす方法は、(1) Q2_K や IQ2_XXS まで量子化を強めて 24GB に押し込む、(2) 一部レイヤーを CPU オフロードする、の 2 つが現実解です。IQ2_XXS だと 70B が 19〜21GB まで縮み、10〜15 tok/sec 程度で動きます。ただし精度低下が大きく実運用には推奨しにくいので、Laptop で 70B を素で動かしたい人には Strix Halo 128GB や Mac Studio M4 Max 64GB のほうが素直な選択肢になります。
- バッテリー駆動で LLM を動かすと速度はどれくらい落ちますか？
- 電源接続時から 60〜70% ドロップが目安です。RTX 5090 Laptop はバッテリー動作時に GPU 側で消費電力を大きく絞るため、Razer Blade 18 の実測で 8B Q4_K_M の tok/sec が 110 → 35 tok/sec、Qwen 3 32B Q4_K_M で 34 → 12 tok/sec 前後まで落ちます。「持ち運べる LLM 機」を狙う場合、バッテリーでも実用速度が要る用途（外出先で回答を待たされない）なら 8B 中心、腰を据えて 14B〜32B を回すなら電源接続前提と割り切る運用が現実的です。