NVIDIA DGX Spark でローカルLLMはどこまで動くか 2026年版：GB10・128GB・帯域273GB/s で 8B / 70B / 120B を動かした実測 tok/sec と弱点
NVIDIA DGX Spark（GB10・128GB Unified Memory）でローカルLLMは実際どこまで動くのか。8B / 30B / 70B / 120B クラスの tok/sec と、帯域273GB/s が招くデコード律速という弱点を実測ベースで解説。Strix Halo・Mac Studio とどう棲み分けるかまで踏み込みます。
- #DGX Spark
- #GB10
- #ローカルLLM
- #Unified Memory
- #128GB
- #メモリ帯域
- #CUDA
- #prefill
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。
結論：DGX Spark は「20B前後までの中小モデルと、長文・RAGのプロンプト処理（prefill）」が本領で、ここでは非常に速い。一方で 70B 以上の大型モデルは”ロードできる”が”生成は遅い”。帯域273GB/s が生成（decode）を律速するため、Llama 3.1 70B（FP8）では prefill 約803 tok/s に対し decode は約2.7 tok/s まで落ちます。つまり DGX Spark は「巨大モデルを高速にチャットさせる箱」ではなく、「CUDAフル互換のまま大きいモデルをデスクトップで触れる開発・プロトタイピング機」。生成速度が欲しいなら帯域約800GB/s の Mac Studio M3 Ultra、安く済ませたいなら Strix Halo、という棲み分けになります。
NVIDIA DGX Spark（GB10 Grace Blackwell）は「128GBのメモリをGPUと共有し、巨大モデルをデスクトップ1台で動かす」という触れ込みで登場しました。では実際、どのサイズのモデルまで快適に動くのか。どこで詰まるのか。この記事では DGX Spark 単体に絞り、モデルサイズ別の実測 tok/sec と、帯域273GB/s が招く「prefillは速いがdecodeは遅い」という非対称を、海外レビューの実測値を出典付きで整理します。3機種横並びの「どれを買うか」は別記事に譲り、ここは「DGX Spark でどこまで動くか／どこで詰まるか」を縦に掘ります。
なお数値は LMSYS / StorageReview / 各社レビューの公開実測を集約したものです（iris-lab の自前実測は入手次第このページに追記します）。誇張した数字は載せません。
まず DGX Spark の素性
| 項目 | NVIDIA DGX Spark（GB10） |
|---|---|
| プロセッサ | GB10 Grace Blackwell Superchip |
| CPU | 20コア Arm |
| GPU | Blackwell・5th-gen Tensor コア |
| メモリ | 128GB Unified LPDDR5x（CPU/GPU共有） |
| メモリ帯域 | 約273 GB/s |
| AI演算 | 最大1 PFLOP（FP4 / sparsity） |
| OS | DGX OS（Ubuntuベース） |
| エコシステム | フルCUDA / TensorRT / NIM / PyTorch / vLLM |
| 価格目安 | 約$4,399〜5,404（≒70〜85万円） |
スペック表で目立つのは「1 PFLOP」と「128GB」ですが、ローカルLLMの体感を分けるのは演算性能でも容量でもなくメモリ帯域273GB/sです。ここを理解しないと、「1 PFLOPもあるのに、なぜ生成が遅いの？」という結果に必ず驚きます。
なぜ帯域273GB/sが「生成速度の天井」になるのか
ローカルLLMのトークン生成（decode）では、1トークン出力するたびにモデルの全重みをメモリから読み出します。だから理論上の生成速度の上限は「メモリ帯域 ÷ モデルのバイト数」でおおよそ決まります。
例えば Llama 3.1 70B を FP8（約70GB）で動かすと、1トークンごとに約70GBを読む必要があります。帯域273GB/sなら理論上の上限は 273 ÷ 70 ≒ 約3.9 tok/s。実効はこれより落ちるので、実測で decode 2〜3 tok/s 台に収まるのは帯域から見て当然の結果です。
一方、プロンプト処理（prefill）は入力をまとめて並列に演算できるため、帯域ではなく**演算性能（FLOPS）**が効きます。DGX Spark は1 PFLOPのFP4演算とBlackwell世代のTensorコアを積んでいるので、prefillはこのクラスで頭一つ抜けます。この「prefillは演算律速・decodeは帯域律速」という非対称こそ、DGX Spark の性格そのものです。
仕組みの詳細は「メモリ帯域幅(GB/s)がローカルLLMの tok/sec を決める仕組み 2026年版：VRAM容量より「帯域」を見るべき理由と GPU・Apple・Strix Halo の実数値」と「ローカルLLM プロンプト処理（prefill）速度 GPU別ベンチマーク 2026年版：長文・エージェント用途で効くのは tok/sec より「最初のトークンまで」」で掘り下げています。
モデルサイズ別：DGX Spark はどこまで動くか
海外レビューの実測値を、サイズ別に整理します。prefill（プロンプト処理）と decode（トークン生成）を必ず分けて見てください。これを一緒くたにすると判断を誤ります。
| モデル | prefill（プロンプト処理） | decode（トークン生成） | 実用評価 |
|---|---|---|---|
| 8B クラス | 速い | 約924 tok/s | ◎ 快適。即レス対話に十分 |
| Qwen3 30B クラス（バッチ） | 速い | 約483 tok/s | ◎ 中小モデルの本領 |
| Llama 3.1 70B（FP8） | 約803 tok/s | 約2.7 tok/s | △ ロード可・生成は遅い |
| GPT-OSS 120B | 約1,723 tok/s | 低速（帯域律速） | △ prefillは強・生成は重い |
この表が DGX Spark の全てを語っています。
- 8B〜30Bクラスは本領。decode が 924 tok/s（8B）や 483 tok/s（30Bバッチ）と非常に高速で、ここは「即レスでサクサク動く」帯です。20B前後までを高速に回したい人には DGX Spark は素直に強い。
- 70B以上は「ロードできるが生成は遅い」。Llama 3.1 70B（FP8）の decode 2.7 tok/s は、人が読むより遅い速度です。一方で同じ70Bの prefill は803 tok/s と速いので、「長い入力を投げて、短く答えさせる」なら使えなくはない。だが対話用途では待たされます。
- 120B級は prefill の怪物だが decode は重い。GPT-OSS 120B の prefill 1,723 tok/s は非常に速く、大量の文脈を読ませる用途では強い。しかし生成そのものは帯域に律速され、サクサクとは言えません。
つまり DGX Spark で「70B〜120Bを高速チャットさせたい」なら期待はずれになります。逆に「20B前後を高速に回す」「長文を読ませて処理する（prefill重視）」「巨大モデルをとりあえずデスクトップで触ってプロトタイプを作る」なら、これ以上ない選択です。
prefill強・decode弱という非対称を1枚で
DGX Spark を一言で表すと、**「読むのは速いが、書くのは遅い」**です。
| 処理 | 律速要因 | DGX Spark の強さ | 効く用途 |
|---|---|---|---|
| prefill（入力処理） | 演算性能（FLOPS） | ◎ 1 PFLOPで強い | 長文投入・RAG・コードベース読み込み・要約 |
| decode（出力生成） | メモリ帯域（273GB/s） | △ 大型モデルで律速 | 長文をダラダラ生成する対話 |
「コードベースを丸ごと投げて1行答えさせる」「大量のドキュメントをRAGで読ませて要点を返す」といった入力が重く出力が軽いワークフローは、DGX Spark の prefill 性能が直撃する得意分野です。逆に「長い物語を延々生成させる」「長文の回答を高速に欲しい」という出力が重い用途は、帯域273GB/sが足を引っ張ります。
自分の使い方が prefill 寄りか decode 寄りかを見極めるのが、DGX Spark を買って後悔しないための一番の判断軸です。
DGX Spark 固有の価値：CUDAフル互換
帯域では Mac に負ける DGX Spark が、それでも選ばれる理由はCUDAエコシステムをフルで使える点に尽きます。
- PyTorch / vLLM / TensorRT-LLM がそのまま動く。クラウドのデータセンターGPUと同じソフトウェアスタックがデスクトップで動くため、手元で書いたコードがそのまま本番のクラウドGPUに移植できます。
- fine-tune（微調整）が枯れている。LoRA / QLoRA のコードや量子化ツールの大半がCUDA前提で書かれており、追加の互換作業なしに動きます。
- 「手元で試す → クラウドにスケール」を同一スタックで通せる。これは ROCm（AMD）や MLX/Metal（Apple）にはない、DGX Spark だけの強みです。
つまり DGX Spark の価値は、速さよりも互換性と開発体験の側にあります。研究や開発で「将来クラウドGPUに載せる前段のプロトタイプ機」として使うなら、価格差を払う合理性があります。
棲み分け：Mac Studio / Strix Halo とどう使い分けるか
128GBクラスのローカルLLM機は DGX Spark の独壇場ではありません。役割分担を1枚で示します。
| 機種 | メモリ帯域 | 強み | 向く人 |
|---|---|---|---|
| NVIDIA DGX Spark | 約273 GB/s | CUDAフル互換・prefill・fine-tune | 開発・プロトタイピング・クラウド移植前提 |
| Mac Studio M3 Ultra | 約800 GB/s | decode（生成速度）・静音・大容量512GB | 大型モデルを高速に対話させたい |
| Ryzen AI MAX+ 395（Strix Halo） | 約215〜256 GB/s | 価格・x86互換・ゲーム兼用 | とにかく安く128GB機が欲しい |
ポイントは明快です。大型モデルの生成速度（decode）が欲しいなら、帯域で勝る Mac Studio M3 Ultra。CUDA資産と開発互換が欲しいなら DGX Spark。合理的に安く済ませたいなら Strix Halo。同じ「128GB」でも性格はまるで違います。
3機種の価格・消費電力まで含めた横並び比較は「NVIDIA DGX Spark vs Ryzen AI MAX+ 395 vs Mac Studio：128GBクラスのローカルLLM実行機 3択 2026年版」にまとめています。
結論：DGX Spark を買うべき人・避けるべき人
| あなたの用途 | DGX Spark の適否 |
|---|---|
| 20B前後までを高速に回したい | ◎ 本領。924 tok/s（8B）級の快適さ |
| 長文・RAG・コードベース投入（prefill重視） | ◎ 1 PFLOPで強い |
| CUDA / PyTorch / vLLM でfine-tuneしたい | ◎ フル互換、つまずきにくい |
| クラウドGPUへの移植を見据えた開発 | ◎ 同一スタックで通せる |
| 70B以上を高速にチャットさせたい | △ decodeが帯域律速で遅い |
| とにかく安く128GB機が欲しい | ✗ Strix Halo の方が合理的 |
| 大型モデルの生成速度最優先 | ✗ Mac Studio M3 Ultra の方が速い |
私の総括はこうです。DGX Spark は「速さを買う箱」ではなく「CUDA互換のまま大きいモデルをデスクトップで触れる開発機」。 スペック表の「1 PFLOP」「128GB」だけ見て「巨大モデルが高速に動く」と期待すると、70Bのdecode 2.7 tok/s に必ず驚きます。逆に prefill とCUDA互換という固有の価値を理解して買えば、これ以上ない開発・プロトタイピング機です。買う前に「自分の用途は prefill 寄りか decode 寄りか」を一度だけ自問してください。それが全てを決めます。
入手先・関連商品
当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。
NVIDIA DGX Spark（GB10）
棲み分け候補（帯域で生成速度を取るなら）
棲み分け候補（安く128GBを取るなら）
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
よくある質問
- DGX Spark で 70B クラスのモデルは実用的に動きますか？
- ロードして動かすこと自体は問題なくできますが、実用性は用途次第です。Llama 3.1 70B（FP8）はプロンプト処理（prefill）が約803 tok/s と速い一方、トークン生成（decode）は約2.7 tok/s まで落ちます。これは帯域273GB/s が生成を律速するためで、対話で待たされる速度です。70B は「動かせるが本番チャット用途には遅い、プロトタイピング向き」と捉えるのが正確です。
- DGX Spark は何が得意で何が苦手ですか？
- 得意はプロンプト処理（prefill）と20B前後までの中小モデル、そしてCUDAフル互換です。GPT-OSS 120B でも prefill は約1,723 tok/s と非常に速く、長文・RAG・コードベース投入のような「最初の処理が重い」用途で光ります。苦手は大型モデルのトークン生成（decode）で、帯域273GB/s が天井になり、70B以上では生成が遅くなります。
- ローカルLLMの生成速度だけなら Mac Studio と DGX Spark どちらが速いですか？
- 生成速度（decode）だけなら Mac Studio M3 Ultra（帯域約800GB/s）が有利です。decode はメモリ帯域に比例するため、273GB/s の DGX Spark は大型モデルの生成では帯域で負けます。ただし DGX Spark は prefill とCUDAエコシステム（fine-tune・PyTorch・vLLM がそのまま動く）で価値があり、速度の一点だけでは優劣を語れません。