NVFP4 vs MXFP4 vs FP8 とは 2026年版:Blackwell世代の4bit浮動小数点推論が量子化を変える仕組みと、ローカルLLMでの効き方
NVFP4 vs MXFP4 vs FP8 の違いを解説。RTX 50（Blackwell）世代のTensor CoreはFP4を直接演算でき、NVFP4ならFP8比で約1.8倍のメモリ効率を精度ほぼ無劣化で実現します。E2M1の2段スケーリングの仕組み、GGUFのQ4_K_Mとは何が違うのか、llama.cppへのFP4マージで個人のローカルLLMにどう効くかを、数値ベースで解説します。
- #NVFP4
- #MXFP4
- #FP8
- #FP4
- #Blackwell
- #Tensor Core
- #量子化
- #ローカルLLM
- #RTX 5090
- #llama.cpp
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。
結論:NVFP4 は Blackwell（RTX 50 / B200）世代のTensor Coreがネイティブ対応する「4bit浮動小数点」で、FP8比で約1.8倍のメモリ効率を精度ほぼ無劣化で実現します。FP8は8bitの現行主流、MXFP4はブロックスケール式の4bit、NVFP4はNVIDIA独自で16値ブロック＋2段スケーリングによりMXFP4より高精度。GGUFのQ4_K_M（整数4bit・ソフト実装）とは『同じ4bitでも整数か浮動小数点か、ソフトかハードか』が違います。2026年3〜4月にllama.cppへFP4がマージされ、個人のローカルLLMでも現実の選択肢になりました。ただしハードネイティブの恩恵はBlackwell世代でこそ出ます。
GPUのスペック表や量子化モデルの説明で「FP8対応」「NVFP4」「MXFP4」といった言葉を見て、何が違うのか分からない、という人は多いはずです。これらは 数値をどう小さく表現するか の規格で、ローカルLLMの「VRAMにどれだけモデルが乗るか」「どれだけ速く動くか」を直接左右します。本記事では3つのフォーマットの違いを、仕組みと数値から噛み砕きます。
整数ベースの量子化（GGUF / GPTQ / AWQ / EXL2）を先に知りたい場合は「ローカルLLMの量子化フォーマットとは 2026年版」を参照してください。本記事はその一段下、ハードウェアがネイティブ対応する浮動小数点フォーマットという別レイヤーの話です。
まず「浮動小数点」と「ビット幅」の関係
数値を表すビットが少ないほど、メモリは小さく、計算は速くなります。代わりに表現できる値が粗くなり、精度が落ちます。LLMの重みを軽くする量子化は、この「ビットを削る」操作です。
浮動小数点は、ビットを 符号 / 指数（exponent）/ 仮数（mantissa） に割り振って数値を表します。表記の E〇M〇 はこの内訳です。
- FP16 = 1 + 5 + 10 = 16bit（高精度・重い）
- FP8 (E4M3) = 1 + 4 + 3 = 8bit
- FP4 (E2M1) = 1 + 2 + 1 = 4bit（極端に粗い）
ここで素朴な疑問が出ます。「FP4は仮数1bitしかない。そんな粗い表現で精度が保てるのか?」。その答えが、後述する スケーリング です。これが NVFP4 と MXFP4 を分ける核心になります。
3フォーマットの違い
| FP8 | MXFP4 | NVFP4 | |
|---|---|---|---|
| ビット幅 | 8bit | 4bit | 4bit |
| 数値形式 | E4M3 / E5M2 | E2M1 | E2M1 |
| スケール単位 | テンソル/チャネル | 32値ブロック共有 | 16値ブロック＋2段 |
| スケールの型 | なし | べき乗（粗め） | FP8(E4M3)＋FP32 |
| 精度 | 高 | 中 | 高（MXFP4より上） |
| 主な採用 | 現行主流 | OpenAI gpt-oss 等 | NVIDIA（Blackwell最適化） |
| ハード対応 | Hopper / Blackwell | Blackwell | Blackwell |
3つを言葉で整理すると次のとおりです。
- FP8：8bitの現行主流。Hopper（H100）/ Blackwell が対応し、精度と軽さのバランスが良い「いま一番無難」なフォーマット。
- MXFP4：4bit。32値ごとに1つの共有スケール（Microscaling）を持たせて精度を補う方式。OpenAIのgpt-oss系などが採用。スケール単位が大きめで、NVFP4よりは粗い。
- NVFP4：NVIDIA独自の4bit。MXFP4より細かい 16値ブロック に区切り、さらに後述の2段スケーリングで精度を底上げした方式。Blackwell向けに最適化されている。
NVFP4 の核心:2段スケーリング
NVFP4 が「4bitなのにほぼ無劣化」を実現する仕組みが 2段スケーリング です。各重みは E2M1（4bit）で格納しつつ、スケール（倍率）を2階層で持たせます。
- 16値ごとに1つの FP8(E4M3) スケール：細かいブロック単位で局所的な大きさを補正する。MXFP4の32値より細かく、かつスケール自体をFP8という比較的高精度な型で持つ。
- テンソル全体に1つの FP32 スケール：全体の大局的なレンジを合わせる。
この「細かいブロックごとの補正（FP8）」＋「全体の補正（FP32）」の二段構えにより、仮数1bitの粗いFP4でも、実効的な精度をFP8に近い水準まで引き上げます。報告ベースでは、FP8比でメモリ効率が約1.8倍になりながら、精度劣化は ±0.005〜0.01ポイント程度（タスク依存）に収まるとされます。
MXFP4が「32値共有・スケールはべき乗で粗め」なのに対し、NVFP4は「16値・スケールはFP8で細かい」。この差が、同じ4bitでもNVFP4のほうが精度が高い理由です。
GGUF の Q4_K_M と何が違うのか(最大の混乱点)
ここが読者が最も混乱する所なので、はっきり分けます。「Q4_K_M も NVFP4 も同じ4bitでしょ?」。ビット幅は同じですが、別物です。
| GGUF Q4_K_M | NVFP4 | |
|---|---|---|
| 数値の種類 | 整数（int4） ベース | 浮動小数点（E2M1） |
| 計算の担い手 | ソフトウェア（カーネルで展開） | ハードウェア（Tensor Coreがネイティブ） |
| 動く環境 | CPU / 各種GPU / Mac 幅広い | Blackwell でこそ高速 |
| 立ち位置 | 汎用・どこでも動く | Blackwell世代の差別化機能 |
- Q4_K_M = 整数ベースのブロック量子化。llama.cpp が CPU でも各種GPUでも展開して計算でき、どこでも動く汎用性が強み。
- NVFP4 = 浮動小数点4bitを Blackwell の第5世代Tensor Core がハードで直接演算する。だから対応GPUなら速く省電力だが、恩恵はBlackwell世代に偏る。
ひとことで言えば「同じ4bitでも、整数か浮動小数点か、ソフト実装かハード対応か」が違う。Q4_K_Mは互換性、NVFP4はBlackwellでの速度・効率と、狙いどころそのものが異なります。Tensor Core が何をする回路かは「Tensor Core / CUDA Core / RT Core の違い 2026年版」で扱っています。
ローカルLLMでの「効き方」
では、個人のローカル環境で NVFP4 / FP4 はどう効くのか。3点に整理します。
- 2026年3〜4月に llama.cpp へFP4がマージ済み。これにより、データセンターの話だったFP4が、個人のローカル推論でも現実の選択肢になりました。TensorRT-LLM 0.17+ / vLLM でもFP4対応が成熟しています。
- VRAMがさらに軽くなる。FP8比で約1.8倍のメモリ効率は、「24GBで動かせるモデルの幅」を押し広げます。低ビット量子化でモデルがどう軽くなるかの全体像はメモリ帯域とtok/secの関係（「メモリ帯域とローカルLLMの tok/sec 2026年版」）と合わせて見ると効きが分かります。
- GPU世代選びの新しい判断軸になる。FP4ネイティブの高速化・省電力をフルに享受できるのは Blackwell（RTX 5090 / 5080 / 5070 Ti 等）。Ada（RTX 40）以前ではソフト的に扱えてもハードの恩恵は限定的です。「これから組むならBlackwell世代を選ぶ理由」が一つ増えた、という意味を持ちます。
逆に言えば、すでに RTX 30/40 世代を使っていて、当面 GGUF Q4_K_M で困っていないなら、NVFP4のためだけに買い替える必要は薄い。NVFP4は「Blackwellを選ぶ追加理由」ではあっても、「旧世代を捨てる理由」ではありません。
まとめ:同じ4bitでも、ハードが直接読むかどうか
- FP8 = 8bit現行主流。Hopper / Blackwell 対応、無難なバランス
- MXFP4 = 4bit・32値ブロック共有スケール。gpt-oss 等が採用、NVFP4より粗め
- NVFP4 = 4bit・16値ブロック＋2段スケーリング（FP8＋FP32）。FP8比1.8倍効率を精度ほぼ無劣化で。Blackwell最適化
- GGUF Q4_K_M とは別物：整数 vs 浮動小数点、ソフト vs ハードネイティブ
- ローカルでの意味：llama.cppにマージ済でVRAMがさらに軽く。ただし高速化の恩恵はBlackwell世代でこそ
「4bit」という同じ言葉の裏で、整数量子化（GGUF）とハードウェアネイティブな浮動小数点（NVFP4）という別系統が並走しているのが2026年の状況です。これから AI 用途でGPUを選ぶなら、VRAM容量・帯域に加えて「FP4をハードで読めるか（＝Blackwellか）」が、効いてくる新しい一行になります。
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
- ローカルLLMの量子化フォーマットとは 2026年版（GGUF / GPTQ / AWQ / EXL2）：整数量子化の側の解説
- Tensor Core / CUDA Core / RT Core の違い 2026年版：FP4を演算するTensor Coreの正体
- メモリ帯域とローカルLLMの tok/sec 2026年版：軽量化が速度にどう効くか
よくある質問
- NVFP4 と GGUF の Q4_K_M はどちらも4bitだが何が違う?
- ビット幅は同じ4bitですが、中身が違います。GGUF の Q4_K_M は整数（int4）ベースのブロック量子化で、ソフトウェア（CPU/GPUのカーネル）で展開して計算します。NVFP4 は浮動小数点（E2M1）の4bitで、Blackwell世代のTensor Coreがハードウェアでネイティブに演算します。『同じ4bitでも、整数か浮動小数点か、ソフト実装かハード対応か』が違い、後者はBlackwell GPUでこそ速度の恩恵が出ます。
- NVFP4 を使うにはどのGPUが必要?
- FP4をネイティブに高速演算できるのは Blackwell 世代（RTX 50シリーズ / B200 など）です。第5世代Tensor CoreがFP4/FP6/FP8をハードウェアで直接扱います。Ada（RTX 40）以前のGPUでもソフトウェア的にFP4データを扱うことは可能ですが、ハードネイティブの高速化・省電力の恩恵はフルには得られません。これがGPU世代選びの新しい判断軸になります。
- NVFP4 で精度はどれくらい落ちる?
- 報告ベースで、FP8比でメモリ効率が約1.8倍になりながら、精度劣化は±0.005〜0.01ポイント程度（タスク依存）とされ、ほぼ無劣化に近い水準です。16値ごとのFP8スケール＋テンソル全体のFP32スケールという2段スケーリングが、4bitという極端な低ビットでも精度を保つ鍵になっています。
- FP4 と FP8 は何が違う?
- どちらも浮動小数点ですが、ビット幅が違います。FP8 は 1（符号）+ 4（指数）+ 3（仮数）= 8bit（E4M3 の場合）、FP4 は 1 + 2 + 1 = 4bit（E2M1）です。仮数が3bitから1bitへ落ちる分、FP4 のほうが表現が粗い代わりにメモリは半分・計算は速くなります。FP4 が「仮数1bitしかないのに精度が保てる」のは、後段のスケーリング（NVFP4 なら16値ブロック＋テンソル全体の2段スケール）で局所の大きさを補正しているためです。
- MXFP4 と NVFP4 はどちらが精度が高い?
- NVFP4 のほうが高精度です。両方ともビット幅は4bit（E2M1）ですが、スケールの細かさが違います。MXFP4 は32値ブロックごとに1つの共有スケール（しかも型はべき乗で粗め）。NVFP4 はその半分の16値ブロックに区切り、さらにスケール自体を FP8(E4M3) で持ち、加えてテンソル全体の FP32 スケールを重ねる2段構成です。細かいブロック＋高精度なスケール型の組み合わせが、同じ4bitでも NVFP4 が MXFP4 を上回る理由です。
- MXFP4 は Blackwell でしか使えない?
- MXFP4 / NVFP4 ともにハードウェアでネイティブに高速演算できるのは Blackwell 世代の第5世代 Tensor Core です。MXFP4 は OpenAI gpt-oss 系などで実装事例があり、NVFP4 は NVIDIA が Blackwell 向けに最適化した独自フォーマットという立ち位置で、両方ともネイティブの恩恵を受けるGPUは現状 Blackwell に限られます。
- Blackwell の FP8 と Hopper の FP8 は同じ?
- FP8 自体は Hopper（H100）と Blackwell（B200 / RTX 50）の両世代で対応しており、形式（E4M3 / E5M2）も共通です。世代差として大きいのは FP8 そのものではなく、Blackwell で FP4（MXFP4 / NVFP4）がハードネイティブに新規追加された点で、Hopper には無いハードFP4 対応が Blackwell の差別化要素になっています。
- RTX 40（Ada）で NVFP4 は使える?
- ソフトウェア上で FP4 データを扱うこと自体は可能ですが、Ada 世代の Tensor Core はネイティブで FP4 を演算できないため、Blackwell が持つハード高速化・省電力の恩恵はフルには得られません。NVFP4 / MXFP4 のメリットを丸ごと享受したいなら Blackwell 世代を選ぶ、というのが GPU 世代選びの新しい判断軸になります。