NVFP4 vs MXFP4 vs FP8 とは 2026年版:Blackwellの4bit浮動小数点をローカルLLMで使う

結論:NVFP4 は Blackwell（RTX 50 / B200）世代のTensor Coreがネイティブ対応する「4bit浮動小数点」で、FP8比で約1.8倍のメモリ効率を精度ほぼ無劣化で実現します。FP8は8bitの現行主流、MXFP4はブロックスケール式の4bit、NVFP4はNVIDIA独自で16値ブロック＋2段スケーリングによりMXFP4より高精度。GGUFのQ4_K_M（整数4bit・ソフト実装）とは『同じ4bitでも整数か浮動小数点か、ソフトかハードか』が違います。2026年3〜4月にllama.cppへFP4がマージされ、個人のローカルLLMでも現実の選択肢になりました。ただしハードネイティブの恩恵はBlackwell世代でこそ出ます。

NVFP4 / MXFP4 / FP8 早見表

判断に必要な要点だけを 1 枚にまとめます。

フォーマット	ビット幅・内訳	スケール構成	ハード対応	FP8 比メモリ効率	用途
FP8(E4M3 / E5M2)	8bit / 1+4+3	テンソル / チャネル単位	Hopper / Blackwell	基準	現行主流の推論・学習用
MXFP4	4bit / E2M1	32 値ブロック共有(べき乗)	Blackwell	約 1.8 倍	OpenAI gpt-oss 等
NVFP4	4bit / E2M1	16 値ブロック(FP8) + テンソル全体(FP32)	Blackwell	約 1.8 倍	NVIDIA Blackwell 最適化

3 行で言うと、FP8 は「8bit の無難な現行主流」、MXFP4 は「4bit で 32 値ごとの粗いスケール」、NVFP4 は「4bit で 16 値ごと + 2 段の細かいスケール」です。ビット幅は MXFP4 と NVFP4 で同じですが、スケール構成の違いで NVFP4 のほうが精度が高くなります。

GPUのスペック表や量子化モデルの説明で「FP8対応」「NVFP4」「MXFP4」といった言葉を見て、何が違うのか分からない、という人は多いはずです。これらは 数値をどう小さく表現するか の規格で、ローカルLLMの「VRAMにどれだけモデルが乗るか」「どれだけ速く動くか」を直接左右します。本記事では3つのフォーマットの違いを、仕組みと数値から噛み砕きます。

整数ベースの量子化（GGUF / GPTQ / AWQ / EXL2）を先に知りたい場合は「ローカルLLMの量子化フォーマットとは 2026年版」を参照してください。本記事はその一段下、ハードウェアがネイティブ対応する浮動小数点フォーマットという別レイヤーの話です。

NVFP4(NVIDIA FP4) とは — 一言で言うと

NVFP4 は、NVIDIA が Blackwell 世代（RTX 50 / B200）の第5世代 Tensor Core 向けに定義した 4bit 浮動小数点フォーマット（E2M1） です。16値ブロックごとの FP8(E4M3) スケールとテンソル全体の FP32 スケールを重ねた 2段スケーリング により、FP8 比で 約 1.8 倍のメモリ効率 を精度ほぼ無劣化で実現します。同じ 4bit の MXFP4 よりスケール単位が細かく、スケール型も高精度なため、精度は MXFP4 より高い水準です。ハードネイティブの高速化・省電力の恩恵を受けられるのは Blackwell 世代 GPU のみで、Ada(RTX 40) 以前の世代ではソフト的にデータを扱えても加速は限定的です。

まず「浮動小数点」と「ビット幅」の関係

数値を表すビットが少ないほど、メモリは小さく、計算は速くなります。代わりに表現できる値が粗くなり、精度が落ちます。LLMの重みを軽くする量子化は、この「ビットを削る」操作です。

浮動小数点は、ビットを 符号 / 指数（exponent）/ 仮数（mantissa） に割り振って数値を表します。表記の E〇M〇 はこの内訳です。

• FP16 = 1 + 5 + 10 = 16bit（高精度・重い）
• FP8 (E4M3) = 1 + 4 + 3 = 8bit
• FP4 (E2M1) = 1 + 2 + 1 = 4bit（極端に粗い）

ここで素朴な疑問が出ます。「FP4は仮数1bitしかない。そんな粗い表現で精度が保てるのか?」。その答えが、後述する スケーリング です。これが NVFP4 と MXFP4 を分ける核心になります。

FP16 → FP8 → FP4 の系譜:ビット幅が半分になるたびに何が変わるか

「fp16 fp8 fp4」と並べて検索する人が実際に知りたいのは、この 3 世代がどう進化してきたかの流れです。ビット幅が半分になるたびに、メモリ効率が倍になる一方で、素の表現力は指数関数的に粗くなります。この矛盾をどう乗り越えたかがそのまま各世代の設計思想になっています。

• FP16(1 + 5 + 10 = 16bit) — ディープラーニングの学習・推論の長年の標準。表現力に十分な余裕があるためスケーリング補正は不要
• FP8(1 + 4 + 3 = 8bit、E4M3 / E5M2) — Hopper 世代で導入された「実用の下限」。テンソル / チャネル単位のスケーリングで学習も回せる水準まで押し込んだ
• FP4(1 + 2 + 1 = 4bit、E2M1) — 仮数 1bit まで削った極端な設計。素のままでは精度が破綻するため、ブロック単位の細かいスケーリング(MXFP4 は 32 値、NVFP4 は 16 値 + テンソル全体の 2 段)で局所補正を入れて実用にしている

3 世代で共通しているのは「ビット幅を削っても精度を保つためにスケーリングを段階的に精緻化してきた」流れです。FP16 → FP8 で「テンソル / チャネル単位」、FP8 → FP4 で「ブロック単位 + 2 段構成」まで補正の粒度が上がりました。「同じ 4bit でも整数量子化(GGUF Q4_K_M)と浮動小数点(NVFP4)で挙動が違う」のは、この補正の入れ方が根本から異なるためです。

3フォーマットの違い

	FP8	MXFP4	NVFP4
ビット幅	8bit	4bit	4bit
数値形式	E4M3 / E5M2	E2M1	E2M1
スケール単位	テンソル/チャネル	32値ブロック共有	16値ブロック＋2段
スケールの型	なし	べき乗（粗め）	FP8(E4M3)＋FP32
精度	高	中	高（MXFP4より上）
主な採用	現行主流	OpenAI gpt-oss 等	NVIDIA（Blackwell最適化）
ハード対応	Hopper / Blackwell	Blackwell	Blackwell

3つを言葉で整理すると次のとおりです。

• FP8：8bitの現行主流。Hopper（H100）/ Blackwell が対応し、精度と軽さのバランスが良い「いま一番無難」なフォーマット。
• MXFP4：4bit。32値ごとに1つの共有スケール（Microscaling）を持たせて精度を補う方式。OpenAIのgpt-oss系などが採用。スケール単位が大きめで、NVFP4よりは粗い。
• NVFP4：NVIDIA独自の4bit。MXFP4より細かい 16値ブロック に区切り、さらに後述の2段スケーリングで精度を底上げした方式。Blackwell向けに最適化されている。

NVFP4 の核心:2段スケーリング

NVFP4 が「4bitなのにほぼ無劣化」を実現する仕組みが 2段スケーリング です。各重みは E2M1（4bit）で格納しつつ、スケール（倍率）を2階層で持たせます。

1. 16値ごとに1つの FP8(E4M3) スケール：細かいブロック単位で局所的な大きさを補正する。MXFP4の32値より細かく、かつスケール自体をFP8という比較的高精度な型で持つ。
2. テンソル全体に1つの FP32 スケール：全体の大局的なレンジを合わせる。

この「細かいブロックごとの補正（FP8）」＋「全体の補正（FP32）」の二段構えにより、仮数1bitの粗いFP4でも、実効的な精度をFP8に近い水準まで引き上げます。報告ベースでは、FP8比でメモリ効率が約1.8倍になりながら、精度劣化は ±0.005〜0.01ポイント程度（タスク依存）に収まるとされます。

MXFP4が「32値共有・スケールはべき乗で粗め」なのに対し、NVFP4は「16値・スケールはFP8で細かい」。この差が、同じ4bitでもNVFP4のほうが精度が高い理由です。

GGUF の Q4_K_M と何が違うのか(最大の混乱点)

ここが読者が最も混乱する所なので、はっきり分けます。「Q4_K_M も NVFP4 も同じ4bitでしょ?」。ビット幅は同じですが、別物です。

	GGUF Q4_K_M	NVFP4
数値の種類	整数（int4） ベース	浮動小数点（E2M1）
計算の担い手	ソフトウェア（カーネルで展開）	ハードウェア（Tensor Coreがネイティブ）
動く環境	CPU / 各種GPU / Mac 幅広い	Blackwell でこそ高速
立ち位置	汎用・どこでも動く	Blackwell世代の差別化機能

• Q4_K_M = 整数ベースのブロック量子化。llama.cpp が CPU でも各種GPUでも展開して計算でき、どこでも動く汎用性が強み。
• NVFP4 = 浮動小数点4bitを Blackwell の第5世代Tensor Core がハードで直接演算する。だから対応GPUなら速く省電力だが、恩恵はBlackwell世代に偏る。

ひとことで言えば「同じ4bitでも、整数か浮動小数点か、ソフト実装かハード対応か」が違う。Q4_K_Mは互換性、NVFP4はBlackwellでの速度・効率と、狙いどころそのものが異なります。Tensor Core が何をする回路かは「Tensor Core / CUDA Core / RT Core の違い 2026年版」で扱っています。

RTX 40 / RTX 30 で NVFP4 は使えるか

「手持ちの RTX 4090 / RTX 3090 で NVFP4 は動くのか」という疑問への答えを、実用面と技術面の両方で切り分けます。

• ソフトウェア上で FP4 データを扱うこと自体は可能 — llama.cpp や PyTorch は FP4 のテンソルデータを CPU / 非 Blackwell GPU 上でも展開・変換できます。「NVFP4 の GGUF をロードしてエラーになる」ということはありません
• ただしハードウェアネイティブの高速化・省電力の恩恵は得られない — Ada(RTX 40)や Ampere(RTX 30)世代の Tensor Core は FP4 をハード対応していません。NVFP4 データをカーネル側で FP16 / BF16 に展開してから演算する形になるため、メモリ効率のメリット(FP8 比 1.8 倍)は残るものの、Blackwell が本来出す速度・電力効率の伸びはほぼ得られません
• 結論:「動かせる」と「速く動く」は別物 — RTX 40 / 30 世代で GGUF Q4_K_M で困っていないなら、NVFP4 のためだけに買い替える理由は薄いです。逆に「これから組む・買い替える」なら、Blackwell 世代を選ぶ理由が一つ増えたと考えるのが妥当です

Blackwell 世代の中でも RTX 50 SUPER シリーズは、無印 RTX 50 系との差分が「NVFP4 を含む FP4 サポート強化」に強く寄せられている面があるため、購入を検討中なら「RTX 50 SUPER 買うべきか 2026 年版」で世代内比較を確認してください。

ローカルLLMでの「効き方」

では、個人のローカル環境で NVFP4 / FP4 はどう効くのか。3点に整理します。

1. 2026年3〜4月に llama.cpp へFP4がマージ済み。これにより、データセンターの話だったFP4が、個人のローカル推論でも現実の選択肢になりました。TensorRT-LLM 0.17+ / vLLM / SGLang でもFP4対応が成熟しており、各推論エンジンでの性能差は「vLLM / SGLang / TensorRT-LLM 推論エンジン比較 2026 年版」で扱っています。
2. VRAMがさらに軽くなる。FP8比で約1.8倍のメモリ効率は、「24GBで動かせるモデルの幅」を押し広げます。低ビット量子化でモデルがどう軽くなるかの全体像はメモリ帯域とtok/secの関係（「メモリ帯域とローカルLLMの tok/sec 2026年版」）と合わせて見ると効きが分かります。
3. GPU世代選びの新しい判断軸になる。FP4ネイティブの高速化・省電力をフルに享受できるのは Blackwell（RTX 5090 / 5080 / 5070 Ti 等）。Ada（RTX 40）以前ではソフト的に扱えてもハードの恩恵は限定的です。「これから組むならBlackwell世代を選ぶ理由」が一つ増えた、という意味を持ちます。

逆に言えば、すでに RTX 30/40 世代を使っていて、当面 GGUF Q4_K_M で困っていないなら、NVFP4のためだけに買い替える必要は薄い。NVFP4は「Blackwellを選ぶ追加理由」ではあっても、「旧世代を捨てる理由」ではありません。

まとめ:同じ4bitでも、ハードが直接読むかどうか

• FP8 = 8bit現行主流。Hopper / Blackwell 対応、無難なバランス
• MXFP4 = 4bit・32値ブロック共有スケール。gpt-oss 等が採用、NVFP4より粗め
• NVFP4 = 4bit・16値ブロック＋2段スケーリング（FP8＋FP32）。FP8比1.8倍効率を精度ほぼ無劣化で。Blackwell最適化
• GGUF Q4_K_M とは別物：整数 vs 浮動小数点、ソフト vs ハードネイティブ
• ローカルでの意味：llama.cppにマージ済でVRAMがさらに軽く。ただし高速化の恩恵はBlackwell世代でこそ

「4bit」という同じ言葉の裏で、整数量子化（GGUF）とハードウェアネイティブな浮動小数点（NVFP4）という別系統が並走しているのが2026年の状況です。これから AI 用途でGPUを選ぶなら、VRAM容量・帯域に加えて「FP4をハードで読めるか（＝Blackwellか）」が、効いてくる新しい一行になります。

---

あなたに合うPCを診断する

用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。

→ 診断スタート

関連記事

• ローカルLLMの量子化フォーマットとは 2026年版（GGUF / GPTQ / AWQ / EXL2）：整数量子化の側の解説
• Tensor Core / CUDA Core / RT Core の違い 2026年版：FP4を演算するTensor Coreの正体
• メモリ帯域とローカルLLMの tok/sec 2026年版：軽量化が速度にどう効くか
• RTX 50 SUPER 買うべきか 2026 年版:Blackwell 世代内の NVFP4 対応比較
• vLLM / SGLang / TensorRT-LLM 推論エンジン比較 2026 年版:NVFP4 を実運用する推論エンジン側
• ローカル LLM モデル選定ガイド 2026 年版:NVFP4 で動かすべきモデルの選び方