Windows vs Linux でローカルLLMはどっちが速いか 2026年版：WSL2 vs Ubuntu native の tok/sec を整理する
ローカルLLM を Windows native・WSL2・Linux native の3環境で動かしたとき、tok/sec はどれだけ違うのか。NVIDIA GPU では3者ほぼ同等で、Windows native も WSL2 も Linux native の90〜100%。差が出るのは ROCm（AMD GPU）と巨大モデルのロード時間という、2026年の現実解を実測ベンチの傾向から整理します。
- #ローカルLLM
- #WSL2
- #Linux
- #Windows
- #Ollama
- #llama.cpp
- #tok/sec
- #ベンチマーク
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。
結論：NVIDIA GPU を使う限り、Windows native・WSL2・Linux native で tok/sec はほぼ変わりません。各種公開ベンチでは Windows native vs WSL2 が誤差レベル、WSL2 は Linux native の90〜100%、と報告されています。生成（decode）が GPU 側のメモリ帯域で律速されるためで、OS を入れ替えても速くなりません。例外は AMD GPU（ROCm の Windows 対応がまだ限定的）と、巨大モデルの初回ロード時間（OS よりも SSD と RAM の構成で決まる）の2点だけ。「Windowsで完結したい人は WSL2 で十分、Linux移行で得られる速度メリットはほぼ無い」というのが2026年の現実解です。
「ローカルLLMをやるなら Linux のほうが速い」。これは2024年頃まで広く信じられていた感覚で、間違いではありませんでした。当時は WSL2 の GPU パススルーが不安定で、Windows 版の llama.cpp / Ollama も Linux ビルドより一歩遅れて出る、というのが普通でした。
しかし2026年現在、状況は大きく変わっています。NVIDIA ドライバ555〜575系で WSL2 の CUDA パススルーが完成形に近づき、Ollama / LM Studio / llama.cpp の Windows ビルドも Linux 版と同時期にリリースされるようになりました。この記事では、Windows native・WSL2・Linux native の3環境で tok/sec がどう変わるのかを、公開ベンチの傾向ベースで整理します（自前の新規実測ではない部分は明示します）。OS を入れ替える前に、本当に意味があるのかを見極めてください。
結論：NVIDIA GPU では3環境ほぼ同等
まず最重要の事実から。RTX 5090 / RTX 4090 / RTX 5080 など NVIDIA GPU を使う限り、Windows native・WSL2・Ubuntu native の tok/sec はほぼ同じです。公開されている各種ベンチ（Windows Central の RTX 5080 + Ollama 検証、DEV Community の Windows vs WSL 比較、insiderLLM のドキュメントなど）から傾向を整理すると、以下のようになります。
| 環境 | NVIDIA GPU の Llama 3 8B Q4_K_M 想定 tok/sec |
|---|---|
| Ubuntu 24.04 native（CUDA 12.x） | 基準（100%） |
| WSL2（Ubuntu 24.04 on Windows 11） | 約90〜100%（多くのモデルで誤差レベル） |
| Windows native（Ollama / LM Studio） | 約87〜100%（Linux native 比で最大10〜13%差） |
ポイントは、**差があるのは「OS 起因」ではなく「ランタイムのビルド差」**であることです。Windows 版の llama.cpp は CUDA Graphs の最適化が一部の Linux 版より遅れて入る、Ollama の Windows 版は CUDA カーネルのプリコンパイルバージョンが微妙に異なる、といった小さな差が積み重なる結果10%程度になるだけで、OS の I/O やプロセススケジューラが律速になっているわけではありません。
なぜ差が出ないのか：decode は GPU メモリ帯域律速
LLM 推論には大きく分けて prefill（プロンプト処理） と decode（トークン生成） の2フェーズがあります。
- decode：1トークンずつ生成する逐次処理。GPU の VRAM から重みをまるごと読み出しながら計算するため、メモリ帯域がそのまま律速要因。RTX 5090 のメモリ帯域 約1.8 TB/s が天井で、ここに CPU や OS のレイヤーは関わってこない
- prefill：プロンプトを一気に処理。GPU の演算性能（TFLOPS）が効くフェーズ。こちらも GPU 側で完結する
つまり、ローカルLLM の主役である decode 速度（生成中の tok/sec）は、ほぼ純粋に「GPU の VRAM 帯域と量子化フォーマット」で決まります。CPU / RAM / OS / ストレージは、GPU の足を引っ張らない限りどれを選んでも結果は同じです。詳しくは「VRAM とは何か。ローカルLLM推論で必要な量の決まり方 2026年版」「LLM プロンプト処理（prefill）ベンチマーク 2026年版」もあわせてどうぞ。
環境別の現状：2026年6月時点
それぞれの選択肢を「どこが向いていて、どこに落とし穴があるか」で整理します。
Windows native（Ollama / LM Studio）
- 向いている人：Linux を触らずに、最小限の操作でローカルLLMを動かしたい
- 強み：インストーラ1本で動く（Ollama for Windows / LM Studio）、起動と停止が GUI で完結、Windows のフォントや IME がそのまま使える
- 弱み：vLLM が（公式には）動かない、Linux 専用の最新ライブラリ（Triton、Flash Attention の特定ビルド、KV cache 量子化系の最新オプション）は使えない場合がある
- 想定 tok/sec：Linux native 比で 約87〜100%。Llama 3 8B Q4_K_M で115〜125 tok/s（RTX 4090 想定、ngl=99、batch 1）あたり
Ollama / LM Studio で会話するだけなら、Windows native で何の問題もありません。差が出るのは「Ollama / LM Studio から外に出たいとき」だけです。
WSL2（Ubuntu on Windows 11）
- 向いている人：Windows をホストにしつつ、Linux 専用ツールも使いたい
- 強み：CUDA パススルーが安定（NVIDIA ドライバ555〜575系）、Linux native の tok/sec を 90〜100% 再現、vLLM・Triton・最新 llama.cpp ビルドも使える
- 弱み：初回セットアップが Windows native よりひと手間（WSL2 の有効化、CUDA Toolkit のインストール）、メモリ周りで
.wslconfigの調整が必要なことがある - 想定 tok/sec：Linux native 比で 約90〜100%（Llama 3 8B Q4_K_M で122〜128 tok/s 程度）
WSL2 は2024年頃の「不安定」「Linux に比べて遅い」というイメージが残っている人が多いですが、2026年6月時点では実用上 Linux native と区別がつきません。
Ubuntu native（または Linux native）
- 向いている人：マルチGPUで vLLM をスループット最大化したい、ROCm を使う、サーバー用途で24時間運用したい
- 強み：vLLM の TP=N が一番素直に動く、ROCm / CUDA / Triton 含めてすべての最新ライブラリが最速で入る、サーバー用途で安定
- 弱み：Windows の業務アプリ（Office / Adobe / 各種 IME）が動かない、Wayland / X11 の選択など最初の調整が増える
- 想定 tok/sec：基準値（Llama 3 8B Q4_K_M で122〜128 tok/s 程度）
「2台分の SSD 空きがあるなら、デュアルブートで両方を持っておく」が、AI 開発機として一番運用が楽になる構成です。24時間稼働の母艦を Linux で組む場合の構成は「自宅ローカルLLMサーバー構築ガイド 2026年版」で扱っています。
OS よりも先に効く要因：モデルロード時間
OS を入れ替えて速くしたい人が、多くの場合「速度の不満」と思っているものの正体は、実は モデルの初回ロード時間 だったりします。これは OS よりも SSD の世代と容量、システム RAM の容量で決まります。
| モデル | サイズ | Gen4 SSD でのロード | Gen5 SSD でのロード |
|---|---|---|---|
| Llama 3.3 70B Q4_K_M | 約 40GB | 約 6.5 秒 | 約 3.5 秒 |
| Qwen 2.5 72B Q5 | 約 50GB | 約 8.0 秒 | 約 4.3 秒 |
| DeepSeek-V3 Q4 | 約 85GB | 約 13.5 秒 | 約 7.2 秒 |
1回のロード時間は数秒〜10秒台ですが、複数モデルを切り替えながら作業する場合、ロード時間は1日に何分も累積します。Windows と Linux でこの数値はほぼ同じ（OS 側のキャッシュが効くと多少差が出る程度）なので、ここを縮めたいなら OS ではなく Gen5 SSD（Samsung 9100 PRO など）+ 64GB 以上のシステム RAM に投資するのが正解です。詳しくは「Gen4 vs Gen5 SSD の違いと体感差 2026年版」「ローカルLLM向け SSD・ストレージ構成ガイド 2026年版」を参照してください。
ROCm（AMD GPU）の場合は話が変わる
ここまで NVIDIA GPU を前提に書きましたが、AMD GPU（ROCm）を使う場合は Windows と Linux の差が大きく出ます。
- ROCm の Windows 対応：2026年に入って Radeon AI PRO R9700 とともに Windows 版 ROCm が拡充されつつあるものの、対応するモデル・ランタイムはまだ限定的。Linux 版 ROCm が先に新機能を取り込み、Windows 版は数ヶ月遅れる、というパターンが続いている
- llama.cpp の Vulkan バックエンド：Windows でも AMD GPU を一定速度で動かせるが、ROCm/CUDA に比べると最適化レベルが下がるケースがある
- Linux native + ROCm：AMD GPU の本来の性能を引き出せる組み合わせ。R9700 や Strix Halo（Ryzen AI Max+ 395）でローカルLLMを回すなら、Ubuntu 24.04 + ROCm が現状のベストプラクティス
AMD GPU でローカルLLMを本気で回すなら、Linux native か WSL2 + ROCm を前提に組むのが2026年6月時点の現実解です。詳しくは「ROCm vs CUDA ローカルLLM 2026年版」「Radeon AI PRO R9700 はローカルLLM の選択肢になるか 2026年版」も参照してください。
移行の閾値：何 tok/sec の差なら OS を変える価値があるか
「10%差ならどうせ気にならない」のか、「10%でも積み重なれば意味があるのか」。これは利用パターンで答えが変わります。
- 対話用途（チャットUIで会話）：10〜20 tok/sec の差は体感ほぼゼロ。OS を入れ替えるコストに見合わない
- エージェント・コード生成（連続して大量トークンを出す）：10%差が累積で効く。Linux native は検討の余地あり
- サーバー用途・多人数の同時接続：vLLM の TP=N が安定して動く Linux native 一択。WSL2 でも代替可だが、本番運用は Linux native が読みやすい
- 個人開発で「とりあえず動けばいい」：Windows native が一番手間が少ない。困ったら WSL2 を後から足すで十分
要するに「サーバー用途以外は OS で速度を稼ぐ意味は薄い」が結論です。GPU を1ランク上げる（RTX 4090 → 5090）ほうがリターンは大きい。GPU 選びは「ローカルLLM 用 GPU 選び方ガイド 2026年版」を参照してください。
マルチGPU・vLLM のスループット用途では Linux 一択
NVIDIA GPU を1枚で使うなら OS は何でもいい、と書きましたが、マルチGPU + vLLM の TP=N（tensor parallel）構成では Linux native が圧倒的に楽です。
- vLLM の Windows native は2026年6月時点でも公式サポート外。WSL2 経由なら動くが、マルチGPUの NCCL 設定で手間がかかる
- マルチGPUの場合、GPU 間通信が PCIe 経由で頻繁に起きるため、ホスト OS の挙動が結果に出やすい
- 24時間運用するなら Windows Update の強制再起動を切る手間も馬鹿にならない
RTX 5090 を2枚挿してスループットを稼ぎたい場合の実態は「RTX 5090 2枚挿しマルチGPUでローカルLLMは本当に速くなるのか」で扱っています。マルチGPUの母艦 CPU 選びは「Threadripper 9000（Zen 5）はローカルLLM・AI開発で買いか 2026年版」も合わせてどうぞ。
まとめ：用途別の現実解
| 用途 | 推奨 OS | 理由 |
|---|---|---|
| Ollama / LM Studio で会話するだけ | Windows native | 一番手間が少ない、速度差は誤差 |
| Windows をホストに使いつつ Linux ツールも触る | Windows + WSL2 | Linux native の90〜100%、ツールを両取り |
| 1枚 GPU でしっかり開発・エージェントを回す | Windows + WSL2 or Linux native | 体感差は無いので好み |
| マルチGPU + vLLM でスループット狙う | Ubuntu 24.04 native | vLLM / NCCL が一番素直に動く |
| 24時間稼働の自宅 LLM サーバー | Ubuntu 24.04 native | 安定性・運用コスト最小 |
| AMD GPU（ROCm 利用） | Ubuntu 24.04 native または WSL2+ROCm | Windows 版 ROCm はまだ限定的 |
「Windows で完結したいけど速度が心配」という人へは、まず WSL2 を入れて Ubuntu の Ollama / llama.cpp を動かすのが、コストと速度の両面で最も合理的です。Linux native に移行する閾値は「マルチGPU + vLLM を本格運用する」「ROCm を使う」「24時間サーバーで安定運用したい」のいずれかが要件に入ったとき、と覚えておいてください。
入手先・関連商品
当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。
OS よりも先に効く3点（GPU 帯域・GPU 種別・SSD 世代）に絞って候補を挙げます。
- GeForce RTX 5090 を Amazon.co.jp で見る：1.8 TB/s 級の VRAM 帯域で、ローカルLLM の decode 律速をそのまま底上げ。OS を入れ替えるよりリターンが大きい
- Radeon AI PRO R9700 を Amazon.co.jp で見る：ROCm を本気で回すなら。Windows 版 ROCm はまだ限定的なので Linux native か WSL2+ROCm 前提
- Samsung 9100 PRO 2TB を Amazon.co.jp で見る：Gen5 NVMe、70B Q4 モデルの初回ロードを Gen4 比で約半分に。OS よりこちらの体感差が大きい
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
- 自宅ローカルLLMサーバー構築ガイド 2026年版：Linux native 前提の24時間稼働サーバー構成
- ローカルLLM 推論を速くするチューニング設定ガイド 2026年版：OS よりまず効く llama.cpp / Ollama の設定
- ローカルLLMを動かすPCの最低スペック 2026年版：Llama 3.3 70B が動くまで：GPU・VRAM・SSD の構成判断
よくある質問
- Windows と Linux でローカルLLMの tok/sec はどれくらい違う？
- NVIDIA GPU の llama.cpp / Ollama を使う限り、Windows native ≒ WSL2 ≒ Linux native でほぼ差が出ません。各種公開ベンチでは Windows native vs WSL2 が誤差レベル（多くて10〜13%差）、WSL2 は Linux native の90〜100%、と報告されています。これは生成（decode）が GPU 側のメモリ帯域で律速されていて、OS のスケジューラやストレージは律速要因に入ってこないためです。差が明確に出るのは AMD GPU で ROCm を使う場合と、巨大モデルの初回ロード時間です。
- Linux に移行したほうが ローカルLLM は速くなりますか？
- NVIDIA GPU を使うなら、Linux に移行しても tok/sec はほとんど変わりません。速さを求めて OS を入れ替えるより、GPU のグレードを上げるかモデル / 量子化を見直すほうがリターンが大きい場合がほとんどです。一方、AMD GPU で ROCm を使う場合は Windows 版 ROCm の対応モデルがまだ限定的なので、Linux native のほうが現実的に速くなります。Windows で完結したい人はまず WSL2 を入れて Ubuntu の Ollama / llama.cpp を動かすのが、コスト・速度の両面で合理的です。
- WSL2 を入れる価値はある？素の Windows のままでもいい？
- Ollama / LM Studio で会話するだけなら素の Windows で十分です。WSL2 を入れる価値があるのは、Linux 専用の AI ツール（vLLM、ROCm 上の特定ライブラリ、最新の llama.cpp ビルド、Python の Triton 系など）を使いたいとき。WSL2 の GPU パススルーは安定していて、NVIDIA ドライバ555〜575系では Linux native とほぼ同等の性能が出ます。Windows native と WSL2 を併用しておけば、用途で使い分けられます。
- ROCm（AMD GPU）の場合は Linux 一択？
- 現状はほぼ Linux 一択です。Radeon AI PRO R9700 などのAMD GPU でローカルLLMを動かす場合、ROCm の正式サポートは Linux（Ubuntu 22.04 / 24.04 など）が中心で、Windows 版 ROCm はリリース直後で対応モデル・対応ランタイムが限定的です。Windows で完結したいなら DirectML 経由（llama.cpp の Vulkan バックエンド）という選択肢もありますが、CUDA + NVIDIA 同等の速度は出にくいのが2026年の現状です。AMD GPU で本格的にローカルLLMを回すなら、Linux native か WSL2 + ROCm を前提に組むのが現実解です。