ローカルLLM 日本語性能比較 2026年版：Qwen3.5 / Gemma 4 / Llama 4 / Sarashina2 / PLaMo 2 / ELYZA を VRAM・日本語精度・速度で選ぶ
ローカルLLMで日本語を使うならどのモデルか。Qwen3.5・Gemma 4・Llama 4 と国産の Sarashina2・PLaMo 2・ELYZA を、日本語の自然さ・必要VRAM・量子化別の動かしやすさ・tok/secで横断比較。VRAM帯ごとに日本語実用の現実解を整理しました。
- #ローカルLLM
- #日本語LLM
- #Qwen3
- #Gemma 4
- #Llama 4
- #Sarashina2
- #PLaMo
- #ELYZA
- #VRAM
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。
結論：日本語をローカルで賢く使いたいなら、まず Qwen3.5 系（14B以上が積めるなら最有力）。VRAM 8GB なら Qwen3.5 8B か Llama-3-ELYZA-JP-8B、24GB あれば Qwen3.5 32B か Gemma 4、巨大モデルを乗せたいなら統合メモリの Mac / Strix Halo で Llama 4 や Qwen の大型 MoE。日本語の語彙・敬語・商用ライセンスの明快さを最優先するなら国産の Sarashina2 / PLaMo 2 / ELYZA が安定枠です。
「ローカルLLMを日本語で使いたい。結局どれが一番賢いのか」。この問いに正面から答えます。海外発のトップモデル（Qwen3.5 / Gemma 4 / Llama 4）と、国産の Sarashina2 / PLaMo 2 / ELYZA を、①日本語の自然さ ②必要VRAM ③量子化別の動かしやすさ ④想定 tok/sec の4軸で横断比較します。
最初に前提を明示します。本記事の日本語品質評価は、公開ベンチ（Nejumi リーダーボード等）や r/LocalLLaMA・国内 note / Qiita の実利用報告を集約した定性評価が中心です。iris-lab の自前実測ではなく、数値は公開ベースのレンジとして読んでください。Phase 1 で実機データを追記する前提のスナップショットです。
結論から：VRAM帯別の「日本語実用の最有力」早見表
迷ったらこの表から入ってください。Q4_K_M（実用量子化）を基準にしています。
| VRAM帯 | 動かせる規模 | 日本語実用の最有力 | ひとことメモ |
|---|---|---|---|
| 8GB | 7〜8B | Qwen3.5 8B / Llama-3-ELYZA-JP-8B | チャット・要約・短文の下書きまで |
| 16GB | 13〜14B | Qwen3.5 14B / Gemma 4（中型） | 日常実用の快適ライン |
| 24GB | 30〜32B | Qwen3.5 32B / Gemma 4 | 論理・コードが安定する帯 |
| 48GB（5090級+α / 3090×2） | 70B Q4 | Llama-3.1-ELYZA-JP-70B / Qwen 大型 | 業務エージェント水準 |
| 128GB+（Mac / Strix Halo） | 70B〜100B+ MoE | Llama 4 / Qwen 大型 MoE | 速度より「乗る」を取る帯 |
VRAM容量で「乗るモデルの上限」がほぼ決まり、その範囲でどれが日本語で賢いかを選ぶ、という順番が失敗しません。容量の決まり方そのものは「VRAM別 ローカルLLMモデル早見表 2026年版」で詳しく扱っています。
比較するモデル6系統の前提（2026年6月時点）
バージョンと素性を先に揃えます。ローカルLLMはバージョン番号で性能が大きく動くので、ここを取り違えると比較が崩れます。
海外発のトップ3
- Qwen3.5 系（Alibaba）：2025年4月の Qwen3 から世代を重ね、2026年時点ではローカルで動くモデルの日本語性能トップ級。1.7B〜32B の Dense に加え、大型は MoE（例：一部だけ活性化して速い構成）を採用。119言語対応で日本語の語彙も素直。
- Gemma 4（Google DeepMind）：2026年4月2日公開。全モデル Apache 2.0、マルチモーダル・思考モード・ネイティブ関数呼び出しに対応。論理・数学が安定し、ライセンスが明快で商用に組み込みやすい。
- Llama 4（Meta）：MoE を採用し、巨大コンテキストと効率を両立。単体を素で日本語チャットに使うより、ファインチューニング・大型運用の土台として強い系統。
国産の日本語特化3つ
- Sarashina2 / Sarashina2.2（SB Intuitions）：国産フルスクラッチ。Sarashina2.2 は 0.5B / 1B / 3B の軽量帯が中心で、家庭用PCでも動く手軽さが魅力。デジタル庁のガバメントAI公募でも採択された実績がある。
- PLaMo 2（Preferred Networks）：PLaMo 2 8B などを公開。PLaMo Community License による商用利用条件が用意され、国産の純度を重視する用途で選ばれる。同じくガバメントAI公募で採択実績。
- ELYZA（Llama ベース）：Llama-3-ELYZA-JP-8B（8B）や Llama-3.1-ELYZA-JP-70B（70B）など、Meta の Llama に日本語追加学習を施した系統。8B はローカルの定番、70B は国産系で最上位の実力帯。
国産3つは「フルスクラッチ（Sarashina2 / PLaMo 2）」と「Llama ベースの日本語強化（ELYZA）」で素性が違います。語彙の素直さや商用ライセンスの明快さを買うなら国産、サイズあたりの汎用性能を買うなら海外発、という大きな軸で捉えると整理しやすいです。
4軸の横断比較表
Q4_K_M を基準に、ファイルサイズ・必要VRAM・日本語の手触り・想定 tok/sec を1枚に並べます。tok/sec は短文プロンプト・llama.cpp 系・ミドル〜ハイのGPU（RTX 4090〜5090級）での公開報告レンジで、環境で大きく揺れます。
| モデル | パラメータ | Q4_K_M サイズ目安 | 必要VRAM目安 | 日本語の手触り（定性） | 想定 tok/sec |
|---|---|---|---|---|---|
| Qwen3.5 8B | 8B | 約 5GB | 8GB〜 | 軽量帯では随一の自然さ | 40〜80 |
| Qwen3.5 14B | 14B | 約 9GB | 12〜16GB | 日常実用で破綻が少ない | 30〜60 |
| Qwen3.5 32B | 32B | 約 20GB | 24GB〜 | 論理・コードまで安定 | 20〜40 |
| Gemma 4（中型） | 中型 | 約 9〜18GB | 16〜24GB | 論理・数学が堅実、敬語も自然 | 25〜50 |
| Llama 4（MoE 大型） | 大型 MoE | 数十GB超 | 48〜128GB+ | 素の日本語より運用基盤向き | 環境依存 |
| Sarashina2.2-3B | 3B | 約 2GB | 8GB未満でも可 | 軽さ最優先、短文で素直 | 60〜100+ |
| PLaMo 2 8B | 8B | 約 5GB | 8GB〜 | 国産純度・語彙の素直さ | 40〜80 |
| Llama-3-ELYZA-JP-8B | 8B | 約 5GB | 8GB〜 | 日本語特化8Bの定番 | 40〜80 |
| Llama-3.1-ELYZA-JP-70B | 70B | 約 40〜43GB | 48GB〜 | 国産系で最上位の総合力 | 10〜30 |
サイズと量子化の関係（なぜ70Bが約40GBに収まるか）は「ローカルLLM 量子化ベンチマーク 2026年版」で詳説しています。「Q4で十分か、Q5/Q8に上げるべきか」の判断軸もそちらにまとめました。
用途別の現実解
日本語ローカルLLMは「何に使うか」で最適が変わります。代表的な4パターンに割り当てます。
| 用途 | 最有力 | 理由 |
|---|---|---|
| 8GBノートでチャット・要約 | Qwen3.5 8B / Llama-3-ELYZA-JP-8B | 軽量帯で日本語が最も崩れない |
| 24GBデスクトップで仕事の主力 | Qwen3.5 32B / Gemma 4 | 論理・コード・長文が安定する帯 |
| 商用組み込み・ライセンス明快さ重視 | Gemma 4（Apache 2.0）/ 国産各モデル | 利用条件が読みやすく社内導入しやすい |
| 国産純度・日本語語彙の素直さ重視 | Sarashina2 / PLaMo 2 / ELYZA | 敬語・固有名詞・語彙選択が日本語ネイティブ寄り |
「とにかく日本語で賢い1本」を選ぶなら、積めるVRAMの上限で Qwen3.5（8B → 14B → 32B）を選ぶのが2026年6月時点の手堅い第一候補です。そのうえで、ライセンスの明快さや国産純度といった性能以外の条件が効くなら Gemma 4 や国産モデルへ振る、という二段構えが実務的です。
日本語ベンチの見方：数値の罠を3つ
「日本語性能」を数値で語るときに踏みやすい罠を挙げます。
- 総合ベンチ ≠ あなたの用途：Nejumi 等の総合スコアが高くても、コード生成や長文要約のような特定タスクでは順位が入れ替わります。自分の典型タスクで2〜3モデルを実際に叩くのが最終判断です。
- 量子化で日本語が落ちることがある：英語より日本語の方が量子化劣化に敏感、という報告は根強くあります。8B を Q4 まで落として日本語が荒れたら、Q5/Q6 に上げるか14Bに移るのが先決です。
- バージョン差が世代差より大きい：「Qwen は日本語が良い」も、3 系と 3.5 系では別物です。引用する数値は必ずバージョンと公開時期をセットで確認してください。
モデル選定の総論（用途×VRAM×日本語の3軸での選び方）は「ローカルLLM モデルの選び方ガイド 2026年版」にまとめてあります。本記事の「日本語特化比較」と2本セットで読むと、選定の軸が立体的に揃います。
入手先・関連商品
当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。
ローカルLLMの日本語実用は「どのモデルか」と同じくらい「どれだけVRAMを積めるか」で決まります。本文で触れたVRAM帯に対応するGPU／PCの入手先です。
8〜16GB帯（8B〜14Bの日本語モデル向け）
- NVIDIA GeForce RTX 5060 Ti 16GB を Amazon.co.jp で見る：8B〜14Bを快適に回す入門の本命
24〜32GB帯（32B級・Qwen3.5 32B / Gemma 4 向け）
- NVIDIA GeForce RTX 5090 を Amazon.co.jp で見る：32GBで32B級を快適、70B Q4もギリギリ射程
大型モデル・統合メモリ帯（70B〜MoE 向け）
- Apple Mac Studio M3 Ultra を Apple公式サイトで見る：Unified Memoryで70B〜大型MoEを「乗せる」用途
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
よくある質問
- ローカルLLMで日本語が一番自然なモデルはどれですか？
- 2026年6月時点では Qwen3.5 系（特に14B以上）が、ローカルで動くモデルとしては日本語の自然さ・指示追従ともにトップクラスという報告が多数です。国産では用途を絞れば Sarashina2 / PLaMo 2 / ELYZA も実用十分で、特に「日本語の語彙・敬語・固有名詞の扱い」を重視するなら国産モデルが安定します。ただし日本語品質は定性評価が中心で、本記事の評価も公開報告ベースであり iris-lab 実測ではない点に留意してください。
- 8GB VRAM でも日本語ローカルLLMは実用になりますか？
- なります。8GB なら 7〜8B クラスを Q4_K_M で動かす前提で、Qwen3.5 8B / Llama-3-ELYZA-JP-8B / Sarashina2.2-3B あたりが現実解です。チャット・要約・短文の下書きなら十分実用ですが、長文の論理一貫性や難しめのコード生成は 14B 以上にVRAMを積んだ方が安定します。
- 国産LLM（Sarashina2・PLaMo・ELYZA）は Qwen より日本語が上ですか？
- 一概には言えません。総合的なベンチや指示追従では Qwen3.5 系が上回る場面が多い一方、国産モデルは日本語の語彙選択・敬語・国内固有名詞の扱いが素直で、用途を絞れば体感品質で勝つこともあります。サイズあたりの汎用性能なら Qwen、日本語に寄せた手触りや商用ライセンスの明快さなら国産、という選び方が現実的です。