ローカルLLM 埋め込みモデル比較 2026年版：BGE-M3 / multilingual-e5-large / GTE-large / Qwen3-Embedding / Ruri を日本語RAG 精度・速度・VRAM で選ぶ
ローカルRAG の精度は「どの LLM を選ぶか」より「どの埋め込みモデルを選ぶか」で先に決まります。日本語 RAG で使えるオープン埋め込みモデル BGE-M3 / multilingual-e5-large / GTE-large / Qwen3-Embedding / Ruri を、日本語検索精度（JMTEB / MIRACL）・埋め込み次元・多言語対応・VRAM・生成速度で並べます。ローカルLLM + ベクトルDB とのつなぎこみで最初に選ぶ 1 モデルを決める 2026 年版の判断軸ガイドです。
- #埋め込みモデル
- #embedding
- #BGE-M3
- #multilingual-e5
- #GTE
- #Qwen3-Embedding
- #Ruri
- #ローカルRAG
- #日本語embedding
- #JMTEB
- #MTEB
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。
結論：日本語ローカルRAG で「まず 1 個で始める」なら BGE-M3 か multilingual-e5-large、日本語精度最優先なら Ruri-large、日英混在で長文が多いなら BGE-M3、最新 SOTA を狙うなら Qwen3-Embedding-8B（VRAM 16GB 級）。RAG の精度はどの LLM を選ぶかより「どの埋め込みモデル + どのベクトルDB」で先に決まります。生成側の LLM を変えるより、埋め込みモデルの選定を先に固めるほうが投資対効果が高い、と覚えておくと選択順を間違えません。
ローカルRAG を組むとき、多くの人が LLM 側の議論に時間を使いますが、実際に精度を決めるのは前段の「埋め込みモデル」と「ベクトルDB」です。埋め込みモデルは 1 度決めるとインデックスを再生成するコストが重く、後から変えづらい要素でもあります。この記事は、日本語 RAG で候補になる 5 モデルの選び方を、精度・次元・VRAM・多言語対応で並べる 2026 年版の判断軸ガイドです。ベクトルDB 側の選び方は「ローカルLLM RAG用ベクトルDB比較 2026年版」で扱っていますが、こちらは「入口の埋め込み」に絞ります。
5 モデルの立ち位置
| モデル | 提供 | ライセンス | パラメータ | 埋め込み次元 | コンテキスト長 | 多言語 |
|---|---|---|---|---|---|---|
| BGE-M3 | BAAI | MIT | 約 570M | 1024 | 8,192 | 100+ 言語 |
| multilingual-e5-large | Microsoft | MIT | 約 560M | 1024 | 512 | 100+ 言語 |
| GTE-multilingual-base | Alibaba | Apache 2.0 | 約 300M | 768 | 8,192 | 70+ 言語 |
| Qwen3-Embedding-0.6B / 4B / 8B | Alibaba | Apache 2.0 | 0.6B / 4B / 8B | 可変（32〜4096） | 32,768 | 100+ 言語 |
| Ruri-large | cl-nagoya | Apache 2.0 相当 | 約 337M | 1024 | 512 | 日本語特化 |
左から右へ「シンプル → 高機能」というより、それぞれの特徴が異なる方向に振れています。BGE-M3 は 3 モード同時出力の汎用性、e5 は実装の枯れっぷり、GTE は軽量長文、Qwen3-Embedding は最新 SOTA と次元可変、Ruri は日本語精度、という並びです。
判断軸 1：日本語検索精度（JMTEB / MIRACL）
日本語 RAG で最も重要な指標が JMTEB（Japanese Massive Text Embedding Benchmark）と MIRACL-ja（Recall@100）です。JMTEB v2.0 は 2025 年に MTEB フレームワークに統合され、リーダーボードは MTEB Leaderboard の日本語カテゴリで確認できます。
2026 年 7 月時点の傾向（正確な順位は日々更新されるため参考値）:
| モデル | JMTEB 平均スコア目安 | 日本語精度の総評 |
|---|---|---|
| Ruri-large | 74〜76 | 日本語 SOTA 級。日本語のみなら最有力 |
| Qwen3-Embedding-8B | 73〜75 | 多言語 SOTA、日本語も上位帯 |
| BGE-M3 | 71〜73 | 汎用トップクラス、ハイブリッド検索で伸びる |
| multilingual-e5-large | 68〜70 | 安定した中〜上位、実装が枯れている強み |
| GTE-multilingual-base | 66〜68 | 軽量・長文の強み、精度は上位帯に一歩劣る |
数値は 2026 年 7 月時点の公開スコアの範囲で、リーダーボードの現在値は MTEB Leaderboard と JMTEB リポジトリ で最新化してください。日本語のみを扱うなら Ruri-large が有力、日英混在なら BGE-M3 か Qwen3-Embedding が穏当、というのが 2026 年時点の見立てです。
判断軸 2：埋め込み次元とインデックスサイズ
埋め込み次元は「ベクトルDB のインデックスサイズ」と「検索速度」に直結します。同じ 100 万チャンクを保存する場合の目安を並べます。
| モデル | 次元 | 100 万チャンクの生ベクトル容量 | インデックス（HNSW）の目安 |
|---|---|---|---|
| GTE-multilingual-base | 768 | 約 3.1 GB | 約 4〜6 GB |
| BGE-M3 / e5-large / Ruri-large | 1024 | 約 4.1 GB | 約 5〜8 GB |
| Qwen3-Embedding-8B（1024 次元設定） | 1024（可変） | 約 4.1 GB | 約 5〜8 GB |
| Qwen3-Embedding-8B（4096 次元設定） | 4096 | 約 16.4 GB | 約 20〜30 GB |
次元が大きいほど表現力は上がりますが、DB のインデックスサイズと検索 latency も膨らみます。Qwen3-Embedding の「次元可変（Matryoshka 埋め込み）」は 2026 年の注目機能で、同じモデルから 1024 / 2048 / 4096 次元を切り出せます。まず 1024 次元でインデックスを作り、精度が足りなければ後で高次元に切り替えるという運用が可能です。他モデルは次元固定なので、後から変えると全チャンクを再エンコードする必要があります。
判断軸 3：VRAM 消費と生成速度
埋め込みモデルの推論に必要な VRAM の目安です。シーケンス長 512（短文）と 8192（長文）で比較します。
| モデル | VRAM（512 tok） | VRAM（8k tok） | sentence/sec（RTX 5070 Ti 想定） |
|---|---|---|---|
| GTE-multilingual-base | 約 1.2 GB | 約 3 GB | 400〜600 |
| BGE-M3 | 約 2.3 GB | 約 6 GB | 200〜350 |
| multilingual-e5-large | 約 2.2 GB | 対応外（512 上限） | 300〜450 |
| Ruri-large | 約 1.6 GB | 対応外（512 上限） | 350〜500 |
| Qwen3-Embedding-0.6B | 約 2 GB | 約 6 GB | 200〜350 |
| Qwen3-Embedding-4B | 約 8 GB | 約 14 GB | 60〜120 |
| Qwen3-Embedding-8B | 約 16 GB | 約 24 GB | 30〜60 |
「まず動かす 1 個」に BGE-M3 か e5-large を推す理由の 1 つがこの VRAM 消費で、VRAM 8GB 級（RTX 4060 Ti 8GB など）でも動きます。Qwen3-Embedding-8B は最新 SOTA 級ですが VRAM 16GB 以上を要求するため、生成側の LLM と同居する場合は RTX 5070 Ti / 5080（16GB） または RTX 5090（32GB） が現実的な母艦になります。中位 RTX 50 系での LLM ベンチマークは「RTX 5070 / 5070 Ti / 5080 ローカルLLM 実測ベンチマーク 2026年版」を参考にしてください。
判断軸 4：ハイブリッド検索対応（dense + sparse）
RAG 精度を上げる決定打の 1 つがハイブリッド検索（dense + sparse の融合、BM25 とベクトルの組み合わせ）です。埋め込みモデル側でハイブリッドをネイティブサポートするかは、DB 側の設計にも影響します。
| モデル | dense | sparse（BM25 相当） | ColBERT（多ベクトル） | ハイブリッドの実装しやすさ |
|---|---|---|---|---|
| BGE-M3 | ○ | ○（同時出力） | ○（同時出力） | ◎ モデル 1 個で 3 モード |
| Qwen3-Embedding | ○ | ✕（別モデル併用） | ✕ | △ sparse は別途用意 |
| Ruri-large | ○ | ✕ | ✕ | △ sparse は別途用意 |
| multilingual-e5-large | ○ | ✕ | ✕ | △ sparse は別途用意 |
| GTE-multilingual-base | ○ | ✕ | ✕ | △ sparse は別途用意 |
**BGE-M3 の最大の強みが「1 モデルで 3 モード同時出力」**という点です。dense + sparse + ColBERT のスコアを融合するだけで、単体 dense より Recall が大きく伸びる報告が多く、実装コストも「モデル 1 個をロードすれば済む」という手軽さがあります。Weaviate や Qdrant のように sparse をネイティブサポートするベクトルDB と組み合わせると効きます。sparse ネイティブ対応のベクトルDB については「ローカルLLM RAG用ベクトルDB比較 2026年版」で扱いました。
判断軸 5：多言語 vs 日本語特化
社内ドキュメントが日本語のみか、日英混在かで選ぶモデルが変わります。
- 日本語のみ：Ruri-large が有力。日本語 JMTEB で SOTA 級、モデルサイズが軽く（337M）、VRAM 消費も抑えられる
- 日英混在（社内マニュアル + 英語論文など）：BGE-M3、Qwen3-Embedding、multilingual-e5-large の 3 択。BGE-M3 は 100+ 言語対応で 8k コンテキストが強い、Qwen3-Embedding-8B は最新 SOTA、e5-large は実装の枯れっぷり
- 7 割日本語・3 割英語：Ruri でも英語は「読める」が精度は落ちるため、多言語モデルのほうが穏当。日英で 1 モデルに揃えるなら BGE-M3 が最初の 1 手
判断軸まとめ：ユースケース別マトリクス
| ユースケース | 推奨 1 位 | 推奨 2 位 | 理由 |
|---|---|---|---|
| まず 1 個で始めるローカルRAG | BGE-M3 | multilingual-e5-large | 汎用性・多言語・ハイブリッド対応 |
| 日本語精度最優先の社内 QA | Ruri-large | BGE-M3 | JMTEB SOTA 級・軽量 |
| 日英混在・大量文書 | BGE-M3 | Qwen3-Embedding-8B | 8k コンテキスト・ハイブリッド |
| 最新 SOTA を狙いたい（VRAM 潤沢） | Qwen3-Embedding-8B | BGE-M3 | 70.58 MTEB、次元可変、32k コンテキスト |
| 軽量・長文重視 | GTE-multilingual-base | BGE-M3 | 768 次元でインデックス軽い |
| 既に LangChain / LlamaIndex 実装がある | multilingual-e5-large | BGE-M3 | 実装の枯れっぷり・情報量 |
最小コード例：BGE-M3 で 1 モデル 3 モード
BGE-M3 の 3 モード同時出力は sentence-transformers ライクな SDK 1 呼び出しで書けます。
from FlagEmbedding import BGEM3FlagModel
model = BGEM3FlagModel("BAAI/bge-m3", use_fp16=True)
# dense + sparse + ColBERT の 3 モードを同時出力
output = model.encode(
["ローカルRAG の埋め込みモデル選び", "RTX 5090 の 2 枚挿しは速いか"],
return_dense=True,
return_sparse=True,
return_colbert_vecs=True,
)
output["dense_vecs"] # (2, 1024)
output["lexical_weights"] # sparse (BM25 相当)
output["colbert_vecs"] # (2, seq_len, 1024)LangChain / LlamaIndex から呼ぶ場合は HuggingFaceEmbeddings や HuggingFaceBgeEmbeddings 経由でも導入できますが、3 モードを活かすなら公式の FlagEmbedding パッケージが素直です。生成側の LLM と組み合わせる場合の実装パターンは「ローカルLLM Function Calling / Tool Use 実装ガイド 2026年版」の実装例が参考になります。
埋め込みモデルを走らせるハードウェア
埋め込みモデルは生成側 LLM ほど VRAM を食いませんが、日常的に大量のドキュメントを更新する場合はスループットが効きます。用途別の推奨は以下です。
| 用途 | 推奨 GPU / 環境 | 理由 |
|---|---|---|
| 小規模検証（〜10 万チャンク） | RTX 5060 Ti 16GB | 8B 生成モデルと同居可能、VRAM 余裕あり |
| 中規模本番（10〜100 万チャンク） | RTX 5070 Ti 16GB | 生成モデルと埋め込み同居で回せる |
| Qwen3-Embedding-8B 前提 | RTX 5090 32GB / Mac Studio M4 Max | 埋め込みで 16GB + LLM 分の余裕 |
| Apple Silicon 単機で完結 | Mac mini M4 Pro 64GB | ユニファイドメモリで両方載る |
| Ryzen AI MAX+ 395 系 | Framework Desktop / Mini PC | 128GB ユニファイド、埋め込みと LLM 同居 |
生成側の LLM を回す機体の選び方は「ローカルRAG構築向けPC構成ガイド 2026年版」で扱っていますが、埋め込みモデル側も VRAM を数 GB 消費する点は最初に見積もっておくのが安全です。
選定順のおすすめ
「どう選ぶか」を実務的に並べます。
- 社内ドキュメントが日本語主体か日英混在かを確定させる：日本語主体なら Ruri、混在なら BGE-M3 / Qwen3-Embedding
- ハイブリッド検索を組むかどうかを決める：組むなら BGE-M3 が最短、後付けなら Qdrant / Weaviate + sparse 別モデル
- VRAM 予算を確認する：8GB 級なら e5-large / BGE-M3 / Ruri、16GB 級なら Qwen3-Embedding-8B も可
- JMTEB / MTEB リーダーボードで最新スコアを確認する：リーダーボードは月単位で動くので、決定前に一度覗く
- 決めたら 100〜500 チャンクで A/B：小規模で 2〜3 モデルを比較し、実データで精度を測ってから本番インデックス
「決めた 1 個で本番インデックスを作る前に、必ず 2〜3 モデルの小規模比較をやる」ことが、後戻りコストを避ける最大の防波堤になります。埋め込みモデルは 1 度決めると全チャンク再エンコードのコストが重く、変更のハードルが跳ね上がるためです。
入手先・関連商品
当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。
埋め込みモデルは物品ではないため、記事内で言及した RAG 用途の推奨ハードウェアを紹介します。
RAG 用途 GPU / PC
- GeForce RTX 5070 Ti 16GB を Amazon.co.jp で見る — 埋め込み + 14B LLM 同居運用の本命
- GeForce RTX 5060 Ti 16GB を Amazon.co.jp で見る — BGE-M3 / e5-large を回す入門機に最適な 16GB VRAM
- Apple Mac mini M4 Pro 64GB を Amazon.co.jp で見る — ユニファイドメモリで埋め込み + LLM を 1 台に収める選択肢
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
よくある質問
- 日本語ローカルRAG で最初に選ぶ埋め込みモデルはどれですか？
- 「まず動かす 1 個」なら BGE-M3 か multilingual-e5-large が穏当です。BGE-M3 は稠密+疎+ColBERT 3 モードを同時出力できて汎用性が高く、日本語 JMTEB でも上位帯、8k コンテキストまで扱えます。multilingual-e5-large は MTEB でも安定した高スコアで、実装ライブラリの対応が最も広く、LangChain / LlamaIndex から扱う情報量も豊富です。日本語精度を最優先するなら Ruri-large、最新 SOTA を狙うなら Qwen3-Embedding-8B ですが、後 2 者は VRAM や運用要件が上がります。
- BGE-M3 と multilingual-e5-large はどう違いますか？
- BGE-M3 は「稠密（dense）+ 疎（sparse / BM25 相当）+ ColBERT 相当」の 3 モードを 1 モデルで同時出力できるハイブリッド検索向けのモデルです。埋め込み次元は 1024、コンテキスト長 8,192 まで、多言語 100 言語超対応。multilingual-e5-large は Microsoft 製のシンプルな稠密ベクトル 1024 次元モデルで、実装が枯れており対応ライブラリが最も広い点が強みです。ハイブリッド検索を組みたいなら BGE-M3、稠密のみで良く実装のしやすさを取るなら multilingual-e5-large、が自然な線引きです。
- Qwen3-Embedding は日本語で使えますか？
- 使えます。Qwen3-Embedding は Alibaba が 2025 年に公開した多言語対応の埋め込みモデルで、100 言語以上（日本語含む）をサポートします。8B 版が MTEB multilingual リーダーボードで 70.58 の高スコアを記録し、次元は 32〜4096 で可変（Matryoshka 埋め込み）、コンテキスト長は最大 32k と長文にも強い設計です。ただし 8B 版は VRAM 16GB 級を要求するため、個人用途では 0.6B / 4B 版から検討するのが現実的です。
- 日本語精度が最優先ならどれを選ぶべきですか？
- Ruri-large が有力候補です。Ruri は cl-nagoya が公開する日本語特化の埋め込みモデルで、Japanese ModernBERT をベースに contrastive learning で訓練されています。JMTEB で日本語 SOTA 級のスコアを記録し、サイズ variant（310M / 130M / 70M / 30M）から選べます。日本語のみを扱う社内文書検索 / 日本語 QA / 日本語ドキュメント RAG では、多言語モデルより精度が出ることが多い設計です。ただし多言語（日英混在）や長文（8k+）を扱うなら BGE-M3 や Qwen3-Embedding のほうが向きます。