ローカルLLMが動くPC
AI開発向け
ローカルLLM / Claude Code / AI画像生成の実機ベンチマーク
43 記事 · 最終更新 2026年7月18日
この AI開発向け で答えること
- Q. Llama 3.3 70B を快適に動かすには何 GB の VRAM が必要？
- Q. RTX 5090 と Mac Studio M3 Ultra、AI 用途で結局どっち？
- Q. Claude Code を快適に動かすメモリ・CPU は？
選び方ガイド
21 件- #KV Cache#量子化#llama.cpp
ローカルLLM KV キャッシュ量子化ガイド 2026年版：llama.cpp / vLLM で KV Cache を Q4 / Q8 に落として VRAM と tok/sec はどう変わるか
コンテキスト長 32K / 128K で VRAM が足りなくなる主犯は KV Cache です。llama.cpp の --cache-type-k q4_0 / vLLM の kv_cache_dtype で Q8 / Q4 に量子化すると、VRAM は半分〜1/4 に、tok/sec は 5〜15% 落ちる、が現実線です。設定手順・精度への影響・Flash Attention との相性まで、実装レベルで整理します。
- #WSL2#Windows 11#Ubuntu 24.04
WSL2 でローカルLLMを動かす完全セットアップガイド 2026年版:Windows 11 で CUDA / Ollama / vLLM を Ubuntu 24.04 経由で動かすインストール手順
Windows 11 の WSL2(Ubuntu 24.04)でローカルLLM を動かすまでの手順を、GPU パススルー(NVIDIA CUDA WSL 版)・Ollama / llama.cpp / vLLM のインストール・systemd 常駐化・Windows ホストからの localhost 接続・LM Studio との併存まで、初回セットアップで詰まりがちな箇所を実コマンドで解説します。WSL2 と Windows Native どちらで動かすかの判断軸も添えています。
- #ローカルLLM#Function Calling#Tool Use
ローカルLLM Function Calling / Tool Use 実装ガイド 2026年版:gpt-oss / Qwen 3 / Llama 4 でツール呼び出しを動かす OpenAI 互換 API 構成
ローカルLLM にツール呼び出し (Function Calling / Tool Use) を実装する完全ガイド。OpenAI 互換 API の tools パラメータを Ollama / LM Studio / vLLM / llama.cpp の各エンドポイントで叩く方法、Tool Use 対応モデル (gpt-oss / Qwen 3 / Llama 4 / Hermes 3 / Mistral) の選び方、JSON Schema の渡し方、ローカルでのエージェント実装で詰まる点を 2026年6月時点で整理します。
- #gpt-oss#OpenAI#MXFP4
OpenAI gpt-oss 120B / 20B ローカル実行完全ガイド 2026年版：MXFP4 ネイティブ・Apache 2.0 を VRAM 別に動かす構成と tok/sec
OpenAI が 2025年8月に Apache 2.0 で公開した gpt-oss-120B / gpt-oss-20B のローカル実行完全ガイド。MXFP4 ネイティブ量子化で 120B が 80GB GPU 1枚、20B が 16GB VRAM で動く前提条件、推奨構成（H100 / RTX PRO 6000 / RTX 5090 / RTX 5060 Ti / Strix Halo / Mac Studio）別の実測 tok/sec、MoE active params（120B=5.1B / 20B=3.6B）と reasoning ベンチでの位置付け（o4-mini / o3-mini 相当）、Ollama / LM Studio / llama.cpp / vLLM の選び方を 2026年6月時点で整理します。
- #ローカルLLM#SSD#ストレージ
ローカルLLM向けSSD・ストレージ構成ガイド 2026年版：モデルは何TB必要か、Gen5でロードは速くなるか、専用ドライブの分け方
ローカルLLMのモデル保存に必要な容量と、PCIe Gen5 NVMeでモデルロードがどれだけ速くなるかを2026年版で整理。70B Q4で約40GB、複数モデル運用なら2TB以上、4GB/sで40GBを約10秒の目安、OS用と分けた専用ドライブ構成までVRAM以外のストレージ設計を解説します。
- #Claude Code#トラブルシューティング#AI開発環境
Claude Code が遅い・重いときの原因と対処 2026年版：PC買い替えより先に見る5つのチェックリスト
Claude Code が遅い・もたつくと感じたとき、まず疑うべきはPCスペックではありません。ネットワーク遅延・MCPサーバー過多・大規模リポジトリのコンテキスト肥大・メモリ逼迫・ターミナル描画という5つの原因を切り分け、それぞれの対処と「本当にPCを買い替えるべきか」の判断軸を2026年版で整理します。
- #ローカルTTS#Style-Bert-VITS2#AivisSpeech
ローカル音声合成（TTS）・リアルタイム音声対話向けPC構成ガイド 2026年版：Style-Bert-VITS2 / AivisSpeech / CosyVoice を快適に動かすVRAMとCPU
ローカルTTS・音声対話を自宅で動かすPC構成を用途別に解説。Style-Bert-VITS2 / AivisSpeech / CosyVoice / Qwen3-TTS の必要VRAM（2〜8GB）、リアルタイム性（RTF）、Whisper→LLM→TTS の音声対話パイプラインを1台で回すVRAM配分まで、最小構成から推奨構成まで具体的に示します。
- #Whisper#文字起こし#議事録
ローカル文字起こし＋要約を1台で回すPC構成ガイド 2026年版：Whisper(STT)→ローカルLLM要約のVRAM配分と必要スペック
会議・動画・取材音声をローカルで文字起こし→そのままローカルLLMで要約・議事録化する1台完結パイプラインのPC構成を2026年版で解説。Whisper large-v3 / large-v3-turbo の必要VRAM、STTと要約LLMを同居させるVRAM配分、逐次実行で低VRAMでも回す運用、CPU・メモリ・予算別の現実解までまとめます。
ベンチマーク
13 件- #Strix Halo#Ryzen AI MAX+ 395#prefill
Ryzen AI MAX+ 395（Strix Halo）prefill（プロンプト処理）ボトルネック実測 2026年版:長文入力で tok/sec が落ちる仕組みと最初のトークンまでの待ち時間
Strix Halo で 8B / 32B / 70B に 4K・16K・64K・128K トークンを入れたときの prefill 速度と TTFT（最初のトークンまでの秒数）を、iGPU 帯域・KVキャッシュの詰まり方を含めて RTX 5090 / Mac Studio M4 Max と対比しながら整理します。ai max 395 prefill / strix halo prefill を検討している方向けです。
- #CPU推論#ローカルLLM#llama.cpp
ローカルLLM CPU-only 推論ベンチマーク 2026年版：GPU なしで Ryzen 9950X3D / Threadripper 9970X / Core Ultra 9 285K + DDR5 96GB / 128GB で 8B〜70B を動かした tok/sec
ローカルLLMは本当に GPU が無いと動かないのか。Ryzen 9950X3D（Zen 5 / DDR5-6000 2ch）・Threadripper 9970X（Zen 5 / DDR5-6400 4ch）・Intel Core Ultra 9 285K（Arrow Lake / DDR5-7200 2ch）を CPU-only で走らせ、llama.cpp / Ollama で Llama 3.3 8B・14B・32B・70B Q4_K_M を動かした tok/sec を整理。GPU なしでどこまで許容できるか、メモリ帯域とチャネル数の効き方を ai-dev 用途の実務目線で判断します。
- #reasoning#thinking token#DeepSeek R1
ローカルLLM Reasoning モデル 推論速度ベンチマーク 2026年版：DeepSeek R1 / QwQ / gpt-oss thinking mode の thinking token 量と GPU 別 tok/sec・待ち時間
Reasoning（Thinking）モデルは1回の応答で数千〜数万トークンの thinking token を吐くため、通常モデルと同じ tok/sec 指標では体感が測れません。DeepSeek R1 distill・QwQ 32B・gpt-oss 120B/20B の thinking mode を RTX 5090 / RTX PRO 6000 96GB / Mac Studio M3 Ultra / Ryzen AI MAX+ 395 で比較し、thinking token 生成量・最終回答までの秒数・prefill 込み実効速度を整理します。
- #VLM#Vision-Language Model#Qwen 2.5-VL
Vision-Language Model (VLM) GPU別ベンチマーク 2026年版:Qwen 2.5-VL / Llama 4 Maverick / Pixtral を RTX 5090・Mac Studio で動かす実測 tok/sec
Qwen 2.5-VL / Llama 4 Maverick / Pixtral など主要VLM(マルチモーダルLLM)を RTX 5090・PRO 6000・Mac Studio M3 Ultra・Strix Halo で動かしたときの画像トークン数・prefill 時間・生成 tok/sec・VRAM 使用量を整理。画像入力 = 数千トークンの prefill が支配的という構造から、テキストLLMとは別の判断軸でGPUを選ぶ必要がある理由を、解像度別に解説します。
- #ローカルLLM#WSL2#Linux
Windows vs Linux でローカルLLMはどっちが速いか 2026年版：WSL2 vs Ubuntu native の tok/sec を整理する
ローカルLLM を Windows native・WSL2・Linux native の3環境で動かしたとき、tok/sec はどれだけ違うのか。NVIDIA GPU では3者ほぼ同等で、Windows native も WSL2 も Linux native の90〜100%。差が出るのは ROCm（AMD GPU）と巨大モデルのロード時間という、2026年の現実解を実測ベンチの傾向から整理します。
- #prefill#prompt processing#TTFT
ローカルLLM プロンプト処理（prefill）速度 GPU別ベンチマーク 2026年版：長文・エージェント用途で効くのは tok/sec より「最初のトークンまで」
生成速度（decode tok/sec）ばかり注目されますが、長文コンテキストやエージェント用途で体感を左右するのは prefill（プロンプト処理）速度です。RTX 5090 / 4090 / Apple Silicon で 4K〜128K トークン入力時の prefill tok/s と TTFT を比較し、なぜ Mac が長文で失速しやすいかを実測ベースで解説します。
- #Ryzen AI MAX+ 395#Strix Halo#Mac Studio
Ryzen AI MAX+ 395 vs Mac Studio M4 Max ローカルLLM 実測対決 2026年版：同128GB・同価格帯で 70B Q4 の tok/sec とプロンプト処理・消費電力を比べる
同じ128GB Unified Memory、近い価格帯の Ryzen AI MAX+ 395 と Mac Studio M4 Max。ローカルLLMではどちらが速いのか。70B Q4 のトークン生成速度・プロンプト処理時間・消費電力・動かせるモデルサイズを実測ベースで対決させ、AI開発機としての選び方を示します。
- #ローカルLLM#Llama 4#DeepSeek-V3
ローカルLLM 100B超モデル GPU別ベンチマーク 2026年版：Llama 4 / DeepSeek-V3 / Qwen 3 235B を RTX 5090 / PRO 6000 / Mac Studio M3 Ultra で動かす実測 tok/sec
Llama 4 / DeepSeek-V3 / Qwen 3 235B など100Bパラメータ超のローカルLLMを、RTX 5090 / RTX PRO 6000 / Mac Studio M3 Ultra で動かしたトークン/秒を2026年版で実測します。VRAM・Unified Memory の割当量と量子化フォーマット（Q4_K_M / Q5_K_M / Q8_0）による速度差をまとめます。
比較
9 件- #クラウドGPU#RunPod#Vast.ai
クラウドGPUレンタル (RunPod / Vast.ai / Lambda Labs) vs ローカルLLM 完全比較 2026年版：時間課金 H100 と Strix Halo / RTX 5090 の初期投資、どちらで元が取れるか
RunPod / Vast.ai / Lambda Labs の H100・A100 時間課金と、Strix Halo 128GB / RTX 5090 32GB / Mac Studio M3 Ultra の初期投資を、時間単価・回収期間・運用の手間で比較。API 従量課金比較とは別軸の『クラウドGPU時間課金 vs 自機』の TCO 判定を 1 本にまとめます。
- #埋め込みモデル#embedding#BGE-M3
ローカルLLM 埋め込みモデル比較 2026年版：BGE-M3 / multilingual-e5-large / GTE-large / Qwen3-Embedding / Ruri を日本語RAG 精度・速度・VRAM で選ぶ
ローカルRAG の精度は「どの LLM を選ぶか」より「どの埋め込みモデルを選ぶか」で先に決まります。日本語 RAG で使えるオープン埋め込みモデル BGE-M3 / multilingual-e5-large / GTE-large / Qwen3-Embedding / Ruri を、日本語検索精度（JMTEB / MIRACL）・埋め込み次元・多言語対応・VRAM・生成速度で並べます。ローカルLLM + ベクトルDB とのつなぎこみで最初に選ぶ 1 モデルを決める 2026 年版の判断軸ガイドです。
- #ローカルLLM#vLLM#SGLang
ローカルLLM 本格サービング推論エンジン比較 2026年版：vLLM / SGLang / TensorRT-LLM / TGI を continuous batching・マルチテナント・OpenAI互換で選ぶ
ローカルLLM を Ollama や llama.cpp から一歩進めて本格サービングに乗せるとき、vLLM / SGLang / TensorRT-LLM / Hugging Face TGI のどれを選ぶか。continuous batching・PagedAttention・投機的デコード対応、マルチテナントでの tok/sec、OpenAI 互換API 対応で比較します。
- #TCO#総所有コスト#Claude API
クラウドLLM API vs ローカルLLM 総所有コスト（TCO）完全比較 2026年版：Claude Sonnet 4.6 / GPT-5 API 従量課金 vs Strix Halo / Mac Studio / RTX 5090 の初期投資と電気代・回収期間
月100万トークン以上使うなら、クラウドAPI（Claude Sonnet 4.6 / GPT-5 mini）と自宅ローカル（Strix Halo / Mac Studio / RTX 5090）の3年TCOはどちらが安いのか。API従量課金・初期投資30〜120万・24時間稼働時の電気代を組み合わせ、月間トークン量別の損益分岐点と、精度・レイテンシ・データプライバシーを含めた判断軸を2026年7月時点で整理します。
- #ベクトルDB#ローカルRAG#Qdrant
ローカルLLM RAG用ベクトルDB比較 2026年版:Qdrant / Milvus / Weaviate / Chroma / pgvector を埋め込み次元・速度・運用で選ぶ
ローカルRAG の中核となるベクトルDBは Qdrant / Milvus / Weaviate / Chroma / pgvector の5択。1万〜100万チャンクの埋め込み検索 latency、HNSW vs IVF、メモリ使用量、運用負荷、ハイブリッド検索、フィルタ性能で選ぶ判断軸を整理。LangChain / LlamaIndex から各DBへの最小コードと、用途別の選び方も実例で示します。
- #ローカルLLM#日本語LLM#Qwen3
ローカルLLM 日本語性能比較 2026年版：Qwen3.5 / Gemma 4 / Llama 4 / Sarashina2 / PLaMo 2 / ELYZA を VRAM・日本語精度・速度で選ぶ
ローカルLLMで日本語を使うならどのモデルか。Qwen3.5・Gemma 4・Llama 4 と国産の Sarashina2・PLaMo 2・ELYZA を、日本語の自然さ・必要VRAM・量子化別の動かしやすさ・tok/secで横断比較。VRAM帯ごとに日本語実用の現実解を整理しました。
- #ROCm#CUDA#AMD
AMD ROCm は CUDA に追いついたか 2026年版：ローカルLLM・AI開発でのソフトウェア対応状況と詰まりどころ
AMD ROCm は NVIDIA CUDA にどこまで追いついたのか。2026年の llama.cpp / vLLM / Ollama / PyTorch の ROCm 対応状況、ROCm 7.2 でのパリティ達成、RDNA4 での落とし穴、そして帯域あたり tok/sec に残るソフト成熟度ギャップまで、ローカルLLM視点で整理します。
- #ローカルLLM#Ollama#LM Studio
ローカルLLM実行ツール比較 2026年版：Ollama / LM Studio / llama.cpp / vLLM を速度・対応モデル・使いやすさで選ぶ
ローカルLLMを動かすツールはどれを選ぶべきか。Ollama・LM Studio・llama.cpp・vLLM の4本を、導入の手軽さ・GUI有無・対応量子化フォーマット・同時実行スループットで比較。個人検証から本番サービングまで、用途別の使い分けを実数値で整理します。