クラウドGPUレンタル (RunPod / Vast.ai / Lambda Labs) vs ローカルLLM 完全比較 2026年版：時間課金 H100 と Strix Halo / RTX 5090 の初期投資、どちらで元が取れるか
RunPod / Vast.ai / Lambda Labs の H100・A100 時間課金と、Strix Halo 128GB / RTX 5090 32GB / Mac Studio M3 Ultra の初期投資を、時間単価・回収期間・運用の手間で比較。API 従量課金比較とは別軸の『クラウドGPU時間課金 vs 自機』の TCO 判定を 1 本にまとめます。
- #クラウドGPU
- #RunPod
- #Vast.ai
- #Lambda Labs
- #H100
- #A100
- #ローカルLLM
- #Strix Halo
- #RTX 5090
- #TCO
本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細は プライバシーポリシー をご覧ください。
結論：月の GPU 稼働時間が 40 時間以下ならクラウド GPU レンタル（RunPod / Vast.ai / Lambda Labs）が圧倒的に安く、100 時間を超えるとローカル機（Strix Halo 128GB / RTX 5090 / Mac Studio M3 Ultra）の初期投資が回収軌道に乗ります。分岐点はワークロードにより変わり、24 時間稼働の推論サーバーなら初日からローカルが勝ち、週末 QLoRA だけならクラウドを 2 年使ってもローカル購入に届きません。純粋な時間単価だけで判断すると誤り、ストレージ課金・起動時オーバーヘッド・データプライバシーまで含めた TCO 判定が必要です。
「H100 が 1 時間 500 円で借りられる時代に、個人が 50 万円の Strix Halo を買う意味はあるのか」という問いは、ローカルLLM界隈で最も繰り返される論点です。2026年7月時点で RunPod / Vast.ai / Lambda Labs の時間単価と、Strix Halo 128GB / RTX 5090 単体機 / Mac Studio M3 Ultra の初期投資を、時間単価・回収期間・運用の手間の 3 軸で並べて判定します。前提は個人〜小規模チーム利用、時間単価は 2026年7月時点の目安価格です。契約時は各プロバイダの公式ページで最新価格を必ず確認してください。
なお本記事は「クラウド API 従量課金（Claude Sonnet 4.6 / GPT-5 mini など）vs ローカル」の比較ではありません。「クラウド GPU 時間課金（自分で LLM をホストする）vs ローカル」の比較です。API 従量課金との比較は クラウドLLM API vs ローカルLLM TCO 完全比較 2026年版 にまとめています。
クラウドGPUレンタルの時間単価（2026年7月時点）
主要 4 プロバイダの H100 80GB / A100 80GB / RTX 4090 の目安を整理します。同じ GPU でも Community Cloud（個人ホスト）と Secure Cloud（データセンター）で価格帯が変わり、Spot（中断あり）と On-demand（中断なし）でも差が出ます。単価は $1 = 155 円換算です。
H100 SXM5 80GB
| プロバイダ | プラン | $/h | 円/h（155円換算） | 月 40h（円） | 月 100h（円） |
|---|---|---|---|---|---|
| RunPod Secure Cloud | オンデマンド | 3.5〜4.0 | 540〜620 | 21,600〜24,800 | 54,000〜62,000 |
| RunPod Community Cloud | オンデマンド | 2.5〜3.0 | 390〜465 | 15,600〜18,600 | 39,000〜46,500 |
| Vast.ai Community | オンデマンド | 1.8〜2.5 | 280〜390 | 11,200〜15,600 | 28,000〜39,000 |
| Vast.ai Interruptible | スポット | 1.2〜1.8 | 190〜280 | 7,600〜11,200 | 19,000〜28,000 |
| Lambda Labs On-Demand | オンデマンド | 3.5〜3.9 | 540〜605 | 21,600〜24,200 | 54,000〜60,500 |
| TensorDock | オンデマンド | 2.5〜3.5 | 390〜540 | 15,600〜21,600 | 39,000〜54,000 |
同じ H100 でも Vast.ai Interruptible と Lambda Labs On-Demand で 3 倍近い差があります。安さの Vast.ai、安定の Lambda Labs、その中間の RunPod、という位置付けが基本の頭の入れ方になります。
A100 80GB SXM4
| プロバイダ | プラン | $/h | 円/h | 月 40h（円） |
|---|---|---|---|---|
| RunPod Secure Cloud | オンデマンド | 1.6〜1.9 | 250〜295 | 10,000〜11,800 |
| RunPod Community Cloud | オンデマンド | 1.1〜1.4 | 170〜217 | 6,800〜8,700 |
| Vast.ai Community | オンデマンド | 0.9〜1.3 | 140〜200 | 5,600〜8,000 |
| Lambda Labs | オンデマンド | 1.29 | 200 | 8,000 |
A100 80GB は H100 の 40〜60% の単価で、Llama 70B 推論・QLoRA 学習・SDXL/Flux ファインチューニングまでなら十分です。学習ワークロードの多くは A100 で完結し、H100 のトランスフォーマーエンジンが必要な場面は Mixed Precision 学習の一部に限られます。
消費者向け GPU（RTX 4090 / RTX 5090）
| プロバイダ | GPU | $/h | 円/h |
|---|---|---|---|
| Vast.ai Community | RTX 4090 24GB | 0.4〜0.6 | 62〜93 |
| Vast.ai Community | RTX 5090 32GB | 0.7〜1.0 | 108〜155 |
| RunPod Community | RTX 4090 24GB | 0.5〜0.7 | 78〜110 |
| RunPod Community | RTX 5090 32GB | 0.9〜1.2 | 140〜186 |
RTX 4090 24GB が時間 100 円前後は「これだけ安いなら自機を買うより借りればいい」の代表格です。ただし個人ホストが中心で、SSD 速度・ネットワーク帯域・稼働率にばらつきが大きく、学習用途には向きません。推論や短時間の検証に限れば費用対効果は極めて高くなります。
スポット vs オンデマンドの実質差
Vast.ai Interruptible や RunPod のスポットは、時間単価が 40〜50% 下がる代わりに中断リスクを負います。以下の判断で切り分けます。
- 学習中断が致命的（大規模事前学習・長時間 QLoRA）：オンデマンド一択
- チェックポイントを 30 分ごとに保存できる（QLoRA ファインチューニング・LoRA 学習）：スポット候補
- 推論・検証・データ前処理：スポット候補（中断してもやり直し可）
- 本番サービング：オンデマンド一択（可用性優先）
ローカル機の初期投資と 3 年 TCO
主要ローカル機の初期投資と、実運用時の電気代を組み合わせた 3 年 TCO を整理します。稼働率は「idle 70% / 負荷 30%」の加重平均で計算しています。
初期投資（本体一式）
| 機材 | 構成 | 初期投資（円） | 用途上限 |
|---|---|---|---|
| RTX 4090 中古 + 主力機アップグレード | RTX 4090 24GB + 既存機 | 15〜20 万 | 32B dense 推論 / QLoRA 学習 |
| RTX 5090 単体構成 | RTX 5090 32GB + i9/9950X + 128GB DDR5 + 1000W電源 | 40〜55 万 | 32B dense / gpt-oss 20B / QLoRA |
| Mac Studio M4 Max 96GB | Apple 直販フルスペック | 60〜80 万 | 32B / 70B distill / QLoRA |
| Mac Studio M3 Ultra 256GB | Apple 直販上位 | 95〜105 万 | gpt-oss 120B / 70B dense / QLoRA |
| Mac Studio M3 Ultra 512GB | Apple 直販最上位 | 110〜130 万 | DeepSeek R1 70B / gpt-oss 120B |
| Strix Halo ミニPC（GMKtec EVO-X2 / Minisforum BD395i MAX） | 128GB UMA 完成品 | 28〜38 万 | gpt-oss 120B / 32B / QLoRA |
| RTX PRO 6000 96GB 単体 | GPU 単体 + 主力ワークステーション | 90〜120 万 | 70B dense / gpt-oss 120B |
消費電力と月電気代（東京電力 40 円/kWh 想定）
| 機材 | idle W | 負荷 W | 加重平均 W | 月電力量（kWh） | 月電気代（円） |
|---|---|---|---|---|---|
| RTX 5090 構成 | 60 | 500 | 192 | 138 | 5,530 |
| RTX PRO 6000 構成 | 70 | 350 | 154 | 111 | 4,430 |
| Mac Studio M4 Max | 12 | 70 | 29 | 21 | 850 |
| Mac Studio M3 Ultra | 15 | 90 | 38 | 27 | 1,080 |
| Strix Halo ミニPC | 25 | 120 | 54 | 39 | 1,550 |
Mac Studio と Strix Halo の月電気代は RTX 5090 構成の 1/3〜1/6 です。24 時間稼働で 3 年回すと、電気代だけで 15〜20 万円の差が積み上がります。
3 年 TCO（初期投資 + 電気代 36 ヶ月分）
| 機材 | 初期投資（円） | 電気代 3 年（円） | 3 年 TCO（円） |
|---|---|---|---|
| RTX 4090 中古 + 主力機 | 17.5 万 | 6.5 万 | 24 万 |
| RTX 5090 単体構成 | 47.5 万 | 20 万 | 67.5 万 |
| Mac Studio M4 Max 96GB | 70 万 | 3 万 | 73 万 |
| Mac Studio M3 Ultra 256GB | 100 万 | 4 万 | 104 万 |
| Strix Halo ミニPC | 33 万 | 5.6 万 | 38.6 万 |
| RTX PRO 6000 96GB | 105 万 | 16 万 | 121 万 |
RTX 5090 は電気代が想定より重く、Mac Studio M4 Max との TCO 差が縮まります。Strix Halo は初期投資・電気代ともに最安で、gpt-oss 120B までカバーできる「TCO の勝ち組」です。
分岐点：月何時間 GPU を回すと自機が勝つか
上記のクラウド時間単価とローカル TCO を組み合わせて、「月何時間 H100 相当を回すとローカルの初期投資が回収できるか」を計算します。ここでは H100 SXM5 相当のワークロードとして、Strix Halo・RTX 5090・Mac Studio M3 Ultra 256GB を比較対象に置きます。
RunPod Secure Cloud（H100 $3.75/h ≒ 580 円/h）を基準にした場合
| ローカル機 | 3 年 TCO | 相当クラウド時間 | 月あたり時間 |
|---|---|---|---|
| Strix Halo ミニPC | 38.6 万 | 665 時間 | 18.5 時間/月 |
| RTX 5090 構成 | 67.5 万 | 1,164 時間 | 32.3 時間/月 |
| Mac Studio M4 Max 96GB | 73 万 | 1,258 時間 | 34.9 時間/月 |
| Mac Studio M3 Ultra 256GB | 104 万 | 1,793 時間 | 49.8 時間/月 |
| RTX PRO 6000 96GB | 121 万 | 2,086 時間 | 57.9 時間/月 |
月 20 時間以上使うなら Strix Halo が初期投資を 3 年で回収、月 50 時間以上なら Mac Studio M3 Ultra 256GB まで届きます。ただしこの単純比較は「H100 の性能と Strix Halo/RTX 5090/Mac Studio の性能が同等」と仮定した場合で、実際にはワークロードにより性能差が付きます。
Vast.ai Community（H100 $2.15/h ≒ 335 円/h）を基準にした場合
| ローカル機 | 3 年 TCO | 相当クラウド時間 | 月あたり時間 |
|---|---|---|---|
| Strix Halo ミニPC | 38.6 万 | 1,152 時間 | 32 時間/月 |
| RTX 5090 構成 | 67.5 万 | 2,014 時間 | 55.9 時間/月 |
| Mac Studio M3 Ultra 256GB | 104 万 | 3,104 時間 | 86.2 時間/月 |
Vast.ai の安いスポット価格を活用できる人にとって、ローカル機の分岐点は 1.5 倍ほど遠のきます。月 30 時間以下の QLoRA・検証用途に絞れば、3 年間 Vast.ai を借り続ける方が安いという結論になります。
24 時間稼働推論サーバーの特殊性
ここまでの計算は「月 20〜100 時間程度の断続稼働」を想定しています。24 時間 x 30 日 = 720 時間/月の常時稼働推論サーバーを組む場合、話が変わります。
RunPod Secure Cloud で H100 を 720 時間/月借りると、月 41.7 万円、年 500 万円、3 年で 1,500 万円です。この水準になると、RTX 4090 中古 + 主力機の 24 万円は初日で回収完了、Mac Studio M3 Ultra 512 GB でさえ 3 ヶ月で元が取れます。
**「LLM をサーバーとして 24 時間走らせるならローカル一択」**が実質的な結論です。この用途では 自宅ローカルLLMサーバー構築ガイド 2026年版 の構成が参考になります。
ワークロード別の使い分け表
分岐点は「月何時間か」だけでは決まりません。ワークロードの性質で最適解が変わります。
| ワークロード | 推奨経路 | 理由 |
|---|---|---|
| チャット・アシスタント推論（月 10〜40 時間） | クラウド GPU（Vast.ai / RunPod Community） | 断続稼働で単価安く、モデル選択自由 |
| QLoRA / LoRA ファインチューニング（週末 8 時間 x 4 回） | クラウド GPU（RunPod Secure Cloud スポット併用） | チェックポイント運用でスポット活用可 |
| 本格事前学習 7B〜13B（1〜2 週間集中） | クラウド GPU（Lambda Labs / RunPod オンデマンド） | H100 x 8 のマルチノードが必要 |
| 本格事前学習 70B 以上 | エンタープライズクラウド（AWS SageMaker HyperPod / GCP 予約価格） | 個人・小規模チームの領域外 |
| 24 時間常時稼働推論サーバー | ローカル（Strix Halo / Mac Studio） | クラウド常時稼働は月 30〜40 万円で成立せず |
| エージェント大量スループット（Claude Code のような対話ループ） | ローカル（RTX 5090 / Mac Studio M4 Max） | レイテンシ・トークン単価でクラウド API より勝つ帯域 |
| プライバシー案件（機微データ含む） | ローカル一択 | クラウドに送信できない前提 |
| オフライン利用（電車・出張先） | ローカル（Mac Studio 除外、ノート派なら Strix Halo ミニPC） | 通信環境依存を切り離せる |
| 画像生成 SDXL / Flux 学習 | クラウド GPU（Vast.ai の A100） | A100 40〜80GB の時間単価が破格 |
| 画像生成 SDXL / Flux 推論（月 30 時間以下） | クラウド GPU（Vast.ai の RTX 4090） | RTX 4090 が時間 100 円前後で借りられる |
クラウド GPU の落とし穴
時間単価だけを見てクラウド GPU に飛びつくと、月末請求で 2 倍になる罠が待っています。以下の 5 項目は必ず頭に入れておく必要があります。
1. ストレージ課金
RunPod の Persistent Volume は $0.10/GB/月、100 GB のモデル（Llama 70B FP16 で 140GB、gpt-oss 120B で 240GB）を 1 ヶ月置くと 1,500〜3,600 円/月が Pod を落としても課金されます。Network Volume は $0.05/GB/月と半額ですが、Pod にアタッチしないと使えません。モデル 3 本置くだけで月 5,000 円は珍しくなく、実質の時間単価に上乗せしないと比較を誤ります。
2. 起動時オーバーヘッド
Docker イメージのプルとモデルのダウンロードで 5〜15 分かかり、この間も課金されます。100 GB モデルを毎回ダウンロードすると、H100 SXM5 の 15 分で 140〜160 円分が起動オーバーヘッドで消えます。「1 日 4 回起動する」を月 20 日続けると、月 12,000 円分が起動オーバーヘッドだけで消えます。対策は Persistent Volume にモデルを置いて起動時間を短縮することですが、これはストレージ課金と表裏一体です。
3. ネットワーク帯域課金
RunPod は帯域無料ですが、AWS EC2 や GCP は Egress 課金があります。学習ログ・モデル成果物を毎回ダウンロードするワークロードは、時間単価より帯域料金の方が高くなるケースがあります。個人・小規模チームなら RunPod / Vast.ai / Lambda Labs のような「帯域込み価格」プロバイダを選ぶのが原則です。
4. Pod 落とし忘れ
「昨日 QLoRA を回して、寝る前に Pod を落とし忘れた」で 8 時間 x $3.75 = 30 ドル（4,650 円）が朝の請求に載る事故は、クラウド GPU あるあるです。RunPod は Idle Timeout の自動停止機能がありますが、デフォルトは無効です。必ず有効化する ことと、runpodctl stop pod <id> を wrapping したシェルスクリプトで学習終了時に自動停止させる運用が必須です。
5. Community Cloud / Vast.ai の可用性リスク
Vast.ai の Community ホストは個人が余った GPU を貸し出しており、ホストの気まぐれで再起動・切断が発生します。学習ジョブが 3 日連続で 2 回中断された事例は珍しくなく、時間単価の安さと引き換えに運用工数を負担します。24 時間以内で終わる短時間ワークロードなら影響は限定的ですが、それ以上の連続稼働は Secure Cloud / Lambda Labs / RunPod Secure に切り替える判断が必要になります。
ローカル機の落とし穴
一方でローカル機にも罠があります。
電力容量：RTX 5090 単体機（1000W電源）を 24 時間稼働させると、家庭の分電盤・エアコンとの合計で 15A ブレーカーが落ちるリスクがあります。特に夏場のエアコン併用で問題化します。専用回線の増設や、Mac Studio / Strix Halo のような低消費電力機への切り替えが解決策です。
冷却と騒音：RTX PRO 6000 の 300W 級を書斎で常時稼働させると、ファン騒音で作業に支障が出ます。壁の向こう側にワークステーションを置く、または Mac Studio / Strix Halo のような ファンが控えめな機材を選ぶ判断が必要です。
モデル切り替え自由度：クラウドは H100 に llama.cpp / vLLM / TGI / SGLang を自由に載せ替えられますが、ローカル機は Strix Halo の ROCm 対応・Mac Studio の MLX / llama.cpp 対応など、選択肢が絞られます。「最新の推論エンジンをまず試したい」が主目的なら、クラウドの方が動きやすい場合があります。
買い替えサイクル：3 年で買い替える前提なら 3 年 TCO 比較で正当化できますが、次世代の Ryzen AI MAX+ 700 系や Mac Studio M5 Ultra が出ると陳腐化を感じます。クラウドは常に最新 GPU にアクセスできるため、この点はクラウドの構造的優位です。
ケース別の推奨経路
「週末 QLoRA を試したい個人開発者」→ RunPod Secure Cloud スポット
月 20〜40 時間で 8,000〜18,000 円が現実的な支出です。Persistent Volume で 200GB を置くと月 2,000 円追加。3 年間で 30〜70 万円で、Strix Halo（3 年 TCO 38.6 万）と拮抗しますが、H100 の速度・モデル選択自由度・ハード陳腐化しない優位が上回ります。
「Claude Code 代替のローカルコーディングエージェントを回したい」→ Strix Halo か Mac Studio M4 Max
24 時間稼働 + 対話ループの大量スループットが必要な用途で、クラウド GPU 常時稼働は月 30 万円で成立しません。ローカル一択で、gpt-oss 120B・Qwen3 Coder 32B が主力モデルの想定なら Strix Halo 128GB か Mac Studio M4 Max 96GB が費用対効果の頂点です。詳細は 自宅ローカルLLMサーバー構築ガイド 2026年版 と ローカルLLMファインチューニング向け PC ガイド 2026年版 が参考になります。
「本格事前学習 13B クラスを試したい研究者」→ Lambda Labs / RunPod オンデマンド H100 x 8
1 週間集中で 100〜120 万円、これで Chinchilla 最適の 13B モデルが訓練できます。ローカルで H100 x 8 を組むと 3,000〜5,000 万円で個人事業では成立しません。研究フェーズはクラウド、成果が出て本番運用に入ったらローカル、が定石です。
「機微データを含む案件でファインチューニングする受託開発者」→ ローカル一択
データがクラウドに出せない前提なら、Strix Halo 128GB / RTX PRO 6000 96GB のローカル環境で完結する構成しか選択肢がありません。この場合、時間単価の議論より「そもそもクラウド不可」が上位制約になります。
「SDXL / Flux で画像生成を月 20 時間する」→ Vast.ai の RTX 4090
RTX 4090 が時間 100 円前後で借りられる Vast.ai は、画像生成の断続稼働に最適です。月 20 時間で 2,000 円、年 24,000 円で、RTX 4090 中古機（15〜20 万）を買う元は 8〜10 年取れません。GPU 選定の詳細は SDXL / Flux 画像生成 GPU ベンチマーク 2026年版 と AI画像生成 NVIDIA vs Apple Silicon 買い比較 2026年版 にまとめています。
「ローカルとクラウドを併用したい」→ Strix Halo + RunPod スポットのハイブリッド
現実の個人開発者に多いのはこのパターンです。日常の推論・軽量ファインチューニングは Strix Halo、月 1 回の本格 QLoRA だけ RunPod / Vast.ai を借りる構成で、ローカルの初期投資を回収しつつ、大きい学習が必要な時だけクラウドを叩けます。3 年 TCO は Strix Halo 38.6 万 + クラウド年 5 万 x 3 年 = 53.6 万で、フル Mac Studio M3 Ultra 256GB より安く、クラウドオンリーより柔軟という均衡点になります。
最終判定
「クラウド GPU レンタル vs ローカル LLM 機」の判断は、以下の 3 段階で切り分けます。
- 月の GPU 稼働時間を見積もる：40 時間以下ならクラウド、100 時間以上ならローカル、40〜100 時間はワークロード次第
- 24 時間常時稼働の必要性を判定：常時稼働が必要ならローカル一択、断続稼働ならクラウド有利
- プライバシー・オフライン要件を判定：機微データやオフライン利用が必要ならローカル一択
この 3 段階で「クラウド」が残った場合の推奨は Vast.ai（安さ優先）か RunPod Secure Cloud（安定優先）、「ローカル」が残った場合の推奨は Strix Halo 128GB（初期投資 vs 性能で頂点）か Mac Studio M4 Max 96GB（省電力と静音性で頂点）です。
多くの個人開発者にとって最も現実的なのは「ローカルは Strix Halo で日常稼働、月 1 回の本格 QLoRA だけ RunPod スポットで H100 を叩く」ハイブリッド構成です。3 年 TCO で 50〜60 万円台に収まりつつ、必要なときだけフラッグシップ GPU にアクセスできる均衡が取れます。
入手先・関連商品
当サイトは Amazon.co.jp アソシエイト・プログラムに参加予定です。下記リンク経由で購入された場合、紹介料を受け取ることがあります。読者の負担は増えません。リンクは記事評価とは独立しており、編集判断には影響しません。
Strix Halo ミニPC 128GB（ローカル LLM 用途で TCO 頂点）
Mac Studio（省電力の頂点）
RTX 5090 単体機（学習・SDXL 併用機として）
あなたに合うPCを診断する
用途や予算をもう少し細かく入力すると、3つの候補構成を提案します。
→ 診断スタート
関連記事
- クラウドLLM API vs ローカルLLM TCO 完全比較 2026年版 — 従量課金 API との比較はこちら
- 自宅ローカルLLMサーバー構築ガイド 2026年版 — 24 時間稼働推論サーバーを組む場合の実装
- ローカルLLMファインチューニング向け PC ガイド 2026年版 — QLoRA 学習を回す PC 構成
- RTX 5090 vs RTX 4090 vs RTX PRO 6000 AI 用途 2026年版 — GPU 単体で選ぶ場合の指標
よくある質問
- RunPod の H100 は時間いくらですか？
- 2026年7月時点で、RunPod Secure Cloud の H100 SXM5 80GB は 1 時間あたり $3.5〜$4.0（約 540〜620 円）が相場です。Community Cloud はさらに安く $2.5〜$3.0/h まで下がる場合がありますが、ホストの信頼性と可用性が Secure より劣ります。スポット価格を狙えば H100 SXM5 が $2.0/h 前後まで落ちる時間帯もありますが、中断リスクを許容できるワークロード（QLoRA ファインチューニングのチェックポイント併用など）に限られます。
- Vast.ai と RunPod はどちらが安いですか？
- 純粋な時間単価では Vast.ai が安く、H100 80GB SXM5 で Vast.ai Community 相場は $1.8〜$2.5/h、RunPod Community は $2.5〜$3.0/h、Secure Cloud で $3.5〜$4.0/h です。ただし Vast.ai は個人ホストが多く、可用性・ネットワーク速度・ディスク I/O にばらつきが大きい欠点があります。学習を数日流す用途では Vast.ai の 1〜2 割の時間単価差は、ホスト選定の手間・中断リスクで相殺されがちで、時間で買うか安定で買うかのトレードオフです。
- 個人で H100 を借りるなら月いくらから使えますか？
- 「週末に 8 時間だけ QLoRA」なら月 4 回で 32 時間、H100 SXM5 を RunPod Secure Cloud で借りて月 17,000〜20,000 円が目安です。Vast.ai Community なら月 8,000〜10,000 円まで下がります。逆に平日毎晩 4 時間・週末 16 時間まで拡大すると月 100 時間で 5〜6 万円、これを 6 ヶ月続けると 30〜36 万円で Strix Halo 128GB 相当の初期投資に到達します。月 40 時間以下ならクラウド、月 100 時間以上ならローカル購入検討が分岐点の目安です。
- ローカルLLM機はクラウドGPUに対してどこで勝ちますか？
- 3 つあります。第一に 24 時間稼働の推論ワークロード（自宅チャットサーバー・ローカルコーディングエージェント）で、常時起動のクラウドGPUは月 30〜40 万円に達しますがローカルは電気代 1,000〜5,000 円/月で回ります。第二にデータプライバシー要件がある案件で、クラウドに送信できない機微データを扱うローカルLLMは選択肢が限られます。第三にストレージとダウンロード帯域の課金が積み重なる用途で、モデル 100GB を毎回ダウンロードするとクラウドの帯域料金が時間単価を追い抜くケースがあります。
- クラウドGPUの落とし穴は何ですか？
- 5 つ挙げます。ストレージ課金（RunPod で $0.10/GB/月、100GB モデルを 1 ヶ月置くと 1,500 円）、起動時オーバーヘッド（Docker イメージのダウンロードで 5〜15 分・課金対象）、ネットワーク帯域課金（プロバイダによる）、スポット/Community の中断リスク、認証・SSH 鍵管理の運用コストです。特に「月 20 時間しか使わないのに月 3 万円請求される」ケースは、Pod を落とし忘れて idle 課金が積み重なるパターンで、自動停止スクリプトの設定が必須です。
- 本格的な LLM 事前学習にクラウドGPUは向いていますか？
- 個人〜小規模チームで 7B〜13B クラスの事前学習を試すなら、H100 8 枚構成のオンデマンド 1〜2 週間レンタル（1 週間で約 100〜120 万円）が現実解になります。ローカルで H100 x 8 を組むと 3,000〜5,000 万円の初期投資で、償却期間を考えると個人事業では成立しません。逆に 70B 以上の本格事前学習はクラウドでも数千万〜億単位になり、AWS SageMaker HyperPod や GCP の予約価格などエンタープライズ契約の領域です。QLoRA / LoRA ファインチューニングまでなら H100 単体 x 数日で足りるため、クラウドレンタルが最も費用対効果が高くなります。