ローカルLLM 電力効率・電気代ベンチマーク 2026年版：tok/sec per Watt で測る Strix Halo / Mac Studio / RTX 5090、24時間常時稼働で本当に安いのは

本記事は Amazon.co.jp および各販売店のアフィリエイトリンクを含む場合があります。推奨は性能・コスパ・実機ベンチマーク基準で編集判断しており、提供記事は受け付けていません。詳細はプライバシーポリシーをご覧ください。

ローカルLLM 電力効率 2026：tok/sec per Watt 比較（Strix Halo / Mac Studio / RTX 5090）

結論：瞬間最速がほしいなら RTX 5090。だが 24時間常時稼働の電気代込みTCOなら、120W で動く Strix Halo か、アイドルが極端に低い Mac Studio が効いてきます。「速い＝安い」ではありません。tok/sec per Watt（ワットあたりトークン数）で見ると、勝者が入れ替わります。

ローカルLLMのベンチは tok/sec（トークン/秒）一辺倒で語られがちです。でも自宅にLLMサーバーを置いて 24時間動かすと、効いてくるのは速さではなく 1トークンあたりの消費電力、そしてアイドル時の電力です。この記事では Strix Halo（Ryzen AI MAX+ 395）・Mac Studio・RTX 5090 を、tok/sec per Watt と月間電気代で比べます。

数値の扱いについて：本記事の tok/sec は各機の公開ベンチおよび実測レンジから、消費電力は TDP・実測レンジからの概算（推定）です。iris-lab のワットチェッカー実測値は順次この記事に反映・更新します。表内で「実測」「推定」を区別して表記します。

なぜ tok/sec だけ見ると判断を誤るのか

3機の素の消費電力レンジを並べると、土俵が違うことがわかります。

機種	推論時の消費電力（推定）	メモリ帯域	容量
RTX 5090（単体）	約 450〜575W（TDP 575W）	1.79TB/s	32GB
Mac Studio M3 Ultra	約 100〜200W	約 800GB/s	96〜512GB(ユニファイド)
Strix Halo（Ryzen AI MAX+ 395）	約 65〜120W	約 256GB/s	〜128GB(ユニファイド)

RTX 5090 は Mac Studio の2〜4倍、Strix Halo の4〜5倍の電力を食います。確かに速いのですが、「速いぶん短時間で終わるから結局省エネ」が成り立つかは、ワットあたりの仕事量＝ tok/sec per Watt を計算しないとわかりません。

tok/sec per Watt 比較：30B クラス（全機が快適に動く土俵）

まず3機すべてが快適に動く 30B クラス MoE（Qwen3 30B A3B 系）で比べます。これは「3機が同じ仕事をしたとき、どれが省電力か」を見るための土俵です。

機種	tok/sec（推定）	推論時電力（推定）	tok/sec per Watt	出典
RTX 5090	約 230 t/s	約 450W	約 0.51	公開ベンチ
Strix Halo	約 100 t/s	約 120W	約 0.83	公開ベンチ
Mac Studio M3 Ultra	約 65 t/s	約 120W	約 0.54	推定

tok/sec の絶対値では RTX 5090 が圧勝（約230 t/s）。ところが ワットあたりで見ると Strix Halo（0.83）が最も効率的で、5090（0.51）の1.6倍ほど。Strix Halo は速度こそ5090の半分以下ですが、電力が1/4近いため、効率では逆転します。「速いが大食いの5090」対「遅いが省電力のStrix Halo」という構図です。

tok/sec per Watt 比較：70B Q4（メモリ帯域が効く土俵）

次に、メモリ帯域がモノを言う 70B Q4（Llama 3.3 70B 級）です。ここでは大容量ユニファイドメモリ機が本領を発揮します。

機種	70B Q4 tok/sec（推定）	推論時電力（推定）	tok/sec per Watt	備考
RTX 5090（単体32GB）	重みが乗り切らずオフロード前提	約 500W	低（実用外）	70B Q4 は約40GB必要、32GBに収まらない
Mac Studio M3 Ultra	約 15 t/s	約 200W	約 0.075	800GB/s帯域が効く
Strix Halo	約 4〜5 t/s	約 120W	約 0.038	256GB/s帯域が頭打ち

70B 級になると話が変わります。RTX 5090 単体は 32GB に 70B Q4(約40GB)が乗り切らず、システムRAMへオフロードすると速度が激減します。70B を1枚で快適に回すには 48GB 以上か、5090を2枚束ねる必要があり、その時点で電力は更に増えます。一方 Mac Studio は 800GB/s の帯域とユニファイドメモリで 70B Q4 を約15 t/s・200W で安定運用でき、大型モデルの常時稼働では電力効率でも実用性でも優位になります。Strix Halo は容量こそ足りますが 256GB/s の帯域が頭打ちで、70B では速度が出ません。

メモリ帯域がトークン速度を決める仕組みは「メモリ帯域幅とローカルLLMのトークン/秒 2026年版」で詳しく扱っています。

24時間常時稼働の月間電気代

常時稼働では「アイドル時の電力」が効きます。LLMサーバーは実際には大半の時間アイドルで、リクエストが来たときだけフル稼働するためです。電力量料金 31円/kWh、1日あたり「アイドル22時間 + 推論2時間」と仮定した月間電気代の概算です。

機種	アイドル電力（推定）	推論電力（推定）	月間電気代（推定, 31円/kWh）
RTX 5090 システム	約 80W	約 500W	約 2,800円
Mac Studio M3 Ultra	約 15W	約 200W	約 700円
Strix Halo	約 20W	約 120W	約 650円

24時間動かしっぱなしにすると、RTX 5090 機は Strix Halo / Mac Studio のおよそ4倍の電気代になります。年間に直すと差は約2.6万円。これに加えて 5090 機は発熱・騒音・電源容量（1200W級）のコストも乗ります。「速いが大食い」の5090を常時稼働させると、電気代という形でじわじわ効いてくるわけです。

アイドル電力は環境（接続周辺機器、電源効率、室温）で大きく変わります。上表は単機構成の概算で、実機のワットチェッカー実測値で順次更新します。

どう選ぶか：用途から逆算する

使い方	おすすめ	理由
必要なときだけ起動、瞬間最速	RTX 5090	tok/sec の絶対値が最も高い。短時間集中なら電気代は気にならない
24時間常時稼働の自宅LLMサーバー	Strix Halo / Mac Studio	低アイドル・高効率。電気代TCOで効く
70B級を常時、品質も速度も	Mac Studio M3 Ultra	大容量ユニファイド + 800GB/s帯域で70Bが省電力運用できる
とにかく省電力・静音の小型サーバー	Strix Halo	〜120Wで128GB級、ミニPC筐体に収まる