基礎から学ぶ
コラム
雑学・基礎知識。スペックの読み方を体系的に
25 記事 · 最終更新 2026年7月17日
この コラム で答えること
- Q. VRAM とは何か？必要量はどう決まる？
- Q. Tensor Core / CUDA Core / RT Core の違いは？
- Q. スペック表の数字、どこを見れば実用性能がわかる？
選び方ガイド
1 件比較
24 件- #Flash Attention#FA2#FA3
Flash Attention 2 / 3 とは 2026年版：ローカルLLM の推論・学習を速くする Attention 実装、Blackwell FP8 対応と llama.cpp・vLLM での効き方
Flash Attention（FA2 / FA3）はローカルLLM の推論と学習を数倍速くする Attention 実装です。標準の Attention と何が違うか（IO 削減・タイル化・SRAM 活用）、Ampere / Ada / Hopper / Blackwell での対応差、FA3 の FP8 と非同期演算、llama.cpp の -fa フラグ、vLLM / SGLang / TGI での既定対応、SDPA・xformers との住み分けまで整理し、tok/sec と VRAM の両方をどう改善するかを実データで示します。
- #CUDA#cuDNN#TensorRT
NVIDIA CUDA / cuDNN / TensorRT / TensorRT-LLM の違い 2026年版：ローカルLLM・AI開発でどのライブラリで速くなるのかをレイヤーで整理
NVIDIA GPU の AI 推論スタックを Driver → CUDA Runtime → cuDNN → TensorRT → TensorRT-LLM のレイヤーで整理します。PyTorch / Ollama / vLLM がどの階層を叩いているか、Ollama から TensorRT-LLM に切り替えるとローカルLLM は何倍速くなるか、CUDA Core（GPU の演算ユニット）とソフトウェアの CUDA の混同まで、Blackwell 世代 2026 年基準で解説します。
- #NVIDIA Rubin#RTX 60#RTX 6090
NVIDIA Rubin / GeForce RTX 60 シリーズはいつ出るか、待つべきか 2026年版：Blackwell の次世代 GPU の発表時期と RTX 5090 を今買うかの判断軸
NVIDIA の次世代 Rubin アーキテクチャと GeForce RTX 60 シリーズの発表時期、Blackwell（RTX 50）からの進化幅、HBM4 / GDDR7 後継、TSMC N3 プロセス採用の予測を整理します。RTX 5090 を今買うか、Rubin / RTX 60 を待つかの判断軸を AI 用途・ゲーミング用途別にまとめました。
- #GDDR7#GDDR6X#HBM3e
GDDR6 / GDDR6X / GDDR7 / HBM3 / HBM4 とは 2026年版：GPU メモリ世代の違いがローカルLLMとゲーミングをどう変えるか
GPU の VRAM に使われるメモリ世代 GDDR6 / GDDR6X / GDDR7 / HBM3 / HBM4 の違いを、ピン速度・帯域幅・チップ容量・消費電力・コストの5軸で比較解説。RTX 5090 が採用した GDDR7、RTX 40 系の GDDR6X、H100 / B200 / MI325X の HBM3 / HBM3e / HBM4 がローカルLLM の tok/sec とゲーミングのフレームレートをどう左右するか、2026年版で整理します。
- #Tensor Parallel#Pipeline Parallel#Data Parallel
Tensor Parallel vs Pipeline Parallel vs Data Parallel とは 2026年版：マルチGPU・マルチノードでローカルLLMを並列化する3方式を仕組みから比較
ローカルLLM を複数 GPU で動かすときの並列化方式 Tensor Parallel / Pipeline Parallel / Data Parallel を、行列計算の分割の仕方から比較解説。RTX 5090 を2枚挿すなら TP（PCIe x8/x8 でも有効）、巨大モデルを複数ノードに分割するなら PP、推論スループットを上げたいなら DP、という選び分けを vLLM・SGLang・llama.cpp の 2026年実装に紐づけて整理します。NVLink 廃止後のコンシューマGPUでの現実も含めて。
- #PCIe#PCIeレーン#x16
PCIe レーン x16 / x8 / x4 の違い 2026年版：GPU・SSD・マルチGPUで帯域がどう分かれ、RTX 5090 が遅くなる条件
PCIe 5.0 の x16 / x8 / x4 はレーン数で帯域が決まり、x16=約64GB/s、x8=約32GB/s（=Gen4 x16相当）です。同じ Gen5 でもマザボの2本目スロットや Gen5 NVMe SSD 併用でレーンが分割され、RTX 5090 がコンテンツ制作・マルチGPUで最大25%遅くなる条件を、ゲーミングではほぼ影響しない理由とあわせて2026年版で整理します。
- #メモリ高騰#DDR5#NAND
2026年のメモリ・SSD価格高騰はいつまで続くか：DDR5 / NAND 値上がりの原因とPC・Mac買い時の判断軸
2026年に起きているDDR5メモリ・NAND（SSD）の急騰を、原因（AIデータセンターのHBM優先・DRAM争奪戦・PMIC逼迫）と今後の見通し（2027〜2028年まで高値の予測）から整理。自作PC・BTO・Macをいつ買うべきか、容量を削るか中古に逃すかの判断軸を提示します。
- #投機的デコード#Speculative Decoding#ローカルLLM
投機的デコード（Speculative Decoding）とは 2026年版：ドラフトモデルで tok/sec を1.5〜3倍にする仕組みと、効くケース・効かないケース
ローカルLLMの tok/sec を上げる投機的デコードの仕組みを図解。小さなドラフトモデルが複数トークンを先読みし大モデルが一括検証する原理、出力が変わらない（ロスレス）理由、1.5〜3倍の速度向上が出る条件、コード生成・構造化出力で効きやすく雑談で効きにくい仕組み、必要な追加VRAMまで2026年版で解説します。