GPUとは？AIの計算で使う理由・仕組みと計算資源の年表（2026年11月時点）

ひとことで言うと

GPU（Graphics Processing Unit）はもともと3Dの画像を描くために生まれた半導体だ。同じ形の計算を数千の単位で同時に進めるのが得意で、AI のモデルの学習と推論（学習済みのモデルに答えを出させる処理）にも使われている。

身近な例では、一般向けのパソコンの GPU でも画像生成の AI が動く。TRAIL の DB では、2023年7月に公開された画像生成モデルの SDXL 1.0 は、8GB のビデオメモリ（GPU が使う専用のメモリ）を持つ一般向けの GPU で動くとされている。

仕組み

NVIDIA の CUDA のプログラミングガイドなどをもとに、AI の計算で GPU が使われる理由を順に見る。

1. CPU と GPU は目的が違う。CPU は一続きの処理をできるだけ速く進めるように作られ、同時に進めるのは数十程度だ。GPU は数千の処理を同時に進めるように作られ、1つずつの速さを抑えるかわりに全体の処理量を大きくしている。
2. 半導体の中の使い方も違う。NVIDIA によると、GPU はトランジスタの多くを計算の部品に割き、CPU は一時的にデータを置く場所や処理の流れの制御に多く割く。
3. AI の計算には行列の掛け算が多く出てくる。NVIDIA は、行列の掛け算がニューラルネットワークの多くの処理の基本の部品だと説明している。行列の掛け算は大量の掛け算と足し算からなり、GPU が得意とする、並べて同時に進める計算にあたる。
4. 計算を呼び出すソフトがそろっている。NVIDIA は2006年に、グラフィックス以外の計算にも GPU を使える仕組みの CUDA を出した。NVIDIA によると、AI 向けなどのフレームワーク（開発に使う基本のソフト）には GPU で速く動く部品を備えたものがあり、その多くは GPU 向けのライブラリを使って速くしている。

2012年の画像認識の論文でも GPU が使われた。Krizhevsky らは130万枚の画像を1,000種類に分けるネットワークを学習させ、学習を速くするために GPU で効率よく動く実装を使ったと書いている。

速さを決めるのは計算の量だけではない。NVIDIA の行列の掛け算の解説は、計算が GPU の計算の速さで頭打ちになるか、メモリからデータを運ぶ速さで頭打ちになるかを見分ける方法を示している。

表で見る最新の状況

上の年表は TRAIL の DB から、GPU と計算資源（AI の計算に使う機械）に関わる出来事10件を古い順に並べたものだ。確認日は2026年10月10日から10月24日。

規模が大きいのは、データセンターの GPU の出来事だ。2024年12月23日に xAI は、10万基の NVIDIA Hopper GPU を持つスーパーコンピューターの Colossus を完成させ、20万基に広げる計画を示した。2026年5月6日には SpaceXAI が、22万基を超える NVIDIA の GPU を持つ Colossus 1 を Anthropic に使わせる契約を結んだ。同じ日に Anthropic は、この契約を受けて「Claude Code の利用上限を引き上げ」た。

開発会社が GPU を求める動きも続く。Cursor は2026年4月21日に「SpaceX とモデル学習で提携」し、計算資源が足りないことを理由に挙げた。8月14日の「SpaceX による買収が完了」では、SpaceX の GPU の基盤でモデルを強化するとしている。Adobe も2026年3月16日に「NVIDIA と戦略的提携」を結び、次の Firefly の基盤モデルに NVIDIA の計算基盤を使う。

手元のパソコンの GPU の出来事もある。2026年9月3日に OpenClaw は、NVIDIA RTX を積んだ Windows パソコンでは、導入のときにハードウェアに合うローカルのモデルを提案するようにした。9月21日の Perplexity の「Effort Mode と Skills を追加」では、NVIDIA の GPU を積んだパソコンで Computer を手元で動かす Portable Computer も案内された。

TRAIL の年表では、2026年の出来事7件のうち5件が、データセンターの GPU を使う契約や提携と、それを受けた変更だ。AI のサービスの利用上限やモデルの学習の計画が、GPU の確保と結びついて発表されている。

GPU と CPU、TPU、NPU の違い

GPU はグラフィックス以外にも使える汎用の半導体で、TPU は機械学習の行列の計算に絞った専用の半導体だ。Google は、頻繁な分岐が要る計算や高い精度が要る計算は TPU に向かないとしている。

仕事でどう関係するか

AI サービスの利用上限が変わったとき

提供元が持つ GPU の量は、利用者が使える量に関わることがある。TRAIL の年表では、Anthropic は2026年5月6日に SpaceXAI と計算資源の契約を結び、同じ日に Claude Code のレート制限（一定の時間に使える量の上限）を引き上げた。上限の変更の知らせを読むときに、背景に計算資源の増減があるかを見る手がかりになる。

手元のパソコンで AI を動かしたいとき

ローカルLLMや画像生成のモデルを手元で動かすなら、GPU のメモリの量が目安になる。TRAIL の DB では、SDXL 1.0 は8GB のビデオメモリを持つ一般向けの GPU で動くとされ、2026年9月にローカルのモデルに対応した Antigravity の SDK は、24GB を超えるビデオメモリかユニファイドメモリ（CPU と GPU が共有するメモリ）を勧めている。パソコンを選ぶときに、GPU の種類とメモリの量を確かめる理由になる。

クラウドで計算の機械を借りるとき

Google の Cloud TPU の概要は、CPU、GPU、TPU のどれを選ぶかの目安を示している。試作や小さなモデルなら CPU、独自の計算を多く含むモデルや中〜大規模のモデルなら GPU、行列の計算が多くを占め、学習に数週間から数か月かかる大規模なモデルなら TPU という分け方だ。

社内の問い合わせ記録 10 万件を分類するモデルを作りたい。
CPU、GPU、TPU のどれで学習するのがよいか、判断に必要な情報
（データの量、モデルの大きさ、学習にかけられる期間、予算）を
質問してから、選び方の目安を示してください。

注意点と限界

GPU が速くなるのは、並べて同時に進められる計算だ。NVIDIA は、GPU は1つずつの処理の速さを抑えるかわりに全体の処理量を大きくしていると説明している。

また、GPU の計算の速さだけでは、AI の処理の速さは決まらない。メモリからデータを運ぶ速さで頭打ちになる計算もある。TRAIL が解説した FlashAttention の論文も、GPU の中のメモリの移動が速度を左右する点に取り組んだ。

大きなモデルは GPU 1台に収まらない。Megatron-LM の論文は、1台に収まらない Transformer の行列の計算を複数の GPU に分け、通信と組み合わせて学習した。

GPU のほかにも選択肢がある。NVIDIA は、FPGA（あとから回路を書き換えられる半導体）も電力の効率は高いが、プログラムの自由度は GPU よりずっと低いとしている。

よくある質問

関連する用語

• 推論（インファレンス）：学習済みのモデルに答えを出させる処理。GPU が担う計算の1つ
• ローカルLLM：手元のパソコンの GPU やメモリで言語モデルを動かすこと
• パラメーター：モデルの大きさ。必要な GPU のメモリの量に関わる
• 量子化：重みのビット数を減らし、GPU のメモリを節約する方法
• ディープラーニング：GPU で学習させることの多い機械学習の方法
• ツール：Stable Diffusion、OpenClaw、Perplexity、Cursor