推論（インファレンス）とは？意味・仕組みとモデルごとのAPI料金（2026年10月時点）

ひとことで言うと

推論（インファレンス）は学習を終えたAIモデルを実際に動かして、答えを出させる処理だ。ChatGPT に質問してから返事が返ってくるまでの処理が、推論にあたる。Google の機械学習の用語集は LLM（大規模言語モデル）での推論を「学習済みのモデルを使い、入力されたプロンプトへの応答を生成する処理」と説明している。

身近な例でいえば、教科書で勉強する期間が学習で、試験で問題を解く時間が推論に近い。AI の API の料金や応答の速さは、この推論の部分の話だ。

この用語は同じ「推論」の字を使う推論モデルとは別の言葉だ。推論モデルの「推論」は英語の reasoning（考えること）の訳で、答える前に考えるよう作られたモデルの種類を指す。この用語の「推論」は英語の inference の訳で、どのモデルでも、動かして答えを出させる処理を指す。推論モデルに質問するのも、推論の1つだ。

仕組み

Google の機械学習の用語集の説明に沿うと、モデルが作られてから答えを返すまでは次の順になる。

1. 学習（トレーニング）：モデルが例を読み、パラメーター（重みとバイアス。モデルの出力を決める数値）を少しずつ調整する。Google によると、学習では1つの例を数回から数十億回使う。
2. サービング：学習済みのモデルを、求めに応じて予測を返せる状態に置く。
3. 推論：利用者がプロンプト（AI への指示文）を送ると、学習済みのモデルが応答を生成する。
4. 応答を返す：LLM は応答をトークン（AI が文章を数える単位）ごとに生成する。OpenAI のガイドは推論の速さを1分あたりや1秒あたりに処理するトークンの数で測ることが多いと説明している。

推論には2つの形がある。Google の用語集では、求めがあるたびにモデルを動かして答えを返すのがオンライン推論、まとめて予測を作って保存しておくのがオフライン推論（静的推論とも呼ぶ）だ。チャットのように質問のたびに答えるのは前者にあたる。

たくさんの利用者の推論を一度にさばくための研究もある。vLLM の論文の要旨によると、多くの要求をまとめて処理するには、要求ごとの KV キャッシュ（生成の途中の計算結果を残しておくメモリ）が問題になる。このメモリは大きく、処理の途中で増えたり減ったりするため、うまく扱えないと無駄が出て、まとめられる要求の数が減る。

表で見る最新の状況

上の料金の表は TRAIL が各社の公式ドキュメントから集めた22のモデルの API 料金を、入力の単価が安い順に並べたものだ。API の料金は、モデルに推論させた入力と出力のトークン数に払う。確認日は2026年10月12日から10月24日。

• 最も安いのは Anthropic の Claude Haiku 5.5 と OpenAI の GPT-6 Luna で、100万トークンあたり入力0.1ドル、出力0.5ドル。1万トークンあたりでは入力0.001ドル、出力0.005ドルだ。
• 最も高いのは Claude Fable 5.1 と GPT-6 Astra で、100万トークンあたり入力10ドル、出力50ドル。1万トークンあたりでは入力0.1ドル、出力0.5ドルだ。
• 22のモデルのすべてで、出力の単価が入力の単価より高い。

その下の年表は推論の速さを選ぶモードと、推論を動かす場所に関わる出来事7件を古い順に並べたものだ。確認日は2026年10月10日から10月20日。

速さのモードでは、2026年10月8日に Codex に GPT-6.1 Sol の Ultrafast モードが加わり、10月15日には Claude API で Claude Opus 5.5 の fast mode がリサーチプレビューを終えた。10月19日には Perplexity の Computer で、Max の契約者が GPT-6 Astra と GPT-6.1 Sol に Ultrafast を選べるようになった。

推論の場所では、2026年10月12日に Lovable が AI の処理を欧州で行う設定を Enterprise 向けに加えた。手元の機械で推論する方向では、9月23日に Antigravity の SDK が、10月7日に GitHub Copilot の CLI が、手元で動くモデルに対応した。

TRAIL の年表では、この7件のうち6件が2026年9月23日から10月19日までの出来事だ。推論の速さや場所を選ぶ仕組みが、この期間に各社のツールに続けて加わった。

推論と学習、推論モデルの違い

仕事でどう関係するか

API の費用を見積もるとき

API の費用は、推論させた入力と出力のトークン数に上の表の単価をかけて見積もる。急がない処理は、まとめて送ると安くなることがある。Anthropic の Batch API は、大量の要求を非同期で処理する代わりに、入力と出力のトークンの料金が50%下がる。

次の業務を AI の API で処理した場合の月の費用を見積もるため、
1回あたりの入力と出力のトークン数の目安を、前提とあわせて表にしてください。
・業務：問い合わせメールの分類
・件数：1日300件
・すぐに答えが要るか：翌朝までに終わればよい

応答の速さが大事なとき

OpenAI の遅延を減らすためのガイドは、トークンの生成がほとんどの場合に最も時間のかかる段階だとしている。目安として、出力のトークンを50%減らすと遅延も約50%減り、入力のプロンプトを50%減らしても改善は1〜5%にとどまる。答えを短くするよう頼むことと、ストリーミング（できた部分から順に表示すること）が、待ち時間を短くする手になる。Anthropic も、速さが大事な用途には Claude Haiku 5.5 を挙げている。

それでも足りないときは、速さのモードがある。Anthropic の fast mode は、同じモデルを速い推論の設定で動かし、1秒あたりの出力トークンを最大2.5倍にする。賢さや機能は変わらないと Anthropic は書いている。OpenAI の Fast mode も最大2.5倍の速さをうたい、さらに速い Ultrafast mode を GPT-6 Astra と GPT-6.1 Sol に用意している。どちらの会社でも、速さのモードは通常よりトークンの単価が高い。Claude Opus 5.5 は通常の100万トークンあたり入力4ドル、出力20ドルに対し、fast mode では入力8ドル、出力40ドルになる。

推論をどこで動かすか決めるとき

推論を動かす場所は、大きく分けて2つある。

• クラウド：提供元のサーバーで推論させ、AIのAPIで答えを受け取る。Hugging Face の Inference Providers のように、公開されたモデルの推論を各社のサーバーで従量課金で使えるサービスもある。
• 手元の機械：ローカルLLMとして、自分のパソコンや社内のサーバーでモデルを動かす。Ollama の FAQ によると、手元で動かしているあいだは Ollama の側からプロンプトやデータは見えない。

手元で動かすときは、モデルの大きさがメモリに収まるかが問題になる。量子化はパラメーターを保存するビット数を減らす方法で、Google の用語集では32ビットの数値を4、8、16ビットにする例を挙げている。

クラウドでも、推論させる地域を選べる場合がある。Anthropic の料金ページによると、Claude 4.6 以降のモデルで推論の地域を米国に指定すると、料金が1.1倍になる。データを国や地域の外に出したくない業務では、推論の場所と、その場所を選んだときの料金を先に確かめる必要がある。

注意点と限界

• 速さのモードの「最大2.5倍」は上限の値だ。Anthropic の fast mode で速くなるのは1秒あたりの出力トークンで、最初のトークンが返るまでの時間ではない。OpenAI は、流す量を急に増やすと Fast mode の一部の要求が通常の速さに落とされ、通常の料金がかかると書いている。
• Anthropic の fast mode は Batch API では使えない。速さと安さは、同じ要求の中では両立しない場合がある。
• 手元で動かしても、インターネットにつながらないとは限らない。Ollama はモデルをインターネットから取得する。
• 表の単価は確認日の時点の値で、条件で変わるものもある。たとえば Claude Haiku 5.5 は、入力が10万トークンを超えると入力0.50ドル、出力2.50ドルになる。

よくある質問

関連する用語

• 用語：推論モデル、AIのAPI、ローカルLLM、量子化、LLM
• ツール：Claude、ChatGPT、Codex、Perplexity、Lovable、Antigravity、GitHub Copilot
• 料金：モデルごとの API 料金