テスト時計算とは？意味・仕組みと考える量を選べる機能の年表（2026年11月時点）

ひとことで言うと

テスト時計算（test-time compute）は、学習を終えた AI のモデルが質問に答える段階で使う計算のことだ。答える前に長く考えさせたり、答えを何通りも作って選ばせたりすると、この計算が増える。OpenAI は2024年9月12日の o1 の発表で、考える時間を「テスト時計算」と呼び、長くするほど性能が上がったと説明した。

身近な例でいえば、試験の本番で見直しの時間をどれだけ取るかに近い。勉強の量（学習）は試験の前に決まっているが、本番で何度も検算すれば、同じ人でも間違いを減らせることがある。

仕組み

テスト時計算を増やすやり方は論文と各社のドキュメントでいくつかに分かれる。

1. 答える前に長く考える：推論モデルは回答の前に推論トークン（考えるために使うトークン）を生成する。OpenAI のドキュメントによると、モデルはこれで問題を分解し、複数のやり方を検討する。
2. 答えを何通りも作って選ぶ：2022年3月21日の Self-Consistency の論文は、考えの道筋を複数作り、最も多く一致した答えを選ぶ方法を示した。OpenAI は o1 の評価で、2024年の AIME（米国の高校数学の試験）について、1問に1回答える場合のほか、64回の答えの多数決や、1,000回の答えを採点して並べ直した場合の成績も示している。
3. 検証役のモデルで探す：2024年8月6日の Snell らの論文は、途中の手順を採点する検証役のモデルを使って答えを探す方法と、質問に合わせて答えの出し方そのものを更新していく方法の2つを調べた。
4. 考える長さを外から決める：2025年1月31日の s1 の論文は「budget forcing」を示した。考えを強制的に打ち切るか、モデルが考えを終えようとしたときに「Wait」を足して考えを続けさせる。論文によると、これでモデルが答えを見直すことがあり、誤った手順を直す場合が多い。

Snell らの論文は、どの方法が効くかは質問の難しさで大きく変わると報告した。そこで質問ごとに計算の配分を変える「compute-optimal」な方法を使うと、答えを N 通り作って最良を選ぶ方法（best-of-N）と比べて、テスト時計算を増やすときの効率が4倍を超えて上がったという。

各社の API では、この考える量を設定で変えられる。OpenAI は reasoning.effort、Google は thinking_level、Anthropic は effort を用意している。Gemini は既定で、質問の複雑さに合わせて考える量を自動で調整する。Claude も考えるかどうかと、どれだけ考えるかを質問ごとに決める。

表で見る最新の状況

上の年表は、TRAIL の DB から、AI のツールに考える量を選んだり増やしたりする機能が加わった出来事11件を選び、古い順に並べたものだ。確認日は2026年10月10日から10月23日。

• 2024年9月12日の OpenAI o1-preview の公開は、回答の前により長く考える推論モデルの第1弾だった。
• 2025年2月24日の Claude 3.7 Sonnet は拡張思考を備え、3月25日の Gemini 2.5 Pro は思考機能を組み込んだ。2025年8月21日の DeepSeek-V3.1 は、1つのモデルで思考モードと非思考モードを使い分ける。
• 2025年7月1日、Sakana AI は複数のモデルを推論時に協調させる探索の手法 AB-MCTS を発表した。
• 2026年4月16日、Claude Code では high と max の間の xhigh の思考量が全プランの既定になった。6月30日の Claude Sonnet 5 では、高い思考量の利用に必要なトークンが増えることに合わせて、利用上限が引き上げられた。
• 2026年8月6日、ChatGPT の Plus と Pro に思考量を選べるスライダーが加わった。9月21日には Perplexity が、性能と費用の釣り合いを Light から Ultra の4段階で選ぶ Effort Mode を加えた。
• 2026年10月8日、Midjourney は生成済みのジョブを考え直させて再実行する Thinking Mode の試験を始めた。10月22日には Perplexity の Agent API で、設定の名前が preset から effort に変わった。

TRAIL の年表に並べた11件では、2025年まではモデルや手法の出来事が中心で、2026年には検索や画像生成のツールの機能にも広がっている。

その下の「原論文と関連研究」には、テスト時計算に関わる論文3本を古い順に並べた。2022年3月21日の Self-Consistency、2025年1月31日の s1、2026年8月4日の推論に計算を足す手法の評価の仕方を調べた論文だ。

テスト時計算と学習時の計算の違い

OpenAI は o1 の発表で、強化学習の量と考える時間の両方で性能が上がったと書いた。Snell らの論文は、限られた計算を事前学習と推論時にどう振り分けるかという問いにつながると述べている。

仕事でどう関係するか

作業ごとに考える量を決めるとき

OpenAI は考える量の none を音声、すばやい情報の検索、分類に、high を難しい推論や複雑なデバッグ、深い計画に向くとしている。Google も事実の取得や分類には最小か低い思考を、高度なコーディングや複数段階の計画には最大限の思考を使うよう勧めている。問い合わせの振り分けと、契約書の論点の洗い出しでは、同じモデルでも設定を変える判断ができる。

API の費用を見積もるとき

OpenAI のドキュメントは、推論トークンが出力トークンとして課金されると説明している。Google のドキュメントによると、思考がオンのときの料金は出力トークンと思考トークン（推論トークンにあたる）の合計だ。API が返すのが要約だけでも、料金はモデルが生成した思考トークン全体で決まる。見えている回答の長さだけで費用を見積もると、実際より小さくなる。OpenAI によると、推論トークンは問題によって数百から数万に及ぶ。

考える量を上げるか迷うとき

Anthropic は、旧機能になった手動の拡張思考について、思考の予算（budget_tokens）を大きくすると深く考えられるが、効果は作業によって頭打ちになり、待ち時間が延びると書いている。OpenAI は xhigh について、評価で明らかな効果が見えて、追加の待ち時間と費用に見合うときだけ使うよう求めている。まず同じ質問を設定を変えて試し、答えの質と費用を比べるとよい。

次の契約書の条文を読み、当社に不利になりうる条項を挙げてください。
条項ごとに、該当する箇所の引用と、不利になる理由を1文で書いてください。

答えが途中で切れたとき

出力の上限に達すると、回答が途中で止まり、それまでの推論トークンは課金される。OpenAI は、目に見える回答が出る前に止まることもあるとして、試し始めには推論と出力に少なくとも25,000トークンを空けておくよう勧めている。Google は、費用や待ち時間を減らしたいときは出力の上限を小さくせず、thinking_level を下げるよう案内している。

注意点と限界

• 計算を増やせば必ず良くなるわけではない。Snell らの論文は、方法の効き目が質問の難しさで大きく変わると報告している。
• 設定は目安で、上限ではない。Anthropic は手動の拡張思考の budget_tokens を、厳密な上限でない目標だと説明している。適応型の思考では、どの段階でも毎回考えることは保証されない。
• 考える量の設定の名前と選べる値は、モデルごとに違う。OpenAI は none から max までの値がモデルによって異なるとし、Anthropic は Claude 4.7 以降で budget_tokens による手動の拡張思考を受け付けない。
• OpenAI は o1 の発表で、考える時間を延ばすやり方の制約は事前学習とは大きく違い、まだ調べている途中だと書いている。

よくある質問

関連する用語

• 用語：推論モデル、Chain-of-Thought、推論（インファレンス）、コンテキストウィンドウ、強化学習
• ツール：ChatGPT、Claude、Claude Code、Gemini、Perplexity
• 料金：モデルごとの API 料金