推論AIはどう進化したのか 思考の連鎖から数学オリンピックへ

難しい問題に対して、最初に思い付いた答えだけを出す場合と、途中式を書き、別の方法を試し、答えを検算する場合では、結果が変わります。AIでも、学習済みモデルを大きくすることに加え、答える段階で計算をどう使うかが重要な研究対象になりました。

推論時の計算を増やす研究や、数学の証明を扱うAIは、その代表です。ただし、長い説明文が出たことを、そのまま正しい思考の証拠にはできません。候補を作る能力と、正しい候補を見分ける能力の両方が、結果を左右します。

途中の手順を生成するChain-of-Thought

2022年のChain-of-Thought、CoTの研究では、途中の推論例を示すことで、算術や記号的な課題などの性能が改善する場合が報告されました。最終答えだけでなく、そこへ至る段階を文章として生成する方向です。

たとえば、箱に鉛筆が3本あり、同じ箱を4つ用意し、2本を取り出すという問題なら、まず3×4、次に2を引くという中間の計算が役立ちます。これは説明用の例ですが、問題を小さな関係に分けることで、一度に答えだけを出すより扱いやすくなる場合があります。

ただし、途中の文章もモデルが生成した出力です。誤った前提からもっともらしい説明を続けることもあり得ます。推論らしい文の長さと、結論の正しさを同じ尺度にしてはいけません。

説明文は、内部計算の完全な記録ではない

2023年のTurpinらの研究は、モデルが出す推論の説明が、実際に予測へ影響した要因を忠実に述べない場合を示しました。選択肢の並べ方などに影響されても、その影響を説明せず、答えを正当化する文章を作ることがあるという結果です。

途中の説明には、問題を分解し、検査しやすくする価値があります。しかし、説明があるだけでは、内部の原因が分かったとは言えません。納得しやすい文章であることと、計算過程へ忠実であることは、別々に確かめるべき性質です。

たとえば正しい答えへたどり着いたとしても、書かれた途中式に誤りがあるかもしれません。逆に途中式が正しくても、最後の転記を間違える場合もあります。結果、途中の論理、実際の処理を分けて評価する必要があります。

推論時の計算を増やす、二つの方向

利用時の計算を増やす方法には、一つの候補を詳しく展開して修正する方向と、複数の候補を作って比較する方向があります。前者は一つの解法を掘り下げ、後者は別の可能性を広く試す考え方です。

2024年のSnellらの研究は、問題の難しさなどに応じて推論時の計算を配分すると、効率よく性能を改善できる場合を示しました。どの問題にも同じだけ時間を使えばよいという話ではありません。簡単な問題へ過剰に計算を使うより、難しい問題に適切な探索を割り当てる方が有利な場合があるのです。

また、計算を増やせば必ず改善するとは限りません。間違った解法を長く展開することも、似た誤答を何度も作ることもあります。候補の多さを成果へ変えるには、候補を評価する仕組みが重要になります。

答えを作る難しさと、正しさを確かめる難しさ

ある数の因数を見つけるのは難しくても、候補の二つの数を掛けて元に戻るかを確認するのは比較的簡単です。数学の証明でも、解法を発見することと、形式的な手順が規則に従っているかを検査することには違いがあります。

この非対称性はAIにとって有利に働く場合があります。モデルが候補を提案し、別の検証器が正しさを確認できれば、自然な文章かどうかに頼る必要を減らせます。ただし、すべての問いに簡単な検証器があるわけではありません。「この説明は歴史の本質を捉えているか」という問いを、掛け算のように機械的に判定することは難しいでしょう。

検証器が保証する範囲も、入力された形式的な命題に限られます。自然言語の問題を違う命題へ変換してしまえば、別の問題を正しく証明しても気付けません。証明の検査とは別に、形式化の入口も確かめる必要があるのです。

AlphaGeometryが組み合わせた、提案と論理的な推論

2024年のAlphaGeometryは、幾何の問題に対して、ニューラルな提案と記号的な推論を組み合わせました。補助線や補助点を考える方向と、そこから論理的に導ける関係を調べる方向が協力します。図形の証明では、どこに何を加えるかという発見が、解法の鍵になることがあります。

たとえば平行線を一本加えることで、離れていた角の関係が結び付く場合があるでしょう。ただし、何でも線を引けばよいわけではありません。有用な構成の候補を提案し、それで証明が進むかを確かめる必要があります。

ここにも、初期AIの記号処理が残っています。学習型AIが論理の方法を一掃したのではありません。候補の作成を学習が助け、その候補を論理で検査する分担が成果を生んだのです。

2024年の銀メダル水準と、競技条件の違い

2024年、Google DeepMindはAlphaProofとAlphaGeometry 2を用い、その年の国際数学オリンピックの6問中4問を解き、銀メダル相当の得点へ達したと報告しました。形式的な数学の推論と、幾何に特化した方法を組み合わせた成果です。

重要なのは条件です。この取り組みでは、問題を人が形式的な表現へ変換する作業があり、一部の問題の解答には競技参加者の制限時間を大きく超える計算時間が使われました。したがって、人間の参加者とまったく同じ条件で競技に参加して銀メダルを授与された、という意味ではありません。

条件の違いを示すことは、成果を小さくするためではないのです。難しい問題を機械で証明できたという前進と、自然言語の問題を時間内に自力で扱うという別の課題を区別することで、次に何が改善されたかを正確に比べられます。

2025年の金メダル水準で変わった条件

2025年には、GeminiのDeep Thinkを使った高度な研究用システムについて、国際数学オリンピックで金メダル水準の成績を達成したとGoogle DeepMindが公表しました。5問を解き、35点を得たという結果です。前年と違い、自然言語の問題と解答を用い、4時間30分ずつの競技時間内で取り組んだと報告されています。

この結果は、前年のAlphaProofとAlphaGeometry 2の成績の単なる点数更新ではありません。使ったシステム、問題の扱い、時間の条件が変わっています。また、研究用の高度な構成で得られた結果を、同名の一般向けサービスのすべての利用条件へそのまま当てはめることもできません。

Google DeepMindの説明では、数学の良質な解答集へのアクセスや、問題に取り組むための一般的なヒントも与えられています。IMO側が確認したのは提出された解答の正しさであり、モデルや内部の作業手順のすべてを検証したという意味ではありません。公式に採点された解答と、システム全体の独立した検証を分ける必要があります。

こうした比較では、モデル名だけでなく、利用した計算量や試行の仕方まで重要になります。研究報告を年ごとに並べる価値は、順位を見ることより、どの制約を越えられるようになったかを確認する点にあるのです。

証明の成功と、研究上の問いを選ぶ能力

難しい競技問題を解くことは大きな成果です。しかし、与えられた問題を解くことと、研究に値する問題を見つけ、概念を作り、他の分野との関係を発見することは、数学の中でも異なる活動です。競技の得点だけで、数学研究のすべてを代替できると結論することはできません。

一方、「答えが決まっている問題だから価値がない」と切り捨てるのも不適切でしょう。難しい推論の正しさを評価しやすいからこそ、研究の進歩を測る課題になります。測りやすい能力を足場にしながら、より広い課題へ適用範囲を広げることが研究の進め方の一つです。

推論AIの歴史が示すのは、思考という言葉だけでは説明できない具体的な改善です。問題を分解する、候補を提案する、検証する、失敗を修正する、計算を配分する。この組合せを確かめることで、驚くべき成果を神秘化せずに理解できます。

参考資料

• Weiほか（2022）Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
• Turpinほか（2023）Language Models Don’t Always Say What They Think
• Snellほか（2024）Scaling LLM Test-Time Compute Optimally
• Google DeepMind（2024）：AlphaGeometry
• Google DeepMind：2024年IMO問題への取り組みと実験条件
• Google DeepMind（2025）：Deep Thinkの金メダル水準の結果