スケーリング則と基盤モデル AIは大きくすれば賢くなるのか

AIを大きくすれば、どこまで性能が上がるのでしょうか。単純に考えると、覚えられる情報が増えるのだから賢くなりそうです。しかし、巨大なモデルに少量のデータだけを与えても、十分には学べません。逆に、データを増やしても、それを生かす計算が足りなければ効果は限られます。

スケーリング則の研究は、モデルの大きさ、データ量、計算量と性能の関係を、実験から捉えようとしたものです。大規模言語モデルの発展を支えましたが、「大きくすれば自動的に人間と同じ知能になる」という法則ではありません。何の性能を、どんな条件で測った関係なのかが重要になります。

スケーリング則が測った、次の語の予測のずれ

2020年のKaplanらの研究は、ニューラル言語モデルの損失と、モデル規模、データ、計算の間に、広い範囲で規則的な関係が見られると報告しました。ここでの代表的な損失は、実際に現れるトークンへどれほど適切な確率を与えられたかを測るものです。

「今日は雨が降っているので、傘を」という文の次に、自然な候補へ高い確率を与えられれば、予測の損失は小さくなります。ただし、これは説明用の例です。損失が小さいことは、与えられた文章の分布をよく捉えた証拠にはなっても、あらゆる質問へ正しい答えを出す証明ではありません。

また、スケーリング則は、その実験条件の下で観測された経験則です。万有引力の法則のように、どんなデータ、構造、規模にも無条件で当てはまると確認されたものではありません。範囲を越えて外挿するときには、別の制約が現れる可能性があります。

モデル・データ・計算を一緒に考える必要

モデルのパラメータ数は、学習によって調整する数値の数です。大きくすれば複雑な関係を表せる余地は増えますが、その設定が初めから完成しているわけではありません。必要なデータと計算を与えて、初めてその余地を能力へ変えられます。

ただし、モデルを倉庫のような単純な記憶箱だと考えるのも不十分でしょう。同じ重みが多くの入力に共通して使われ、語や文の関係を表すからです。学習では、個々の文章を保存するだけでなく、別の文章にも利用できる数値的な関係が調整されます。

計算予算が決まっているなら、大きなモデルを短く学習するのか、小さなモデルを多くのデータで学習するのかという配分問題になります。どの配分が有利かは、学習時の性能だけでなく、その後の利用の回数や費用にも関係します。

Chinchillaが問い直した、巨大化だけの競争

2022年のHoffmannらの研究は、当時の大規模言語モデルには、規模に対して学習データが不足しているものがあると指摘しました。固定の計算予算の下でモデルの大きさと学習トークン数をどう配分するかを調べ、Chinchillaというモデルで検証しています。

この研究の重要性は、「小さければよい」と結論したことではありません。パラメータ数だけを増やす見方に対し、データとの釣合いを取り直すことで、より効率のよい性能向上が可能だと示した点です。数字が大きいモデルが、条件を問わず必ず優秀というわけではないのです。

さらに、学習に使う計算を最適化することと、何百万回も使うときの費用を最小化することは違います。利用回数が多ければ、学習に多めの計算を使っても、利用時に軽いモデルを作る価値があるでしょう。最適という言葉には、何を最小化するのかという目的が必要になります。

GPT-3が示した、例を文脈へ置く使い方

2020年のGPT-3の研究では、入力の中に少数の例を置き、その形式に沿って別の答えを生成させる方法が大きく注目されました。たとえば、いくつかの単語の変換例を見せ、次の単語にも同じ形式で答えさせる使い方です。

ここで起こる文脈内学習は、通常、その場でモデルの重みを更新する追加学習とは区別されます。例が入力に含まれることで、次の出力の条件が変わるのです。会話の中で指示に合わせられたからといって、その情報がモデルへ永久に書き込まれたとは限りません。

また、どんな課題でも数例で解けるという意味ではありません。例の選び方や順番、表現、モデルが事前に学んだ範囲によって結果は変わります。それでも、課題ごとに専用モデルを一から作る以外の利用法が広がったことは、大きな変化でした。

突然できるように見える「創発」と採点方法

大きくした途端に、それまで解けなかった課題を解けるように見える現象は、創発的な能力として議論されました。ただし、見かけの急上昇が、内部の能力の急変だけを意味するとは限りません。採点方法によって、連続的な改善が突然の成功に見える場合があります。

仮に10個の小問をすべて正解したときだけ1点とする試験を考えます。各小問に独立に正解する確率が90％なら、全問正解は約35％です。95％なら約60％、99％なら約90％。個々の能力の改善が、厳しい合格条件の下で大きな得点差として表れます。

この数値例は説明用で、実際の言語モデルの実測結果ではありません。2023年のSchaefferらの研究は、評価指標の選び方が一部の創発的な見え方に関わると示しました。これを「新しい能力は一切生まれない」とまで広げるのも不適切です。現象を議論するには、途中の能力と採点の仕方を分ける必要があるのです。

基盤モデルが変えた、能力の再利用

2021年のスタンフォードの研究者らによる報告では、広いデータで学び、多様な用途へ適用されるモデルを「基盤モデル」として論じました。共通の土台を、文章の分類、生成、要約などへ使う発想です。個別課題ごとに完全に別のモデルを作る場合とは、開発の単位が変わります。

一度の大きな学習から、複数の用途へ能力を移せます。しかし、土台の偏りや弱点だけを切り離して使えるとは限りません。共通部品の品質が多くの製品へ影響するのと似て、基盤の共有は便利さと依存を同時に生むのです。

なお、基盤モデルと汎用人工知能は同義ではありません。多くの用途に適用できることと、人間が扱うあらゆる課題を柔軟に解けることは別です。利用範囲が広がったという観測を、限界がなくなったという宣言へ変えるべきではありません。

データの量と、情報の価値は同じではない

同じ文章を千回複製すればデータの量は増えますが、新しい情報が千倍になるわけではありません。重複、誤り、狭い話題への偏りが多ければ、単純な件数では学習の価値を測れないでしょう。データの質や多様性は、量と別に考える必要があります。

さらに、学習用と評価用のデータが混ざれば、性能が実際より良く見える可能性があります。問題文や答えをすでに学んでいたなら、未知の問題を解く能力とは言い切れません。規模が大きくなるほど、何を学んだかの管理も難しくなるのです。

合成データにも同じ区別があります。機械が作ったというだけで悪いわけではありませんが、誤りを確かめずに増やせば、その誤りを再び学ぶ恐れがある。量を増やす方法と、正しさや新しい情報を確保する方法は、別々の仕事になります。

大規模化の次に現れた、利用時の計算という軸

一度で答えを生成するだけが、モデルの使い方ではありません。候補を複数作り、比較し、検査するためにも計算を使えます。同じ学習済みモデルでも、利用時の手順によって結果が変わるのです。

したがってAIの進歩を、パラメータ数一本のグラフで理解するのは難しくなります。データの質、学習の目的、利用時の探索、外部の道具、検査の精度が組み合わさります。スケーリング則は重要な関係を示しましたが、進歩のすべてを一つの数字へ還元したわけではありません。

大規模化が与えたのは、性能向上を計画的に追うための見通しです。その見通しを生かしながら、何を学ばせ、何を評価し、どこで計算を使うかを設計する。現在のAI研究は、その複数の軸の上で続いています。

参考資料

• Kaplanほか（2020）Scaling Laws for Neural Language Models
• Hoffmannほか（2022）Training Compute-Optimal Large Language Models
• Brownほか（2020）Language Models are Few-Shot Learners
• Bommasaniほか（2021）On the Opportunities and Risks of Foundation Models
• Schaefferほか（2023）Are Emergent Abilities of Large Language Models a Mirage?