AIはどう学び、文章をつくるのか 機械学習と生成AIの仕組み

同じ猫でも、正面を向いた写真、丸くなって眠る写真、後ろ姿では、画面上の形が大きく違います。それでも見分けるには、「三角の耳が二つあれば猫」という規則だけでは足りません。耳が隠れている場合もあれば、似た形のぬいぐるみもあるからです。

機械学習は、こうした判断を人がすべて書き下す代わりに、例を使って計算の仕方を調整する方法です。文章を生成するAIも同じ学習の考え方とつながっていますが、画像の分類とは、入力も、当てようとする目標も同じではありません。

人が規則を書く方法と、例から規則性を学ぶ方法

迷惑メールを分ける仕組みを考えてみましょう。「件名に特定の言葉があれば拒否する」と人が規則を書く方法なら、判断の理由は明確です。その代わり、言葉を少し変えたメールが届けば、規則を増やす必要が出てきます。

機械学習では、迷惑メールかどうかを示した例などを使い、判定に役立つ特徴の組み合わせを調整します。人は目標やデータ、計算方法を用意しますが、個々のメールについて、どの表現をどれだけ重視するかを全部手作業で決めるわけではありません。

ここで学習される計算の仕組みが、モデルです。ただし、AI全体がこの方法だけで成り立つわけではありません。学習を主役にしない探索や規則に基づく方法も含むため、「AIはすべて大量の文章で学んでいる」という説明では範囲が狭すぎるのです。

学習で変わるのは、計算に使う数値

ある特徴が判定を左右する程度を、調整可能な数値で表したものと考えると、重みの役割を想像しやすいでしょう。ニューラルネットワークでは、重みなどのパラメータを変え、結果が目標へ近づくように計算を調整します。

予測と正解がずれたとき、そのずれを数値で評価するのが損失関数です。損失を小さくする方向を計算し、重みを少しずつ更新することで、以前は間違えた例に対応しやすくなります。ただし、一つの例に合わせすぎれば、別の例でかえって失敗しかねません。

たとえるなら、何本ものつまみを持つ装置を、例題に合わせて調整するようなものです。実際には膨大な数のつまみを数式で扱うので、人が一本ずつ回すわけではありません。また、一つの重みが必ず「猫の耳」のような人間に分かりやすい意味を持つとも限りません。

暗記した問題への正答率だけでは、能力を測れない理由

試験問題と解答を丸ごと覚えてから同じ試験を受ければ、高得点を取れるでしょう。ところが、数字や設定の違う問題にも答えられるとは限りません。機械学習でも、学習に使った例での成功だけでは不十分です。

例題の細部や偶然の偏りに合わせすぎる状態は、過学習と呼ばれます。たとえば、猫の写真に室内の背景が多く、別の動物には草原が多ければ、背景を手掛かりに分類してしまうかもしれません。「猫を識別しているつもりで、撮影場所に反応していた」というずれです。

そこで、学習に使わないデータを分けて性能を確かめます。それでも、照明や言葉遣いが大きく異なる環境で、同じ成績を保てる保証はありません。初めての例にも通用する汎化と、特定の試験で点が取れることは、完全に同じではないのです。

ニューラルネットワークの「深さ」と、脳との違い

ニューラルネットワークでは、入力の数値を組み合わせ、変換して次の計算へ渡す処理を重ねます。多くの層を使う深層学習、つまりディープラーニングの「深い」は、この構造を指す言葉であって、考察の内容が哲学的に深いという意味ではありません。

画像なら画素の明るさや色から、分類に役立つ表現をつくることになります。途中の層で、線や模様などに反応する特徴が現れる場合もあるでしょう。しかし、どのモデルも同じ順番で「線、耳、猫」と理解する、と決めつけることはできません。

名前は神経系から着想を得ていますが、一つの計算単位は、生きた神経細胞の複雑な働きをそのまま再現したものではありません。数式で表せる単位をつないで有用な計算をすることと、人間の脳全体をつくることの間には、大きな隔たりがあります。

言語モデルが予測するのは、次のトークン

文章生成で広く使われる自己回帰型の言語モデルは、すでにある文章を手掛かりに、次へ続くトークンの候補に確率を割り当てます。トークンは文字列を扱うための単位で、必ず一文字や一単語に一致するわけではありません。どのように分割するかは、使う仕組みによって違います。

「庭の花に水を」という続きなら、「やる」「あげる」などが自然でしょう。「会議の開始時刻を」という直前の文章なら、同じ候補が適切とは限りません。前後のつながりを捉えるほど、次に来る表現を予測しやすくなります。

学習用の文章には、続きを当てるための材料がすでに含まれています。人がすべての文に正解ラベルを付けなくても、文章の一部から別の部分を予測する課題をつくれる。こうした自己教師あり学習が、大量の文章を利用するうえで重要な役割を果たしました。

生成の際は、候補から一つを選び、その結果を文脈に加えて、次の候補を計算します。選び方にも設定があるので、毎回もっとも確率の高いものだけを選ぶとは限りません。返答が少しずつ違っても、そのたびに別の資料を検索したと考える必要はないのです。

離れた語の関係を扱うTransformerの注意機構

「太郎は花子に本を貸した。彼は翌週、それを返してもらった」という文章では、直前の数文字だけでなく、少し前の人物や物の関係が重要です。文法や意味のつながりは、隣同士の語だけで完結しません。

Transformerの注意機構は、文脈内の情報をどの程度参照して組み合わせるかを、数値で計算する仕組みです。人間のように意識を向けるという意味ではありません。距離の離れた情報同士を関連付けられることが、言語などの系列を扱ううえで役立ちます。

2017年の原論文は機械翻訳を中心に成果を示しました。その構造を発展させたものが多くの言語モデルに使われていますが、文章をつくるすべてのモデルが原論文そのままの構成というわけではありません。生成時には、まだ出していない先の答えをのぞかない仕組みなども必要です。

文章の続きをつくる学習と、依頼に答える学習

「日本の首都を教えて」と入力したとき、同じ種類の質問を何行も続けることは、文章の続きとしてはありえます。しかし、質問した人が求めているのは、通常は答えでしょう。自然な続きと、有用な返答は別の目標です。

そこで、望ましい回答例で追加学習したり、回答の比較評価を使って調整したりする方法が用いられます。2022年のInstructGPT研究でも、モデルの規模を大きくするだけでは指示への対応が改善するとは限らず、人による実演や評価を使う学習の効果が示されました。

この過程は、返答の有用性を高める一方、あらゆる誤りを取り除く保証ではありません。評価者が好む答えと、外部の事実に照らして正しい答えが常に一致するとは限らないからです。

学習済みの知識、会話の文脈、外部検索という三つの経路

学習で調整した重みを使って、新しい入力への出力を計算する段階は推論と呼ばれます。ここでいう推論は、論理的な証明だけを指す言葉ではありません。通常の利用で質問するたびに、モデル全体を一から学習し直しているわけでもないのです。

会話の途中で新しい地名や条件を教え、返答に反映されたとしても、重みが書き換わったとは限りません。その情報を現在の入力文脈に含めて計算できるからでもあり、長期的に覚えることとは別なのです。

外部文書を検索し、その内容を文脈へ加えてから回答を生成するのが、検索拡張生成、RAGと呼ばれる方式です。参照する文書を更新できる利点がある一方、欲しい資料を検索で得られなかったり、資料の内容と異なる文章を生成したりする可能性まで消えるわけではありません。

こうして区別すると、「AIはいつもネットを調べている」とも「検索は一切していない」とも一括りにできません。モデル単体の計算に、どの道具やデータを組み合わせたシステムなのかが、実際の振る舞いを左右します。

流暢な答えと、事実に合う答えの隔たり

もっともらしい論文名や人物の経歴を、実在する情報のように出力することがあります。こうした誤った生成は、ハルシネーションと呼ばれます。人間のように嘘をつこうと考えた、と説明する必要はありません。

文章のつながりとして自然であることと、現実にその出来事があったことは、別の条件です。見たことのある形式に沿って人名、日付、書名を組み合わせれば、文体は整っていても事実から外れた答えになりえます。

生成AIは、単なる保存済み文章の切り貼りにとどまらず、新しい入力に合わせた変換や生成ができます。ただし、学習した文章を再現してしまう場合もあり、暗記がまったくないわけでもありません。柔軟に生成できる力と、出典に正確に立ち戻れる力は同じではない。この違いが、AIの便利さと誤りやすさを同時に説明しています。

参考資料

• Google：Machine Learning Crash Course
• Google：Generalization
• Google：Introduction to Large Language Models
• Google：LLMs — What’s a large language model?
• スウェーデン王立科学アカデミー：2024年ノーベル物理学賞の一般向け解説
• Vaswaniほか（2017）：Attention Is All You Need
• Ouyangほか（2022）：Training language models to follow instructions with human feedback
• Lewisほか（2020）：Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks