人工知能の歴史
1955年の計画書と1956年の研究会、エキスパートシステム、AIの冬、深層学習、Transformer。発明の年表だけでは分からない、人工知能の考え方の変化をたどります。
人工知能の仕組みと歴史
人工知能は、文章をつくる技術だけではありません。問題の解き方を探索する方法、専門家の知識を規則にする方法、データから判断の仕方を学ぶ方法などが、その発展を支えてきました。
人が規則を書くことと、機械が例から学ぶことはどう違うのか。自然な文章を返す能力は、正しい事実を答える能力と同じなのか。研究の歴史と計算の仕組みを合わせると、AIが得意なことと苦手なことの理由が見えてきます。
全体像と基礎
計算から人工知能へ
学習への期待と知識の壁
データから学ぶ技術の発展
確率と統計が変えたAI
曖昧な音や言葉を、確率でどう扱うのか。隠れマルコフモデル、統計的翻訳、SVM、未知データの評価から、深層学習以前の進歩を説明します。
誤差逆伝播法とは何か
最後の誤りを途中の重みへ伝える仕組みを、短い計算例で解説。1986年の研究、勾配消失、LSTM、深いモデルの事前学習までをつなぎます。
ImageNetとAlexNetは何を変えたのか
画像のデータ基盤、畳み込み、GPU、学習の工夫が合流した2012年。top-1とtop-5の違い、ラベルの限界、転移学習までを解説します。
強化学習からAlphaGoへ
遅れて分かる報酬、探索と活用、DQN、方策と価値、自己対戦。AlphaGoとMuZeroの成果を、学習と探索の組合せから説明します。
言語モデルと生成AI
単語ベクトルからニューラル翻訳へ
word2vec、文脈、seq2seq、注意機構の発展。単語を番号で扱うことと、関係を計算できる表現で扱うことの違いを具体例から解説します。
Transformerとは何か
自己注意、位置の情報、並列学習を解説。BERTの穴埋めとGPTの次トークン予測を比較し、構造と学習目標の違いを整理します。
スケーリング則と基盤モデル
モデル・データ・計算の配分、GPT-3の文脈内学習、Chinchilla、創発と採点。大規模化の成果と、規模だけでは決まらない能力を扱います。
画像生成AIの歴史と仕組み
分類から生成へ、識別器との競争からノイズ除去へ。CLIPが結ぶ画像と文章、生成の美しさと条件への正確さの違いまで説明します。
指示学習とRLHFとは何か
回答の実演、人による比較、報酬モデル、DPO。文章の続きを作る能力を依頼に応える能力へ変える方法と、迎合や評価のずれを解説します。