EPOCH ・ 巻末解説
Arc 1「黎明」
マンガ「EPOCH — 時代の前夜」Arc 1(ダートマスの夏/パーセプトロンの興奮と絶望/専門家の時代)の統合解説。
← マンガの続きへ — Scene 2「パーセプトロンの興奮と絶望」 マンガを読み返す → Scene 1: ダートマスの夏 — AIという夢の始まり
所要時間 : 約10分(読み物8分 + 確認問題2分)
ある提案書
McCarthy「『考える機械』は必ずできる」— ダートマス提案の核心 (Scene 1 第 5 ページ)
1956年の夏。アメリカ東海岸、ニューハンプシャー州の小さな大学町ダートマス。
ここに4人の若い研究者が集まった。ジョン・マッカーシー、マービン・ミンスキー、
ナサニエル・ロチェスター、クロード・シャノン。彼らは大学に1つの提案書を出した。
「学習のあらゆる側面、あるいは知能のあらゆる特徴は、原理的には
機械がシミュレートできるほど正確に記述できる。」
この一文が、「人工知能(Artificial Intelligence) 」という言葉を生んだ。
彼らは2ヶ月の夏季ワークショップで、思考する機械の設計図を描こうとした。
ここで注意してほしい。彼らは「計算する機械」を作ろうとしたのではない。
「考える機械」 を作ろうとしたのだ。この違いが、AIの歴史全体を貫く
最も重要な問いになる。
なぜこの会議が歴史を変えたか
数学・神経科学・工学の 3 潮流を「知能」という 1 つの問いに統合 (Scene 1 第 6 ページ)
ダートマス会議以前、「知能を機械で再現する」という発想はSFの世界だった。
しかし、3つの知的潮流がこの時期に合流した:
数理論理学
ゲーデル 1931・チューリング 1936
「何が計算可能か」
情報理論
シャノン 1948
「情報は数学で扱える」
神経科学
マカロック&ピッツ 1943
「脳はネットワークで計算」
チューリングテスト (1950)
知能の判定基準
ダートマス会議 (1956)
「知能は計算で再現できる」
→「人工知能」と命名
数理論理学・情報理論・神経科学の 3 つの潮流が「知能」という 1 つの問いに合流し、ダートマス会議へ。
なぜこの会議が必要だったか?
それまで、数学者は「何が計算可能か」を考え、神経科学者は「脳がどう計算するか」を考え、
工学者は「計算機を作る」ことに集中していた。3つの分野は繋がっていなかった。
マッカーシーたちが天才的だったのは、これらを1つの問いに統合したことだ:
「知能そのものを、機械上に再現できるか?」
この問いは、今日までAI研究の中心にある。そして「人工知能」という名前をつけたことで、
この研究分野は1つのアイデンティティを得た。名前がなければ、予算も学会も人材も
集まらない。命名こそが、この会議の最大の功績 かもしれない。
先に考えてみる(答えられなくてOK — 考えるだけで意味がある)
ここで1つ考えてみてほしい。
Q: 「機械が知能を持っている」ことを、どうやって証明すればいいだろうか?
見た目? 会話? テストの点数? 自己意識?
1950年、ダートマス会議の6年前に、ある数学者がこの問いに対する
画期的な提案をしていた。
→ 答えは次のセクションで。
チューリングテスト — 知能を測る最初の物差し
Turing「『機械は考えるか』ではなく『人間と区別できないほど振る舞えるか』を問おう」(Scene 1 第 8 ページ)
アラン・チューリングは1950年の論文 "Computing Machinery and Intelligence" で、
「機械は考えることができるか?」という問いを、別の問いに置き換えた。
模倣ゲーム(Imitation Game) :
人間の審査員が、画面越しにテキストで会話する。
相手が人間なのか機械なのか、区別できなければ、
その機械は「知能がある」と見なしてよい。
壁 — テキストのみ通過
審査員
(人間)
候補 A(人間)
「源氏物語」
候補 B(機械)
「走れメロス」
「好きな本は?」
審査員が壁越しのテキスト対話だけで人間と機械を見分けられなければ、その機械は「知能あり」とみなす。
3つの視点で理解する
① 直感的に :
テストに来た人が、カーテン越しに誰かと話す。
相手がロボットだと気づけなければ、そのロボットは「十分に賢い」。
② 哲学的に :
チューリングは意図的に「意識」の問題を避けた。
「考えているか」ではなく「考えているように振る舞えるか」に問いを変えた。
これは行動主義的 なアプローチで、内面の状態を問わず、
外部から観測可能な振る舞いだけで判断する。
③ 限界を意識して :
- 中国語の部屋(ジョン・サール, 1980): ルールに従って中国語を返す人は
中国語を「理解」しているか? → チューリングテストの根本的批判
- 現代のLLMは事実上チューリングテストを通過するが、
それは「知能がある」と言えるのか? → 今も議論が続く
この時代に何が変わったか
「"人工知能"という命名こそが、この夏の最大の功績」(Scene 1 第 10 ページ)
ダートマス会議(1956)とチューリングテスト(1950)がもたらしたブレイクスルー:
変化
内容
分野の誕生
「人工知能」が独立した研究分野として認知された
問いの定式化
「知能とは何か」を科学的に議論する枠組みができた
2つのアプローチ
記号主義(ルールベース)vs 結合主義(ニューラルネット)の対立軸が生まれた
楽観と誤算
「10年以内に解決する」という予測は大きく外れ、後のAI冬の伏線に
特に重要なのは2つのアプローチの分岐 だ:
ダートマス会議 (1956)
記号主義
ルールを人が書く
エキスパートシステム
論理推論・探索
結合主義
ニューロンを模倣して学習
パーセプトロン (1957)
誤差逆伝播 (1986)
← 長年の対立 →
2 度の AI 冬
第 3 次 AI ブーム (2012〜)
ディープラーニング
= 結合主義の大逆転
CNN
Trans-
former
GPT
ダートマスで分かれた記号主義と結合主義は長く対立し 2 度の冬を経たが、2012 年以降ディープラーニング(結合主義)が大逆転する。
この対立構造は、これから学ぶ全ての技術の背景に流れている。
補足: 記号主義 AI の代表例 — STRIPS と古典的計画
記号主義の系譜で生まれた重要な仕事の一つが STRIPS (Stanford Research Institute Problem Solver, Fikes & Nilsson 1971) だ。
ロボット Shakey に「物体を別の部屋に移動する」のような目標を与えると、
事前条件と効果を持つ「行動」を組み合わせて計画(行動の系列)を自動生成 する。
状態: ロボットがA室にいる、箱がB室にある
目標: 箱がA室にある
行動候補:
move(x→y): 事前条件=「xにいる」、効果=「yにいる, ¬xにいる」
push(box, x→y): 事前条件=「ロボットとboxがxにある」、効果=「両方yに」
STRIPS の出力(計画):
move(A→B) → push(box, B→A)
これは現代の PDDL (Planning Domain Definition Language)の祖先であり、
近年は LLM+P や SayCan のように LLM とも統合されてロボットの行動計画に
使われている(→ ロボティクス分野の独立トピック)。
記号主義は「説明可能性」「論理的厳密性」で勝るが、現実世界の不確実性や
スケールに弱い。一方の結合主義(NN)はこの逆で、深層学習以降は応用面で
圧倒的優位に立っている。
CNN も Transformer も GPT も、全て結合主義の子孫 だ。
ここまでの Concept Map:
人工知能 (AI) ダートマス会議 (1956) で命名
記号主義 ルールを人が書く
結合主義 ニューロンを模倣
判定基準 チューリングテスト (1950)
Scene 1 で学んだ地図。● = 学んだ / ◐ = 次章 / ○ = これから。
理解度チェック
以下の3問に答えてみてください。正解・不正解よりも考えるプロセス が重要です。
Q1
ダートマス会議で「人工知能」という名前を付けた最大の意義は何だと思いますか?
a 研究者の名声が上がった b 研究分野にアイデンティティと求心力を与えた c 政府の予算がすぐについた d チューリングテストが完成した 答えを見る 正解 — b
命名により、分散していた研究者・予算・学会が1つの旗の下に集結した。
Q2
チューリングテストは「知能」ではなく何を測定していますか?
a 計算速度 b 外部から観測可能な振る舞い(行動) c 自己意識の有無 d 記憶容量 答えを見る 正解 — b
チューリングは意図的に「意識」の問題を避け、行動主義的に
「区別できない振る舞い」だけを判定基準にした。
Q3 接続問題
記号主義と結合主義の対立は、現代のどの技術の「勝利」に繋がっていますか?
a エキスパートシステム b ディープラーニング c データベース d プログラミング言語 答えを見る 正解 — b
第3次AIブーム(2012年〜)はディープラーニングの躍進、
つまり結合主義(ニューラルネット)アプローチの大成功で始まった。
次章への問い
ダートマス会議の参加者たちは楽観的だった。
マービン・ミンスキーは「一世代のうちに知能の問題は実質的に解決される」と豪語した。
そして会議のわずか翌年、パーセプトロン という装置が発明される。
これは人類が初めて作った「学習する機械」だった。
メディアは「考える機械が完成した!」と騒いだ。
ところが、この装置にはある致命的な限界 があった。
その限界を1冊の本で暴かれたとき、AI研究は最初の「冬」に突入する。
パーセプトロンは何ができて、何ができなかったのか?
→ 次章: 「最初の人工ニューロン — パーセプトロンの興奮と絶望」
← マンガの続きへ — Scene 3「専門家の時代」 マンガを読み返す → Scene 2: 最初の人工ニューロン — パーセプトロンの興奮と絶望
所要時間 : 約9分(読み物7分 + 確認問題2分)
前章のふりかえり
前章の最後で、こう問いかけた:
Q: パーセプトロンは何ができて、何ができなかったのか?
Scene 1 で学んだ「記号主義 vs 結合主義」の分岐を思い出してほしい。
記号主義は「ルールを人間が書く」。では結合主義は?
— 機械自身に学習させる 。
その最初の実装が、パーセプトロンだった。
海軍が買った「考える機械」
Rosenblatt 「やがてこの機械は、歩き、話し、見て、書き、自らを再生産し、自分が存在することを意識するようになる」(Scene 2 第 4 ページ、1958 NYT 名言)
1957年、コーネル大学の心理学者フランク・ローゼンブラットが
パーセプトロン を発明した。
これは400個の光センサーを持つ物理的な装置で、
簡単な図形(例えば三角形と四角形)を見分けることができた。
しかも、人間がルールを教えなくても、自分で学習した。
ニューヨーク・タイムズはこう報じた:
「海軍は、歩き、話し、見て、書き、自己を再生産し、
自分の存在を意識する電子計算機の原型を公開した。」
アメリカ海軍は巨額の研究費を投じた。
「ついに考える機械ができた」と世界が沸いた。
しかし現実は、メディアの報道とはかけ離れていた。
なぜ「学習する機械」が必要だったか
ダートマス会議(Scene 1)で生まれた2つのアプローチを振り返ろう。
記号主義 人間がルールを書く
「頂点が3つなら三角形」のように明示 ルールが書ける問題には強い ルールが書けない問題には無力
結合主義 機械に学習させる
正解例を見せれば自分でルールを発見 ルールが書けない問題にも対応の可能性 「でも、どうやって?」が次の問い
記号主義は人がルールを書き、結合主義は機械が例から学ぶ。両者の発想の違い。
「どうやって」の答えが、生物の脳のニューロン(神経細胞)にあった。
1943年、マカロックとピッツは人工ニューロン のモデルを提案していた:
樹状突起(入力)
軸索(出力)
細胞体
信号を合算し
閾値を超えたら発火
発火する? しない?
ニューロンは複数の入力を合算し、閾値を超えると発火する。これがパーセプトロンの着想源。
ローゼンブラットはこれを数式にした。それがパーセプトロンだ。
先に考えてみる(答えられなくてOK)
Q: 複数の入力に「重み」をつけて足し合わせ、ある閾値を超えたら
1を出力する装置がある。この装置で AND(AかつB)の計算はできるだろうか?
ヒント: A=1, B=1 のときだけ 1 を出したい。
重みと閾値をどう設定すればいい?
→ 考えたら次へ。
パーセプトロンの数学
Cornell の教室で Rosenblatt が黒板に描いた単層パーセプトロン (Scene 2 第 5 ページ — Tech Nugget)
直感的に
入力に重みを掛けて足し、閾値を超えたら 1 を出す。これが計算点 1 個の全部だ。
入力 x₁
入力 x₂
入力 x₃
w₁
w₂
w₃
Σ
合計
閾値判定
0 / 1
合計 = w₁x₁ + w₂x₂ + w₃x₃
合計 ≧ θ → 1 / 合計 < θ → 0
各入力に重みを掛けて合計し、閾値で 0/1 を出力する。これが単層パーセプトロン。
重みは「その入力をどれだけ重く見るか」を表す。重みが大きい入力ほど合計への効き方が強く、
負の重みなら逆向きに効く。合計が閾値を超えるかどうかだけで、出力は 0 か 1 に決まる。
数学的に
重み付き和を活性化関数 f に通して出力。閾値 θ はバイアス b として吸収できる。
この f はステップ関数 (活性化関数の最初の形)。
後の章で、これが sigmoid → ReLU と進化していく。
図解:AND と OR を解くパーセプトロン
AND ゲート(w₁=w₂=1, θ=1.5)
x₁ x₂ 合計 ≧1.5 出力
0 0 0 No 0
0 1 1 No 0
1 0 1 No 0
1 1 2 Yes 1
OR ゲート(w₁=w₂=1, θ=0.5)
x₁ x₂ 合計 ≧0.5 出力
0 0 0 No 0
0 1 1 Yes 1
1 0 1 Yes 1
1 1 2 Yes 1
AND も OR も、重みと閾値を選べば 1 本の直線(しきい値)で正しく分類できる。
ここで重要なのは、パーセプトロンが幾何学的に何をしているか だ:
x₁
x₂
0
1
0
1 × × × x₁+x₂=1.5 AND は (1,1) だけが出力 1。1 本の直線 x₁+x₂=1.5 で ● と × を分離できる。
パーセプトロンとは、入力空間に直線(超平面)を引いて、
2つのクラスに分ける装置 だ。
学習アルゴリズム
しかも、重みを自動で調整 できる:
ランダムな重みで始める
学習データを 1 つ入力する
出力が正解と違ったら、重みを少し修正するwᵢ ← wᵢ + η · (正解 − 出力) · xᵢ
全データで正解するまで繰り返す
パーセプトロンの学習則。間違えるたびに重みを少しずつ正解方向へ修正する。
η(イータ)は学習率 。後の章で SGD, Adam として再登場する概念。
これが人類初の「機械学習アルゴリズム 」だった。
突破... そして絶望
1969 『Perceptrons』 出版、結合主義の冬。1988 改訂版前書きで Minsky の悔い (Scene 2 第 8 ページ)
パーセプトロンの成果:
- AND, OR, NOT を学習できた
- 簡単なパターン認識(文字、図形)に成功
- 人間がルールを書かなくても、データから学ぶ ことを証明した
ここまでは素晴らしい。しかし1969年、事態は一変する。
マービン・ミンスキーとシーモア・パパートが
著書 "Perceptrons" で数学的に証明 してしまった:
「パーセプトロンは XOR(排他的論理和)を解けない。」
XOR(どちらか一方だけ 1 のとき 1)
x₁ x₂ XOR
0 0 0
0 1 1
1 0 1
1 1 0
x₁
x₂
0
1
0
1 × × XOR は ● と × が斜め対角に並ぶ。1 本の直線では決して分離できない(線形分離不能)。
パーセプトロンは「直線で分けられる問題」しか解けない。
これを線形分離可能性 という。
現実の問題の大半は線形分離不可能だ。
画像認識も、音声認識も、自然言語処理も。
ミンスキーの本の衝撃は絶大だった。
研究資金は凍結され、研究者はニューラルネットから離れていった。
第1次AI冬の始まりだ。
理解度チェック
Q1
パーセプトロンが行っている幾何学的操作は何ですか?
a 入力データを回転させる b 入力空間に直線(超平面)を引いて2クラスに分離する c データを圧縮する d ランダムに分類する 答えを見る 正解 — b
パーセプトロンは入力空間に超平面(2次元なら直線)を引き、
データを2つのクラスに線形分離する装置。
Q2 接続問題
Scene 1 で学んだ「記号主義 vs 結合主義」の対立において、 パーセプトロンの挫折はどちらの陣営に打撃を与えましたか?
答えを見る 正解 — b
パーセプトロンは結合主義のフラッグシップだった。
その限界の証明は、結合主義全体への不信感に繋がり、AI冬を引き起こした。
Q3
XOR 問題を解くには、パーセプトロンに何が必要だと思いますか?(推測でOK)
a もっと多くの学習データ b もっと速い計算機 c 直線を2本以上引ける仕組み(=層を重ねる) d 別の活性化関数 答えを見る 正解 — c
直線1本(単層)では XOR を解けないが、
直線を2本引ければ(= 2層にすれば)解ける。これが多層パーセプトロン であり、
後のニューラルネットワークに繋がる。Scene 5 で詳しく学ぶ。
次章への問い
パーセプトロンは死んだ。少なくとも、世間はそう思った。
しかし考えてみてほしい。Q3 で見たように、
直線を2本引ければ XOR は解ける 。
つまり「層を重ねる」ことで限界を突破できるはずだ。
では、なぜすぐに多層パーセプトロンが作られなかったのか?
実は、層を重ねると学習ができなくなる という新たな壁があった。
2層目以降の重みをどう調整すればいいか、誰にもわからなかった。
この壁が破られるのは、1986年のある論文まで待たなければならない。
そしてその間、AI研究全体が「冬」に沈む。
AI冬の時代に、何が起きて、何が失われ、何が生き残ったのか?
→ 次章: 「凍てつく冬 — なぜAIは2度死んだのか」
Concept Map 更新:
Scene 2 までの地図。パーセプトロンは XOR の壁にぶつかり、AI は冬へ向かう。 ← 前の章へ — Scene 2「パーセプトロンの興奮と絶望」 マンガを読み返す → Scene 3: 専門家の時代 — 光は形を変える
所要時間 : 約16分(読み物13分 + 確認問題3分)
前章のふりかえり
前章 (Scene 2) の最後で、こう問いかけた:
Q: パーセプトロンは「直線 1 本」の壁で挫折した。では、別の道はあったのか?
線形分離可能性の壁にぶつかった結合主義が冬を迎えた一方、AI研究の主役はもう一つの道 に移っていた。
それが記号主義 (Symbolic AI) — 人間が「専門家の頭の中のルール」を機械に書き写すアプローチだ。
パーセプトロン(Scene 2) 機械に「学ばせる」道
エキスパートシステム(Scene 3) 人間が「書き下す」道
表面上は別の話に見えて、両者は同じ壁 にぶつかる。
学ぶ道(パーセプトロン)と書き下す道(エキスパートシステム)は、別々に見えて同じ壁にぶつかる。
両者は表面上別の話に見えて、実は同じ壁 にぶつかったことを、この章で見る。
医師を超えた機械
1976 スタンフォード、ファイゲンバウムの研究室でショートリフらが MYCIN を完成 (Scene 3 第 3 ページ)
1976 年、スタンフォード大学。
エドワード・ファイゲンバウムと若き医学者エドワード・ショートリフが、
ある実験システムを完成させた。その名は MYCIN 。
患者の症状を入力
↓
600 個の「IF-THEN ルール」を順に当てはめ
↓
「この菌が原因。この抗生物質を投与すべし」— 診断と処方を出力
MYCIN は症状を入力すると 600 個の IF-THEN ルールを当てはめ、診断と処方を出力した。
ブラインドテストの結果、研究室は静まり返った。
MYCIN は、感染症専門医と同等以上の正診率を示した のだ
(ブキャナン & ショートリフ 1984)。
ファイゲンバウムはこの時、確信したという ——
「専門家の知識を、機械が"所有"できる時代が、始まったのだ」と。
そして 1980 年、DEC は XCON という別のシステムを社内導入。
顧客の注文に応じてコンピューターの構成を組み立てるこのシステムは、
のちに年間 2500 万ドルの節約 (1986 年時点の推計)を生むまでに育つ。
AI が、初めて金を生んだ瞬間だった。
ベンチャー、株式市場、メディアが沸いた。
だが、その「光」がなぜ消えたか、知っているだろうか?
なぜ「知る機械」が必要だったか
Scene 2 で見た結合主義が冬を迎えた 1970 年代、
研究者たちはもう一つの道を真剣に追っていた:
記号主義(春) 「人間が頭の中を書き下す」
医師の判断手順・技術者のノウハウ・法律家の推論をルール化 機械が専門家の代わりになれるはず
結合主義が冬に沈む一方、記号主義は「専門家の頭の中をルール化する」発想で春を迎える。
これは魅力的な発想だった:
- 専門家は限られた人数しかいない
- ルールは安価にコピーできる
- 機械は疲れない、忘れない
「世界中の知識を、機械に詰め込めば、心に近づける 」 ——
ファイゲンバウムは本気でそう信じていた。
そして 1982 年、日本は国家規模でこの賭けに乗った 。
通産省は『第五世代コンピュータ計画』を立ち上げ、
10 年で約 540 億円を投じる。米国とは別の道で、同じ夢に挑んだ。
先に考えてみる(答えられなくてOK)
Q: あなたが「自転車に乗る方法」を IF-THEN ルールで書き出してみよう。
IF (バランスが右に崩れる) THEN ???
IF (バランスが左に崩れる) THEN ???
IF (登り坂) THEN ???
...
書けるだろうか?
書けたとして、そのルールに従えば本当に自転車に乗れるだろうか?
→ 考えたら次へ。
エキスパートシステムの仕組み
MYCIN の IF-THEN 推論チェーン (3 ルール + 確信度) を黒板で示す (Scene 3 第 3 ページ — Tech Nugget #1)
直感的に
エキスパートシステムは 「ルールと事実の貯蔵庫 + 自動推論機」 だ。
知識ベース (KB)
R1: IF A かつ B → C (0.8)
R2: IF C → D (0.7)
R3: IF D → E (0.9)
知識エンジニアが手作業で書く
作業メモリ
事実 A, B が成立
↓ R1 適用 → 事実 C
↓ R2 適用 → 事実 D
↓ R3 適用 → 結論 E
確信度 cf = 0.5
知識ベースのルールを推論エンジンが作業メモリ上で連鎖適用し、確信度つきの結論を導く。
「確信度 (Certainty Factor, cf)」は、ルールの確からしさを 0-1 の数値で
表現したもの。MYCIN は cf を掛け合わせて推論し、医師の『たぶん』 を
機械が扱える形に翻訳した。
同時代の兄弟たち
エキスパートシステムは MYCIN だけではない。同時代に多様な系譜が生まれた:
エキスパートシステムの系譜
システム 年 概要
DENDRAL 1965 質量分析データから化学構造を推定(人類初の本格的 ES)
MYCIN 1976 感染症診断+治療推奨(確信度 CF を導入)
XCON / R1 1980 DEC コンピューター構成、商業大成功(年 $25M 節約)
STRIPS 1971 ロボットの行動計画(現代 AI プランニングの祖)
Cyc 1984〜 常識を全部 IF-THEN で書く(事前定義の究極の試み)
第 5 世代計画 1982 日本、Prolog ベース並行推論機(ICOT、渕一博)
MYCIN だけでなく、同時代に多様なエキスパートシステムが生まれた。
知識表現の枠組み
ルールだけでは世界を記述しきれない。研究者たちは知識表現 (Knowledge Representation) の枠組みを発展させた:
Frame : オブジェクトの属性を構造化 (ミンスキー 1974)
Semantic Network : 概念間の関係をグラフで表現
Description Logic : 集合論的に概念を定義
これらは後に Knowledge Graph (Google KG, Wikidata) や、
RDF / OWL などの Web 標準として生き続けている。
Prolog と論理プログラミング
第 5 世代計画が採用した Prolog は、宣言型プログラミングの代表:
parent(tom, bob).
parent(bob, alice).
ancestor(X, Y) :- parent(X, Y).
ancestor(X, Y) :- parent(X, Z), ancestor(Z, Y).
?- ancestor(tom, alice).
→ true. (機械が自動で推論)
「事実」と「ルール」を書くだけで、機械が自動で答えを推論 する ——
これは現代の SAT/SMT ソルバー、Datalog、 Answer Set Programming に直結する。
突破... そして暗黙知の壁
次の世代への伝承と、Cyc の常識推論チェーン (Scene 3 第 10 ページ — Tech Nugget #2)
エキスパートシステムは確かに成果を生んだ:
- MYCIN は医師を超えた
- XCON は金を生んだ
- 数千の商用システムが稼働した
しかし 1987 年、AAAI カンファレンスで誰かが指摘した:
「expert systems は環境が変わるとルールが破綻する。
我々は『脆さ』を見落としていた。」
そして決定的な壁が見えた:
暗黙知 (Tacit Knowledge) の壁
哲学者ポラニーが 1966 年に指摘した概念。
「我々は、語ることができる以上のことを知っている 」(We can know more than we can tell)。
医師との対話:
エンジニア: 「先生、診断時に何をもとに判断していますか?
ルールにすると?」
医師: 「……『なんとなく』としか言えない症例も多い。
長年の経験というか —— そう、感じるんだ。」
↑
この「感じる」を IF-THEN で書けない。
人間の専門知の核心部分は、言語化を拒む。
これが Knowledge Acquisition Bottleneck (知識獲得ボトルネック) だ。
Symbolics 倒産 (1990)
専用 LISP マシン産業の崩壊。
専門家を機械に閉じ込めることはできなかった 。
第二の AI 冬へ
年 出来事
1986 Symbolics 上場、AI ベンチャー全盛
1986 第二の AI 冬の前兆
1987 AAAI で暗黙知の壁が議論される
1992 日本 ICOT 第 5 世代計画、静かに終了
1993 Symbolics 倒産 (Chapter 11) — AI 第二の冬、業界全体が凍る
暗黙知の壁が露わになり、エキスパートシステムのブームは第二の AI 冬へと向かう。
「事前定義の壁」—— Scene 2 との同型構造
ここで Scene 2 を思い出してほしい。
Scene 2・パーセプトロンの壁 人間が定義した直線 1 本
線形分離可能性が前提 現実は線形分離不能(XOR、画像、音声…)
Scene 3・エキスパートシステムの壁 人間が書いた IF-THEN ルール
専門知が言語化可能なことが前提 現実は暗黙知(感じる、勘、直観…)
両方とも「人間が事前にすべてを定義する 」アプローチの壁にぶつかった。
パーセプトロンの壁も、エキスパートシステムの壁も、根は同じ「事前定義の壁」だった。
両方とも「人間が事前にすべてを定義する」アプローチの壁 にぶつかった。
表面は別技術、構造は同じ。
Bitter Lesson (サットン 2019)
リチャード・サットン (強化学習の大家) は 2019 年、この教訓を一文で書いた:
"We have to learn the bitter lesson that building in how we think we think
does not work in the long run."
(人間が「自分はこう考えると思っている方法」を機械に組み込もうとしても、
長期的には機能しない)
これが The Bitter Lesson (苦い教訓) 。
70 年の AI 史を貫く、最大の経験則のひとつ。
人間が「こう考える」を組み込むアプローチより、機械が計算量とデータで自分で学ぶ アプローチが長期では勝つ。
チェス Deep Blue(探索) → Stockfish → AlphaZero(自己対戦学習が圧勝)
囲碁 人間の定石 → AlphaGo(CNN+MCTS) → AlphaZero(ゼロから学習が圧勝)
NLP 言語学ルール(Chomsky) → n-gram 統計 → Transformer+大規模事前学習が圧勝
チェス・囲碁・NLP のいずれでも、人間の作り込みより自己学習+大規模計算が最終的に勝った。
しかし、これは敗北の物語ではない
Bitter Lesson は「記号主義は無意味だった」とは言っていない 。
Symbolic AI が残した遺産は今も生きている:
STRIPS (1971) → モダンプランニング → LLM agent の reasoning
Cyc / KR → Knowledge Graph → Google KG・Wikidata・検索エンジン
推論エンジン → Neurosymbolic AI → 論理+学習のハイブリッド
Prolog / SAT → プログラム合成・形式検証 → 定理証明(Lean, Coq)
記号主義は敗れたのではない。その遺産は形を変えて現代 AI の中で生き続けている。
そして今日、エンジニアが日々向き合う議論:
NN か、物理モデルか? (PINN: Physics-Informed Neural Networks)
データ駆動か、帰納バイアスか? (World Models, Neural ODE)
End-to-end 学習か、モジュール設計か? (Sim-to-Real、Robotics)
LLM だけか、Symbolic と組み合わせるか? (Toolformer, RAG, Function Calling)
これらは全部、Bitter Lesson の現代的反復 だ。
70 年前のファイゲンバウムとヒントンの対立は、今もエンジニアの間で続いている。
理解度チェック
Q1
MYCIN のような典型的なエキスパートシステムの構成要素はどれですか?
a 知識ベース + 推論エンジン + ユーザインターフェース b 入力層 + 隠れ層 + 出力層 c Encoder + Decoder + Attention d ジェネレーター + ディスクリミネーター 答えを見る 正解 — a
エキスパートシステムは「知識ベース (Knowledge Base)」+「推論エンジン
(Inference Engine)」+「ユーザインターフェース (UI)」の 3 構成要素が古典的な
教科書定義。(b) はニューラルネット、(c) は Transformer、(d) は GAN。
Q2 構造問題
Scene 2 のパーセプトロンと Scene 3 のエキスパートシステムは、 表面は別技術ですが、根本的な共通点は何ですか?
a どちらも線形代数を使う b どちらも「人間が事前に何かを定義する」アプローチである c どちらも医療診断に使われた d どちらも日本で開発された 答えを見る 正解 — b
これが本章の最重要メッセージ。Perceptron は人間が「線形分離可能性」を
事前定義し、Expert Systems は人間が「IF-THEN ルール」を事前定義した。両者とも、
人間の事前定義を起点にする構造で、どちらも限界にぶつかった。
Q3
Bitter Lesson の本質的なメッセージはどれですか?
a 記号主義は科学として誤りだった b 人間の知識を機械に組み込むより、計算量とデータを増やすほうが長期では勝つ c AI は人類を脅かす存在になる d 神経科学が AI 研究を主導すべきだ 答えを見る 正解 — b
サットンの Bitter Lesson の核心。「人間が"こう考える"を組み込む」のは
短期では有効だが、長期では計算量とデータの規模に支えられた「機械が自分で学ぶ」
アプローチに敗れる、という歴史的経験則。
Q4 現代との接続
今日のエンジニアが取り組む「PINN」(Physics-Informed Neural Networks) は、本章のテーマとどう関係しますか?
a 関係ない b Bitter Lesson の現代的反復 — 物理法則 (人間の事前定義) と ニューラルネット (データから学ぶ) のハイブリッド c パーセプトロンの直接の後継 d Cyc プロジェクトの再現 答えを見る 正解 — b
PINN は物理法則 (微分方程式) という人間の事前定義と、ニューラルネット
の学習能力を組み合わせるアプローチ。「Symbolic と Sub-symbolic のどちらが正しいか」
ではなく「どう組み合わせるか」を問う、本章テーマの現代的展開。
次章への問い
Reimei が本を開きサットン『苦い教訓』(Bitter Lesson) を Nova に示す (Scene 3 第 11 ページ — Arc 2 hook)
エキスパートシステムは冬を迎えた。少なくとも、業界はそう思った。
しかし考えてみてほしい。「機械が自分で学ぶ」道は、本当に死んだのか?
Scene 2 page 10 で、ヒントンたちが地下で何かを続けていた のを覚えているだろうか?
1986 年、3 人の研究者 (ラメルハート、ヒントン、ウィリアムズ) が、
ある論文を発表していた:
「Learning representations by back-propagating errors」
これが、層を重ねたニューラルネットを学習させる方法 ——
バックプロパゲーション (誤差逆伝播法) だ。
XOR の壁は、層を 1 つ増やすことで越えられる。
だが、その「層を増やせば学習できる」という発想を実装する技術が、
ここ Scene 3 の時代 (1980s) に静かに育っていた。
そして 2006 年、ヒントンが深い ネットワークを学習させる手法 (Deep Belief Nets)
を発表する。さらに 2012 年、AlexNet が ImageNet を制する。
Bitter Lesson の予言が、現実になった瞬間だ。
→ 次章 (Arc 2): 「目覚め — Deep Learning と "学ぶ機械" の勝利」
Concept Map 更新:
人工知能 (AI)
記号主義 Symbolic
Expert Systems MYCIN, XCON
STRIPS → モダンプランニング → LLM agent(今も生きる)
Cyc → Knowledge Graph 今も生きる
Prolog / 第 5 世代 → SAT/SMT, Datalog(今も生きる)
結合主義 Connectionist
パーセプトロン 限界: XOR(Scene 2)
バックプロパゲーション (1986) → 深層学習へ(Arc 2)
今後の鍵 Bitter Lesson(サットン 2019)
「人間の事前定義より、計算量とデータが長期では勝つ」→ 今日のエンジニアの議論(NN vs 物理モデル, PINN, World Models, Neurosymbolic AI)
Arc 1 の総まとめ。記号主義と結合主義、そして両者を貫く Bitter Lesson と次章への伏線。
参考文献
Buchanan, B. G., & Shortliffe, E. H. (1984). Rule-based Expert Systems: The MYCIN Experiments of the Stanford Heuristic Programming Project . Addison-Wesley.
McDermott, J. (1982). R1: A Rule-Based Configurer of Computer Systems. Artificial Intelligence , 19(1), 39-88.
Feigenbaum, E. A., & McCorduck, P. (1983). The Fifth Generation . Addison-Wesley.
Fikes, R. E., & Nilsson, N. J. (1971). STRIPS: A new approach to the application of theorem proving to problem solving. Artificial Intelligence , 2(3-4), 189-208.
Lenat, D. B. (1995). CYC: A large-scale investment in knowledge infrastructure. Communications of the ACM , 38(11), 33-38.
Polanyi, M. (1966). The Tacit Dimension . University of Chicago Press.
Sutton, R. (2019). The Bitter Lesson. http://www.incompleteideas.net/IncIdeas/BitterLesson.html
Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature , 323(6088), 533-536.
Arc 1 登場人物(統合プロフィール)
Arc 1 は Scene 1 (ダートマス、1956) と Scene 2 (パーセプトロン、1944-1988) を貫いて、
同じ人物が異なる年齢で登場します。ここでは生涯を通した姿でまとめます。
アラン・チューリング Alan Turing (1912 - 1954)
英国の数学者 / 計算機理論の創始者
1936 年「On Computable Numbers」でチューリングマシンを定義、
1950 年「Computing Machinery and Intelligence」でチューリングテスト を提案。
「機械は考えるか?」という問いを操作的に 言い換え、
意識の哲学的問題を一旦"脇に置いて"科学にしうる地図を描いた。
この「脇に置いた」ことが Arc 1 全体を貫く重要な伏線。
ジョン・マッカーシー John McCarthy (1927 - 2011)
Dartmouth College 助教授 (会議当時 28 歳) / 後に Stanford AI Lab 創設者
「Artificial Intelligence」という名前そのものの生みの親。Princeton 大学院で Minsky の同窓。
Shannon は Bell Labs 時代の師。Dartmouth 会議の主導者・組織者。
後年 LISP プログラミング言語を発明、Turing 賞受賞 (1971)。
クロード・シャノン Claude Shannon (1916 - 2001)
Bell Labs / 情報理論の父
1948 年「A Mathematical Theory of Communication」で情報理論を創始、最年長の参加者として
若き McCarthy/Minsky の取り組みに知的後ろ盾を提供した。Dartmouth 会議の "権威の証"。
ナサニエル・ロチェスター Nathaniel Rochester (1919 - 2001)
IBM 主任技術者 / IBM 701 設計者
当時の IBM 主力計算機の生みの親。最初は懐疑的だったが McCarthy に折れ、
実機アクセスを約束。理論と実装をつなぐキーパーソン。
マービン・ミンスキー Marvin Minsky (1927 - 2016)
Scene 1 では 28 歳の Harvard Junior Fellow / Scene 2 では 41 歳の MIT AI Lab 教授
Arc 1 全体を貫く重要人物。1951 年 (24 歳の Princeton 大学院生時代) に
SNARC (Stochastic Neural Analog Reinforcement Calculator) を建造 ——
世界初のニューラルネットワークハードウェア、Mark I より 7 年早い結合主義の祖。
1956 年 Dartmouth 会議参加 (Scene 1) で AI 命名の連名者に。
1959 年 McCarthy と MIT AI Lab を共同設立。
1969 年に Papert と共著で 『Perceptrons』 を出版し (Scene 2)、
旧友 Rosenblatt の単層パーセプトロンが XOR を解けない数学的限界を証明。
これが「第 1 次 AI 冬」の引き金となった。
1988 年 、61 歳のとき『Perceptrons』改訂版前書きで
「あの本で……我々は、少し言い過ぎたのかもしれない」 と振り返った。
冷笑ではなく「夢を見た仲間として、その夢の限界に気づいてしまった者の知的誠実さ」が
Arc 1 における Minsky 像。
フランク・ローゼンブラット Frank Rosenblatt (1928 - 1971)
Cornell 大学心理学者 / Cornell Aeronautical Laboratory
Bronx High School of Science 卒 (1946。Minsky は 2 学年上の同窓)。Cornell で心理学博士号を取得後、
認知心理学と計算機科学を融合した独自の道を歩む。
1957 年に Mark I パーセプトロン を発明、1958 年 7 月の Pentagon デモで一躍時の人に。
「やがてこの機械は、歩き、話し、見て、書き、自らを再生産し、自分が存在することを意識するようになる」
(1958 NYT) と宣言したこの発言は、後年その過剰な約束 として彼を縛ることになる。
多才なロマン主義者。天文学にも関心が深く、趣味でセーリングを楽しんだ。
1971 年 7 月 11 日、43 歳の誕生日に Chesapeake Bay で海難事故により死亡 。
手元のノートには「Back-coupled networks」「Multi-layer — error correction」など、
後の誤差逆伝搬法 を先取りしたメモが残されていた。Arc 1 Scene 2 の主役。
シーモア・パパート Seymour Papert (1928 - 2016)
MIT AI Lab 共同設立者 / 数学者・教育学者
南アフリカ出身の数学者・教育学者。Piaget の弟子で構成主義教育の先駆者。
1967 年に Minsky と MIT AI Lab を共同設立。
『Perceptrons』(1969) の共著者として、Rosenblatt の連結主義に対する
数学的批判 (XOR 問題、線形分離可能性) の理論的支柱となった。
子供向けプログラミング言語 Logo の生みの親としても知られる。
Arc 1 統合史実年表 (1936 - 1988)
1936
Turing「On Computable Numbers」 — チューリングマシン提唱
1943
McCulloch & Pitts、神経細胞の数理モデル発表 (マカロック-ピッツ・ニューロン)
1944
Scene 2 10 代の Rosenblatt と Minsky、Bronx High School of Science で出会う
1948
Scene 1 Shannon「A Mathematical Theory of Communication」 — 情報理論誕生
1950
Scene 1 Turing「Computing Machinery and Intelligence」 — Turing Test 提案、意識の問題を"脇に置く"
1951
Scene 2 Minsky、Princeton 大学院で SNARC 建造 (世界初の NN ハードウェア、24 歳)
1955.08.31
Scene 1 McCarthy ら 4 名連名で Dartmouth 提案書を Rockefeller Foundation に提出。「Artificial Intelligence」の語が史上初めて公式文書に登場
1956.06-08
Scene 1 Dartmouth 会議開催 。McCarthy (28), Minsky (28), Shannon (40), Rochester (37) + 10 名以上。Newell & Simon の Logic Theorist 発表
1957
Scene 2 Rosenblatt、Mark I パーセプトロンを開発開始 (Cornell Aeronautical Lab)
1958
McCarthy、LISP プログラミング言語を発明
1958.07.07
Scene 2 Pentagon で Mark I デモ、Rosenblatt 「限界は、ありません」と宣言
1958.07.08
Scene 2 New York Times「NEW NAVY DEVICE LEARNS BY DOING」 一面記事
1959
Minsky と McCarthy、MIT AI Lab 設立
1960
Scene 2 Stanford の Widrow、ADALINE を発表 — 連結主義の流派が拡大
1967
Scene 2 Papert が Minsky と MIT の AI 研究グループを共同指揮 (MIT には 1963 年から)
1969
Scene 2 『Perceptrons』(Minsky & Papert) 出版 。XOR 問題等で単層の限界を数学的に証明、連結主義の冬が始まる
1971.07.11
Scene 2 Rosenblatt、Chesapeake Bay で 43 歳の誕生日に海難死亡 。手元のノートに「Back-coupled networks」のメモ
1986
Rumelhart, Hinton, Williams が backpropagation 論文を発表 (Nature) → Arc 2 へ
1988
Scene 2 Minsky (61)、『Perceptrons』改訂版の前書きで「あの本で……我々は、少し言い過ぎたのかもしれない」と振り返る
参考文献
McCarthy, J., Minsky, M.L., Rochester, N., Shannon, C.E. (1955). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Rockefeller Foundation.
Turing, A.M. (1950). "Computing Machinery and Intelligence." Mind , 59(236), 433-460.
Shannon, C.E. (1948). "A Mathematical Theory of Communication." Bell System Technical Journal , 27.
McCulloch, W.S. & Pitts, W. (1943). "A Logical Calculus of the Ideas Immanent in Nervous Activity." Bulletin of Mathematical Biophysics , 5, 115-133.
Rosenblatt, F. (1958). "The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain." Psychological Review , 65(6), 386-408.
Rosenblatt, F. (1962). Principles of Neurodynamics: Perceptrons and the Theory of Brain Mechanisms. Spartan Books.
Minsky, M. & Papert, S. (1969). Perceptrons: An Introduction to Computational Geometry. MIT Press. (改訂版 1988)
Rumelhart, D.E., Hinton, G.E. & Williams, R.J. (1986). "Learning representations by back-propagating errors." Nature , 323, 533-536.
Newell, A. & Simon, H.A. (1956). "The Logic Theory Machine." Dartmouth Summer Research Project.
Crevier, D. (1993). AI: The Tumultuous History of the Search for Artificial Intelligence. Basic Books.
Russell, S. & Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
Olazaran, M. (1996). "A Sociological Study of the Official History of the Perceptrons Controversy." Social Studies of Science , 26(3).
New York Times. (1958-07-08). "New Navy Device Learns by Doing."