一、ある日付
1965年12月、ランド研究所が3244番の文書を印刷した。題は「錬金術と人工知能」。書いたヒューバート・ドレイファスは哲学をする人だった。三ページと四ページに、八年前のものを一項目ずつ書き写した。
1957年11月、ピッツバーグのホテルの晩餐でサイモンが読み上げた四つの予言だ。このシリーズの第七篇はその夜に始まる。十年以内に計算機がチェスの世界王者になる。重要な新しい数学の定理を発見し、証明する。批評家が認める曲を作る。心理学の理論の大半がプログラムの形で書かれる。期限はどれも十年だ。
四つを写すと、今これを決定的に検証するにはまだ早い、と一文続けた。それから日を挙げた。十周年の1967年11月に、当初の見込みとそのときの現実を並べてみてはどうか。帳尻を合わせる約束である。
第七篇の最後に記したことがある。四つの期限が来ても、二人の著者が一項目ずつ照らし合わせた文は、ここでは見つけていない。期限の二年前には、この分野の外から来た一人が、いつ期限が来るかを紙に書いた。この篇はその人と、彼が提案した照らし合わせがどうなったかの話だ。
3244番の最初のページに脚注がある。1964年8月のランドでの非公式の講演をもとに書いたもので、意見は著者個人のものだ。ランドは職員の便宜のためにこういう文書を印刷した。一度の講演が原稿になり、所内を回った。
後には、ランドがこれを握りつぶしたという話が伝わった。出どころは十数年後の本だ。パメラ・マコーダックは1979年の『思考する機械』に、ランドのポール・アーマーが後で思い返したことを書いた。彼は出すことをためらった。だが同僚のロバート・ラインスターは、内部研究の結論が気に入らないというだけで刊行を見送るべきではないと考え、刊行を進めた。1965年12月、3244番として印刷された。ためらってから出した。それが後には、握りつぶした、になった。
ラインスターの名は文書そのものの謝辞にも出る。一緒に礼を述べているのはスチュアート・ドレイファス、著者のきょうだいだ。二十数年後、二人で一篇の論文に名を連ねる。
二、四種類の活動
3244番がどう問うたか。後の語りはここでいくつも道を違える。機械は思考できるか、とは問わなかった。序論ではもっと狭く、子どもや動物のような単純で知的な行動をさせるプログラムを、デジタル計算機に書けるかと問う。盤上競技、簡単な問題を解くこと、文を読むこと、パターンを見分けることだ。第一部で調べた四分野も、チェス、問題解決、言語翻訳、パターン認識だった。第一部の題は「人工知能分野の現状」である。
第二部は「人と機械の情報処理」。人が情報を扱う仕方はデジタル計算機とどこが違うかを、三つの言葉で示した。一つは周辺的な意識。何かに注意を向けるとき、正面から見ていない周りのものも働いている。一つは本質と偶然を見分けること。場面の何が大事で何がたまたまか、人は見分けられる。一つは曖昧さを許すこと。一文にいくつか意味があっても、そのまま先へ進み、文脈に判定を任せられる。
要約には、相手側の前提についてもう一つ書いた。当時の楽観派は、知的な活動どうしは複雑さが違うだけだと信じた。その信念と初期のいくつかの成功から、どんな認知の働きでも、背後の情報処理をプログラムにし、デジタル計算機でまねられると確信した。彼が疑おうとしたのは、この前提だ。
知的活動を四種類に分けた。要約では、うち二種類には人が用いる三つのやり方が要らず、当時の方法でプログラムにできるという。残る二種類で大きく進むには、まったく異なる計算機を待たなければならない。そのとき唯一の原型は、まだよくわかっていない人の脳だった。
第三部はプログラムを書く障害を三つに分けた。見出しの語は、事実の無限性、必要なものの不確定性、文脈の相互性である。事実の無限性とは、物事を正しく行うために知るべき事実を挙げていくと終わらない、ということだ。必要なものの不確定性とは、何が関係するかは何をするかで決まるが、何をするかには何が関係するかを先に知らなければならない、ということだ。文脈の相互性とは、語の意味が文脈で決まる一方、文脈の意味も語で決まり、ひと回りして戻ることだ。一つは並べきれず、一つは後ろへ下がり、一つは輪を回る。
九十ページ余りのここまでは、具体的なプログラム、予言、問題に向けた論証だった。後で照らし合わせる箇所が二つある。1967年11月という日付と、残る二種類の活動にはまったく異なる計算機が要る、という要約の一文だ。二つには別々の続きがあった。
三、十歳の子ども
3244番が出ると、分野の側から返事があった。1968年、パパートが七十六ページの研究所の覚え書きを書いた。この名は前の二篇に出た。パーセプトロンの本をミンスキーと書いた人だ。覚え書きの題は「ヒューバート・ドレイファスの人工知能――誤謬の一覧」。題そのものが返事になっている。
二つの文書は形がちょうど対称だ。ドレイファスの原稿はランドの内部文書で、組織が自分の職員に印刷した。パパートの覚え書きはMIT人工知能研究所の内部文書で、やはり内輪に印刷した。一方の内部文書がもう一方に答える。どちらも学術誌の論文ではなく、外の査読を受けていない。最初から、それぞれの組織の謄写機で争っていた。
サイモンの反応は一言だ。ランドの名が刷られた文書を、くずと呼んだ。
外の反応は違った。1966年6月11日、『ニューヨーカー』が一般の読者向けに短い紹介を載せた。当時、まともに一局指せる計算機はまだなかった、と書く。「まだ」だ。永遠にない、ではない。
次に一つの見出しが来る。後にアメリカ計算機学会の人工知能専門部会の会報に載ったとき、題は二つに分かれていた。先は「十歳の子どもでもこの機械には勝てる」で、ドレイファスの名がつく。後は編集者が足した。「だが、この機械はドレイファスに勝てる」。題が語るのは一局のチェスだ。
四、あの一局
相手はMac Hack VIというチェスのプログラムだった。作ったのはMITのリチャード・グリーンブラット。学校にあったチェスのプログラムに、経験から来る規則を五十ほど足した。DECの機械で動いた。第九篇の積み木のプログラムと、同じ学校の同じ種類の機械だ。1967年、プログラムは人の大会に出て、レーティングは1400前後だった。
ドレイファスが白、機械が黒。初手は双方ともキングの前のポーンを二マス進めた。勝ったのは機械だ。この対局をお膳立てしたのはパパートだった。
あとでサイモンがこの対局を評した。どちらも大したことのない二人の指し手による白熱した一局で、最後まで行方がわからなかったという。機械は連続王手とクイーンの両取りで窮地を抜け、勝った。どちらも大したことのない二人。そう言ったのは四つの予言を書いた一人だった。
あの日付のそばに対局を戻そう。1957年の第一の予言は、十年以内の世界王者だった。1965年、ドレイファスが照らそうとしたのは1967年11月だ。1967年前後、盤の向こうに座った機械のレーティングは1400前後。期限の月にも世界王者はまだ人間だった。第一の予言は実現しなかった。ただ、覚えられたのはこの帳尻ではない。機械がドレイファスに勝ったことだ。
ドレイファスが問うたのは、期限が来て機械は世界王者になったか、だ。対局が答えたのは、機械はドレイファスに勝てるか。後の問いは前よりずっとやさしく、彼が出した問いでもない。
第五篇で、測れない問いを測れるゲームに替えるやり方を見た。そのときは問うた人が自分で替え、自分が替えていると論文に明記した。今度は照らし合わせが一局のチェスに替わった。替えたのは問うた人ではなかった。
ドレイファス本人の抗議も残った。会報に手紙を書き、機械が不正をしたとも、一局を数えるなとも言わなかった。言っていないことへの反論に対局を使った、と抗議した。当時のプログラムへの批判と十年という期限への疑問を、計算機は永遠にチェスを指せないという主張に書き替え、その上で一局を反論に使ったというのだ。サイモンも返した。ドレイファスは噛みつく筆を使ったのだから、噛まれたものが噛み返すことは覚悟すべきだ、という趣旨だった。もうどちらもチェスの話ではなかった。
五、四つの仮定
1972年1月、彼は『コンピューターにできないこと――人工理性批判』を出した。1965年の文書の内容を並べ直した。第二部に四章があり、各章が一つの仮定を扱う。もとの題は生物学的仮定、心理学的仮定、認識論的仮定、存在論的仮定だ。それぞれ何を言うか。
生物学的仮定。ある層、ふつうはニューロンの層と考えるが、そこで脳は一つずつ離散的な操作で情報を扱い、デジタル機のスイッチにあたる生物学的機構がある。
心理学的仮定。心は形式的な規則で情報を処理する装置と見られる。強い形では、その規則が実際に行動を生む規則そのものだとする。
認識論的仮定。知識はすべて形式化できる。彼はもう二つに分けた。行動は形式化できる。形式化した体系を使って、その行動を再現できる。
存在論的仮定。知的な行動に関係する世界についての情報は、原理上、具体的な状況によらない要素にすべて分けられる。世界は論理的に独立した事実の山と見なされる。
四つを置いて彼が何を求めたか。後に最もきれいに削られた限定がある。四つは誤りだと証明した、とは言わない。この分野では四つを結果を保証する公理と見なしがちだが、仮説に戻し、研究の成否で検証するものにしたいという。公理から仮説へ下ろす。誤謬と決めつけるのではない。
生物学の章には同じ加減がある。脳のある層がデジタル計算機に似ていることと、この分野の発見的プログラムが成功することを分けた。前が成り立っても後は出てこない。認識論の章でも、ある能力を形式化できることと、その形式化が実際に人がそれをすることの因果的な説明になることを分けた。攻めたのは数学による記述全体ではない。一つの形式的な記述から、知的な過程の働き方を直接導くやり方だ。
チェスも出てくる。チェスと囲碁は複雑な形式体系に分けた。原理上は形式化できる。ただ、要素が増えると組み合わせが急増し、現実には総当たりができず、発見的なプログラムに頼る。1965年の文書ではさらに強く、ある局面では人は枝葉を捨てて勝てるが、当時考えられた発見的プログラムにはできないとした。チェスも囲碁も、限られた範囲でしかプログラムにできない部類に入れた。だが計算機が永遠にうまく指せないことにはならない。1972年にも、チェスを原理上形式化できる部類に入れていた。
強い判断もある。当時の実験から得られた資料を調べ、認知のシミュレーションや人工知能がさらに大きく前進する見込みはきわめて低いとし、まだ楽観する側に立証の負担を渡した。強い言葉だ。その直後、さらに限定する。速い機械、よいプログラミング言語、賢い発見的手法で境界線をどこまで押せるかは、実験でしか決まらない。証明できる技術上の上限ではない。一つの判断と、それを実験に委ねる言葉がある。
結論には後にほとんど引かれない箇所がある。アテナのように生まれた瞬間から成熟したデジタル知能が原理上不可能でも、この分野の個々の技術で、人の知的行動にどこまで近づけるかは別に問わなければならない。完全な人造人間と、部分ごとの成功を同じ命題にはしなかった。
六、自分自身の勘定
本は後に二度出て、毎回、本人が序文を足した。1979年の改訂版は『人工知能の限界』に副題が変わった。新しい長い序文で、元の本文を残し、曖昧か誤解を招く箇所だけを書き直したと説明した。1967年から1977年の十年に出た新資料と結論は、前に置く長い序文にすべて入れた。古い本はおおむね動かさず、新しい勘定を先に書く。
長い序文には新しくこうある。研究者はいま、常識的な知識の問題に正面からぶつかっている。人が物事を進めるとき頼る広い背景は、主として体が身につけた力と何をどうするかの知で、ただ大きな事実の倉庫ではない、と彼は考えた。
1992年、第三版が『コンピューターにまだできないこと』と改題して出た。「まだ」が加わった。さらに前へ一篇の序文を足し、1979年の序文も元の本文も残した。読者が手にしたのは三層の本だ。中に1972年の本文、外に1979年の序文、一番外に1992年の序文。同じ人の三つの年が一冊に綴じられ、後に書いたものが先に来る。
1992年の序文には自分を改めた箇所がある。昔、文脈を一つの全体として語ったが曖昧だったと認めた。スチュアートの技能習得モデルを借り、神経網の研究も見て、ようやく比較的具体的な別の道が手元に来たと思ったという。同じ序文で、規則と事実に頼る道は失敗したと述べると、すぐ、この失敗はこの類の人工知能が不可能だという意味ではない、と足した。さらに判断を、少なくとも現時点では、と限った。
3244番のもう一つにも続きがあった。その二種類の活動が大きく進むには、原型が脳しかない別の計算機が要ると書いた。1997年、ディープ・ブルーが公式の対局で世界王者カスパロフを破った。それもデジタル計算機だった。これで勘定の一行は書き替わったが、日常の文脈についての一行までは締まらなかった。1957年の夜に言ったのは十年だ。その夜から対局までは四十年。二つの日付が同じ帳簿に載る。
七、分かれ道
1988年冬、二人は人文・科学アカデミーの雑誌に「心を造るか、脳を模倣するか――人工知能は再び分かれ道に立つ」を書いた。冒頭はこう始まる。一派は計算機を心の記号を操作する体系と見なし、もう一派は脳をモデル化する媒体と見なす。続いて違いを一組ずつ並べた。一方は形式的な表現、問題解決、論理が中心で、もう一方は神経の相互作用の模倣、学習、統計が中心だ。
これは第八篇の線のもう一方の端である。1969年の本はある一種類の機械の境界線を測り、その流れは後に十年死んだと語られた。1988年、二人は分かれ道の片方にそれを戻した。
記号の側の歴史を三つに分けた。1955年ごろから1965年ごろは表現と探索。1965年ごろから1975年ごろはマイクロワールド。1975年以降は常識的な知識の問題だ。マイクロワールドの例には第九篇の積み木のプログラムがある。限られた小世界を一つずつ現実に近づけ、それを継いで現実の世界の理解を作ろうとしたのが当時の望みだったという。1975年以降、研究者はその問題のために、初めはできるだけ避けた広い日常の背景に向き合わざるをえなくなった、と二人は書いた。
この三つはちょうど、このシリーズが来た道でもある。第六篇、第七篇の夏と十年は表現と探索。第九篇の机の積み木はマイクロワールド。三つ目の常識には、まだ来ていない。分野を批判する人が、その分野の時代区分を描いた。外から描き、自分は第三の時期の入口に置いた。広い日常の背景は、1965年から指し続けてきたものだった。
ドレイファスが神経網を予言し、さらには深層学習を予言した論文とよく言われる。結びにあるのは違う。神経網を答えとは宣言しなかった。神経網でモデル化する方法は、ようやく失敗する機会を得ただけかもしれないと書いた。そして、具体的な状況にふさわしい一般化を、網はどうしたらできるかと尋ねた。
その先には一覧がある。訓練する人があらかじめ決めた連想ではなく、自分の経験から人のような連想が育つには、人といくつかのものを共有しなければならないかもしれない。何がふさわしいかの判断、必要、欲望、感情、人に似た体、自分で動く力、そして傷つきうること。傷つきうることが最後にある。
機械に永遠にできないとは言っていない。人のように、というなら、要るのはデータを増やしアルゴリズムをよくすることだけではない。何かが必要で、何かが欲しくて、痛む体が要るかもしれない。この段落も後にはあまり引かれない。引かれるのは分かれ道の一文だ。
2007年にもまだ書いていた。人工知能の雑誌に「なぜハイデガー的人工知能は失敗したか、そして直すにはなぜもっとハイデガー的でなければならないか」を出した。題には「直す」とある。
八、照らし合わせる
最後に、ほかの人が彼について記した勘定を年順に並べる。1968年、パパート。「誤謬の一覧」。
1979年、マコーダックはこの分野がドレイファスに示した強い敵意を本に記した。自分では全部を否定しなかった。批判したのは皮肉な書き方で、本来なら説得できた人を遠ざけたという。
1983年、ニューウェル。この名は何度も出た。1957年の四つの予言を書いた一人で、1969年のパーセプトロンの本にも書評を書いた。1983年、人工知能の思想史についての論文で、文脈は独立した離散要素に分けられないというドレイファスの批判は、まさに中核にある思想上の異議であり、それまでの応答は実際にはそこに触れていなかったと書いた。四つの予言の著者の一人が、照らし合わせを提案されて十八年後に書いた。結論を受け入れたのではない。あの問いには、まだ答えが出ていないと認めたのだ。
1990年1月、チャーチランド夫妻が一般向けの科学雑誌に「機械は思考できるか」を書いた。1972年のドレイファスの本は、認知を模倣する見本の足りないところと、それらが繰り返し失敗する型を指摘したと述べた。
1993年、クレヴィエは人工知能史を書き、限った言い方をした。やがて、ドレイファスの指摘には正確で洞察に富むものがあったとわかった。いくつかであって全部ではない。最初の表現があれほど攻撃的でなければ、建設的なところをもっと早く受け取れたかもしれない、とも述べた。
1996年、マッカーシー。1992年版を書評し、最初から、記号の道が衰退する研究計画だとドレイファスにどうしてわかるのか、よくわからない、と問う。非単調推論などの最近の仕事を読んでいないと非難し、その分野の成長を、記号の道もまだ進んでいるという反証にした。
同じ書評で常識的な知識と推論を分野の中心に置き、文脈、非単調推論、内省、記述の水準を、これからの仕事に挙げた。人の水準の人工知能は、いまはまだ工学で解ける範囲に収まらず、おそらく根本的な科学上の発見が要る、とも書いた。最後には問いを投げ返す。十分正確で単純な知的行動で、人にできて計算機にはできないと明らかなものを一つ挙げてほしい。
2004年、マコーダックの改訂版は二組の話を残す。一方は1960年代の侮蔑と嘲笑、もう一方は後にいくつかの判断に値打ちがあると認めた記述だ。
この列を並べて、後に伝わった二文を見る。一つは、ドレイファスはすべて正しいと証明された、だ。この列でニューウェルが認めたのは問いが答えられていないことで、クレヴィエは「いくつか」と言い、マッカーシーは1996年にも結論を一つずつ反駁した。もう一つは逆に、すべて誤りと証明された、という。ところがマッカーシー自身も常識と文脈を分野の中心に置き、人の水準はまだ工学で解けないと述べた。二文とも何かを削る。前は「いくつか」を、後はマッカーシーの譲歩を削った。
書き替えの形はいつも通りだが、今回は同じ人に起きた回数がいちばん多い。
検証するにはまだ早く、十周年に照らそうと書いた。伝わったのは、計算機には永遠にチェスを指せない、だった。
当時はまだない、と書いた。伝わったのは、永遠にない、だった。
公理を仮説に下ろす、と書いた。伝わったのは、人工知能は不可能だと証明した、だった。
この失敗は不可能を意味せず、少なくとも現時点ではこうだと書いた。伝わったのは、人工知能は必ず失敗すると言った、だった。
神経網はようやく失敗の機会を得ただけかもしれない、と書いた。伝わったのは、深層学習を予言した、だった。
五つはみな同じ向きではない。最初の四つは元より断定を強くし、最後の一つは元より先見のある人物にした。
本人が二十七年のあいだにしたのは別のことだ。古い本文をおおむねそのまま一番奥に置き、曖昧な文をいくつか直し、十数年ごとに外へ序文を一枚足した。どこが曖昧で、どこが成り立たず、どの言い方を替えたかを序文に書いた。1992年の本は帳簿だ。開くと最新の訂正があり、内へめくると古い訂正があり、さらに奥に訂正された1972年の人がいる。
鑿構という動きを、このシリーズは機械を造る人に重ねてきた。何かを造り、端に線を引き、外にまだ残るものがあるので、また造る。ドレイファスは線を引く人で、彼の線もやはり動いた。動くたび、古い線は本に残った。
最後にあの日付へ帰る。1965年12月、3244番の四ページに日を記した。十周年の月に見込みと現実を並べる。その月は過ぎた。四つの最初は実現せず、盤の前に座れた機械のレーティングは1400前後だった。覚えられたのは彼が負けた一局と、機械は彼に勝てるという見出しだった。
照らし合わせを提案した人は、後になって自分が照らし合わせられた。彼が問うたのは四つの予言だった。覚えられたのは、彼についての一行である。
機械は今も造られつづける。境界線がどこにあるかは、世代ごとに語り直される。