鑿構週期律 · AI系列 · 11

一位哲學家說: 人工智能是煉金術

秦漢 · 約 15 分鐘 · 發布

一、一個日子

1965年十二月, 蘭德公司印出了一份編號三二四四的文件。題目叫《煉金術與人工智能》。作者休伯特·德雷福斯, 做哲學的。文件的第三頁和第四頁上, 他把一份八年前的東西逐條抄了一遍。

那是1957年十一月, 匹茲堡一家旅館的晚宴上, 西蒙宣讀的四條預言。這個系列的第七篇從那一晚開始: 十年之內, 一臺計算機會成為世界國際象棋冠軍; 十年之內, 一臺計算機會發現並證明一條重要的新數學定理; 十年之內, 一臺計算機會寫出被評論家認可的音樂; 十年之內, 大多數心理學理論會寫成程序的形式。

德雷福斯把四條抄完, 接著寫了一句: 現在要對這些主張作出定論性的檢驗, 還太早。然後他給了一個日子。他說, 到1967年十一月, 十週年的時候, 可以把當初的設想與那時候的現實擺在一起比一比。這是一個對賬的約。

第七篇的末尾沒有找到兩位作者逐條對那四條預言算賬的文字。而在到期之前兩年, 有一個不在這一行裡的人, 把到期的日子白紙黑字寫了下來。這一篇講的就是這個人, 和他提出的那一次對賬後來變成了什麼。

編號三二四四的第一頁上有一條腳注: 這篇東西是根據1964年八月在蘭德公司做的一次非正式講話寫成的, 文中的意見屬於作者本人。蘭德把這一類文件印出來, 是給自己員工的一種方便。它是一次講話變成的一份文稿, 在蘭德裡面傳。

後來流傳一種說法, 說蘭德把它壓了下來。這個說法的出處是十幾年後的一本書。1979年, 帕梅拉·麥科達克寫《會思考的機器》, 記下了蘭德的保羅·阿默事後的回憶: 他對發表這篇東西有過顧慮; 而同事羅伯特·萊因斯特推動發了出去, 理由是蘭德不應該只因為不喜歡一份內部研究的結論, 就不發表它。1965年十二月, 它以編號三二四四印出來了。有過猶豫, 然後發了。傳到後來, 成了壓了下來。

萊因斯特這個名字, 也出現在文件本身的致謝頁上, 一起被謝的還有斯圖爾特·德雷福斯。斯圖爾特是他的兄弟。二十幾年後, 兄弟倆會一起署名寫一篇文章。

二、四類活動

編號三二四四的問題是怎麼提的, 後來的許多說法都從這裡分出去。他沒有問機器能不能思考。他在導言裡把問題收得很窄: 數字計算機能不能被編出程序來, 表現出兒童或者動物那樣的簡單智能行為。下棋, 解簡單的題, 讀句子, 認圖樣。這四樣, 正是文件第一部檢查的四塊: 下棋, 解題, 語言翻譯, 模式識別。第一部的標題是: 人工智能這一領域的現狀。

第二部叫人與機器的信息處理。他在這裡提出了三個詞, 用來說人處理信息的方式與數字計算機不同在哪裡。一個是邊緣意識: 人在注意一樣東西的時候, 旁邊那一圈沒有正眼看的東西也在起作用。一個是區分本質與偶然: 人能分出一個情形裡哪些是要緊的, 哪些是碰巧的。一個是容忍歧義: 人能帶著一句話的幾種意思往下走, 讓上下文去定。

文件的摘要裡還寫了一件事, 說的是對面那一方的一個前提。他寫道, 當時的樂觀派相信, 各種智能活動之間的差別只在複雜程度上; 這個信念加上早期的一些成功, 讓人確信任何認知表現背後的信息處理都可以寫成程序, 由數字計算機來模擬。他要質疑的是這個前提。

他把智能活動分成四類。摘要裡說, 其中兩類不需要那三種人的方式, 所以可以按當時的辦法編程。另外兩類, 如果要取得重大的進展, 得等一種完全不同的計算機; 而這種計算機眼下唯一的原型, 是還沒有被人弄懂的人腦。

第三部把編程的障礙拆成三樣。標題裡的原詞是: 事實的無窮, 需要的不確定, 語境的相互性。事實的無窮說的是: 要把一件事做對, 該知道的事實往下列, 列不完。需要的不確定說的是: 什麼算相關, 取決於你要幹什麼, 而你要幹什麼又得先弄清什麼相關。語境的相互性說的是: 一個詞的意思靠上下文定, 上下文的意思又靠這些詞定, 轉一圈回來。一條是列不完, 一條是往回退, 一條是繞圈子。

那九十多頁, 到這裡為止, 是一個對著具體程序, 具體預言, 具體題目的論證。它有兩處是後來要對賬的。一處是那個日子: 1967年十一月。一處是摘要裡那句話: 另外兩類活動, 要等一種完全不同的計算機。這兩處, 後來各有各的下文。

三、十歲的孩子

編號三二四四出來以後, 這一行裡有人回了話。1968年, 帕佩特寫了一份七十六頁的實驗室備忘錄。帕佩特這個名字在前面兩篇裡都出現過: 那本講感知機的書是他與明斯基合寫的。備忘錄的題目是: 《休伯特·德雷福斯的人工智能: 一份謬誤清單》。題目就是回答。

兩份東西的體裁正好對稱。德雷福斯那一份是蘭德的一份內部文稿, 由一家機構給自己的員工印; 帕佩特這一份是麻省理工人工智能實驗室的一份內部備忘錄, 也是由一家機構給自己的人印。一家的內部文件, 回應另一家的內部文件。兩邊都不是期刊文章, 都沒有經過外面的審稿。爭論從一開始就是在兩家機構各自的油印機上打的。

西蒙的反應是一句話: 他管那份印著蘭德名義的東西叫垃圾。

外面的反應是另一種。1966年六月十一日, 《紐約客》登了一篇給普通讀者看的短文寫他, 文章裡寫的是: 當時還沒有計算機能下一盤像樣的棋。還沒有。不是永遠不會。

然後是一個標題。這件事後來登在美國計算機學會人工智能專業組的通訊上, 標題分成兩截。前一截是: 一個十歲的孩子就能贏這臺機器。後面掛著德雷福斯的名字。後一截是編輯加的: 可是這臺機器能贏德雷福斯。這個標題說的是一盤棋。

四、那一盤棋

對手是一個下棋程序, 叫 Mac Hack VI。作者是麻省理工的理查德·格林布拉特。他在學校原有的下棋程序上, 加進了五十來條下棋的經驗規矩。程序跑在一臺 DEC 的機器上, 與第九篇裡那個積木程序是同一所學校的同一種機器。1967年, 這個程序去參加了人類的棋賽, 等級分在一千四百上下。

德雷福斯執白, 機器執黑。開局是兩邊各把王前的兵推上兩格。機器贏了。張羅這一盤的是帕佩特。

西蒙事後說過這盤棋。他說這是兩個都不怎麼樣的棋手之間的一盤精彩的棋, 一直懸到最後; 機器靠一串將軍和一個後的雙擊擺脫了險境, 然後贏了。兩個都不怎麼樣的棋手。說這話的, 是那四條預言的作者之一。

現在把這一盤棋放回那個日子旁邊。1957年的頭一條預言, 是十年之內的世界冠軍; 1965年, 德雷福斯約在1967年十一月對一對; 1967年前後, 坐在棋盤另一頭的那臺機器, 一千四百分上下。到期的那個月, 世界冠軍還是一個人。那四條裡的第一條, 沒有兌現。而被記住的不是這一筆。被記住的是這臺機器贏了德雷福斯。

德雷福斯提的問題是: 機器到期了沒有, 是不是世界冠軍。那一盤棋回答的問題是: 機器能不能贏德雷福斯。後一個問題比前一個容易得多, 而且不是他提的。

這個系列在第五篇裡講過一個辦法: 一個量不了的問題, 被換成一個量得了的遊戲。那一次是提問的人自己換的, 而且他在文章裡寫明瞭自己在換。這一次, 一次對賬被換成了一盤棋。換的人不是提問的人。

德雷福斯自己的抗議也留下了。他寫信給那份通訊, 抗議的不是機器作弊, 也不是那盤棋不算數。他抗議的是: 這盤棋被拿來駁一句他沒有說過的話。在他看來, 人們把他對當時程序的批評, 和他對一個十年期限的質疑, 改寫成了計算機永遠不能下棋, 然後用一盤棋來駁。西蒙對這封抗議也有答復。他的意思是: 德雷福斯自己用的是一支帶牙的筆, 那就該料到挨了咬的人會咬回來。這一來一回, 說的都已經不是棋了。

五、四項假設

1972年一月, 他出了一本書, 題目是《計算機不能做什麼: 人工理性批判》。1965年那份文件裡的東西, 在這本書裡重新排了一遍。書的第二部有四章, 每一章一項假設。四章的原題是: 生物學假設, 心理學假設, 認識論假設, 本體論假設。四項分別說的是什麼。

生物學假設: 在某一層上, 通常被設想成神經元那一層, 大腦用一個一個離散的操作處理信息, 有某種與數字機開關相當的生物機制。

心理學假設: 心智可以看成一臺按形式規則處理信息的裝置; 在強的版本裡, 這些規則就是實際產生行為的那些規則。

認識論假設: 一切知識都可以形式化。他又把這一條拆成兩個: 行為能被形式化; 形式化出來的系統能被拿去把這種行為重新做出來。

本體論假設: 與智能行為有關的關於世界的一切信息, 原則上都可以拆成不依賴具體情境的元素; 世界於是被當作一堆彼此在邏輯上獨立的事實。

四條寫完, 他要的是什麼, 這裡有一處限定, 後來被刪得最乾淨。他不是說: 我證明瞭這四條是假的。他說的是: 這一行的人往往把這四條當作能保證結果的公理; 而他要把它們降回假說, 降回要由研究的成敗來檢驗的東西。從公理降為假說。不是從公理打成謬誤。

生物學那一章裡還有一處同樣的分寸。他把兩件事拆開: 腦在某一層上像數字計算機, 與這一行用的那些啓發式程序會成功。前一件即使成立, 也推不出後一件。認識論那一章, 他把能把一種本事形式化, 與這個形式化就是人實際幹這件事的因果說明, 也拆開了。他攻的不是一切數學描述, 攻的是從一個形式描述直接推出智能過程是怎麼運作的那種做法。

國際象棋在這本書裡也有位置。他把國際象棋和圍棋一類歸進複雜形式系統: 原則上可以形式化, 只是組合的量隨著元素增多而暴漲, 窮舉在實際上做不到, 所以得靠啓發式程序。1965年的文件說得更硬一點: 在一些局面裡, 人能捨掉枝節而贏, 當時設想的啓發式程序卻做不到。他把國際象棋和圍棋都列進只能有限編程的一類。這不等於計算機永遠不能下好棋; 到1972年, 他也仍把國際象棋放在原則上可以形式化的一類。

書裡的強判斷也有。在檢查了當時的經驗材料之後, 他說在認知模擬或者人工智能上取得進一步的重大進展, 極不可能; 並且把舉證的擔子推給仍然樂觀的那一方。這是很硬的話。而緊接著, 他又加了一層: 更快的機器, 更好的程序語言, 更聰明的啓發式, 究竟還能把這條邊界往前推多遠, 只能由實驗來定。所以這裡沒有一條可以證明的技術上限。有的是一個判斷, 加上一個把判斷交給實驗去驗的說法。

書的結論裡還有一處, 後來差不多沒有人引。他說, 即使一個像雅典娜那樣一出生就完整成熟的數字智能在原則上不可能, 也還得另外問: 這一行那些一塊一塊的技術, 能在多大程度上近似人的智能行為。一個完整的人造的人, 與一塊一塊的局部成功, 他沒有把它們當成同一個命題。

六、他自己的賬

這本書後來又印了兩回, 每一回都由他自己在前面添一篇序。1979年, 這本書出了修訂本, 副題換成了《人工智能的限度》。他在新寫的長序裡交代了自己的改法: 原書的主體保留, 只把顯得含糊或者會誤導的個別句段改寫; 1967年到1977年這十年的新材料和新結論, 都寫進前面這篇長序裡。舊書大體不動, 新賬寫在前面。

這篇長序裡有一處新的說法。他說這一行的研究者現在正面撞上了常識知識的問題; 而他認為, 人辦事所依靠的那一大片背景, 主要是身體裡的本事和會做的那一套, 不只是一個更大的事實庫。

1992年, 這本書第三次出版, 書名改成《計算機仍然不能做什麼》。書名多了一個仍然。這一版又在最前面加了一篇序, 1979年那篇保留, 原書主體保留。所以1992年的讀者手裡拿著的是一本三層的書: 最裡面是1972年的正文, 外面一層是1979年的序, 最外面一層是1992年的序。同一個人的三個年頭, 裝訂在同一本書裡, 後寫的在前面。

1992年那篇序裡有一處自我更正。他承認自己早年講的整體性的語境, 說得含糊。他說, 後來借了兄弟斯圖爾特關於技能習得的模型, 又看了神經網絡方面的工作, 才覺得手裡有了一條比較具體的替代路子。同一篇序裡, 他在宣佈靠規則和事實的那條路已經失敗之後, 馬上補了一句: 這個失敗並不意味著這一類人工智能是不可能的。然後他把進一步的判斷限定在: 至少眼下是這樣。

編號三二四四裡的另一處, 也有下文。那兩類活動要取得重大進展, 他寫的是得等另一種計算機, 原型只有人腦。1997年, 一臺叫深藍的機器在正式比賽裡贏了世界冠軍卡斯帕羅夫。它還是一臺數字計算機。這場棋改了賬上的一筆, 沒有替書裡日常語境那一筆結賬。1957年那一晚說的是十年。從那一晚到這一場, 過了四十年。這兩個日子, 記在同一本賬上。

七、分岔

1988年冬天, 兄弟倆在一份人文與科學院的刊物上合寫了一篇文章, 題目是《造一個心智, 還是模擬一個腦: 人工智能再臨分岔口》。文章第一句是這樣開的: 一派把計算機看作一個擺弄心中符號的系統; 另一派把它看作一種給腦建模的媒介。接著他們逐對列出兩邊的分別: 一邊以形式表示, 解題, 邏輯為中心; 一邊以模擬的神經交互, 學習, 統計為中心。

這是第八篇裡那條線的另一頭。1969年那本書量了一類機器的界, 此後那一路被說成死了十年; 到1988年, 兩位寫文章的人把它擺回了一個分岔口的一邊。

他們把符號那一路的歷史分成三段。大約1955年到1965年, 是表示與搜索。大約1965年到1975年, 是微世界。1975年以後, 是常識知識的問題。微世界那一段, 他們點的例子裡有第九篇那個積木程序。他們寫道, 當時的希望是把一個一個受限的小世界逐步做真, 再拼起來, 拼成對真實世界的理解。而1975年以後那一段, 用他們的話說, 是這個問題逼著研究者去面對當初盡量繞開的那一大片日常背景。

這三段分期, 恰好也是這個系列走過來的路。第六篇和第七篇那個夏天和那十年, 是表示與搜索; 第九篇那一桌積木, 是微世界。而第三段, 常識, 是這個系列還沒有走到的地方。一個批評這一行的人, 替這一行畫出了一張分期圖。圖是從外面畫的, 而畫圖的人把自己放在了第三段的門口: 那一片日常背景, 正是他從1965年起一直在指的東西。

這篇文章常被說成德雷福斯預言了神經網絡, 甚至預言了後來的深度學習。文章的結尾寫的不是這個。他們沒有把神經網絡宣佈成答案。他們寫的是: 神經網絡建模也許只是終於得到了一次失敗的機會。然後他們追問: 一個網絡怎樣才能做出與具體情境相稱的推廣。

再往下, 他們列了一張單子。他們說, 一個網絡如果要從自己的經驗裡長出像人那樣的聯想, 而不是訓練它的人預先指定好的聯想, 那它也許得跟人共有這些東西: 對什麼合適的判斷, 需要, 慾望, 情感, 一副像人的身體, 能動的本事, 以及會受傷。會受傷, 是這張單子的最後一項。

這一句沒有說機器永遠做不到。它說的是: 如果要像人那樣, 那麼要的不只是更多的數據或者更好的算法; 要的可能是有所需要, 有所欲求, 有一副會疼的身體。這一段後來也很少被引。被引的是分岔口那一句。

2007年, 他還在寫。那一年他在一份人工智能的期刊上發了一篇文章, 題目是《為什麼海德格爾式的人工智能失敗了, 以及要修好它為什麼得讓它更海德格爾》。題目裡有修好兩個字。

八、對賬

最後把別人給他記的賬擺出來, 按年份。1968年, 帕佩特: 一份謬誤清單。

1979年, 麥科達克在她的書裡記下了這一行對他的強烈敵意; 而她自己的看法不是一概否定, 她批評的是他那種挖苦人的筆法, 把本來可能被說服的人推遠了。

1983年, 紐厄爾。紐厄爾這個名字在這個系列裡出現過好幾次: 1957年那四條預言有他一份, 1969年那本講感知機的書他寫過書評。他在1983年一篇討論人工智能思想史的文章裡寫道, 德雷福斯那條語境不能拆成獨立離散元素的批評, 是一條真正核心的思想異議; 而此前的那些回答, 實際上沒有碰到這個問題。這是四條預言的作者之一, 在德雷福斯提出對賬十八年之後寫下的話。他沒有接受德雷福斯的結論。他承認的是: 那個問題, 沒有被回答過。

1990年一月, 丘奇蘭德夫婦在一份大眾科學刊物上寫《一臺機器能思考嗎》, 說德雷福斯1972年那本書既指出了那些示範性的認知模擬有什麼不足, 也指出了一組一再失敗的模式。

1993年, 克勒維耶寫人工智能史, 用的是有限的說法: 時間證明瞭德雷福斯的一些評論準確而有洞察力。一些, 不是全部。他又說, 如果當初的表達少一點攻擊性, 那些有建設性的意思也許會早一點被接過去。

1996年, 麥卡錫。他給1992年那一版寫書評, 開篇就問: 德雷福斯怎麼會知道符號那一路已經是一個在退化的研究綱領, 這很難看出來。他指責德雷福斯沒有讀非單調推理一類的近期工作; 他舉出這一支的成長, 當作符號那一路還在進步的反證。

而同一篇書評裡, 麥卡錫把常識知識與推理放在這一行的核心位置, 列出語境, 非單調推理, 內省, 描述的層次這些還要做的活。他還寫道, 達到人的水平的人工智能, 目前還不在工程上可解的範圍裡, 很可能還需要一些根本性的科學發現。然後他在書評的末尾把問題扔了回去: 請德雷福斯舉出一種足夠精確, 足夠簡單的智力行為, 明確是人能做而計算機不能做的。

2004年, 麥科達克那本書的修訂版把兩組東西都留著: 一組是1960年代的輕蔑和嘲弄, 一組是後來承認他某些判斷有價值的敘述。

把這一串擺在一起, 再看後來流傳的兩句話。一句是: 德雷福斯被證明全對了。這一串裡, 紐厄爾承認的是問題沒被回答, 克勒維耶說的是一些, 麥卡錫到1996年還在逐條駁他的結論。另一句反過來: 他被證明全錯了。可這一串裡, 麥卡錫本人也把常識與語境放在了這一行的核心, 也說人的水平還不在工程可解的範圍裡。兩句話都刪了東西。前一句刪了一些這兩個字, 後一句刪了麥卡錫自己的讓步。

這一篇裡的刪改, 還是那個老樣子, 只是這一次落在同一個人身上的次數最多。

他寫的是現在檢驗還太早, 十週年時再對一對; 傳下來的是計算機永遠不能下棋。

他寫的是當時還沒有; 傳下來的是永遠不會。

他寫的是把公理降為假說; 傳下來的是他證明瞭人工智能不可能。

他寫的是這個失敗並不意味著不可能, 至少眼下如此; 傳下來的是他說人工智能一定失敗。

他寫的是神經網絡也許只是終於得到了一次失敗的機會; 傳下來的是他預言了深度學習。

五處, 方向不全一樣。前四處把他說得比原話更絕, 最後一處把他說得比原話更神。

而他自己在這二十七年裡, 做的是另一件事。他把自己的書一層一層包起來, 舊的正文大體不動放在最裡面, 只改幾處含糊的句子, 每隔十幾年在外面加一層序, 在序裡寫哪裡說含糊了, 哪一處站不住, 哪一條換了說法。1992年那本書就是一本賬簿: 翻開來, 先讀到的是他最新的更正, 往裡翻, 是更早的更正, 再往裡, 是1972年那個被更正的人。

鑿構這件事, 這個系列一直拿來看造機器的人: 造出一個東西, 畫出它的邊, 邊外總還剩著什麼, 於是再造。德雷福斯是畫邊的人, 他的邊也照樣動了; 每動一回, 舊的那一道還留在書裡。

最後回到那個日子。1965年十二月, 他在編號三二四四的第四頁上約了一個日子: 十週年那個月, 把設想與現實放在一起看。那個月過去了。那四條裡的頭一條沒有兌現; 能坐到棋盤前的機器, 等級分一千四百上下。而被記住的是一盤他輸掉的棋, 和一個說機器能贏他的標題。

一個提出對賬的人, 後來被拿去對了賬。他要對的是那四條; 被記住的, 是對他的那一筆。

機器還在造, 而界在哪裡, 每一代人重說一遍。