鑿構週期律 · AI系列 · 07

十年之內, 機器會成為國際象棋冠軍

秦漢 · 約 20 分鐘 · 發布

一、四條預言

1957年十一月十四日, 匹茲堡的賓謝拉頓旅館, 一個運籌學學會的全國年會。晚宴上有一場講話。講話的人是赫伯特·西蒙; 稿子由他宣讀, 內容是他和艾倫·紐厄爾兩個人共同的產物。

這兩個名字在前一篇裡出現過。1956年夏天帶到漢諾威的那份稿子是他們寫的, 講的是一個給邏輯命題找證明的程序; 那時它在計算機上的實現還在編碼中。這一次他們要講的不是那一個程序, 而是比它大得多的一件事。他們講的是一門學問的下一步該往哪裡走, 而聽眾是一屋子做運籌的人。

運籌這一行當時的本行是把作業排得更省: 排班, 排產, 排運輸。它靠的是算法, 多是能照固定手續算下去的辦法。西蒙要對這一屋子人說的是, 有些題眼下沒有現成的解法, 而機器照樣可以去碰。

講稿第二年刊在一份運籌學刊物上, 題目叫《啓發式解題: 運籌學的下一步》。啓發式這個詞在這一篇裡要出現很多次。它指的是一套不保證找到答案的辦法: 不必把所有可能都算到底, 而是憑一些看上去有希望的線索去試, 試錯了就退回來換一條。人解題多半是這樣解的。

西蒙先擺出三條對當下的判斷。第一條: 數字計算機已經能處理某些沒有現成算法可用的解題任務。第二條: 機器用的過程與人解題的過程有密切的平行關係。第三條: 在限定的範圍內, 機器能夠依據經驗改善自己的表現; 而且他特意說明, 這裡說的不只是把成功的模式記下來, 還包括機器重新改寫自己程序的過程。

這三條說的都是已經發生的事, 是後面那四條的地基。第三條說機器能依據經驗改善自己; 十年之後, 寫跳棋那一篇的人會在自己的續篇裡寫下一句: 機器自己想出新看法這件事, 仍舊沒有著落。四條預言要跨的距離, 是從某些當時沒有現成算法可用的任務, 到世界冠軍。

然後是那四條。他的說法是: 在這些進展的基礎上, 考慮到這個領域推進的速度, 他願意作出以下這些將在未來十年內實現的預測。四條共用同一個期限, 十年之內。

第一條: 一臺數字計算機會成為世界國際象棋冠軍。這一條後面跟著一個例外: 除非規則不准它參賽。

第二條: 一臺數字計算機會自行發現並證明一條重要的新數學定理。這裡要的是兩件事, 發現, 和證明, 不是去檢查一個人給出的證明對不對; 那種事按算法就能做。

第三條: 一臺數字計算機寫出的音樂, 會被評論者接受為具有相當的審美價值。判准不在機器這一邊。機器寫得出音符不算數, 要評論者點頭才算。

第四條: 心理學中的大多數理論將採取計算機程序的形式, 或者成為關於計算機程序特性的定性陳述。

四條裡有三條給了機器一個具體的成績, 一條給了一門學問一個新形狀。兩人第二年答復質疑時, 說最好在1968年一月一日前後來對這筆賬。

一個預言只要帶著期限, 就是可以對賬的。這四條都帶著期限, 而且是同一個。這一點在這個系列裡少見。前面幾篇裡的那些話多半不帶期限: 不能創始, 不能起頭, 不可判定, 原則上可以。帶期限的話是另一種東西, 它把自己交給了日曆。

二、會思考的機器

同一場講話裡還有別的東西, 而那些東西的分寸各不相同。四條預言之後, 西蒙用了三個動詞直接描述當時已經存在的機器: 思考, 學習, 創造。他寫的是會思考的機器, 說的是當時已經在跑的那些, 不是將來的機器。同一段裡他把能力的範圍往外推了一段, 用的詞是可見的將來; 這個詞他沒有換算成年數。

再往後, 講到機器會不會取代管理者, 他沒有作十年式的斷言。他把這件事掛在一個條件上: 單位解題能力的成本, 能不能與管理者競爭。同一段裡他兩次保留, 說這種預測不容易作, 而且這種變化如果發生, 大概會是逐漸發生的。

所以在同一篇稿子裡, 一個人對四件具體的事給了十年的期限, 對一件更大的事給了一個條件, 對能力的邊界給了一個沒有刻度的詞。分寸不是平均分布的。哪裡松, 哪裡緊, 在同一篇稿子裡一處一處不同, 而後來引它的人多半只取最松的那幾處。

還有一處比較。他說, 訓練一個人取得科學解題的能力, 通常要二十年上下。而一套已經被一臺機器學到, 並且證明有效的解題程序, 要複製到另一臺計算機上去, 是一件不值一提的小事。

接著他用了一個說法: 等到機器將擁有心靈的時候。他談的是複製這樣的心靈。這句話裡, 人要二十年, 機器複製一下就有了; 這個對比, 先要那臺機器已經擁有了要被複製的東西。那個前提, 在這一句裡是當作將來的事帶過去的。

這句話與前面幾篇裡那些劃界的句子擺在一起, 方向正好相反。1843年那句說的是機器不能起頭; 1887年那兩條說的是機器找不出自己的問題; 1936年那條是被證出來的。這一句說的不是機器能不能有心靈, 它已經把這件事當作將來會發生的事, 而去談那之後的一個技術問題: 拷貝。

界不在這句話裡。這句話站在界的另一邊往回看。前面幾篇裡的那些句子都在問界在哪裡。這一句不問了, 它問的是過了界以後怎麼辦。

他在同一場講話裡舉了當時已經在做的事: 發現證明而不只是核驗證明的程序, 跳棋, 國際象棋, 工程設計, 音樂作曲, 圖形識別。他特意把定理程序做的事, 跟科學家找證明時通常被稱為有創造性的, 憑直覺的那種活動並列。

而在舉音樂的例子時, 他加了兩處限定。一處是我相信, 一處是據一位夠格的評判者告訴我。他舉的是當時一臺大學裡的機器作的曲子; 那曲子好不好, 他自己不下判斷, 他轉述別人的判斷。一個人在同一場飯後講話裡, 對一臺機器作曲的價值加了兩重轉述的限定; 而對十年之內出一個世界冠軍, 只加了一條關於比賽規則的例外。

三、一般解題的程序

那套邏輯證明的程序只會做一件事: 證《數學原理》裡編了號的命題。做完之後, 同一批人想做一件更大的事: 一個不限定題目的解題程序。

它的名字是一般解題程序。1959年在巴黎的一次信息處理國際會議上, 紐厄爾, 肖與西蒙提交了一份《關於一臺計算機的一般解題程序的報告》。1961年四月, 蘭德公司印出一份稿子, 題名是《一般解題程序: 一個模擬人類思維的程序》。題名裡沒有智能兩個字。有的是模擬人類思維。

那份稿子第一頁把研究對象圈得很小: 某些人如何試圖解決某些簡單的形式問題。第一句話定的論題是人類思維的心理學。三個限定都是作者自己加的: 某些人, 某些, 簡單的形式問題。

一個叫一般解題的程序, 在自己第一頁上把範圍收到這個份上。名字上的一般與正文裡的三個某些, 隔著整篇稿子。而後來引用這個程序的人, 引的多半是名字。

它實際詳細展示的任務是符號邏輯裡的表達式變換。擺在臺面上的是邏輯表達式; 可以動的手段是幾條給定的邏輯規則; 而要盯住的是差異, 比如這一處需要換一個連接詞, 那一處需要多加一項。這些差異都是機器能夠比對出來的。

這一條是整套辦法能不能動起來的關鍵。手裡的東西與目標之間差在哪裡, 必須先是一樣能被指出來的東西; 指不出來, 後面那一整套就無處下手。所以這套辦法能管到哪裡, 取決於差異這件事能不能被寫成機器認得的形式。寫得出來的進得去, 寫不出來的在外面。

它的辦法叫手段目的分析, 走法是這樣。先把眼下手裡的東西與要到達的東西比一比, 找出一處差異。再從差異與手段的對應關係裡, 挑一個預計能把這處差異縮小的手段。如果這個手段眼下用不上, 就把它要用得上所需要的條件立成一個新的小目標。小目標達成之後, 手段就能用了; 用完再比一次, 看離目標還差什麼。小目標本身也照這個辦法往下走。

這套走法與人做事的樣子確實像: 想去一個地方, 發現沒有車; 於是先去弄一輛車; 要弄車先得有錢; 於是先去弄錢。人把這叫做想辦法, 這個程序把它寫成了一段可以執行的次序。這段次序會自己套自己: 小目標底下還可以有小目標, 一層一層往下。

這一套不是把所有手段挨個試一遍。1961年那份稿子給各種差異排了難易次序, 並且規定: 如果一個小目標比它上面那個目標還難, 就不去試; 如果某個目標出現在一個更容易的目標後面, 也可能不試。

所以它會主動放掉一些路。放掉的那些裡面, 有一部分本來是走得通的。這是啓發式的本分: 用一部分走得通的路, 換整件事走得完。

兩位作者拿人做題時一句一句說出來的過程, 與程序走過的路作了對比。他們不只報吻合的地方, 也報不吻合的地方。做法是這樣: 讓一個人一邊解題一邊把自己心裡想的話說出來, 記下來; 再把程序走過的每一步打印出來; 兩份東西並排擺著比。哪一步對得上, 哪一步對不上, 逐條數。

這個做法把心理學的實驗與程序的輸出放在同一張桌上。做這件事的人是把程序當作一份關於人的理論來寫的; 而後來接手這一行的人, 多半只把它當作一個程序。

而在這一段的末尾, 他們寫下了一句很硬的話。他們承認, 這個程序裡有許多可以調節來迎合數據的自由度; 而當時沒有好的辦法判斷一個程序究竟有多少個相關的自由度。這句話說的是: 這套東西與人的思考對得上, 有一部分可能是調出來的, 而調了多少, 他們自己也數不清。

一個模型如果可調的地方足夠多, 它就更容易被調到與眼前這批數據對上。這句承認寫在他們自己那篇稿子的末尾, 不是別人挑出來的毛病。

所以在作者1961年的寫法裡, 這個程序同時是兩樣東西: 一個計算機程序, 和一項關於人怎樣思考的心理學理論。它要的不是造出一個人那樣的智能, 是解釋人是怎麼想的。

這兩件事在後來常被混作一件。一個程序如果被當作關於人的理論來寫, 它對不對, 要拿人去對; 一個程序如果被當作一件工具來寫, 它好不好, 要拿活去對。同一段代碼, 兩種問法, 兩種記分。這兩位作者在1961年選的是前一種, 而這一行後來走的是後一種。選哪一種, 決定了什麼算成功, 也決定了失敗要向誰交代。

寫它用的是那幾個人自己弄出來的一套程序設計語言, 專門用來擺弄符號和列表, 與前一篇裡那個邏輯證明程序用的是同一路東西。

四、機器學習

在這十年裡, 另一件被反覆提起的東西是一個下跳棋的程序, 作者是阿瑟·塞繆爾。跳棋這個題目比國際象棋小。棋子只有一種, 走法只有斜著進和跳吃兩樣, 到底線變王。規矩三兩句話講得完, 而下好它並不容易。這一點與六年前香農挑國際象棋的理由相通: 允許的動作與最終的目標都清楚, 而難度又夠。這樣的題目還有一個好處: 好記分, 贏了輸了一目瞭然, 走錯了翻譜就知道。這一行此後常挑這樣的題目; 一件好記分的事, 也好拿出去講。這十年裡被拿出去講得最多的那件事, 正是一件好記分的事。

1959年七月, 一份公司的研究與開發刊物上刊出他的文章, 題目是《用跳棋這個遊戲做的幾項機器學習研究》。題名裡用的詞是機器學習。不是機器智能, 也不是會思考的機器。1957年那場晚宴上用的是啓發式解題, 1955年那份申請書上用的是人工智能; 而這一篇用的是學習。

他能證明的事, 他自己寫得很穩: 一臺計算機可以被編成這樣的程序, 使它學會把跳棋下得更好。這句話的形狀是: 棋規是人寫進去的, 走法怎麼生成是人寫進去的, 往前看幾步是人寫進去的, 局面怎麼打分的框子也是人寫進去的。在這一整套人搭好的架子裡面, 程序通過學習使自己的棋力超過了寫它的那個人。

超過寫它的人這件事聽上去要緊, 而它的分量要看那個人棋下得怎麼樣。塞繆爾不是跳棋高手。這句話在他自己筆下是一句準確的陳述; 被搬出去之後, 常常變成機器超過了人。

至於什麼叫學習, 他用的是一個行為上的判准: 讓機器做出一種行為, 這種行為如果發生在人或者動物身上, 會被描述為學習。他沒有先去解決機器是不是真的擁有學習這種心靈狀態的問題。

這個手法在這個系列裡已經出現過幾次: 一件夠不著的事, 被換成一件夠得著的事, 論證接著往下走。1936年是一張紙條頂替了心靈狀態, 1950年是一場遊戲頂替了一個問題, 這一次是一條行為上的判准頂替了學習這個詞本身。每一次這樣的替換, 論證都往前走了一步; 而被替下去的那樣東西, 都還留在原地。

塞繆爾那一句, 沒有說機器在學習, 他說的是機器做出了一種行為, 而這種行為發生在別處會被叫作學習。主語換了, 句子就成立了。

他用的辦法有兩種。第一種叫死記。程序把自己在搜索裡實際遇到過的局面, 連同分析的結果一起存下來。下一次往前看的時候, 如果走到一個已經存過的局面, 舊的結果就可以當作更深處的消息直接拿來用。等於在同樣的計算時間裡, 看得更遠了一些。它不是背棋譜, 它背的是自己算過的賬。下過的局面越多, 存的賬越多, 同樣時間裡看得越遠。

第二種叫歸納。局面的好壞用一組人指定的參數去衡量, 每個參數乘上一個可以調的系數, 加起來就是這個局面的分數。程序根據下棋的經驗不斷調這些系數, 讓打分打得準一些。哪些參數要看, 是人定的; 每個參數該佔多重, 是機器調的。人定題目, 機器定分數。

兩種辦法各有各的毛病, 而毛病是他自己寫出來的。死記改善得很慢, 但是連續, 在開局和殘局裡比較管用。歸納學得快些, 卻會走到一個平臺上停住; 這個平台卡在哪裡, 取決於那張人給出的參數表夠不夠用。它在中盤比較好, 開局和殘局比較差。

那張參數表是人寫的。機器可以把這幾樣東西的輕重調得很准, 而它不能自己想出第幾樣來。這一條限制此後一直跟著它, 而且到這十年結束時也沒有被解開。

五、那一盤棋

1962年, 這個程序贏了一盤棋, 對手是羅伯特·尼利。這一盤棋後來成了整個十年裡最常被提起的一件事。機器贏了人, 而且贏的是一個有名號的人。這個形狀好記, 好講, 也好用。往後六十年裡, 每隔一段時間就會有一件這樣形狀的事被講一遍。每一次的主角換一個項目, 換一種棋, 換一個對手, 而形狀不變: 一臺機器, 一個有名號的人, 一盤棋, 一個結果。這個形狀在1962年出現的時候, 那個名號是一家公司的簡訊寫上去的; 三十五年後, 有人去翻了賽事記錄。

1962年八月, 公司的一份研究簡訊把尼利寫成一位前康涅狄格州跳棋冠軍, 全國最重要的棋手之一。一家公司的研究簡訊, 是寫給外面看的。

1963年, 塞繆爾那篇1959年的文章被收進一部文集, 這一盤棋的棋譜也附了進去。棋譜是最硬的一種材料。一盤棋走了哪幾步, 白紙黑字, 六十年後還能拿另一個程序去重算。一份可以被後人重新計算的記錄, 與一句可以被後人反覆引用的評價, 是兩種不同的材料。前一種越放越准, 後一種越放越順。而被傳下去的, 通常是後一種。

在這一盤之後, 兩邊又下了六盤。六盤下了五個多月。尼利在自己家裡看著棋盤想, 想好了把著法寫在明信片上, 寄到約克敦海茨的那家公司的研究中心。機器這邊選一步棋通常要十秒或者二十秒, 遇到難局面可以到五分鐘上下, 平均一分鐘左右。尼利那邊平均三分鐘一著。

六盤棋, 五個多月, 兩邊加起來的實際思考時間, 大概抵不上一個下午。剩下的全是明信片在路上。一臺機器與一個人隔著郵政系統下了五個月的棋。這就是1960年代初一臺機器與一個人下棋的實際樣子: 沒有屏幕, 沒有對坐, 沒有圍觀。有的是一張一張的明信片, 在郵路上走來走去。

尼利本人事後對1962年那一盤寫過評語。他說機器的殘局走得極好, 又說自己自1954年以來沒有遇到過這樣的殘局對手。這是對手本人的話, 而這句評價後來被引用的次數, 遠遠多於同一個人接下來那六盤棋的結果。

六、後來那幾盤

那六盤的結果, 塞繆爾自己在1967年的文章裡寫著: 五和一負。負的是程序, 那一負發生在1962年那場勝局之後。五和一負, 是從程序這邊記的; 換成從尼利那邊記, 就是一勝五和。那位在1962年輸了一盤的人, 在接下來的六盤裡一盤沒輸。

同一處, 他給尼利的稱號也不是1962年那份公司簡訊上的那一個。他寫的是全美盲人跳棋冠軍。同一個人, 五年之內, 在兩份材料上有兩個不同的名號, 而兩份材料的作者是同一家機構裡的人。前一個稱號出現在贏棋的那一年, 後一個出現在報出五和一負的那一篇裡。

還有別的幾盤。1965年, 這個程序與世界冠軍赫爾曼下了四盤通信棋, 四盤赫爾曼全勝。到1967年, 一位太平洋沿岸冠軍漢森已經兩次擊敗當時的程序。這些都寫在塞繆爾自己那篇文章裡, 是作者自己報的輸棋。

後來有一位研究跳棋史的人核對過賽事記錄: 尼利拿到康涅狄格州的頭銜是在1966年, 他也沒有參加過全美錦標賽一類最高級別的比賽; 而後來常見的說法裡, 他是全美第四。

同一位研究者後來用一個強得多的程序把1962年那盤棋重新算了一遍。尼利在關鍵的一步上把一個本來可以和的局面走成了敗勢; 但是緊接著, 塞繆爾的程序也走了一步嚴重的錯著, 把和棋的機會又還給了尼利; 尼利沒有抓住。所以那一盤的形狀是這樣: 兩邊都出過錯, 機器那一邊的錯沒有被對手利用。

1967年十一月, 塞繆爾在同一份刊物上發表了續篇。這一篇裡他列了舊程序的五項顯著缺陷。列缺陷的是它的作者, 列的時候這個程序已經跑了十來年。

一, 程序不能有效地自己生成新的評估參數。二, 把參數線性加起來這個假定不正確。三, 學得慢。四, 搜索樹的剪枝與終止辦法不夠用。五, 缺少一套按戰術形勢改變整體策略的機制。第一項和第五項是同一件事的兩頭: 它不會自己想出新的看法, 也不會按局面換一套打法。

新版本裡他換了一套辦法來表示參數組合與局面價值之間的關係, 又配上更完整的剪枝。而在這一篇的同一頁上, 他寫著: 最基礎的那些機器學習限制沒有被克服, 程序仍舊下不過跳棋大師。

新版本還加了一種學法, 用的是現成的高手棋譜。大約二十五萬個大師對局的局面先被打成孔卡, 再轉到磁帶上。程序一局一局放過去, 自己先挑一步, 再拿自己挑的那一步與譜上推薦的那一步比, 然後據此調整評估的辦法。一次學習要跑大約十個鐘頭。

這一種學法他也給了限定。他寫明, 這實際上假定譜上推薦的那一步是唯一正確的走法; 而這個假定可能不成立, 因為一個局面可能有好幾步都好, 也因為譜本身可能有錯。

文章末尾的結論裡還有一句。他說, 自己八年前提出的那個終極目標, 就是讓程序自己產生所需要的參數, 如今看上去與那時候一樣遠。十年過去, 同一個人, 同一件事, 同一句話的兩頭。他自己的這兩篇文章並排擺開, 就是一份自己給自己做的對賬。

七、名字沒有退

這個系列到此為止, 有一條線走了六篇: 一件事在機器做成之前被算作智能, 做成之後就改了名目。1948年有人把這件事寫在一份內部稿本的最後一節上: 一件事一旦被弄明白, 被算得準, 被看出底下的路數, 它就不再顯得智能。

而在這一篇列的這批一手文字裡, 沒有見到一句明確說: 某項能力一旦被機器做到, 人們就不再把它算作智能。

相反的例子倒是一串。1957年那場講話裡, 定理程序做的事被擺在與科學家的直覺活動同一檔上; 跳棋與國際象棋列在啓發式解題已有的成果清單裡, 沒有一句說這兩樣不算智能。

1959年, 塞繆爾把跳棋那一篇題作機器學習。機器已經在下棋了, 而下棋這件事沒有因此被逐出學習這個詞。

1960年, 紐厄爾, 肖與西蒙又有一篇的題名是《一個一般解題程序中的多種智能學習》。智能與學習這兩個詞並排放在題名裡。那時候一般解題程序已經在跑。

1961年一月, 馬文·明斯基在一份電子工程師學會的會刊上發表《走向人工智能的幾步》。到這一年, 這個詞已經可以直接印在一份研究論文的題名上, 而不只是1955年那張申請紙上的內部用語。

1962年, 塞繆爾也有一篇題名直接用了這個詞。那一年正是他的程序贏了那一盤棋的年份。贏完之後, 他給自己那一行的叫法沒有換。

這十年裡, 這個名字還往建制上走。麻省理工那邊先有一個用這個名字的研究項目, 後來有了一個用這個名字的實驗室; 斯坦福那邊也有一個同名的實驗室。這個詞從一張申請紙上, 走到了論文題名上, 又走到了門牌上。而它走的這一路, 沒有一步是靠某件事被做成之後騰出來的地方。

1967年, 明斯基在一部專著的開頭, 把當時已經出現的活動列了一串: 下棋, 學習, 非數值的數學問題, 日常語言的表達式; 他給這些東西的說法是, 它們從前被限在人的智能裡面。他沒有寫下一句說, 因為機器已經做到了, 所以這些不再屬於智能。他說的是它們從前被限在那裡面, 而現在有機器也在做同樣的事。

同一頁上還有那句被引用很多次的話: 在一代人之內, 我確信, 智力中留在機器領域之外的隔間將所剩無幾。後半句接著說, 創造人工智能這個問題將在實質上得到解決。這一句有三處限定。時間是一代人之內, 不是三年, 十年或者二十年。中間有我確信這個主觀的強度詞。結果的程度是實質上解決, 不是完全解決。

至於那句後來傳得很廣的話, 說人工智能就是還沒有做出來的那些東西, 這裡核到的一個早期印刷出處是1979年, 在一本講邏輯與音樂與繪畫的書裡。作者把它歸給另一個人, 稱之為某某定理, 並且說明: 一種心智功能一旦被編成程序, 人們很快就不再把它當作真正思考的核心成分。而那個被歸名的人後來表示, 流傳的那個版本並不是他的準確措辭。所以這句被當作這個領域定律的話, 追到底是: 一本1979年的書, 把一句話歸給一個人, 而那個人不完全認賬。另一句常見的說法, 說一件事一旦運轉起來就沒有人再叫它人工智能, 在本文所用的1957年到1970年間的材料裡還沒有找到。

在這十年裡, 做成的事情不少, 而那條線沒有往後退。跳棋做成了還叫學習, 定理證明做成了還叫智能, 1967年的書裡還把它們列在從前屬於人的那一欄。

退的是別的東西。退的是能力上的說法。跳棋那一篇的終極目標, 八年之後被它的提出人自己寫成原地未動。那四條預言也到了原作者說可以回頭看的時候。名字沒有退, 本領沒有按說好的速度長。

這一條, 與這個系列前面幾篇的方向不同。前面幾篇裡, 界是被做成的事擠著往後退的; 這一批文字裡, 已做成的事並沒有照那條線一一退出智能。

八、三到八年

1970年十一月二十日, 一份大眾畫報上登了一篇報道, 標題是《見見沙基, 第一個電子人》, 副題把對象寫成一臺有自己心靈的機器。記者叫布拉德·達拉克。

沙基是一臺會在屋子裡走的機器, 裝在一個研究所裡, 靠輪子挪動, 靠攝像頭看東西。記者到現場去看了它。人這個字是標題給的。它能做的事, 文章裡也寫了: 在幾間屋子之間挪動, 推開擋路的箱子。標題是寫給報攤上的人看的。

文章裡有一段引語, 記者說是明斯基最近告訴他的。引號裡的第一句是: 「在三到八年之內, 我們將擁有一臺具有普通人一般智能的機器。」

接著這一串引語用一串日常的能力解釋什麼叫普通人的一般智能: 讀莎士比亞, 給汽車上潤滑油, 搞辦公室政治, 講笑話, 打架。這五樣東西湊在一起, 說的是一個活人一天裡可能幹的事。它不是一份技術指標, 是一份日常的清單。一份技術指標可以對賬, 一份日常的清單不好對。

再往下說, 機器此後能夠極快地自我教育, 先到天才的水平, 再進入能力難以計算的階段。三到八年到了普通人, 再往後的幾步沒有給年數。

同一段引語裡還有失控的那一層: 機器如果取得了控制權, 人類可能拿不回來; 運氣好的話, 機器也許會把人保留下來。而那第一句裡沒有如果, 沒有也許, 沒有假如條件成立。

把它與十三年前那四條放在一起看。1957年那四條有一個期限, 有一條例外條款, 前面還壓著一句願意作出。1970年這一句只有一個區間, 三到八年, 別的什麼都沒有。

這段引語的語氣是記者給的: 他寫明斯基說這話時帶著安靜的確信。後來有記載說, 明斯基強烈否認自己說過或者認可這一段。一句話被印成了直接引語, 與一句話確實被說過, 是兩件事。而後來, 這一句常被拿出來, 當作這一行說過大話的例子。

兩個寫下預言的人在一場晚宴上給了四條標準。到他們說可以對賬的時候, 這裡還沒有找到兩人逐條對賬的文字。就在這前不久, 跳棋那一篇的末頁上寫著: 那個終極目標, 與八年前看上去一樣遠。

而被記住的是1962年的那一盤。那六盤通信棋, 那四盤輸給世界冠軍的棋, 那兩次輸給太平洋沿岸冠軍的棋, 都寫在同一個人的同一篇文章裡, 而它們沒有被記住。一件事被記住的形狀, 與它在紙上的形狀, 不是一回事。

這一批材料沒有把餘項一一數過。這裡的當事人還把幾件已經做成的事算在智能裡面; 而沒有做成的事, 各人在各自的文章裡各自認賬。

期限變了, 說的是哪件事也變了。1957年的十年管四件事情, 1967年的一代人管智力中還剩幾間隔間, 1970年見報的三到八年管一臺機器能不能像個普通人。一個是學會年會的晚宴, 一個是一部專著的開頭, 一個是一份大眾畫報上的直接引語。三份話不能拿來量快慢; 能放在一起看的是, 限定在哪裡, 後來又留下了多少。

一條有期限的話出了原來那一頁, 一項一項的條件就未必跟著走。後來被反覆引用, 被當作這一行的自我承諾的, 常是那些最好單拎出來的話。

機器還在造, 而界在哪裡, 每一代人重說一遍。