凿构周期律 · AI系列 · 11

一位哲学家说: 人工智能是炼金术

秦汉 · 约 15 分钟 · 发布

一、一个日子

1965年十二月, 兰德公司印出了一份编号三二四四的文件。题目叫《炼金术与人工智能》。作者休伯特·德雷福斯, 做哲学的。文件的第三页和第四页上, 他把一份八年前的东西逐条抄了一遍。

那是1957年十一月, 匹兹堡一家旅馆的晚宴上, 西蒙宣读的四条预言。这个系列的第七篇从那一晚开始: 十年之内, 一台计算机会成为世界国际象棋冠军; 十年之内, 一台计算机会发现并证明一条重要的新数学定理; 十年之内, 一台计算机会写出被评论家认可的音乐; 十年之内, 大多数心理学理论会写成程序的形式。

德雷福斯把四条抄完, 接着写了一句: 现在要对这些主张作出定论性的检验, 还太早。然后他给了一个日子。他说, 到1967年十一月, 十周年的时候, 可以把当初的设想与那时候的现实摆在一起比一比。这是一个对账的约。

第七篇的末尾没有找到两位作者逐条对那四条预言算账的文字。而在到期之前两年, 有一个不在这一行里的人, 把到期的日子白纸黑字写了下来。这一篇讲的就是这个人, 和他提出的那一次对账后来变成了什么。

编号三二四四的第一页上有一条脚注: 这篇东西是根据1964年八月在兰德公司做的一次非正式讲话写成的, 文中的意见属于作者本人。兰德把这一类文件印出来, 是给自己员工的一种方便。它是一次讲话变成的一份文稿, 在兰德里面传。

后来流传一种说法, 说兰德把它压了下来。这个说法的出处是十几年后的一本书。1979年, 帕梅拉·麦科达克写《会思考的机器》, 记下了兰德的保罗·阿默事后的回忆: 他对发表这篇东西有过顾虑; 而同事罗伯特·莱因斯特推动发了出去, 理由是兰德不应该只因为不喜欢一份内部研究的结论, 就不发表它。1965年十二月, 它以编号三二四四印出来了。有过犹豫, 然后发了。传到后来, 成了压了下来。

莱因斯特这个名字, 也出现在文件本身的致谢页上, 一起被谢的还有斯图尔特·德雷福斯。斯图尔特是他的兄弟。二十几年后, 兄弟俩会一起署名写一篇文章。

二、四类活动

编号三二四四的问题是怎么提的, 后来的许多说法都从这里分出去。他没有问机器能不能思考。他在导言里把问题收得很窄: 数字计算机能不能被编出程序来, 表现出儿童或者动物那样的简单智能行为。下棋, 解简单的题, 读句子, 认图样。这四样, 正是文件第一部检查的四块: 下棋, 解题, 语言翻译, 模式识别。第一部的标题是: 人工智能这一领域的现状。

第二部叫人与机器的信息处理。他在这里提出了三个词, 用来说人处理信息的方式与数字计算机不同在哪里。一个是边缘意识: 人在注意一样东西的时候, 旁边那一圈没有正眼看的东西也在起作用。一个是区分本质与偶然: 人能分出一个情形里哪些是要紧的, 哪些是碰巧的。一个是容忍歧义: 人能带着一句话的几种意思往下走, 让上下文去定。

文件的摘要里还写了一件事, 说的是对面那一方的一个前提。他写道, 当时的乐观派相信, 各种智能活动之间的差别只在复杂程度上; 这个信念加上早期的一些成功, 让人确信任何认知表现背后的信息处理都可以写成程序, 由数字计算机来模拟。他要质疑的是这个前提。

他把智能活动分成四类。摘要里说, 其中两类不需要那三种人的方式, 所以可以按当时的办法编程。另外两类, 如果要取得重大的进展, 得等一种完全不同的计算机; 而这种计算机眼下唯一的原型, 是还没有被人弄懂的人脑。

第三部把编程的障碍拆成三样。标题里的原词是: 事实的无穷, 需要的不确定, 语境的相互性。事实的无穷说的是: 要把一件事做对, 该知道的事实往下列, 列不完。需要的不确定说的是: 什么算相关, 取决于你要干什么, 而你要干什么又得先弄清什么相关。语境的相互性说的是: 一个词的意思靠上下文定, 上下文的意思又靠这些词定, 转一圈回来。一条是列不完, 一条是往回退, 一条是绕圈子。

那九十多页, 到这里为止, 是一个对着具体程序, 具体预言, 具体题目的论证。它有两处是后来要对账的。一处是那个日子: 1967年十一月。一处是摘要里那句话: 另外两类活动, 要等一种完全不同的计算机。这两处, 后来各有各的下文。

三、十岁的孩子

编号三二四四出来以后, 这一行里有人回了话。1968年, 帕佩特写了一份七十六页的实验室备忘录。帕佩特这个名字在前面两篇里都出现过: 那本讲感知机的书是他与明斯基合写的。备忘录的题目是: 《休伯特·德雷福斯的人工智能: 一份谬误清单》。题目就是回答。

两份东西的体裁正好对称。德雷福斯那一份是兰德的一份内部文稿, 由一家机构给自己的员工印; 帕佩特这一份是麻省理工人工智能实验室的一份内部备忘录, 也是由一家机构给自己的人印。一家的内部文件, 回应另一家的内部文件。两边都不是期刊文章, 都没有经过外面的审稿。争论从一开始就是在两家机构各自的油印机上打的。

西蒙的反应是一句话: 他管那份印着兰德名义的东西叫垃圾。

外面的反应是另一种。1966年六月十一日, 《纽约客》登了一篇给普通读者看的短文写他, 文章里写的是: 当时还没有计算机能下一盘像样的棋。还没有。不是永远不会。

然后是一个标题。这件事后来登在美国计算机学会人工智能专业组的通讯上, 标题分成两截。前一截是: 一个十岁的孩子就能赢这台机器。后面挂着德雷福斯的名字。后一截是编辑加的: 可是这台机器能赢德雷福斯。这个标题说的是一盘棋。

四、那一盘棋

对手是一个下棋程序, 叫 Mac Hack VI。作者是麻省理工的理查德·格林布拉特。他在学校原有的下棋程序上, 加进了五十来条下棋的经验规矩。程序跑在一台 DEC 的机器上, 与第九篇里那个积木程序是同一所学校的同一种机器。1967年, 这个程序去参加了人类的棋赛, 等级分在一千四百上下。

德雷福斯执白, 机器执黑。开局是两边各把王前的兵推上两格。机器赢了。张罗这一盘的是帕佩特。

西蒙事后说过这盘棋。他说这是两个都不怎么样的棋手之间的一盘精彩的棋, 一直悬到最后; 机器靠一串将军和一个后的双击摆脱了险境, 然后赢了。两个都不怎么样的棋手。说这话的, 是那四条预言的作者之一。

现在把这一盘棋放回那个日子旁边。1957年的头一条预言, 是十年之内的世界冠军; 1965年, 德雷福斯约在1967年十一月对一对; 1967年前后, 坐在棋盘另一头的那台机器, 一千四百分上下。到期的那个月, 世界冠军还是一个人。那四条里的第一条, 没有兑现。而被记住的不是这一笔。被记住的是这台机器赢了德雷福斯。

德雷福斯提的问题是: 机器到期了没有, 是不是世界冠军。那一盘棋回答的问题是: 机器能不能赢德雷福斯。后一个问题比前一个容易得多, 而且不是他提的。

这个系列在第五篇里讲过一个办法: 一个量不了的问题, 被换成一个量得了的游戏。那一次是提问的人自己换的, 而且他在文章里写明了自己在换。这一次, 一次对账被换成了一盘棋。换的人不是提问的人。

德雷福斯自己的抗议也留下了。他写信给那份通讯, 抗议的不是机器作弊, 也不是那盘棋不算数。他抗议的是: 这盘棋被拿来驳一句他没有说过的话。在他看来, 人们把他对当时程序的批评, 和他对一个十年期限的质疑, 改写成了计算机永远不能下棋, 然后用一盘棋来驳。西蒙对这封抗议也有答复。他的意思是: 德雷福斯自己用的是一支带牙的笔, 那就该料到挨了咬的人会咬回来。这一来一回, 说的都已经不是棋了。

五、四项假设

1972年一月, 他出了一本书, 题目是《计算机不能做什么: 人工理性批判》。1965年那份文件里的东西, 在这本书里重新排了一遍。书的第二部有四章, 每一章一项假设。四章的原题是: 生物学假设, 心理学假设, 认识论假设, 本体论假设。四项分别说的是什么。

生物学假设: 在某一层上, 通常被设想成神经元那一层, 大脑用一个一个离散的操作处理信息, 有某种与数字机开关相当的生物机制。

心理学假设: 心智可以看成一台按形式规则处理信息的装置; 在强的版本里, 这些规则就是实际产生行为的那些规则。

认识论假设: 一切知识都可以形式化。他又把这一条拆成两个: 行为能被形式化; 形式化出来的系统能被拿去把这种行为重新做出来。

本体论假设: 与智能行为有关的关于世界的一切信息, 原则上都可以拆成不依赖具体情境的元素; 世界于是被当作一堆彼此在逻辑上独立的事实。

四条写完, 他要的是什么, 这里有一处限定, 后来被删得最干净。他不是说: 我证明了这四条是假的。他说的是: 这一行的人往往把这四条当作能保证结果的公理; 而他要把它们降回假说, 降回要由研究的成败来检验的东西。从公理降为假说。不是从公理打成谬误。

生物学那一章里还有一处同样的分寸。他把两件事拆开: 脑在某一层上像数字计算机, 与这一行用的那些启发式程序会成功。前一件即使成立, 也推不出后一件。认识论那一章, 他把能把一种本事形式化, 与这个形式化就是人实际干这件事的因果说明, 也拆开了。他攻的不是一切数学描述, 攻的是从一个形式描述直接推出智能过程是怎么运作的那种做法。

国际象棋在这本书里也有位置。他把国际象棋和围棋一类归进复杂形式系统: 原则上可以形式化, 只是组合的量随着元素增多而暴涨, 穷举在实际上做不到, 所以得靠启发式程序。1965年的文件说得更硬一点: 在一些局面里, 人能舍掉枝节而赢, 当时设想的启发式程序却做不到。他把国际象棋和围棋都列进只能有限编程的一类。这不等于计算机永远不能下好棋; 到1972年, 他也仍把国际象棋放在原则上可以形式化的一类。

书里的强判断也有。在检查了当时的经验材料之后, 他说在认知模拟或者人工智能上取得进一步的重大进展, 极不可能; 并且把举证的担子推给仍然乐观的那一方。这是很硬的话。而紧接着, 他又加了一层: 更快的机器, 更好的程序语言, 更聪明的启发式, 究竟还能把这条边界往前推多远, 只能由实验来定。所以这里没有一条可以证明的技术上限。有的是一个判断, 加上一个把判断交给实验去验的说法。

书的结论里还有一处, 后来差不多没有人引。他说, 即使一个像雅典娜那样一出生就完整成熟的数字智能在原则上不可能, 也还得另外问: 这一行那些一块一块的技术, 能在多大程度上近似人的智能行为。一个完整的人造的人, 与一块一块的局部成功, 他没有把它们当成同一个命题。

六、他自己的账

这本书后来又印了两回, 每一回都由他自己在前面添一篇序。1979年, 这本书出了修订本, 副题换成了《人工智能的限度》。他在新写的长序里交代了自己的改法: 原书的主体保留, 只把显得含糊或者会误导的个别句段改写; 1967年到1977年这十年的新材料和新结论, 都写进前面这篇长序里。旧书大体不动, 新账写在前面。

这篇长序里有一处新的说法。他说这一行的研究者现在正面撞上了常识知识的问题; 而他认为, 人办事所依靠的那一大片背景, 主要是身体里的本事和会做的那一套, 不只是一个更大的事实库。

1992年, 这本书第三次出版, 书名改成《计算机仍然不能做什么》。书名多了一个仍然。这一版又在最前面加了一篇序, 1979年那篇保留, 原书主体保留。所以1992年的读者手里拿着的是一本三层的书: 最里面是1972年的正文, 外面一层是1979年的序, 最外面一层是1992年的序。同一个人的三个年头, 装订在同一本书里, 后写的在前面。

1992年那篇序里有一处自我更正。他承认自己早年讲的整体性的语境, 说得含糊。他说, 后来借了兄弟斯图尔特关于技能习得的模型, 又看了神经网络方面的工作, 才觉得手里有了一条比较具体的替代路子。同一篇序里, 他在宣布靠规则和事实的那条路已经失败之后, 马上补了一句: 这个失败并不意味着这一类人工智能是不可能的。然后他把进一步的判断限定在: 至少眼下是这样。

编号三二四四里的另一处, 也有下文。那两类活动要取得重大进展, 他写的是得等另一种计算机, 原型只有人脑。1997年, 一台叫深蓝的机器在正式比赛里赢了世界冠军卡斯帕罗夫。它还是一台数字计算机。这场棋改了账上的一笔, 没有替书里日常语境那一笔结账。1957年那一晚说的是十年。从那一晚到这一场, 过了四十年。这两个日子, 记在同一本账上。

七、分岔

1988年冬天, 兄弟俩在一份人文与科学院的刊物上合写了一篇文章, 题目是《造一个心智, 还是模拟一个脑: 人工智能再临分岔口》。文章第一句是这样开的: 一派把计算机看作一个摆弄心中符号的系统; 另一派把它看作一种给脑建模的媒介。接着他们逐对列出两边的分别: 一边以形式表示, 解题, 逻辑为中心; 一边以模拟的神经交互, 学习, 统计为中心。

这是第八篇里那条线的另一头。1969年那本书量了一类机器的界, 此后那一路被说成死了十年; 到1988年, 两位写文章的人把它摆回了一个分岔口的一边。

他们把符号那一路的历史分成三段。大约1955年到1965年, 是表示与搜索。大约1965年到1975年, 是微世界。1975年以后, 是常识知识的问题。微世界那一段, 他们点的例子里有第九篇那个积木程序。他们写道, 当时的希望是把一个一个受限的小世界逐步做真, 再拼起来, 拼成对真实世界的理解。而1975年以后那一段, 用他们的话说, 是这个问题逼着研究者去面对当初尽量绕开的那一大片日常背景。

这三段分期, 恰好也是这个系列走过来的路。第六篇和第七篇那个夏天和那十年, 是表示与搜索; 第九篇那一桌积木, 是微世界。而第三段, 常识, 是这个系列还没有走到的地方。一个批评这一行的人, 替这一行画出了一张分期图。图是从外面画的, 而画图的人把自己放在了第三段的门口: 那一片日常背景, 正是他从1965年起一直在指的东西。

这篇文章常被说成德雷福斯预言了神经网络, 甚至预言了后来的深度学习。文章的结尾写的不是这个。他们没有把神经网络宣布成答案。他们写的是: 神经网络建模也许只是终于得到了一次失败的机会。然后他们追问: 一个网络怎样才能做出与具体情境相称的推广。

再往下, 他们列了一张单子。他们说, 一个网络如果要从自己的经验里长出像人那样的联想, 而不是训练它的人预先指定好的联想, 那它也许得跟人共有这些东西: 对什么合适的判断, 需要, 欲望, 情感, 一副像人的身体, 能动的本事, 以及会受伤。会受伤, 是这张单子的最后一项。

这一句没有说机器永远做不到。它说的是: 如果要像人那样, 那么要的不只是更多的数据或者更好的算法; 要的可能是有所需要, 有所欲求, 有一副会疼的身体。这一段后来也很少被引。被引的是分岔口那一句。

2007年, 他还在写。那一年他在一份人工智能的期刊上发了一篇文章, 题目是《为什么海德格尔式的人工智能失败了, 以及要修好它为什么得让它更海德格尔》。题目里有修好两个字。

八、对账

最后把别人给他记的账摆出来, 按年份。1968年, 帕佩特: 一份谬误清单。

1979年, 麦科达克在她的书里记下了这一行对他的强烈敌意; 而她自己的看法不是一概否定, 她批评的是他那种挖苦人的笔法, 把本来可能被说服的人推远了。

1983年, 纽厄尔。纽厄尔这个名字在这个系列里出现过好几次: 1957年那四条预言有他一份, 1969年那本讲感知机的书他写过书评。他在1983年一篇讨论人工智能思想史的文章里写道, 德雷福斯那条语境不能拆成独立离散元素的批评, 是一条真正核心的思想异议; 而此前的那些回答, 实际上没有碰到这个问题。这是四条预言的作者之一, 在德雷福斯提出对账十八年之后写下的话。他没有接受德雷福斯的结论。他承认的是: 那个问题, 没有被回答过。

1990年一月, 丘奇兰德夫妇在一份大众科学刊物上写《一台机器能思考吗》, 说德雷福斯1972年那本书既指出了那些示范性的认知模拟有什么不足, 也指出了一组一再失败的模式。

1993年, 克勒维耶写人工智能史, 用的是有限的说法: 时间证明了德雷福斯的一些评论准确而有洞察力。一些, 不是全部。他又说, 如果当初的表达少一点攻击性, 那些有建设性的意思也许会早一点被接过去。

1996年, 麦卡锡。他给1992年那一版写书评, 开篇就问: 德雷福斯怎么会知道符号那一路已经是一个在退化的研究纲领, 这很难看出来。他指责德雷福斯没有读非单调推理一类的近期工作; 他举出这一支的成长, 当作符号那一路还在进步的反证。

而同一篇书评里, 麦卡锡把常识知识与推理放在这一行的核心位置, 列出语境, 非单调推理, 内省, 描述的层次这些还要做的活。他还写道, 达到人的水平的人工智能, 目前还不在工程上可解的范围里, 很可能还需要一些根本性的科学发现。然后他在书评的末尾把问题扔了回去: 请德雷福斯举出一种足够精确, 足够简单的智力行为, 明确是人能做而计算机不能做的。

2004年, 麦科达克那本书的修订版把两组东西都留着: 一组是1960年代的轻蔑和嘲弄, 一组是后来承认他某些判断有价值的叙述。

把这一串摆在一起, 再看后来流传的两句话。一句是: 德雷福斯被证明全对了。这一串里, 纽厄尔承认的是问题没被回答, 克勒维耶说的是一些, 麦卡锡到1996年还在逐条驳他的结论。另一句反过来: 他被证明全错了。可这一串里, 麦卡锡本人也把常识与语境放在了这一行的核心, 也说人的水平还不在工程可解的范围里。两句话都删了东西。前一句删了一些这两个字, 后一句删了麦卡锡自己的让步。

这一篇里的删改, 还是那个老样子, 只是这一次落在同一个人身上的次数最多。

他写的是现在检验还太早, 十周年时再对一对; 传下来的是计算机永远不能下棋。

他写的是当时还没有; 传下来的是永远不会。

他写的是把公理降为假说; 传下来的是他证明了人工智能不可能。

他写的是这个失败并不意味着不可能, 至少眼下如此; 传下来的是他说人工智能一定失败。

他写的是神经网络也许只是终于得到了一次失败的机会; 传下来的是他预言了深度学习。

五处, 方向不全一样。前四处把他说得比原话更绝, 最后一处把他说得比原话更神。

而他自己在这二十七年里, 做的是另一件事。他把自己的书一层一层包起来, 旧的正文大体不动放在最里面, 只改几处含糊的句子, 每隔十几年在外面加一层序, 在序里写哪里说含糊了, 哪一处站不住, 哪一条换了说法。1992年那本书就是一本账簿: 翻开来, 先读到的是他最新的更正, 往里翻, 是更早的更正, 再往里, 是1972年那个被更正的人。

凿构这件事, 这个系列一直拿来看造机器的人: 造出一个东西, 画出它的边, 边外总还剩着什么, 于是再造。德雷福斯是画边的人, 他的边也照样动了; 每动一回, 旧的那一道还留在书里。

最后回到那个日子。1965年十二月, 他在编号三二四四的第四页上约了一个日子: 十周年那个月, 把设想与现实放在一起看。那个月过去了。那四条里的头一条没有兑现; 能坐到棋盘前的机器, 等级分一千四百上下。而被记住的是一盘他输掉的棋, 和一个说机器能赢他的标题。

一个提出对账的人, 后来被拿去对了账。他要对的是那四条; 被记住的, 是对他的那一笔。

机器还在造, 而界在哪里, 每一代人重说一遍。