凿构周期律 · AI系列 · 05

图灵把「机器能思考吗」换成了另一个问题

秦汉 · 约 21 分钟 · 发布

一、我将把这个问题换成另一个

1950年十月, 一份季刊的头一篇文章, 题目是《计算机器与智能》, 作者阿兰·图灵, 占了二十八页。

那是一份心理学与哲学的季刊, 主编是哲学家吉尔伯特·赖尔, 当期的其他文章出自几位哲学家。所以这是一位数学家把稿子投给了一份哲学刊物。

他当时是曼彻斯特大学数学系的高级讲师。前一年秋天和冬天, 曼彻斯特有过几场关于心灵与机器的讨论, 参加的人里有数学家纽曼, 化学家出身的波兰尼, 神经外科医生杰弗逊, 还有一位动物学家。

文章分七节, 没有摘要, 没有插图, 没有末尾的参考文献表。被援引的东西写在正文里: 哥德尔, 丘奇, 克莱尼, 罗瑟, 他自己1937年的结果, 杰弗逊1949年那场讲座, 洛夫莱斯那篇关于分析机的注记, 以及哈特里1949年那本书。巴贝奇也被历史性地谈到。一位数学家在一份哲学刊物上, 引的一半是逻辑学家, 一半是一位神经外科医生和一位十九世纪的伯爵夫人。

第一句提出的问题是: 机器能思考吗。

紧接着他说, 按通常的路子回答它, 就得先给机器和思考两个词下定义; 而如果要从日常用法里去找它们的意思, 那么这个问题的意思和答案, 都得靠一场民意测验式的统计调查来决定。他说这很荒唐。

他反对的不是去定义, 他反对的是把定义的依据放在用法的统计上。如果一个词的意思要靠数人头来定, 那么机器会不会思考这件事, 答案就取决于此刻有多少人愿意这样说。

于是他写下: 我将把这个问题换成另一个。

这句话里, 他没有说原来那个问题是假问题, 没有说它不该被问, 也没有说新问题就是原问题。他说的是新问题与原问题密切相关, 而且用的是相对没有歧义的语言。

密切相关不是等于。相对没有歧义不是没有歧义。两处限定都是他自己加的。而在这之后的七十多年里, 这两处限定很少被一起引用。

后来广为流传的那句; 太没有意义, 不值得讨论; 不在这里。它在第六节开头, 那时候游戏已经讲完, 机器的形式定义已经给出。开头这一段的措辞要克制得多。把第六节那句搬到第一段来读, 整篇文章的语气就变了: 从一个人说我换一个问法来做, 变成一个人说原来那个问题不配被讨论。

二、游戏的原样

第一节里那个游戏, 原样是三个人。

甲是一个男人。乙是一个女人。丙是询问者, 男女都可以。

这个配置里, 要分辨的不是人和机器, 是男和女。参加游戏的三个人全是人。这一版游戏里根本没有机器。机器是下一段才进来的, 而它进来的时候, 是顶掉一个人的位置, 并且接手那个人原来的任务。

丙待在与另外两人分开的一间屋子里, 只能通过标记认这两个看不见的人, 姑且叫他们叉和歪; 丙要做的, 是在最后判定哪一个标记属于那个男人, 哪一个属于那个女人。

丙可以向两边提问。图灵给的第一个示范问题是: 请叉告诉我他或她的头发有多长。

甲, 那个男人, 被指派的是搅局的角色: 他要让丙认错。图灵给的示范答案是, 甲描述自己的头发是女性样式的。这一版游戏的核心动作是冒充: 一个人假装成另一类人, 而另一个人努力说实话, 第三个人在中间分辨。

乙, 那个女人, 被指派的是相反的角色: 帮丙。图灵说, 她最好的策略大概是说实话, 包括直接声明自己就是那个女人; 但他随即指出, 甲同样可以作出这样的声明。

为了不让声音泄底, 答案要写出来, 最好用打字。理想的安排是两个房间之间用电传打字机联通。两间房, 一条电传线。看不见脸, 听不见声, 剩下的只有打出来的字。

然后是那一步。

机器被放进去的位置, 是甲的位置。

也就是说, 机器接手的是那个原本负责误导询问者的男人的角色。不是接乙的位置, 不是接丙的位置, 也不是加进来当第四个人。

后来的转述里, 流行的版本是: 一边是人, 一边是机器, 裁判分辨哪边是人。原样里, 机器接手的是一个正在扮演的角色; 它要做的事, 与那个男人要做的事是同一件: 让丙认错。

换上之后, 眼下的问题是一个比较: 丙认错的次数, 在机器这一版里, 会不会和当初藏在里面的是一男一女时一样多。参照系不是真话, 是另一场冒充的成绩。机器要比的不是人, 是一个正在假装成女人的男人。

图灵说, 这几个问题取代了原来那个关于机器能否思考的问题。

第一节问的是两版游戏各自的出错率, 不能直接缩成裁判能不能分辨出人和计算机。不过原文也没有把第一个场景定死: 到第五节, 图灵已说乙的位置可以由一个男人来坐。后来通行的公式省去了第一节那场男对女的对照, 但也并非凭空改换了他的全部问法。

第一节的规则里没有时长, 没有百分比, 没有规定问几个问题, 没有规定问什么题材, 没有规定询问者要具备什么资格, 也没有一句话说, 机器达到某个指标就算会思考。

第一节给的是一套安排, 不是一道考题。

图灵测试这个专名, 不在文章里。他自己用的词是模仿游戏, 判据, 实验, 测试。四个词的分量各不相同, 而他四个都用。判据是一条线, 实验是一次操作, 测试是一场考, 游戏是一场玩。他没有在这四个词之间定死哪一个才算数。那个专名是后来的人安上去的。

三、两个预测

第六节开头, 他把自己的信念与已经证明的事实分开, 明说下面是猜想。

然后是那个被引用了七十多年的数字。

大意是: 再过大约五十年, 应当可以把计算机的存储做到十亿这个量级, 并且给它编好程序, 使得在五分钟的询问之后, 一个中等水平的询问者作出正确判定的概率不超过百分之七十。

三个数; 五十年, 五分钟, 百分之七十; 都在这一处, 不在第一节的规则里。后来把这套东西当成一道考题来办的人, 用的多是这三个数。它们在原文里, 是一条猜想的参数, 不是一份规程的条款。

而紧接着的下一句, 是另一个预测。

他说, 到本世纪末, 普通的语言用法和受过教育的人的看法会改变到这样一个程度: 说机器在思考, 将不再通常地招来反驳。

这两句挨着, 但它们不是一件事。前一句是关于游戏表现的经验预测, 条件是存储, 时间和概率; 后一句是关于语言实践和受教育者意见的预测。前一句可以用一台机器和一块秒表去验; 后一句只能靠听人怎么说话去验。

一个人在同一页上作出两个预测, 一个关于机器, 一个关于词。而这个系列此前四篇追的那条线; 界随着人对它的了解和说法而移动; 在这里由当事人自己写成了一句预言。他没有说机器会跨过某条线。他说的是, 人说话的方式会变。

第一篇里, 那句话在传播中被加了一个字; 第二篇里, 一句带限定的技术陈述被删掉了限定; 第四篇里, 有人在抽屉里的一份稿本上写下界在看的人那一边。到这一篇, 当事人把它写成了一条对未来的预测, 而且预测的对象直接就是词的用法。

但这一句没有取消前一句。第七节里他说, 对第六节那个看法来说, 最终令人满意的支持, 是等到本世纪末再真的把那个实验做一遍。语言的预测没有把实验的预测吃掉, 两条都留着。

也是在第六节开头, 他写下了那句流传最广的话: 原来那个问句在字面上没有意义到不值得讨论。

而同一处他还写了另一句, 流传得少得多: 原来那个形式不能被完全放弃, 因为人们对于这样的替换是否恰当会有分歧。

这就是这一篇的那个动作。

一个够不着, 量不了的问题, 被换成一个够得着, 量得了的代理问题。原问题没有被回答, 没有被证伪, 也没有被宣布不存在。它被搬到了一边, 而搬它的人自己写明: 这个搬动是可以被质疑的, 所以原来那个形式不能扔。

殖民就是在这个位置发生的。不是谁抢了谁的地, 是有人在一块量不了的地旁边, 画了一块量得了的地, 然后争论大多搬到了后一块地上。前一块地还在那里, 往那边看的人少了。

这一步与此前几篇不同。此前是构做成了某件事, 界跟着退; 这一次构什么也没有做成, 只是换了一个可以量的东西来量。1950年没有一台机器能玩那个游戏, 一台也没有。被换掉的是那个问题, 不是机器的能力。此前四篇里的每一次退让, 背后都有一件被做成了的事; 这一次没有。这一次挪动的是尺子。

原文有一半以上的第六节, 是在直接回应关于机器能不能思考的各种反对意见。他没有取消那个问题, 他跟它吵了十二页。一个把某个问题判为不值得讨论的人, 接着用十二页去回应关于那个问题的九种意见, 这两件事摆在一起, 说明他判的不是那个问题不重要, 是那个问句的字面形式不能直接拿来回答。

四、九条

第六节里, 他列了九条反对意见, 逐条回应。

第一条, 神学的反对: 思考属于上帝赋予人的不朽灵魂, 动物和机器没有这样的灵魂, 所以不能思考。

他的回应没有去论证唯物主义, 而是在对方的框架里作答; 这样限制神的能力本身就有问题; 而造出会思考的机器这件事, 可以类比于生育, 人在其中是神的创造力的工具, 不是对手。他自己说这一段里有些是思辨性的神学。他没有在这一条上比对方更强硬: 对方讲神学, 他也讲神学。九条里他选的应对方式各不相同, 而每一次他都站在对方的地面上。这是一种辩法: 不换战场, 在对方划的地里作答。而整篇文章的主张, 恰恰是换战场。这两件事在同一篇里并存: 他要大家换一个问法, 同时又在旧问法的地面上逐条应战。

第二条, 把头埋进沙里的反对: 机器会思考这件事的后果太可怕了, 所以希望并且相信它做不到。

他把这当作一种情绪上的立场, 说这在那些把人的优越感主要押在智力上的人身上尤其可以理解; 他说它不够实在, 不需要一个逻辑上的反驳。有同情, 没有让步。这一条是九条里唯一一条他明说不值得逻辑反驳的。

第三条, 数学的反对。

援引的是1931年到1937年间的一批结果, 包括他自己1936年那一份。那批结果说明: 一台按固定规则一步步走的机器, 无论造得多大, 总有一些问题是它答不上来的。这不是工程上的力有不逮, 是证出来的。

这一条他让了一步, 而且让得明确: 任何一台这一类的具体机器都有它的限度, 都可以被拿一个它答不上来的问题堵住。这正是第三篇里那件事: 界不是人划的, 是从构自己的规矩里推出来的。

他的反驳落在比较上: 没有人证明过人的智力没有相应的限度, 而且人自己也会出错。

九条里, 这是他明说不能一笔带过的一条。但他让的是具体机器有数学上的限度, 不是人因此具有无可匹敌的能力。在他那里, 两件事之间隔着一个没有人证明过的前提。

第四条, 来自意识的论证。

他在这里引了那场1949年六月的讲座。引的那一段, 从要求机器因为真正感受到的思想与情感而写出十四行诗或者协奏曲开始, 一直引到机器要知道自己写出了它, 以及那份关于成功时的愉快, 悲伤, 被奉承, 出错, 性, 愤怒和沮丧的清单。

第四篇里那一段的三层条件, 他一层没落。

他的第一层回应是他心问题: 如果坚持要直接进入机器的主观感受才肯承认, 那么把同一个标准一贯地用在别人身上, 就会滑向只能知道自己有意识这个立场。

第二层是一场想象出来的口试: 他让一台机器接受关于诗的问答, 然后问, 这一类言语表现, 如果换成另一个人给出, 会不会被当作证据。

他没有否认意识是个难题。他明说意识里有一个谜; 他只是说, 解开那些谜不必先于回答机器这个问题。意识这件事他没有解决掉, 他把它挪到了后面; 这与整篇文章的做法是同一个做法。

第五条, 来自各种能力缺失的论证。

这一条底下有一张清单。有人说, 机器永远不能: 善良; 机智; 美丽; 友好; 有主动性; 有幽默感; 分辨是非; 犯错; 坠入爱河; 享用奶油草莓; 使别人爱上它; 从经验中学习; 恰当地使用词语; 以自己的思考为思考的对象; 在行为的多样性上与人相当; 或者做出真正新的东西。十六项, 是他收集到的1950年前后人们说机器永远做不到的事。

他说, 这一类主张通常不带证据, 而且往往是从说话人所熟悉的那几台极其有限的机器上推出来的。这是一句关于归纳的话: 见过的机器做不到, 不等于机器做不到。而1950年一个人能见到的机器, 全世界不超过十几台, 而且大多在实验室里。

其中几项; 奶油草莓带来的愉快, 坠入爱河, 以及相关的感受; 他归为伪装过的意识反对, 不是独立证明过的限度。

关于犯错, 他区分了功能上的出错与结论上的出错: 机器可以被安排给出故意误导的答案, 也可以在一个本身按设计正常运转的过程里得出一个错误的结论。

关于以自己为对象, 他说机器可以把自己的运作或者自己的程序当作题材。关于行为的多样性, 他指向足够大的存储所能提供的巨大范围, 而不是承认有限的机构就意味着行为必然单调重复。

第七条, 来自神经系统连续性的论证: 神经系统不是离散状态的机器, 微小的连续变化可能要紧, 所以数字计算机在物理组织上与它不同。

他接受这个物理上的对比, 但指出游戏看的是输出: 一台连续的装置, 比如微分分析机, 可以被一台数字机器逼近到这样的程度, 使询问者无法从答案里推出背后是哪一种物理机构。

让的是神经系统未必真是离散状态的; 不让的是, 这个差别本身在这场游戏里提供不出一个可观察的区分办法。

这一步是整篇文章的方法在一条具体反对上的应用: 凡是在那扇门外面看不出来的差别, 在这场游戏里就不算差别。这是这套办法的力量, 也是它的代价。

第八条, 来自行为非形式性的论证: 人的举止不可能被一套有限的情境对动作的规则穷尽, 所以受规则支配的机器复制不了它。

他明确让了较窄的那一条: 确实没有一套简单的行为守则, 能告诉一个人在每一种情形下该做什么。

然后他把守则与行为的规律分开: 找不到一条完整的, 明写出来的行为规律, 不等于证明了这样的规律不存在。一个是人照着做的守则, 一个是人被描述出来的规律; 前者没有, 后者未必没有。

九条里让步最多的是第三, 第七, 第八这三条, 而三条让的都是同一种东西: 具体的物理或形式限度。没有一条让给了人有而机器必然没有的那样东西。

他让的全是可以指出来的, 具体的限度; 他不让的全是从这些限度推到人的那一步。

五、第六条

第六条叫作洛夫莱斯夫人的反对。

图灵说, 关于巴贝奇分析机最详细的情况来自洛夫莱斯夫人的那篇注记, 并把它的年份写作1842年。那篇东西发表在1843年。

他从里面取了两个命题: 分析机没有任何自命去创始什么; 它能做的是人知道如何命令它去做的事。

这正是第一篇末篇注记里那两句。一百零七年之后, 它们在一份哲学季刊上被重新印了出来, 作为一条需要回应的反对意见的标题句。

原句里有一个加强的词, 在他引的第一句里被略掉了。洛夫莱斯那一段在这两句之后还接着往下写, 她关于机器可能间接改变科学的那一层, 以及她关于运算不必限于数的那一层, 都留在了外面。

他接着引哈特里1949年那本书: 哈特里考虑过一种可能, 即带有类似条件反射的学习机构的机器会把自己思考这件事变复杂; 同时他判断, 当时已经造出或者已在规划的那些机器并不具备相关的性质。

图灵说他同意哈特里对当时可用证据的判断。他不接受更强的那个推论: 这种性质在原则上不可能。

第一篇里说过, 哈特里引那句话的时候留了余地。图灵把那个余地一起抄了进来, 并且说自己完全同意。三个人的分寸在这里是一条线上的: 洛夫莱斯说的是当时那台不存在的机器, 哈特里说的是1949年造出来和规划中的那些机器, 图灵说的是同一批机器。三个人说的都是当下, 没有一个说的是永远。

然后他把这条反对意见改写成两个更强的形式。

一个是: 机器永远做不出真正新的东西。

另一个是: 机器永远不能让人吃惊。

对后一个, 他的回答是一句: 「机器让我吃惊的次数非常多。」

这句话把争论的位置挪了。原来的争论是机器有没有某种能力; 挪过之后的争论是, 人有没有算尽自己定下的规则会推出什么。

他的解释是, 人常常算不到自己所提供的那些规则和数据会推出什么后果: 规则是他定的, 后果他没算完。

在第七节接近末尾的地方, 他给自己写下的一个说法加了一条脚注。那个说法是: 「机器只能做我们知道如何命令它去做的事。」脚注特意回指前面洛夫莱斯的那句, 并记下一件事: 只这个字, 不在她的原句里。

这是这个系列第一次出现材料上的闭环。第一篇里那句话在1843年被写下来, 一百零七年后被人引用, 引用者在同一篇文章的后面亲手指出: 流传中被加了一个字。

而他自己也在同一篇文章里把那篇注记的年份印错了一年。

一个人在纠正别人对一份文献的转述时, 自己也把那份文献记岔了一点。两件事都印在同一篇二十八页的文章里, 隔着九页。

六、防心灵感应的房间

第九条, 来自超感官知觉的论证。

这一节在后来的转述里常被切掉。它在原文里占了两页, 是九条里的最后一条, 也是他给出最高评价的那一条之一。

他点名的是四类现象: 心灵感应, 遥视, 预知, 念动。

他先说这个题目对自己的论证来说很麻烦, 说他宁愿这些东西不成立。然后他写下了一句与此相反的话: 关于这些现象, 至少心灵感应的统计证据, 在他当时看来是压倒性的。他没有把它当作胡说打发掉。愿望与判断分开写, 先写愿望。

而且他给这一条的评价, 是九条里最重的之一: 他认为这是一条有力的反对。理由很具体: 如果允许这类现象存在, 那么关于询问者与被询问者之间信息相互隔离的那个标准假设, 就不成立了。

这一条不是在攻击机器能不能思考。它攻击的是那间屋子: 那扇门是不是真的把两边隔开了。整套办法立在隔离上, 而这一条说隔离可能漏。一把尺子最要命的毛病不在刻度, 在它有没有真的量到那样东西。这一节说的就是这个, 而说它的人是造这把尺子的人。

他按这个假定给了一个算例。询问者举起牌来问花色。一个有心灵感应的人, 在四百次里譬如答对一百三十张; 而一台随机猜的机器, 譬如有一次答对一百零四张。这个差距足以让询问者靠成绩认出人来。那么这场游戏分辨出来的就不是会不会思考, 是会不会某种别的东西。

然后他把自己这个例子又弄复杂了一层: 如果这台数字计算机的随机数装置会受到询问者念动的影响, 那么连那个随机的基准也会被搅动; 而遥视也可以不经过通常的问答就把身份泄露出去。

他的补救办法, 是把参加者隔离起来, 比如用一间防心灵感应的房间。

一间防心灵感应的房间。这句话印在1950年一份哲学季刊的正文里。

这一节的位置是这样的: 整篇文章的办法, 是把一个量不了的问题换成一个量得了的游戏。而这一节说的是: 我这个量得了的游戏, 有一个前提可能不成立。他没有删掉它, 他给游戏加了一间屋子。

一套要用来量的装置, 遇到自己量不准的地方, 可以有三种做法: 把那个地方定义掉, 不提它, 或者改装置。他选的是第三种。

这一节因此是整篇文章的自我说明。他知道自己的办法立在什么上面, 也知道那个东西可能不牢。

后来转述这套办法, 这一节多半不在里面。

七、小孩机器

第七节讲学习机器。

他先把一个成年心灵的形成拆成三样来源: 出生时的初始状态; 教育; 以及其他不算作教育的经历。三样里只有第二样是别人可以插手的。他要做的就是把第二样接过来, 而把第一样交给编程序的人, 第三样交给运气和环境。

然后他提出把通常的编程问题倒过来: 不去直接模拟成年人的心灵, 而是造出一样对应于小孩心灵的东西, 再让它受教育。

他的比喻是一本刚买来的笔记本: 小孩被设想成内建的机构比较少, 空白页比较多。他随即注明, 真实的小孩大脑不大可能真的这么简单。比喻归比喻, 他自己先把比喻的限度写了出来。

他把这件事分成两项相连的实验任务; 造出那个小孩程序, 和设计它受教育的过程; 并且预计要反复试, 不会一次就写对。这与他1948年那份内部稿本里的路子是同一条: 不去把成品设计完, 先做一台会变的, 再教。两年过去, 那份稿本仍旧没有公开, 而里面的想法在这一篇里以另一种措辞印了出来。

他把小孩机器的逐次修改与生物演化作了比较: 结构对应遗传物质, 改动对应突变, 而实验者的判断对应自然选择。

这个对应里, 自然选择那一头站着的是实验者。谁来判定哪一次改动算好, 这件事没有被交出去。演化里没有人说了算, 这个方案里有。教育这件事在他的设想里始终是有人在教的。

他不要求教育复现一个小孩所能用到的每一条通道。他说, 只要有足够的双向沟通, 原则上就能支撑相当多的教育; 他举海伦·凯勒为例, 说明感官上的严重限制未必妨碍智力的发展。所以他要的不是让机器长出眼睛耳朵, 是要一条够用的双向通道。

关于奖励与惩罚: 在他设想的教学方案里, 紧接在惩罚之前的事件或模式被压低复现的可能, 紧接在奖励之前的被加强。

他说这个模型不必预设机器真的感受到愉快或者痛苦。奖励和惩罚可以做成改变将来行为的控制信号。

这是这一篇里的第二次替换, 规模小得多: 两个带感受的词, 被换成两种不带感受的信号, 而教学方案照样走得通。做法与他1936年用一张纸条顶替心灵状态是同一个做法。

他说自己试过这一类办法, 但他的做法太不循常规, 没有完全成功。这是全篇里少有的一处第一人称的实验交代, 而交代的是没做成。

奖惩也不是全部。他另加了一些不带情绪的通道, 用来传达命令, 命题和符号语言。光靠奖惩教不出来, 还得能跟它说话。

关于随机: 他认为学习机器里有一个随机的成分是好的, 因为搜索否则会系统性地把许多不好的可能一个个走完才走到好的那一个。他把这个随机成分与演化里的突变相比: 随机负责提出备选, 选择或者评价负责留下有用的。

最后一段。他说他预计机器最终会在纯智力的各个领域与人竞争。至于从哪里入手, 他给了两条路: 可以从一种抽象的活动开始, 比如国际象棋; 也可以给机器配上能弄到的最好的感觉器官, 然后像教小孩那样教它说和写英语。他没有在这两条路之间选。

这两条路后来都有人走。一条通向棋类和形式游戏, 一条通向语言。此后几十年里, 这个领域的重心在这两条路之间来回挪过好几次。

全文的最后一句大意是: 「我们只能看到前面很近的一段, 但在这段看得见的距离里, 已经有很多事情要做。」

八、此后

头一篇公开回应, 是1951年七月同一份刊物上的一则短文, 作者莱纳德·平斯基, 题目是《机器会思考机器在思考吗》。

它不是另立一套理论, 是一篇讽刺。他提议拿图灵所说的那种高度复杂的电子或数字计算机来一台, 给它订一份同一种刊物, 然后看它对机器能否思考这场争论作何反应, 把这个当作一个反向的实验。他把图灵的提议读成了一个真要去做的关键实验, 然后用戏仿去打它的证据力。

第一篇公开回应是一篇玩笑。1951年, 这个提议在一份哲学季刊的读者那里, 首先是一个可以拿来开玩笑的东西。

1952年四月, 另一份哲学刊物上有哲学家沃尔夫·梅斯的一篇文章, 题目就叫《机器能思考吗》。他当时也在曼彻斯特, 与图灵同城。

这篇文章头十年里的回应, 叫得出名字的就是这几处: 一篇玩笑, 一篇同城的文章, 几场零星的往来。一份后来被叫作起点的东西, 起初十年只激起这么大的水花。

1951年五月十五日, 图灵在电台的第三套节目上做过一次讲话, 题为《数字计算机能思考吗》, 这一次比1950年那篇更直接地设想把数字计算机说成脑。同一年另有一次讲话, 他在那里设想的是一个长得多的时间尺度: 如果机器的智能有一天超过人, 那件事发生在此后一千年之内, 而不是几百万年之内。

1952年一月, 四个人在同一套节目里做了一期讨论, 题目是《自动计算机器能被说成在思考吗》。参加的是纽曼, 图灵, 杰弗逊和布雷斯韦特。

这期节目里有两处。一处是图灵说: 我不想给思考下一个定义。他接着说, 要做他提议的那个比较, 并不需要一个定义。

另一处是安排变了。1950年那篇里是一个询问者; 1952年这期里变成了一个陪审团, 任务被表述成让其中相当一部分人判定机器是人。

一个人在两年之内, 把自己那套办法的关键装置从一个人改成了一群人。

一个询问者的判断与一群人里相当一部分的判断, 不是同一件事。前者是一次分辨, 后者是一次投票。而两年前他反对的, 正是把一个词的意思交给统计去定。一个投的是词该怎么用, 一个投的是眼前这一场里谁是人, 但两件事的形状很像。

图灵测试这个专名头一回印在哪里, 这里还没有查到; 他自己没有这样叫过。一个人的名字被安在一套办法上, 通常发生在这个人不在场之后。这在这个系列里已经是第四次: 那台机器的名字, 那个称号, 那个论题的合称, 和这一次。

第一场明确围绕这一类测试办起来的比赛, 是1991年十一月的洛布纳奖, 由休·洛布纳出资。那一届用的是限定题材的版本, 人类裁判通过文本终端与人和程序交谈, 判定谁是人谁是机器。四十一年之后真正被办起来的, 是那个通行的版本, 不是1950年的原样。

流传的说法和原文, 并排放着是这样的。

流传的是: 图灵提出了判断机器是否有智能的标准。原文里, 他说过判据; 没有一个固定的及格分, 也没有说及格就等于有智能。

流传的是: 图灵预言2000年机器会通过测试。原文里最接近的, 是第六节那条带着存储量, 时长与概率的猜想; 通过, 及格, 到某一年, 都不是它印出来的样子。

流传的是: 图灵认为机器可以思考。原文里, 他把那个问句判为字面上不值得讨论, 记下自己关于游戏表现的猜想, 并预测将来语言用法会改变。

流传的是: 这是一场五分钟的对话测试。五分钟不在第一节的规则里, 在第六节那个预测里。

流传的是: 图灵回避了意识问题。原文里有一整节, 标题就叫来自意识的论证, 横跨好几页, 长段引用杰弗逊, 讨论唯我论与他心, 安排了一场口试, 并且明说意识里有一个谜。

这几条有一个共同的形状: 原文里带着条件, 带着限定, 带着作者自己标出的分歧; 流传下来的版本都是干净的, 可执行的, 有分数的。一套办法要被大规模使用, 就得先被简化成这个样子。而简化掉的那些, 恰好是作者用来标明这套办法管到哪里为止的东西。限定语被删掉之后, 剩下的东西更好用, 也更容易被当作一条界。

最后是几个日期。1952年三月三十一日, 图灵在柴郡受审, 案由是严重猥亵。判的不是监禁, 是十二个月的缓刑, 以接受医疗为条件。1954年六月七日, 他死于柴郡威姆斯洛的家中, 次日被发现。官方结论是自杀。

四年之前, 同一个人在一份哲学季刊上写道: 我将把这个问题换成另一个。

被换下去的那个问题还在原处。

没有人回答它, 也没有人证明它不该被问。从那一年起, 争论多半落在换上来的那一个上面: 吵它的规则, 吵它的时长, 吵它算不算数, 吵谁通过了它。那块地的边界是1950年一个人画的。画的人在第六节里已经写明: 这个替换恰不恰当, 读者会分成两派, 因此老的问法必须留着。

这句话很少被一起引。单引前一句, 读到的是一个人把老问题扫地出门; 两句一起读, 读到的是一个人把老问题搬到一边, 并且在旁边留了一张条子说明它还在。

机器还在造, 而界在哪里, 每一代人重说一遍。