凿构周期律 · AI系列 · 12

那个「打败了医生」的程序

秦汉 · 约 15 分钟 · 发布

一、你有多确定

斯坦福项目组的书里, 印过一段用1974年那版程序做的终端演示。演示里, 有人在教程序一条规矩。

规矩是这样的: 如果病人的培养标本取自某个部位, 革兰氏染色是某种结果, 显微镜下菌的形状是某一种, 这种菌不需要氧气, 病菌又是从某一条路进的身体; 那么, 这个菌有很强的迹象是拟杆菌。五个条件, 一个结论。

教的人先把条件和结论敲进去。程序听到结论, 问了一个问题: 你对这个结论有多确定。它没有让专家直接写一个小数。它给了一把尺子, 一到十, 一把人为定的尺子。那人输入: 九。程序回显它理解的规矩, 把一个条件分成两条, 一共五条, 又把九写成零点九, 请人确认。

这条规矩一开头就领了个编号: 二百。它的结论那一句在程序的文字里是这样的: 有很强的提示性证据, 零点九, 表明这个菌是拟杆菌。

这个零点九, 是专家给这五个条件与这个结论之间那条联系打的一个分, 表示他觉得这条联系有多强。它的来路, 是一个人在一把一到十的尺子上指了一下。这种分数怎么互相合并, 程序有它自己的一套规矩, 不是概率论。把零点九读成百分之九十, 是后来的读法。

一个人的判断, 先被换成一把尺子上的一格, 再被换成一个小数, 再被后来的人读成一个概率。每换一道, 它离那个人就远一步。这一篇讲的是这二十年里, 人怎样把自己知道的东西装进机器, 以及装进去以后发生了什么。

二、碳的原子量

事情要从十年前说起。1965年, 斯坦福有一个项目开了头, 后来的名字叫 DENDRAL。1969年它的正式论文登在一部叫《机器智能》的文集第四辑上, 题目叫《启发式 DENDRAL: 一个在有机化学中生成解释性假说的程序》。作者是布鲁斯·布坎南, 乔治娅·萨瑟兰, 爱德华·费根鲍姆。

它要解的题很具体。给它分子的组成, 再给它这个分子的质谱, 也就是分子打碎以后, 各种碎片按质荷比分开的信号; 它先从谱里找出哪些小结构该有, 哪些不该有, 按这些线索和化学规矩列出候选。再猜每一种候选会打出怎样的谱, 跟手上的谱一比, 把候选排个先后。

同一年五月二十一日, 《美国化学会志》同一期上登出两篇论文, 是一个系列的头两篇, 系列的题目是: 人工智能在化学推断中的应用。1969年, 一份化学刊物上, 题目里写着人工智能四个字。这一年, 在后来被叫作第一次冬天的那十年正中间。

程序跑在斯坦福人工智能实验室那台 DEC 的机器上, 用一种表处理语言写成。作者名单上是两拨人。一拨是写程序和想启发式的, 莱德伯格, 费根鲍姆, 布坎南, 萨瑟兰; 一拨是做质谱和有机化学的, 杰拉西, 达菲尔德, 罗伯逊。两拨人之间要搬的, 就是化学家知道而程序不知道的东西。

早期的时候, 这些东西直接写在程序里面。碳的原子量, 就写在程序里一个叫重量的函数里头。一个自然界的常数, 写在一段计算的步骤里。要改它, 得去改程序。

知识一多, 这样就不行了。项目后来把化学性质从程序里挪出来, 放进更容易修改的数据结构里。参与者事后把这段经验总结成一句话: 把一个领域的知识放进程序里, 成了一个瓶颈。瓶颈这个词在这里第一次出现。它说的不是机器算得慢, 是知识进去得慢。

DENDRAL 后来挪到另一台机器上, 由一个远程共享的计算设施提供出去, 整个1970年代和1980年代初, 美国学界和工业界的化学家都能用。

至于它是世界上头一个专家系统这个说法: 1969年它自己的名字是启发式 DENDRAL, 化学刊物上挂的是人工智能那块招牌。把「头一个用于形成科学假说的专家系统」写进标题的, 是1993年参与者自己写的一篇回顾。

三、一个名字和三个名字

1972年前后, 斯坦福医学院的几个人和做程序的几个人开始合作一件事。这个项目一开始没有名字。

1973年要写经费申请书了, 才被逼着给一个已经在跑的程序起名字。医生斯坦顿·阿克斯林出了个主意: 取许多抗生素英文名字末尾那个共同的后缀, 也就是链霉素, 红霉素里的那个霉素。想凑一个缩写, 没凑出合适的, 就这么定了: MYCIN。

名字是凑出来的, 而申请书上写给出钱的人看的是另外三个名字。三个名字都是大写的: 会诊程序; 交互式解释能力; 由计算机获取判断性知识。会诊, 解释, 获取判断。三样都没有医生两个字。它要做的是在一旁出主意, 说清楚为什么这么出主意, 以及从专家那里学会怎么出主意。

它起初的样子还不是这样。起初的设想是一个抗生素处方的监察器, 盯着医院开出去的药; 而要盯, 就得同时拿到药房, 临床化验室, 细菌室三套数据。三套数据在三个不同的计算机系统里。为了不去把三个系统接到一起, 方案改成了一个直接与医生对话的会诊系统。一个程序长成什么样, 在这里是由接线的难易定的。接三个系统太难, 就改成问一个人。

它管的范围: 开头只管菌血症的抗微生物治疗, 后来扩到感染性脑膜炎; 因为脑膜炎的病因不只是细菌, 知识库里又加进了一部分病毒和真菌。

它面对的情形还有一个特点: 病人入院的头二十四到四十八小时, 化验结果往往还没有出齐, 这时候的活不是非要从头几项结果里定出唯一一个病菌, 而是把可能的, 危险的那几种都照顾到。照顾到, 不是认出来。

1984年项目总结的时候, 成熟的知识库大约是四百五十条规矩, 加上表格里的大约一千条事实, 能考虑大约一百二十种病原体。

四、六步

规矩是怎么一条一条装进去的。MYCIN 头一个管这件事的是爱德华·肖特利夫。他从医生科恩, 阿克斯林那里取得感染病的判断, 同时与布坎南等人讨论怎么表示。他们选了如果怎样就怎样的那种规矩形式, 一个明确的理由是: 医生读得懂, 挑得出错, 改得动。规矩的形式, 是按人读得懂来挑的。

1970年代中期, 这件事有了一个名字。知识工程, 基于知识的系统, 专家系统, 这几个词大约在1975年前后在这一圈子里普遍起来。1984年项目组总结的那本书给这一行下了个定义: 知识获取, 就是从人类专家, 教科书, 数据库和经验里把知识取出来, 转过来, 变过来。通常的安排是, 专家与程序之间夹着一个人, 这个人叫知识工程师。

实际的干法, 项目组写成了六步。第一步, 专家指出要加什么, 改什么。第二步, 知识工程师去改知识库。第三步, 把旧病例重新跑一遍。第四步, 两个人一起看出了什么问题。第五步, 专家拿新病例来试。第六步, 看结果, 回到第一步。作者特别说: 这个圈子转一次要花很多时间, 这是关键问题之一。

而最难的还不是这个圈子本身。他们写道, 最难的往往是最开头那一段: 知识工程师得先学会专家的行话和分类, 专家也得慢慢明白程序允许什么样的表示形式。这一段过了, 规矩的条数才会快速涨起来; 涨起来以后, 再一条一条地测, 一条一条地修。两个人要先学会对方的话。

DENDRAL 那边的情形差不多。布坎南与质谱专家来来回回地谈, 把专家从来没有写下来过的判断, 整理成可以执行的启发式规矩。专家和知识工程师两边都要投进大量的时间, 早期很多时间花在改程序, 重新想怎么分类, 重跑病例上。

后来项目做了工具, 想让专家自己直接检查, 修改知识库。其中一个叫 TEIRESIAS, 取的是古希腊那个盲眼先知的名字。回顾里写着: 这套获取和调试的功能, 感染病的合作者们并没有以完整的形式日常用起来。工具有了, 中间那个人还是撤不掉。

五、八百次打分

1979年九月二十一日, 《美国医学会杂志》登出一篇论文, 题目是《由一台计算机作的抗微生物药物选择: 感染病专家的一次盲评》, 第一作者维克托·于。题目里没有诊断, 没有打败, 没有人工智能。

这场评价, 是一步一步设计的。它评的是一件事: 急性感染性脑膜炎, 病原体还没有定下来的时候, 该用什么抗微生物药。

第一步, 从斯坦福附属的一家县医院取十个脑膜炎病例, 整理成病例摘要。同一份摘要, 交给八个人各自独立开药: 五位斯坦福的感染病教员, 一位感染病的高年资博士后, 一位高年资住院医生, 一位高年级医学生。再加上 MYCIN 开的方子, 和病人当时实际接受的治疗。每个病例于是有十份方子。

第二步, 找八位斯坦福以外的感染病专家来评分。这八位都发表过脑膜炎治疗方面的东西。每个病例的十份方子被打乱顺序, 统一格式; 评分的人不知道每一份是谁开的, 也不知道其中有一份出自计算机。每位评分的人先自己写下自己会怎么治, 然后把每一份匿名的方子评成三档之一: 等同, 可以接受的另一种选择, 不能接受。十个病例, 十份方子, 八位评分人, 一共八百次打分。

结果是这样。按每一份方子在八十次评分里被评为可以接受的次数: MYCIN 五十二次, 百分之六十五。教员甲五十次。教员乙和那位博士后各四十八次。教员丙和病人实际接受的治疗各四十六次。教员丁四十四次。住院医生三十六次。教员戊三十四次。医学生二十四次。五位教员的平均是百分之五十五点五, 从百分之四十二点五到百分之六十二点五不等。

换一个算法, 数一个方子在几个病例上得到了多数评分人的接受: MYCIN 十个里七个; 病人实际接受的治疗, 也是十个里七个。再换一个更硬的算法: 有没有漏掉一个可以治的病原体。MYCIN 零次。病人实际接受的治疗零次。五位教员里三位零次, 两位各一次。博士后一次, 住院医生一次, 医学生三次。

后来流传的说法是: MYCIN 在盲测里打败了医生的诊断。论文里评的是选药, 不是诊断; 是十个脑膜炎病例; 是一堆匿名的方子被打分, 不是机器与医生面对面比。

那张表有十行。按第一种算法, MYCIN 排在最前面; 按第二种算法, 它与病人实际接受的治疗并列; 按第三种算法, 它与好几位教员并列。表上没有一行叫医生。百分之六十五对大约百分之五十, 是把最前面那一行拿出来, 再把另外五行平均成一个数。

六、为什么没有人用

分数最高的那一份方子, 出自一个后来没有被用在病床前的程序。这不是外人说的。1984年项目组自己在书里专门写了一节, 题目就是: 为什么 MYCIN 没有被日常使用。

他们列出的原因是这些。跑这套程序要用的那种机器, 还是太贵。感染病的知识面还不够宽。人机界面还不够好。只管脑膜炎和菌血症的话, 它算不上一件划得来的工具。

还有运行的环境。这个程序是用一种表处理语言的方言写的, 依赖斯坦福和那个远程共享设施上的那一类操作系统; 病房里和医生的办公室里没有这样的设备。要把一个又大又复杂的系统重写到小机器上去, 他们的原话是: 「我们没有动力去做这件事。」

然后是人的原因。法律上的责任谁来担。医生作为一个行当的自尊。程序能解释自己的理由, 这一点能不能让医生接受。他们还写了一句检讨: 早先他们把表现好等同于会被用上, 后来觉得这种想法是天真的。

1979年那场盲评问的是: 它开的方子, 专家能不能接受。这个问题量得了, 也量了。另一个问题是: 一个医生会不会在病床前用它。这个问题当年没有量过。

量过的那一个, 被当成了没量过的那一个的答案。这个系列在第五篇和上一篇里都见过这个动作: 一个难问的问题, 被一个好问的问题顶了位置。这一次顶位置的不是别人, 是造程序的人自己; 而五年以后, 也是他们自己在书里把这件事说了出来。

从一个在八百次打分里拿了最高分的程序, 到一个摆在病房里的程序, 项目组自己列出来的那些东西, 几乎没有一样是规矩。是机器的价钱, 是屋子里有没有那种设备, 是谁来担责任, 是医生怎么看自己。

这里面还有一件事。大约1977年以后, 医学那边的合作者陆续转去做别的工作。感染病知识库基本上就不再大规模扩充了。解释, 知识获取, 由它派生出来的那套工具, 这几条研究线还接着做; 而装医学知识这件事, 随着医生离开停了下来。

所以 MYCIN 没有一个干净的终止日。它是一点一点停的: 先是人走了, 然后知识不再长了。那条编号二百的规矩还在知识库里。零点九也还在。医学那边给出这些数的人, 陆续去做别的事了。

七、七百七十二条

同一时期, 有一个被用上了的。1980年, 美国人工智能学会第一届年会的论文集里有一篇, 作者约翰·麦克德莫特, 题目的意思是: 计算机系统领域的一位专家。题目里给这个程序起的名字叫 R1, 后来公司里管它叫 XCON。

它干的活很实在。DEC 卖一种新型号的机器, 型号 VAX-11/780。客户下一张订单, 列着要哪些部件; 这个程序读订单, 画出这些部件在机柜里怎么摆, 怎么接线, 并且查出订单里漏了什么部件。图交给技术员, 技术员照着去把真的机器装起来。DEC 用一台 DEC 的机器, 来配置 DEC 的机器。它跑在 DEC 的一台大型机上, 用一种产生式系统的语言写成。

1978年十二月开始第一阶段, 大约四个月。麦克德莫特先由 DEC 的人连着教了五六天怎么配置系统, 又读了两本手册。第一版的领域规矩不到两百条。第二阶段又是大约四个月。DEC 的专家不停地看它的输出, 指出哪里错了, 哪里漏了。领域知识的量, 用论文的话说, 几乎涨了两倍。

1979年十月到十一月, 拿五十张真实的订单做了一次系统的检验。六位配置专家审, 每张订单审一到两个钟头。审完发现了十二类错误, 都修了。

到1980年六月, 它有七百七十二条永久的规矩, 其中四百八十条被论文叫作配置规矩。它认得大约四百二十种部件, 一台典型的系统大约由九十个部件组成。从1980年一月起, 它已经处理了五百多张订单, DEC 的生产部门在经常地使用它, 并且开始与销售下单的流程接起来。在那五十张订单的检验里, 一张订单平均要触发大约一千零五十六条规矩, 用大约两分半钟的机时。

这个程序后来一直在用, 而且一直在长。1989年, DEC 的两位工作人员巴克与奥康纳在《美国计算机学会通讯》上写回顾, 说它从最初两个人照管, 两百五十条左右的规矩, 长到了一个六十多人的维护组, 一万多条规矩。两个人变成六十多个人。

一个被用上的知识系统, 知识不是装一次就装完的; 它要一个一直在的组织守着, 而这个组织越长越大。

常见的说法说它每年给 DEC 省两千五百万美元。1989年那篇回顾里的数是另一个: 官员们估计, 这一类配置系统每年净省大约四千万美元。

八、零点九

1984年八月, 美国人工智能学会在奥斯汀开年会。一位叫乔治·约翰逊的记者在场, 十一月写了一篇长报道。他记下的是这样一个会场: 终端发出的蓝灰色的光; 展厅里推销的演示开着扩音; 到处是公司来招人的人。到会的超过三千人, 大约三分之二不是学界的。

展台上, 一家公司把自己的产品叫作知识工程的环境, 用来做专家系统; 它的宣传册上写着: 「人工智能终于成年了。」另一家产品的宣传册写: 「我们造出了一个更好的脑子。」那一年《商业周刊》的封面标题是: 人工智能, 它来了。学会自己散发的汽车保险杠贴纸上写着: 人工智能, 这是真的。

费根鲍姆对这位记者说, 风险资本总是在找下一个热点, 1980年到1981年是生物技术, 现在是人工智能。所以1984年, 人工智能这四个字是一块招牌, 不是一个要躲的词。

这位记者还做了一件事。他把推销员的文字, 与研究人员在技术分会上说话的样子并排写: 后者一路都在加限定。第七篇把几份相隔多年的文字放在一起, 问各自有哪些限定, 后来还留下多少。而这一次, 同一个会场, 同一个星期, 一个在场的人当时就把两种说话的样子并排记了下来。

钱的数也有。1985年二月, 美国国会的技术评估办公室出了一份东西, 里面汇总了同期的市场数字: 1983年, 工业界买人工智能产品花了大约六千六百万到七千五百万美元。同一页上说, 美国最大的那些公司里, 有十五家或者更多正在扩大专家系统的开发; 过去几年至少有十来家新公司为做这类产品而成立; 风险资本投进这类新公司的, 至少一千六百万美元。专门卖给人做人工智能开发的机器, 市场估计大约五千万美元。那份东西里还有一个大数: 到1990年代初, 这个市场可能到二十五亿到八十五亿美元。

国家也进来了。日本1982年由通产省成立了新一代计算机技术研究所, 做第五代计算机。整个项目的总经费, 外面给过的最高估计是今后八到十年最多十亿到十五亿美元; 头几年的年度支出是: 1982年大约两百万美元, 1983年大约一千二百万, 1984年大约两千七百万。研究所一共五十二个人。

英国的阿尔维计划, 是对日本第五代计划的回应。它里面管人工智能的那一块, 名字叫智能知识库系统。政府承诺大约三亿一千万美元, 企业预计再出两亿三千万; 智能知识库系统头五年大约三千九百万, 其中大约三千万给大学。1982年英国这一行研究的人大约一百五十个, 计划两三年增加一半, 五年翻一番。

美国国防部高级研究计划局, 也就是 DARPA, 搞的战略计算, 从1984财年开始, 五年大约六亿美元。

同一份文件, 用人工智能和专家系统做章节标题, 又在同一处提醒: 有些商业上的热情可能没有根据, 给国会出主意的人对当前这一代专家系统被说得多有用, 多能推广, 是警惕的。招牌和对招牌的提醒, 写在同一份政府文件的同一章里。

现在回到这一篇的那个数。这二十年里, 人想做的事可以说得很简单: 把人知道的东西装进机器。化学家知道的, 医生知道的, 配置工程师知道的。材料里留下来的, 是装的过程什么样。

碳的原子量先是写死在程序里, 后来得挪出来, 因为要改。医生的判断先被问成一把一到十的尺子上的一格, 再存成一个小数。一个六步的圈子, 转一次要很多时间, 而且最难的是开头那段两个人学对方的话。一个配置程序从两个人照管长到六十多个人照管。一个拿了最高分的会诊程序, 医生一走, 知识就不长了。

这一串事实说的是同一件事: 知识不是一种能装进去就完事的东西。装进去以后, 它得有人守着。守的人是谁, 在材料里写得清清楚楚: 知识工程师, 维护组, 那些来来回回的专家。机器里的规矩越多, 机器旁边的人越多。

一台造出来的东西总有它的边, 边外总还剩着什么。这个系列一直管那剩下的一部分叫余项。在这二十年里, 余项有一张具体的脸: 它就是那个得一直坐在机器旁边的人。

规矩可以抄进去, 可以数出来: 七百七十二条, 四百五十条, 一万多条。而一条规矩为什么是这样写的, 那个零点九为什么是九不是八, 这一样东西抄不进去。它留在给出这个九的人那里。人在, 规矩可以改; 人走了, 规矩还在, 零点九还在, 能说清它的人已经不在机器旁边了。

最后回到那段终端上的演示。一个程序问一个人: 你有多确定。给了他一把一到十的尺子。他输入九。程序写下零点九。

后来的人把零点九读成了百分之九十, 把八百次打分读成了打败医生, 把一个医生走后就停止生长的知识库读成了医院里用过的人工智能医生, 把一个要六十多个人守着的程序读成了一个每年替公司省两千五百万的机器。每一次读, 都是把那个说九的人往外挪了一步。

机器还在造, 而界在哪里, 每一代人重说一遍。