鑿構週期律 · AI系列 · 12

那個「打敗了醫生」的程序

秦漢 · 約 15 分鐘 · 發布

一、你有多確定

斯坦福項目組的書裡, 印過一段用1974年那版程序做的終端演示。演示裡, 有人在教程序一條規矩。

規矩是這樣的: 如果病人的培養標本取自某個部位, 革蘭氏染色是某種結果, 顯微鏡下菌的形狀是某一種, 這種菌不需要氧氣, 病菌又是從某一條路進的身體; 那麼, 這個菌有很強的跡象是擬桿菌。五個條件, 一個結論。

教的人先把條件和結論敲進去。程序聽到結論, 問了一個問題: 你對這個結論有多確定。它沒有讓專家直接寫一個小數。它給了一把尺子, 一到十, 一把人為定的尺子。那人輸入: 九。程序回顯它理解的規矩, 把一個條件分成兩條, 一共五條, 又把九寫成零點九, 請人確認。

這條規矩一開頭就領了個編號: 二百。它的結論那一句在程序的文字裡是這樣的: 有很強的提示性證據, 零點九, 表明這個菌是擬桿菌。

這個零點九, 是專家給這五個條件與這個結論之間那條聯繫打的一個分, 表示他覺得這條聯繫有多強。它的來路, 是一個人在一把一到十的尺子上指了一下。這種分數怎麼互相合併, 程序有它自己的一套規矩, 不是概率論。把零點九讀成百分之九十, 是後來的讀法。

一個人的判斷, 先被換成一把尺子上的一格, 再被換成一個小數, 再被後來的人讀成一個概率。每換一道, 它離那個人就遠一步。這一篇講的是這二十年裡, 人怎樣把自己知道的東西裝進機器, 以及裝進去以後發生了什麼。

二、碳的原子量

事情要從十年前說起。1965年, 斯坦福有一個項目開了頭, 後來的名字叫 DENDRAL。1969年它的正式論文登在一部叫《機器智能》的文集第四輯上, 題目叫《啓發式 DENDRAL: 一個在有機化學中生成解釋性假說的程序》。作者是布魯斯·布坎南, 喬治婭·薩瑟蘭, 愛德華·費根鮑姆。

它要解的題很具體。給它分子的組成, 再給它這個分子的質譜, 也就是分子打碎以後, 各種碎片按質荷比分開的信號; 它先從譜裡找出哪些小結構該有, 哪些不該有, 按這些線索和化學規矩列出候選。再猜每一種候選會打出怎樣的譜, 跟手上的譜一比, 把候選排個先後。

同一年五月二十一日, 《美國化學會志》同一期上登出兩篇論文, 是一個系列的頭兩篇, 系列的題目是: 人工智能在化學推斷中的應用。1969年, 一份化學刊物上, 題目裡寫著人工智能四個字。這一年, 在後來被叫作第一次冬天的那十年正中間。

程序跑在斯坦福人工智能實驗室那臺 DEC 的機器上, 用一種表處理語言寫成。作者名單上是兩撥人。一撥是寫程序和想啓發式的, 萊德伯格, 費根鮑姆, 布坎南, 薩瑟蘭; 一撥是做質譜和有機化學的, 傑拉西, 達菲爾德, 羅伯遜。兩撥人之間要搬的, 就是化學家知道而程序不知道的東西。

早期的時候, 這些東西直接寫在程序裡面。碳的原子量, 就寫在程序裡一個叫重量的函數裡頭。一個自然界的常數, 寫在一段計算的步驟裡。要改它, 得去改程序。

知識一多, 這樣就不行了。項目後來把化學性質從程序裡挪出來, 放進更容易修改的數據結構裡。參與者事後把這段經驗總結成一句話: 把一個領域的知識放進程序裡, 成了一個瓶頸。瓶頸這個詞在這裡第一次出現。它說的不是機器算得慢, 是知識進去得慢。

DENDRAL 後來挪到另一臺機器上, 由一個遠程共享的計算設施提供出去, 整個1970年代和1980年代初, 美國學界和工業界的化學家都能用。

至於它是世界上頭一個專家系統這個說法: 1969年它自己的名字是啓發式 DENDRAL, 化學刊物上掛的是人工智能那塊招牌。把「頭一個用於形成科學假說的專家系統」寫進標題的, 是1993年參與者自己寫的一篇回顧。

三、一個名字和三個名字

1972年前後, 斯坦福醫學院的幾個人和做程序的幾個人開始合作一件事。這個項目一開始沒有名字。

1973年要寫經費申請書了, 才被逼著給一個已經在跑的程序起名字。醫生斯坦頓·阿克斯林出了個主意: 取許多抗生素英文名字末尾那個共同的後綴, 也就是鏈霉素, 紅霉素裡的那個霉素。想湊一個縮寫, 沒湊出合適的, 就這麼定了: MYCIN。

名字是湊出來的, 而申請書上寫給出錢的人看的是另外三個名字。三個名字都是大寫的: 會診程序; 交互式解釋能力; 由計算機獲取判斷性知識。會診, 解釋, 獲取判斷。三樣都沒有醫生兩個字。它要做的是在一旁出主意, 說清楚為什麼這麼出主意, 以及從專家那裡學會怎麼出主意。

它起初的樣子還不是這樣。起初的設想是一個抗生素處方的監察器, 盯著醫院開出去的藥; 而要盯, 就得同時拿到藥房, 臨床化驗室, 細菌室三套數據。三套數據在三個不同的計算機系統裡。為了不去把三個系統接到一起, 方案改成了一個直接與醫生對話的會診系統。一個程序長成什麼樣, 在這裡是由接線的難易定的。接三個系統太難, 就改成問一個人。

它管的範圍: 開頭只管菌血症的抗微生物治療, 後來擴到感染性腦膜炎; 因為腦膜炎的病因不只是細菌, 知識庫裡又加進了一部分病毒和真菌。

它面對的情形還有一個特點: 病人入院的頭二十四到四十八小時, 化驗結果往往還沒有出齊, 這時候的活不是非要從頭幾項結果裡定出唯一一個病菌, 而是把可能的, 危險的那幾種都照顧到。照顧到, 不是認出來。

1984年項目總結的時候, 成熟的知識庫大約是四百五十條規矩, 加上表格裡的大約一千條事實, 能考慮大約一百二十種病原體。

四、六步

規矩是怎麼一條一條裝進去的。MYCIN 頭一個管這件事的是愛德華·肖特利夫。他從醫生科恩, 阿克斯林那裡取得感染病的判斷, 同時與布坎南等人討論怎麼表示。他們選了如果怎樣就怎樣的那種規矩形式, 一個明確的理由是: 醫生讀得懂, 挑得出錯, 改得動。規矩的形式, 是按人讀得懂來挑的。

1970年代中期, 這件事有了一個名字。知識工程, 基於知識的系統, 專家系統, 這幾個詞大約在1975年前後在這一圈子裡普遍起來。1984年項目組總結的那本書給這一行下了個定義: 知識獲取, 就是從人類專家, 教科書, 數據庫和經驗裡把知識取出來, 轉過來, 變過來。通常的安排是, 專家與程序之間夾著一個人, 這個人叫知識工程師。

實際的幹法, 項目組寫成了六步。第一步, 專家指出要加什麼, 改什麼。第二步, 知識工程師去改知識庫。第三步, 把舊病例重新跑一遍。第四步, 兩個人一起看出了什麼問題。第五步, 專家拿新病例來試。第六步, 看結果, 回到第一步。作者特別說: 這個圈子轉一次要花很多時間, 這是關鍵問題之一。

而最難的還不是這個圈子本身。他們寫道, 最難的往往是最開頭那一段: 知識工程師得先學會專家的行話和分類, 專家也得慢慢明白程序允許什麼樣的表示形式。這一段過了, 規矩的條數才會快速漲起來; 漲起來以後, 再一條一條地測, 一條一條地修。兩個人要先學會對方的話。

DENDRAL 那邊的情形差不多。布坎南與質譜專家來來回回地談, 把專家從來沒有寫下來過的判斷, 整理成可以執行的啓發式規矩。專家和知識工程師兩邊都要投進大量的時間, 早期很多時間花在改程序, 重新想怎麼分類, 重跑病例上。

後來項目做了工具, 想讓專家自己直接檢查, 修改知識庫。其中一個叫 TEIRESIAS, 取的是古希臘那個盲眼先知的名字。回顧裡寫著: 這套獲取和調試的功能, 感染病的合作者們並沒有以完整的形式日常用起來。工具有了, 中間那個人還是撤不掉。

五、八百次打分

1979年九月二十一日, 《美國醫學會雜誌》登出一篇論文, 題目是《由一臺計算機作的抗微生物藥物選擇: 感染病專家的一次盲評》, 第一作者維克托·于。題目裡沒有診斷, 沒有打敗, 沒有人工智能。

這場評價, 是一步一步設計的。它評的是一件事: 急性感染性腦膜炎, 病原體還沒有定下來的時候, 該用什麼抗微生物藥。

第一步, 從斯坦福附屬的一家縣醫院取十個腦膜炎病例, 整理成病例摘要。同一份摘要, 交給八個人各自獨立開藥: 五位斯坦福的感染病教員, 一位感染病的高年資博士後, 一位高年資住院醫生, 一位高年級醫學生。再加上 MYCIN 開的方子, 和病人當時實際接受的治療。每個病例於是有十份方子。

第二步, 找八位斯坦福以外的感染病專家來評分。這八位都發表過腦膜炎治療方面的東西。每個病例的十份方子被打亂順序, 統一格式; 評分的人不知道每一份是誰開的, 也不知道其中有一份出自計算機。每位評分的人先自己寫下自己會怎麼治, 然後把每一份匿名的方子評成三檔之一: 等同, 可以接受的另一種選擇, 不能接受。十個病例, 十份方子, 八位評分人, 一共八百次打分。

結果是這樣。按每一份方子在八十次評分裡被評為可以接受的次數: MYCIN 五十二次, 百分之六十五。教員甲五十次。教員乙和那位博士後各四十八次。教員丙和病人實際接受的治療各四十六次。教員丁四十四次。住院醫生三十六次。教員戊三十四次。醫學生二十四次。五位教員的平均是百分之五十五點五, 從百分之四十二點五到百分之六十二點五不等。

換一個算法, 數一個方子在幾個病例上得到了多數評分人的接受: MYCIN 十個裡七個; 病人實際接受的治療, 也是十個裡七個。再換一個更硬的算法: 有沒有漏掉一個可以治的病原體。MYCIN 零次。病人實際接受的治療零次。五位教員裡三位零次, 兩位各一次。博士後一次, 住院醫生一次, 醫學生三次。

後來流傳的說法是: MYCIN 在盲測裡打敗了醫生的診斷。論文裡評的是選藥, 不是診斷; 是十個腦膜炎病例; 是一堆匿名的方子被打分, 不是機器與醫生面對面比。

那張表有十行。按第一種算法, MYCIN 排在最前面; 按第二種算法, 它與病人實際接受的治療並列; 按第三種算法, 它與好幾位教員並列。表上沒有一行叫醫生。百分之六十五對大約百分之五十, 是把最前面那一行拿出來, 再把另外五行平均成一個數。

六、為什麼沒有人用

分數最高的那一份方子, 出自一個後來沒有被用在病床前的程序。這不是外人說的。1984年項目組自己在書裡專門寫了一節, 題目就是: 為什麼 MYCIN 沒有被日常使用。

他們列出的原因是這些。跑這套程序要用的那種機器, 還是太貴。感染病的知識面還不夠寬。人機界面還不夠好。只管腦膜炎和菌血症的話, 它算不上一件劃得來的工具。

還有運行的環境。這個程序是用一種表處理語言的方言寫的, 依賴斯坦福和那個遠程共享設施上的那一類操作系統; 病房裡和醫生的辦公室裡沒有這樣的設備。要把一個又大又複雜的系統重寫到小機器上去, 他們的原話是: 「我們沒有動力去做這件事。」

然後是人的原因。法律上的責任誰來擔。醫生作為一個行當的自尊。程序能解釋自己的理由, 這一點能不能讓醫生接受。他們還寫了一句檢討: 早先他們把表現好等同於會被用上, 後來覺得這種想法是天真的。

1979年那場盲評問的是: 它開的方子, 專家能不能接受。這個問題量得了, 也量了。另一個問題是: 一個醫生會不會在病床前用它。這個問題當年沒有量過。

量過的那一個, 被當成了沒量過的那一個的答案。這個系列在第五篇和上一篇裡都見過這個動作: 一個難問的問題, 被一個好問的問題頂了位置。這一次頂位置的不是別人, 是造程序的人自己; 而五年以後, 也是他們自己在書裡把這件事說了出來。

從一個在八百次打分裡拿了最高分的程序, 到一個擺在病房裡的程序, 項目組自己列出來的那些東西, 幾乎沒有一樣是規矩。是機器的價錢, 是屋子裡有沒有那種設備, 是誰來擔責任, 是醫生怎麼看自己。

這裡面還有一件事。大約1977年以後, 醫學那邊的合作者陸續轉去做別的工作。感染病知識庫基本上就不再大規模擴充了。解釋, 知識獲取, 由它派生出來的那套工具, 這幾條研究線還接著做; 而裝醫學知識這件事, 隨著醫生離開停了下來。

所以 MYCIN 沒有一個乾淨的終止日。它是一點一點停的: 先是人走了, 然後知識不再長了。那條編號二百的規矩還在知識庫裡。零點九也還在。醫學那邊給出這些數的人, 陸續去做別的事了。

七、七百七十二條

同一時期, 有一個被用上了的。1980年, 美國人工智能學會第一屆年會的論文集裡有一篇, 作者約翰·麥克德莫特, 題目的意思是: 計算機系統領域的一位專家。題目裡給這個程序起的名字叫 R1, 後來公司裡管它叫 XCON。

它幹的活很實在。DEC 賣一種新型號的機器, 型號 VAX-11/780。客戶下一張訂單, 列著要哪些部件; 這個程序讀訂單, 畫出這些部件在機櫃裡怎麼擺, 怎麼接線, 並且查出訂單裡漏了什麼部件。圖交給技術員, 技術員照著去把真的機器裝起來。DEC 用一臺 DEC 的機器, 來配置 DEC 的機器。它跑在 DEC 的一臺大型機上, 用一種產生式系統的語言寫成。

1978年十二月開始第一階段, 大約四個月。麥克德莫特先由 DEC 的人連著教了五六天怎麼配置系統, 又讀了兩本手冊。第一版的領域規矩不到兩百條。第二階段又是大約四個月。DEC 的專家不停地看它的輸出, 指出哪裡錯了, 哪裡漏了。領域知識的量, 用論文的話說, 幾乎漲了兩倍。

1979年十月到十一月, 拿五十張真實的訂單做了一次系統的檢驗。六位配置專家審, 每張訂單審一到兩個鐘頭。審完發現了十二類錯誤, 都修了。

到1980年六月, 它有七百七十二條永久的規矩, 其中四百八十條被論文叫作配置規矩。它認得大約四百二十種部件, 一臺典型的系統大約由九十個部件組成。從1980年一月起, 它已經處理了五百多張訂單, DEC 的生產部門在經常地使用它, 並且開始與銷售下單的流程接起來。在那五十張訂單的檢驗裡, 一張訂單平均要觸發大約一千零五十六條規矩, 用大約兩分半鐘的機時。

這個程序後來一直在用, 而且一直在長。1989年, DEC 的兩位工作人員巴克與奧康納在《美國計算機學會通訊》上寫回顧, 說它從最初兩個人照管, 兩百五十條左右的規矩, 長到了一個六十多人的維護組, 一萬多條規矩。兩個人變成六十多個人。

一個被用上的知識系統, 知識不是裝一次就裝完的; 它要一個一直在的組織守著, 而這個組織越長越大。

常見的說法說它每年給 DEC 省兩千五百萬美元。1989年那篇回顧裡的數是另一個: 官員們估計, 這一類配置系統每年淨省大約四千萬美元。

八、零點九

1984年八月, 美國人工智能學會在奧斯汀開年會。一位叫喬治·約翰遜的記者在場, 十一月寫了一篇長報道。他記下的是這樣一個會場: 終端發出的藍灰色的光; 展廳裡推銷的演示開著擴音; 到處是公司來招人的人。到會的超過三千人, 大約三分之二不是學界的。

展臺上, 一家公司把自己的產品叫作知識工程的環境, 用來做專家系統; 它的宣傳冊上寫著: 「人工智能終於成年了。」另一家產品的宣傳冊寫: 「我們造出了一個更好的腦子。」那一年《商業週刊》的封面標題是: 人工智能, 它來了。學會自己散髮的汽車保險槓貼紙上寫著: 人工智能, 這是真的。

費根鮑姆對這位記者說, 風險資本總是在找下一個熱點, 1980年到1981年是生物技術, 現在是人工智能。所以1984年, 人工智能這四個字是一塊招牌, 不是一個要躲的詞。

這位記者還做了一件事。他把推銷員的文字, 與研究人員在技術分會上說話的樣子並排寫: 後者一路都在加限定。第七篇把幾份相隔多年的文字放在一起, 問各自有哪些限定, 後來還留下多少。而這一次, 同一個會場, 同一個星期, 一個在場的人當時就把兩種說話的樣子並排記了下來。

錢的數也有。1985年二月, 美國國會的技術評估辦公室出了一份東西, 裡面匯總了同期的市場數字: 1983年, 工業界買人工智能產品花了大約六千六百萬到七千五百萬美元。同一頁上說, 美國最大的那些公司裡, 有十五家或者更多正在擴大專家系統的開發; 過去幾年至少有十來家新公司為做這類產品而成立; 風險資本投進這類新公司的, 至少一千六百萬美元。專門賣給人做人工智能開發的機器, 市場估計大約五千萬美元。那份東西裡還有一個大數: 到1990年代初, 這個市場可能到二十五億到八十五億美元。

國家也進來了。日本1982年由通產省成立了新一代計算機技術研究所, 做第五代計算機。整個項目的總經費, 外面給過的最高估計是今後八到十年最多十億到十五億美元; 頭幾年的年度支出是: 1982年大約兩百萬美元, 1983年大約一千二百萬, 1984年大約兩千七百萬。研究所一共五十二個人。

英國的阿爾維計劃, 是對日本第五代計劃的回應。它裡面管人工智能的那一塊, 名字叫智能知識庫系統。政府承諾大約三億一千萬美元, 企業預計再出兩億三千萬; 智能知識庫系統頭五年大約三千九百萬, 其中大約三千萬給大學。1982年英國這一行研究的人大約一百五十個, 計劃兩三年增加一半, 五年翻一番。

美國國防部高級研究計劃局, 也就是 DARPA, 搞的戰略計算, 從1984財年開始, 五年大約六億美元。

同一份文件, 用人工智能和專家系統做章節標題, 又在同一處提醒: 有些商業上的熱情可能沒有根據, 給國會出主意的人對當前這一代專家系統被說得多有用, 多能推廣, 是警惕的。招牌和對招牌的提醒, 寫在同一份政府文件的同一章裡。

現在回到這一篇的那個數。這二十年裡, 人想做的事可以說得很簡單: 把人知道的東西裝進機器。化學家知道的, 醫生知道的, 配置工程師知道的。材料裡留下來的, 是裝的過程什麼樣。

碳的原子量先是寫死在程序裡, 後來得挪出來, 因為要改。醫生的判斷先被問成一把一到十的尺子上的一格, 再存成一個小數。一個六步的圈子, 轉一次要很多時間, 而且最難的是開頭那段兩個人學對方的話。一個配置程序從兩個人照管長到六十多個人照管。一個拿了最高分的會診程序, 醫生一走, 知識就不長了。

這一串事實說的是同一件事: 知識不是一種能裝進去就完事的東西。裝進去以後, 它得有人守著。守的人是誰, 在材料裡寫得清清楚楚: 知識工程師, 維護組, 那些來來回回的專家。機器裡的規矩越多, 機器旁邊的人越多。

一臺造出來的東西總有它的邊, 邊外總還剩著什麼。這個系列一直管那剩下的一部分叫餘項。在這二十年裡, 餘項有一張具體的臉: 它就是那個得一直坐在機器旁邊的人。

規矩可以抄進去, 可以數出來: 七百七十二條, 四百五十條, 一萬多條。而一條規矩為什麼是這樣寫的, 那個零點九為什麼是九不是八, 這一樣東西抄不進去。它留在給出這個九的人那裡。人在, 規矩可以改; 人走了, 規矩還在, 零點九還在, 能說清它的人已經不在機器旁邊了。

最後回到那段終端上的演示。一個程序問一個人: 你有多確定。給了他一把一到十的尺子。他輸入九。程序寫下零點九。

後來的人把零點九讀成了百分之九十, 把八百次打分讀成了打敗醫生, 把一個醫生走後就停止生長的知識庫讀成了醫院裡用過的人工智能醫生, 把一個要六十多個人守著的程序讀成了一個每年替公司省兩千五百萬的機器。每一次讀, 都是把那個說九的人往外挪了一步。

機器還在造, 而界在哪裡, 每一代人重說一遍。