鑿構周期律・AIシリーズ · 12

「医師に勝った」というプログラム

秦漢 · 読了の目安:約17分 · 公開日

一、どのくらい確かですか

スタンフォードの研究班の本に、1974年版を使った端末の実演が載った。実演では、誰かがプログラムに一つの規則を教えている。

こういう規則だ。患者の培養検体がある部位から採られ、グラム染色がある結果を示し、顕微鏡で見た菌がある形をし、酸素を必要とせず、ある経路から体に入ったなら、その菌はバクテロイデスであることを強く示す手がかりがある。条件は五つ、結論は一つ。

教える人はまず条件と結論を打ち込む。結論を受け取ったプログラムは、どのくらい確かですか、と問う。専門家にいきなり小数を入れさせない。人の決めた一から十までの物差しを出す。人は九と入力する。プログラムは理解した規則を表示し直し、一つの条件を二つに分けて全部で五つにし、九を0.9と書いて、確認を求める。

この規則には最初から200番がついた。プログラムの書き方では、結論はこうだ。この菌がバクテロイデスであることを示唆する強い証拠がある。0.9。

この0.9は、五つの条件と結論をつなぐ関係に専門家がつけた点だ。そのつながりをどれほど強いと思ったかを表す。もとをたどると、一から十までの物差しの一点を、人が指しただけだ。点どうしをどう組み合わせるかについてはプログラム独自の規則があり、確率論ではない。0.9を90パーセントと読むのは、後の読み方だ。

人の判断が、まず目盛り一つに替わり、次に小数になり、後の人には確率と読まれる。替えるたび、判断した人から一歩遠ざかる。この篇はこの二十年、人がどう自分の知っていることを機械に入れ、そのあと何が起きたかを追う。

二、炭素の原子量

十年前にさかのぼる。1965年、スタンフォードで研究が始まり、後にDENDRALと名づけられた。1969年、正式な論文が『機械知能』という論文集の第四集に出た。「発見的DENDRAL――有機化学で説明仮説を生成するプログラム」。著者はブルース・ブキャナン、ジョージア・サザーランド、エドワード・ファイゲンバウムだ。

解く問題は具体的だった。分子の組成と質量スペクトルを渡す。質量スペクトルは、分子をばらばらにして、断片を質量電荷比で分けた信号だ。まずスペクトルから、どの小さな構造があるはずか、ないはずかを拾い、手がかりと化学の規則に沿って候補を並べる。候補ごとにどんなスペクトルが出るか見込みを立て、渡されたものと比べ、候補に順をつける。

同じ年の5月21日、『アメリカ化学会誌』の同じ号に、あるシリーズの最初の二本が載った。シリーズ名は「化学的推論への人工知能の応用」。1969年、化学の雑誌の題に人工知能という言葉がある。後に最初の冬と呼ばれた十年の、ただ中の年だった。

プログラムはスタンフォードの人工知能研究所のDEC機で動き、リスト処理言語で書かれた。著者には二つの集まりがある。一方はプログラムや発見的手法を考えるレーダーバーグ、ファイゲンバウム、ブキャナン、サザーランド。もう一方は質量分析と有機化学のジェラッシ、ダフィールド、ロバートソン。間を渡すのは、化学者は知っていてプログラムは知らないことだ。

初期にはそれを直接プログラムに書いた。炭素の原子量も、重さという関数に書き込んだ。自然界の定数が計算の手順の中にある。替えるにはプログラムを直さなければならない。

知識が増えると、この方法ではもたない。後に化学的な性質をプログラムの外へ出し、修正しやすいデータ構造に置いた。参加者は後で、分野の知識をプログラムに入れることがボトルネックになった、とまとめた。ここで初めて出る言葉だ。機械の計算が遅いのではなく、知識を入れるのが遅い。

後にDENDRALは別の機械へ移り、遠隔で共有できる計算施設から提供された。1970年代を通じ、1980年代初めまで、アメリカの大学や企業の化学者が使えた。

世界初のエキスパートシステムだったという話についていえば、1969年に自分で使った名は発見的DENDRALで、化学誌に掲げた看板は人工知能だった。科学的仮説を立てるための最初のエキスパートシステムと題に書いたのは、参加者自身が1993年に出した回顧である。

三、一つの名と三つの名

1972年前後、スタンフォードの医学部の数人と、プログラムを書く数人が仕事を始めた。当初の計画に名はない。

1973年に資金申請を書くため、すでに動いていたプログラムに名をつけざるをえなくなった。医師のスタントン・アクスラインが案を出した。ストレプトマイシンやエリスロマイシンなど、多くの抗菌薬の英語名に共通する語尾を取る。頭字語にしようとしてうまくいかず、MYCINになった。

名はこうしてできたが、資金を出す人に申請書で見せたのは、別の三つの名だ。どれも大文字で、診療相談プログラム、対話的な説明能力、コンピューターによる判断知識の取得、とある。相談、説明、判断を取り込むこと。三つに医師という言葉はない。脇で案を出し、なぜそう出すかを説明し、どう案を出すかを専門家から学ぶのが仕事だ。

初めの形は違った。病院が出す抗菌薬の処方を見張る仕組みだった。見張るには、薬局、臨床検査室、細菌検査室のデータを同時に取らなければならない。三つは別々の計算機にあった。三つをつながずに済むよう、医師と直接話す相談システムへ案を替えた。ここでプログラムの形を決めたのは、配線の難しさだ。三つの機械をつなぐのが難しく、一人に尋ねる形にした。

範囲は初め、菌血症の抗微生物治療だけだった。後に感染性髄膜炎に広げた。髄膜炎の原因は細菌だけではないため、ウイルスや真菌の一部も知識ベースに加えた。

扱う状況にはもう一つ特徴がある。入院後の最初の二十四時間から四十八時間には、検査の結果がまだ出揃わないことが多い。仕事は初めの結果から一つの病原体を必ず突き止めるのではなく、ありうる危険なものをいくつか漏らさず考えることだ。対象に入れることと、同定することは違う。

1984年に研究班がまとめた時点で、成熟した知識ベースには約450の規則と、表に約1000の事実があり、およそ120種の病原体を考慮できた。

四、六つの段取り

どうやって規則を一つずつ入れたか。MYCINで初めにこれを担ったのはエドワード・ショートリフだった。医師のコーエン、アクスラインから感染症についての判断を聞き取り、ブキャナンらと表し方を話し合った。条件を満たせばこうするという形を選んだ。理由の一つは明確だ。医師が読めて、誤りを見つけ、直せる。人が読めることを基準に、規則の形を選んだ。

1970年代半ば、この仕事に名前がついた。知識工学、知識に基づくシステム、エキスパートシステムといった語が1975年前後にこの集まりで広がった。1984年の研究班の本は、知識獲得を次のように定義した。人間の専門家、教科書、データベース、経験から知識を取り出し、渡し、形を変えること。普通は専門家とプログラムの間に、知識エンジニアと呼ぶ人が入った。

実際の進め方を六段に書いた。第一、専門家が何を足し、何を替えるかを指す。第二、知識エンジニアが知識ベースを直す。第三、前の症例をもう一度流す。第四、二人で何がうまくいかなかったか見る。第五、専門家が新しい症例で試す。第六、結果を見て第一へ戻る。一周するのに時間がかかることが、大きな問題の一つだと著者はとくに述べた。

いちばん難しいのは、輪それ自体でもなかった。初めが最も難しいことが多いという。知識エンジニアはまず専門家の用語と分類を学び、専門家もプログラムがどんな表し方を許すかをしだいに知る。ここを過ぎて初めて規則が勢いよく増える。増えたら一つずつ試し、一つずつ直す。先に二人が相手の言葉を身につけなければならない。

DENDRALも似ていた。ブキャナンは質量分析の専門家と繰り返し話し、専門家が書いたことのない判断を、実行できる発見的な規則にまとめた。両側が多くの時間を出す必要があり、初期はプログラムを直し、分類を考え直し、症例や例題をもう一度流すのに長い時間を使った。

後に専門家が直接、知識ベースを調べて直せる道具を作った。一つは、古代ギリシアの盲目の予言者にちなんだTEIRESIASだ。回顧では、知識を入れ、誤りを直すこの機能を、感染症の協力者は完全な形では日常的に使わなかったとある。道具はできたが、間の人は外せなかった。

五、八百回の採点

1979年9月21日、『米国医師会雑誌』に「コンピューターによる抗微生物薬の選択――感染症専門家による盲検評価」が載った。筆頭著者はヴィクター・ユー。題には診断も、勝ったとも、人工知能もない。

評価は段階を踏んで設計した。問うのは一つだ。急性感染性髄膜炎で、原因の病原体がまだ特定できないとき、どの抗微生物薬を使うか。

最初にスタンフォードの関連郡立病院から髄膜炎の症例を十件取り、概要を作った。同じ概要を八人に渡し、別々に処方を考えてもらった。スタンフォードの感染症の教員五人、感染症の上級博士研究員一人、上級研修医一人、上級学年の医学生一人だ。MYCINの処方と、実際に患者が受けた治療を足すと、一症例に十の処方がある。

次に、スタンフォード以外の感染症専門家八人に採点してもらった。八人はみな髄膜炎治療の論文を出していた。一症例の十案は順番を混ぜて書式をそろえた。誰がどれを書いたかも、その一つが計算機のものだということも、採点者は知らない。まず自分ならどう治療するかを書き、匿名の各案を、同等、別の選択として許容できる、許容できない、の三段階に分けた。十症例、十処方、八人で、採点は八百回になる。

結果はこうだった。各案への八十の判定のうち、許容された回数は、MYCINが五十二回、65パーセント。教員Aが五十。教員Bと博士研究員が各四十八。教員Cと実際の治療が各四十六。教員Dは四十四。研修医は三十六。教員Eは三十四。医学生は二十四。教員五人は平均55.5パーセントで、42.5パーセントから62.5パーセントまでだった。

数え方を替え、採点者の過半数が受け入れた症例の数を見ると、MYCINは十のうち七、実際の治療も十のうち七だ。さらに厳しい見方として、治療できる病原体を見落としたかを数える。MYCINはゼロ、実際の治療もゼロ。教員五人では三人がゼロ、二人が一回ずつ。博士研究員は一回、研修医は一回、医学生は三回だった。

後によく言うのは、盲検でMYCINが医師の診断に勝った、だ。論文で評価したのは薬の選択で、診断ではない。髄膜炎の十症例で、匿名の処方の束に点をつけた。機械と医師が向かい合って争ったのではない。

表には十行ある。最初の数え方ではMYCINが先頭、第二では実際の治療と同点、第三では複数の教員と同点だ。表に「医師」という行はない。65パーセント対およそ50パーセントは、先頭の行を取り出し、別の五行を平均して一つの数にしたものだ。

六、なぜ使われなかったか

最高点の処方は、後に患者のベッドのそばで使われなかったプログラムから出た。外の人が言うことではない。研究班が1984年の本に、「なぜMYCINは日常的に使われなかったか」と一節を設けた。

挙げた理由はこうだ。動かすのに要る機械がまだ高すぎる。感染症の知識の幅が足りない。人と機械のやりとりが十分によくない。髄膜炎と菌血症だけなら、割に合う道具とはいえない。

動かす環境もある。プログラムはリスト処理言語の一つの方言で書き、スタンフォードと遠隔共有施設の種類のオペレーティングシステムを必要とした。病棟や診察室にその設備はない。大きく複雑なシステムを小型機に書き直すことについて、彼らの言葉では「それをする意欲はなかった」。

次に人の理由がある。法律上、誰が責任を負うか。職業としての医師の自負。プログラムが理由を説明できれば、医師が受け入れるのか。反省も一文ある。初めは成績がよければ使われると思っていた。後で、それは甘い考えだったと思うようになった。

1979年の盲検で問うたのは、処方が専門家に許容されるか。この問いは測れたし、測った。別の問いは、医師が患者のベッドのそばで使うか。こちらは当時測っていない。

測ったほうを、測らなかったほうの答えと見なした。第五篇と、すぐ前の第十一篇でも見た動きだ。問いにくい問いの場所に問いやすい問いを置く。今度、置いたのは他人ではなく作り手で、五年後に同じ人たちが本で明かした。

八百回の採点で最高点を取ることと、病棟に置かれることの間に、研究班が挙げたものはほとんど規則ではない。機械の値段、部屋にその設備があるか、責任を誰が取るか、医師が自分をどう見るかだ。

もう一つある。1977年ごろから医学側の協力者が順に別の仕事へ移った。感染症の知識ベースは、もう大きくは増えなくなった。説明、知識獲得、派生した道具の研究は続いた。医学知識を入れる仕事は、医師が去ると止まった。

だからMYCINにきれいな終了日はない。少しずつ止まった。まず人が去り、知識が増えなくなった。200番の規則は知識ベースにある。0.9もある。その数を出した医学の人は、一人ずつ別の仕事に移った。

七、七百七十二の規則

同じ時期に、使われるようになったものもある。1980年、アメリカ人工知能学会の第一回年次大会の論文集にジョン・マクダーモットの論文が載った。題はおおむね「コンピューターシステムの専門家」で、プログラムをR1と呼ぶ。後に会社ではXCONになった。

実際の仕事は明確だ。DECはVAX-11/780という新型を売っていた。顧客が注文書に要る部品を書く。プログラムは注文を読み、部品を筐体のどこへ置いてどうつなぐかを描き、注文に抜けた部品も探す。技術者が図を受け取り、本物を組む。DECはDECの機械でDECの機械の構成を決める。DECの大型機で動き、プロダクションシステム用の言語で書かれた。

1978年12月に第一段階が始まり、約四か月続いた。マクダーモットはDECの人から五、六日続けてシステムの組み方を習い、手引きも二冊読んだ。初版の領域の規則は二百未満。第二段階も約四か月で、DECの専門家が次々に出力を見て、何が違い、何が抜けたかを指した。領域の知識は、論文によればほぼ三倍になった。

1979年10月から11月に、実際の注文書五十枚で本格的に試した。六人の構成の専門家が、注文ごとに一時間から二時間かけて調べた。十二種類の誤りが見つかり、すべて直した。

1980年6月には定常的な規則が772あり、論文が構成規則と呼ぶものは480だった。約420種の部品を認識し、典型的なシステムは約90部品からなる。1980年1月から五百件以上の注文を処理し、DECの製造部門が常用して、販売の受注工程にもつなぎ始めた。五十件の試験では、一件あたり規則が平均1056回ほど発火し、計算機の時間は二分半ほどだった。

後も使われ、成長し続けた。1989年、DECのバーカーとオコナーは『米国計算機学会会報』の回顧で、初めは二人で約250の規則を見ていたのが、六十人以上の保守班で一万以上の規則を扱うようになった、と書いた。二人が六十人以上になった。

実際に使われる知識システムでは、知識は一度入れれば終わるものではない。それを見守る組織が常に要り、その組織も育っていく。

DECに年2500万ドルを節約させたとよく言う。1989年の回顧の数は違う。関係者の見積もりでは、この種の構成システム全体の純節約は年およそ4000万ドルだった。

八、0.9

1984年8月、アメリカ人工知能学会がオースティンで年次大会を開いた。ジョージ・ジョンソンという記者が会場にいて、11月に長い記事を書いた。端末の青みがかった灰色の光、展示で大きな音を出す売り込みの実演、採用に来た会社の人々。三千人を超える参加者のうち、およそ三分の二は学界の外だった。

展示台では、会社がエキスパートシステムを作る製品を「知識工学の環境」と呼んだ。パンフレットは「人工知能はようやく大人になった」と書く。別の商品のパンフレットには、「もっとよい脳を作った」とある。その年の『ビジネスウィーク』の表紙は「人工知能がやって来た」。学会自身が配った車のバンパー用ステッカーには「人工知能、これは本物だ」とあった。

ファイゲンバウムは記者に、ベンチャー資本はいつも次の流行を探し、1980年から1981年はバイオテクノロジー、いまは人工知能だと話した。1984年の人工知能は、避けたい言葉ではなく看板だった。

記者はもう一つ、売り手の文と、研究者が技術部会で話す様子を並べた。後者はずっと限定を足し続けていた。第七篇では、年を隔てた三つの場を並べ、限定がどこにあり、後で何が残ったかを見た。今度は同じ会場、同じ週に、その場にいた人が二つの語り方を並べて記した。

金額もある。1985年2月、アメリカ議会の技術評価局が当時の市場の数字を集めた。1983年、産業界は人工知能製品に約6600万から7500万ドルを使った。同じページでは、アメリカの大企業のうち十五社以上がエキスパートシステム開発を広げ、ここ数年で製品を作る新会社が少なくとも十社ほどでき、そうした会社にベンチャー資本が1600万ドル以上入ったという。人工知能の開発専用に売る機械の市場は約5000万ドルと見られた。もっと大きな数もある。1990年代初めまでに、この市場は25億から85億ドルになるかもしれない。

国も入った。日本では通産省が1982年に新世代コンピュータ技術開発機構を作り、第五世代コンピューターを進めた。外部の最大の見積もりでは、これから八年から十年の総経費は最大10億から15億ドル。最初の年度ごとの支出は、1982年が約200万ドル、1983年が約1200万ドル、1984年が約2700万ドルだった。研究所は総勢五十二人だ。

イギリスのアルヴェイ計画は日本の第五世代計画に応えたものだった。そのうち人工知能を扱うのは知的知識ベースシステムと呼んだ。政府は約3億1000万ドルを約束し、企業がさらに2億3000万ドルを出す見込みだった。知的知識ベースには最初の五年で約3900万ドル、うち約3000万ドルは大学向け。1982年、イギリスのこの分野の研究者は約百五十人で、計画では二、三年で五割増、五年で二倍とした。

アメリカ国防総省の高等研究計画局、DARPAの戦略的コンピューティングは、1984会計年度に始まり、五年で約6億ドルだった。

同じ文書は人工知能やエキスパートシステムを章の題にし、同じところで念を押した。商業上の熱気の一部には根拠がないかもしれない。議会に助言する人は、現世代のシステムがどれほど役に立ち、どこまでも広げられるとされるかに警戒していた。看板と看板への警告が、政府の同じ文書の同じ章にある。

あの数に戻る。この二十年にしようとしたことは簡単に言える。人の知っているものを機械に入れる。化学者の知ること、医師の知ること、構成技術者の知ることだ。資料に残るのは、どう入れたかである。

炭素の原子量は初めプログラムに固定され、直すため後で外に出した。医師の判断はまず一から十までの目盛りにして尋ね、次に小数として保存した。六段を一周するには時間がかかり、いちばん難しいのは初めに二人がお互いの言葉を学ぶところだった。構成のプログラムは二人の世話から六十人以上の世話へ育った。最高点を取った診療相談プログラムは、医師が去ると知識が増えなくなった。

事実の列は同じことを語る。知識は入れれば終わるものではない。入れたあと見守る人が要る。誰が見守るかは資料に明記される。知識エンジニア、保守班、出入りする専門家。機械の規則が増えるほど、機械のそばの人も増える。

造ったものには境界線があり、外にいつも何かが残る。このシリーズでは、その残りを余項と呼んだ。この二十年、余項には一つの顔がある。機械のそばにずっと座っていなければならない人だ。

規則は書き写し、数えられる。772、450、一万以上。だが、なぜこう書いたか、なぜ0.9で、九ではあって八ではなかったのかは、写せない。九と答えた人のところに残る。その人がいれば規則を直せる。去ったあとも規則と0.9は残るが、説明できる人は機械のそばにいない。

最後に端末の実演へ戻る。プログラムが人に、どのくらい確かですか、と尋ねる。一から十までの物差しを出す。人は九を入れる。プログラムは0.9と書く。

後の人は0.9を90パーセントと読み、八百回の採点を医師に勝ったと読み、医師が去って成長を止めた知識ベースを病院で働いた人工知能の医師と読み、六十人以上の世話が要るプログラムを毎年2500万ドル節約する機械と読んだ。読むたび、九と答えた人は遠くへ一歩押し出された。

機械は今も造られつづける。境界線がどこにあるかは、世代ごとに語り直される。