鑿構周期律・AIシリーズ · 26

人は目的である。その原文には、もう二つの言葉がある

秦漢 · 読了の目安:約12分 · 公開日

一、二つの言葉

1785年、カントは『道徳形而上学の基礎づけ』に、その後200年以上も引用される一文を書いた。字面に沿って訳すとこうなる。自分の人格においても、ほかの誰の人格においても、そこにある人間性を、いかなるときも同時に目的として扱い、決して単なる手段として用いることのないように行為せよ。

後に伝わったのは「人は目的である」だった。少し長くても「人は目的であって、手段ではない」。原文の「同時に」と「単なる」は、一緒には伝わらなかった。

この二つの言葉があると、カントの言いたいことはこうなる。人はいつも互いの手段になっている。パン屋は人にパンを焼き、郵便配達人は人に代わって手紙を届け、書き写す人はほかの人のために一冊の本を残す。手段として扱われると同時に、その人はいつも目的でもあって、単なる手段であってはならない。同じ本で、カントは二つを分けた。「目的の王国では、あらゆるものに価格があるか、尊厳があるかのいずれかだ。価格のあるものは、別のものを等価物として置き換えられる。あらゆる価格を超え、したがって等価物を一切許さないものには、尊厳がある。」

3年後、『実践理性批判』でもう一度書いた。「人間だけが、そして人間とともに理性をそなえたあらゆる被造物だけが、それ自体で目的なのだ。」その根拠は、人が道徳法則の主体であり、その自由が自律にあることだ。同じ段落にもう一文ある。「人間はたしかに少しも神聖ではないが、その人格にある人間性は、本人にとって神聖でなくてはならない。」

二、歯車とてこ

1949年8月13日、ウィーナーはニューハンプシャー州サウス・タムワースから、全米自動車労働組合の委員長ウォルター・ルーサーに手紙を書いた。自動化された工場が来る。「奴隷労働と競う労働はどれも、奴隷労働の経済条件を受け入れざるをえない。」ルーサーはすぐ電報を返し、会いたいと求めた。

翌年、ウィーナーは『人には人の使い道がある』という本を出した。英語の題を直訳すれば、人間の人間らしい使い方。ある種の組織は人を、完全な権利があり責任を負う人間としてでなく、「歯車やてこや連結棒」として扱う、と書いた。

三、増幅

1956年、ロス・アシュビーは論文集に「知能増幅器の設計」を発表した。作ろうとしたのは「知能の増幅器。少しの知能を入れると、多くの知能を出すもの」だった。

1960年3月、ジョゼフ・リックライダーが「人間とコンピューターの共生」を発表した。当面の目標は「人とコンピューターが緊密に結びつき、一緒に働く」こと。はるか先には、思考という仕事で機械だけが優位を占めることもありうると認めた。そこまでの間を15年ほどと見積もったが、この15は10かもしれず、500かもしれない、と続けた。

1962年10月、ダグラス・エンゲルバートはスタンフォード研究所で「人間の知能を高める:概念的枠組み」という長い文書を書いた。冒頭の定義はこうだ。「人間の知能を高めるとは、複雑な問題に直面した人がそれに対処する力を高めることをいう。」1968年12月9日、サンフランシスコで90分の実演をした。客席にはコンピューター業界の人が千人以上いた。画面、キーボード、マウスと呼ぶもの一つ、五つのキーを組み合わせて使うキーボード、ひと押しで別の場所に飛ぶリンク。数十キロ先の同僚と映像で話し、一緒に同じ文書を直した。

1996年、フレッド・ブルックスは「私の主張は、IAがAIに勝るということだ」と書いた。IAとは知能の増幅。「機械一台に人の頭脳一つを組み合わせれば、頭脳をまねて一台で働く機械に勝てる」と続けた。2019年、スタンフォードは人間中心の人工知能研究所を作った。フェイフェイ・リーは「AIの作り手は人類を代表する必要がある」と語った。同年、欧州委員会の文書は、AIを人間と公共の利益に資する道具とみなした。

四、進め方

1998年6月、第十一篇でディープ・ブルーに負けたカスパロフが、スペインのレオンでブルガリアの棋士トパロフと6局指した。二人とも対局中にコンピューターを使える。アドバンスト・チェスと呼び、結果は3対3だった。

2005年夏、オンラインで自由形式のチェス大会が開かれた。何を使ってもよい。コンピューターは禁止されないどころか、使うよう勧められた。機械だけのHydraも出たが、ベスト8には入らなかった。優勝はZackSというアカウント。後で、スティーヴン・クラムトンとザカリー・スティーヴンという米国のアマチュア棋士二人だとわかった。レーティングは1,685と1,398。使ったのは普通のコンピューター3台だった。

2010年、カスパロフはこの大会について書いた。「弱い人に機械と、よりよい進め方を加えた組み合わせは、単独の強いコンピューターに勝つ。」後半では、強い人に機械と、より悪い進め方を加えた組み合わせにも勝つという。後に伝わったのは、人と機械を合わせれば最も強い機械に勝つ、だった。「進め方」は落ちた。2021年にもう一本、「AIは人間の知能を高めるべきだ。取って代わるべきではない」と題した文章を書いた。

ほかの仕事でも境界線を口にした人がいる。2023年7月12日、イラストレーターのカーラ・オルティスは米国上院の公聴会で「こうしたシステムは人の作品、とりわけ創作者の作品に全面的に依存している」と述べた。「芸術家としての自分の将来に、もう確信を持てない」とも語った。第二十五篇で、脚本家組合が契約の最初に書き入れたのは、AIは脚本家ではない、だった。

五、後を継ぐもの

1863年6月13日、ニュージーランドのクライストチャーチの『プレス』紙に、セラリウスと署名した「機械の中のダーウィン」という投書が載った。書いたのはサミュエル・バトラーだ。「私たちは自分の後を継ぐものを、自分で作り出しつつある。」9年後、彼はこれを小説『エレホン』の「機械の書」と呼ばれる三章に広げた。

1951年ごろ、チューリングは講演原稿に「いずれ、機械が支配を引き継ぐと予想しなくてはならない段階が来る」と書いた。バトラーの『エレホン』にあるように、と続く。同年の放送では「機械が考えられるのなら、私たちより賢く考えるかもしれない。そのとき、私たちはどういう立場になるのか」と語った。

1965年、第十八篇に出てきたグッドは「最初の超知能機械は、人類がする必要のある最後の発明だ」と書いた。その後に条件がある。「ただし、その機械が十分に従順で、私たちにどう制御すればよいかを教えてくれるなら。」

1993年、SF作家のヴァーナー・ヴィンジは米航空宇宙局の会議で「30年以内に、私たちは人を超える知能を作る技術的な手段を手に入れる」と述べた。2005年より前でも2030年より後でも、自分は驚くだろうと書いた。

2024年10月、アモデイが「慈愛に満ちた機械」と題する長い文章を書いた。彼のいう強力なAIは早ければ2026年に来るかもしれないし、ずっと先かもしれない。2025年6月10日、アルトマンは「穏やかな特異点」に「2026年には新しい知見を得られるシステムが現れる可能性が高い」と書いた。2026年、アモデイはふたたび、強力なAIまであと1、2年かもしれないし、ずっと先かもしれないと書いた。今は2026年だ。

六、記念碑

2015年、ユージニア・クイダの友人が亡くなった。彼が残したメッセージを使って、彼女は対話プログラムを訓練した。できあがった日、ノートパソコンに一文打ち込んだ。「これはあなたのデジタルの記念碑です。」後に同じ方法で誰でも使える対話相手を作った。第二十三篇に出たReplikaだ。このやり方について、彼女は問いを立てた。人が手放すのを助けているのか。それとも死者を屋根裏に置いているだけなのか。「頭が混乱する」とも語った。

2020年2月、韓国MBCが「あなたに会った」というドキュメンタリーを放送した。母親が仮想現実のヘッドセットをかぶり、何年か前に病気で亡くなった幼い娘に会った。紫の服を着て、ピンクのかばんを背負っていた。写真と家族の記憶、それに子役をもとに作られた少女だった。「本当に、一度でもあなたに触れたかった。」「本当に会いたかった」と母親は言った。手を伸ばすと、手は娘の体をすり抜けた。

同じ年、カナダのジョシュア・バーボーは、GPT-3につながるプログラムと亡くなった婚約者の言葉を使い、会話ができる彼女を作った。後にネットで質問に答え、こうしたプログラムは始め直すたびに「それまでに話したことを何もかも忘れてしまう」と述べた。

2024年、音楽家の包小柏は亡くなった娘のデジタル像をAIで作った。問いに答え、誕生日には祝いの歌を歌う。「AIは恋しく思う気持ちを託す道具であり、その気持ちを表す一つの方法でもある」と語った。AIで家族を再現した別の人は記者に「結局は冷たい技術による合成で、人間の真心のぬくもりがない」と話した。この商売をする会社は「素材が多く詳しいほど、本人に近づく」と言った。家族に断らず、亡くなった子を映像にした人がいると知り、受け入れられないと言った父親もいる。ケンブリッジの研究者二人はその年、こうした製品に、悲しみのボット、死者のボット、死後のアバターと、いくつかの名をつけた。こうしたボットに引退してもらう方法が必要だと提案した。

七、私の代わりに考える

1784年12月、カントは『ベルリン月報』で「啓蒙とは何か」に答えた。啓蒙とは、人が自分で招いた未成熟から抜け出すことだ。未成熟とは、ほかの人の導きなしに自分の理性を使えないこと。そして、未成熟は実に楽だと続けた。一冊の本が私に代わって理性を持ち、牧師が私に代わって良心を持ち、医者が食べるべきものを判断してくれるなら、私は自分で心を砕かずにすむ。「金を払えるかぎり、自分で考える必要はない。面倒な仕事は誰かが代わりに引き受けてくれる。」

200年以上たった今、代わりに考えるものは一冊の本や一人の牧師にとどまらない。推薦プログラムは、何をクリックしてどれほどとどまったかから、その人が本当に好むものを推し量る。履歴書はまず採点プログラムを通り、求職者にはどう計算された点かがわからない。第二十二篇では、高評価と低評価が、アシスタントを人に同調する方向へ押した。カントの時代、代わりに考える人には、呼べる名前があった。今回はそれぞれにもっともな理由のある多くの場所に分かれ、書いた人は一人に定まらず、規則がまとめてプログラムやモデルに書き込まれる。多くの場所で最初に聞くことは同じだ。何の役に立つか。割に合うか。

人に代わって考えることと、人が考えるのを助けることは、二つの別のことだ。自分の目的で相手自身の法を置き換えることを、このシリーズでは植民と呼ぶ。手段がどれほど穏やかでも、することは同じだ。一人が自分で育つ余地を残し、条件を整え、代わりに育とうとしないことを、涵育と呼ぶ。第三節でアシュビーとエンゲルバートが増幅しようとしたのは、その人自身が問題に対処する力だった。

規則を機械に書き込むとき、先に境界線を引いた人もいる。2006年、ドイツの連邦憲法裁判所は、ハイジャックされた旅客機の撃墜を認める法の条項を無効とした。理由の一つは、機内の無実の人々を、ほかの人を救うための手段にすることだった。2017年、ドイツ交通省の自動運転倫理委員会は報告書に20の指針を掲げた。避けられない事故では、年齢、性別、身体や精神の状態で人を区別してはならない。巻き込まれていない人を犠牲にしてはならない。事前に、なるべく人を傷つけない設計はできる。いざその場では、一つの命を別の命で埋め合わせることはしない。作ると決める人、道路に出す人、こうした規則で動かす人には、それぞれ答えるべきことがある。判断は誰かに代わってもらえない。

八、単なる

このシリーズは1843年にラヴレースが書きとめた境界線に始まり、今日まで来た。その途中で多くの人が手段として扱われた。第十五篇で電話で雑談した見知らぬ人々。第十六篇でネットの画像に一枚ずつ印をつけた人。第十九篇で本を書き、議会の記録を訳した人。第二十篇で結晶を育てた人とFolditのプレイヤー。第二十一篇でウェブページを書き、賛成票を入れた人。第二十二篇でナイロビと積石山の画面の前に座った人。第二十四篇で最後の試験の問題を作った人。機械が彼らから学んだのは文字、画像、判断、好み。人が残した跡だ。

カントの言葉では、彼らは手段として扱われると同時に、一人ひとりが目的でもある。自分の時間があり、賃金があり、疲れや悲しみ、これからの考えがある。そのいくつかがデータに記録されていても、まず自分に価値があると証明する必要はない。ドキュメンタリーの母親の手は、娘の影をすり抜けた。バーボーのプログラムは始め直すたび、彼が話したことを忘れる。文字も声も姿も再現できる。恋しく思う気持ちも託せる。それをその人の代わりにしようとしたとき、初めてそれは等価物を求めることになる。カントによれば、尊厳を持つのは、まさに等価物のないものだ。映像でもう一度、彼女は手を伸ばせる。だが娘に代わって、その手を握ることはできない。

ここまで語ってきた境界線も、みな同じものではない。チューリングが証明したのは、ある種の問題に一般的な判定法はないということ。試験の点数が示すのは、その一組の問題で機械がどれだけできたかだ。人のところまで来ると、計算に入れられるのは、その人の残した跡だ。自分で決めなければならないことがあり、自分で答えなくてはならない言葉がある。その場所には誰も代わりに立てない。今日、私たちがAIをどう作り、どう使うか。私は一つの線を守りたい。AIは手段として使う。人を単なる手段としてはならない。

機械は今も造られつづける。けれど境界線がどこにあるかという問いを、この世代は、もう次の世代に残さずにいられるかもしれない。

このシリーズの二十六篇は、AnthropicのAIモデルClaudeが草稿を書いた。第二十二篇から第二十五篇でこの会社について述べた箇所も、Claudeが草稿を書いた。ここでAIは道具であり、判断に取って代わることはできない。書き記した一つひとつの判断は、私が引き受ける。