学科について · 10
問いは受け止める。判断は奪わない
基準を問い直すために実際に使える通路を残し、問う側の立場にも境界を引く。それによって誰かが、永久に扉を閉じる権力を得るわけではない。
融資を断る通知を手にした申請者が、窓口でこう尋ねたと想像してみよう。私の点数が計算違いだというのではありません。なぜここに線を引いたのかを知りたいのです。融資機関は規定を指し、モデルの開発者は点数を提供するだけだと言い、監督する側はモデルは検証済みだと言う。三か所とも担当者がいて、それぞれ任された仕事を果たしているのかもしれない。それでも彼の問いを受け止める人はいない。
これは説明のための設例にすぎず、特定の融資機関を示唆するものでも、前に触れたFHFAの発表に続く実際の事例でもない。ここにシリーズ最後の問いが残る。規範的な取捨には、モデルの検証で代わりに答えられない。それなら、皆に代わってすべてを決める総本部をまた作ることなく、問える場所をどう用意すればよいのか。
原論文はここで、議論の根拠を変えることを明らかにしている。これまでの区別や事実の確認は、異なる価値観を持つ読者も検討できる。だが本篇が提案する制度のあり方には、一つの明確な前提がある。人は規則を動かす材料としてだけ扱われてはならず、それ自体が目的だということである。
これは著者が引き受ける規範的な立場であり、何らかの測定や、どんな分類にも収まりきらないものがあるという記述から、自動的に導かれる定理ではない。この前提に同意しない人は、制度についての提案を拒みつつ、先に述べた権限、証拠、実際の結果の区別を使うことができる。
これらの提案が向かうのは、基準を作り、基準を通過条件として用いる組織の仕組みである。一人ひとりに、問い続け、他人をいつまでも受け止め続けなければならない道徳的な仕事を追加するものではない。個人は参加しなくてもよい。ただし機関は、その人が今参加していないことをもって、入口は不要だと証明することはできない。
まず、導入する前から入口を使えるようにする必要がある。被害が出て初めて、急ごしらえで苦情を受けるのではない。人に作用する予定の選択を仕組みに書き込むときには、なぜその取捨をしたのかという問いを、宛先のある議論に届けられるべきだ。
提出できるだけでは足りない。原著は、通路が問われる側から独立し、関連する関係にある人が実際に動かすことができ、しかも動かしたことで報復されないことを求める。誰でも手紙を送れると紙の上で約束しても、本当に届けられることも、その先を引き受ける権限を持つ人がいることも、証明したことにはならない。
誰に入口があるのかは、分けて考える必要がある。この仕組みによって直接扱われる人は、まず逃げ道がないと証明する必要はない。分類された人は、今回は無事に線を越えられたからといって、質問する資格を失わない。規則はなおその人に作用している。拒まれた人だけが関係者なのではない。
もう一方は、その組織が直接扱う関係にはいなくても、組織の行動に影響され、しかも退出によってその影響を避けられない人である。少し影響を受けるだけで、あらゆる機関に対して同じ内部の当事者としての立場が自動的に生まれるわけではない。退出して避けられないという条件は、こちらの場合には実際に確かめる必要がある。
申請者と融資機関に直接の関係があるからといって、モデル開発者に対しても全く同じ関係にあると宣言することはできない。どの組織の、どの仕組みに、二つのうちどちらの関係から関わるのかを、それぞれ明らかにしなければならない。通路は、際限なく広がる管轄権ではない。
そうする理由も、異議を受け付ける立場がなければ、変化は絶対に起きないということではない。組織はもちろん、自分から規則を変えることもある。理由は、人に作用する取捨には、問うことができ、応答を求められる場所が必要だということだ。組織がたまたま自ら変わろうとするのを待つだけにはしない。
その場所は問いを引き受けられなければならない。問われる前提が職責の範囲に含まれ、公開の応答を要求でき、有効な再審査、機能しない場合の検証、あるいは代替案の審査を開始できること。そして、その前提が永遠に正しいことを、自らの資格、存続、評価の必要条件としてはならない。
これは機能についての要件であり、哲学者や特定の専門家が必ず担わなければならないという規定ではない。外部の委員、任期ごとの交代、応答の期限、公開の記録は、原著が挙げる設計上の提案である。別の仕組みでもよい。肝心なのは、そうした実際の能力が備わっているかどうかだ。
ただし、問う立場に実際の権限を与えることは、新しい支配者にすることではない。前提を明示させ、応答が問いに答えているかを確かめ、関連する代替案が抜けていないかを問うことはできる。事実や結果については、出典と、公開された証拠の審査との整合性を確かめるのであって、自分で実証的な判定を一式やり直すのではない。
自分の価値の順位だけを根拠に、専門分野や公共の意思決定者が権限を与えられて行う取捨を、代わりに決めることはできない。また、すべての専門分野が特定の哲学原理からしか規範を導いてはならない、と規定する必要もない。守るべきなのは説明と応答であり、問われる側に代わって、唯一の正答をあらかじめ書いておくことではない。
これは、自分は価値から中立だと宣言することでもない。明確さを求め、何が関連するかを判断すること自体に、見方は含まれている。制限は、立場がないふりをすることではなく、権限に置く。どんな説明を要求でき、誰に代わってどんな決定をしてはならないのか。その境界も、他の人が問える場所に置く必要がある。
融資の設例では、申請者はその線が自分に影響することしかわからず、新しいモデルを作れないかもしれない。それでも、なぜここに線があるのかと問える。技術的に完成した代替システムを先に提出しなければならないとすれば、影響を受ける人は、機関だけが持つ資源を持たないために、最初の問いすら届けられなくなる。
その先の代替案の評価、技術試験、正式な事業化の検討では、もっと具体的なパラメーターや案を求めてもよい。それは次の仕事に必要な条件であり、一般的な異議に応答するための前提条件に逆戻りさせてはならない。なぜ次の段階を始めないのかについても、説明を求めることができる。
問われたのに答えられていないことは、記録に残るべきであり、機関が黙っているからといって消えてはならない。だからといって、未回答の事項があれば採用はすべて自動的に違法となり、直ちに使用を止めるということではない。記録さえすれば継続が許される、ということでもない。採用、一時停止、再審査は、それぞれの権限と条件に従って決める必要がある。
同じく、表示が正確であることと、問いに答えていることは別である。確かに証拠の審査を通ったのなら、そのとおり表示できる。だが、その正しい表示は、通過条件を置く理由に答えた証明にはならない。規範的な異議に十分答えていたとしても、その取捨が純粋な事実に変わるわけではない。
答えることは、受け入れることではない。採用する側が、ある代替案を選ばない理由を丁寧に説明したうえで、元の線を維持することもある。質問者はなお同意しなくてよい。ただし、自分の望む結果に変わらなかったというだけで、その応答を、一度も答えがなかったものとして記録することはできない。
これは、応答の質を改めて問うことを禁じない。説明は元の問いに届いていたのか。関連する代替案は本当に考慮されたのか。問う立場は何を根拠に、答えがあったと判断したのか。いずれも改めて検討されうる。ただし、検討できることを、誰もが同じ案件を永久に何度でも再審査させる権力を持つことにしてはならない。
役割を分けることは、見えにくい危険も減らす。審査する立場が自ら新しい基準を設計し、それによって名声を得たなら、後にその基準を問うことは、自分の評判を問うことにもなりうる。確かめるが代わりに決めないという分担は、こうした結びつきを弱める。ただし、完全に消すことはできない。
修正に賛成したこと、関連する議論で名を得たこと、その修正が否定されないことが在職資格の条件であることは、結びつきの強さが違う。最初の二つは注意すべき関係であり、直接、不誠実だと判定してはならない。最後の関係は、その前提に対する独立をすでに損なっている。職責が変わるときにも、改めて確かめる必要がある。
問う立場もまた境界を引き、何かを取りこぼす。他人に問うことを仕事にしているからといって、永久に問われない地位を得ることはできない。具体的な事項には答え、案件を終えられる。だが一つの立場が、あらゆる問いは最終的にここで止まるほかないという場所になってはならない。
したがって、収まりきらないものをすべて消す、究極の大審査は存在しない。機関には仕事を終えられる手続きが必要であり、一つの立場によって永久に閉ざされない訂正の通路も必要である。両方を一緒に考えなければならない。際限のない不服申立てで判断を押し潰してもいけないし、案件を終えたことによって、その後の制度への問いを封じてもいけない。
最後に、通路も審査も、その都度の適用における判断を代行しない。機関は、すでに審査を通ったことを、今回の取捨と責任の引き受けが別の場所で済んだかのように記録してはならない。基準は判断の根拠であり、審査も根拠である。それを目の前の人と結果に適用することは、なお現実の決定なのだ。
論文はこの点を、研究の著者として名を記すことにつなげる。Elsevierの現在の学術誌の方針は、AIツールを著者と認めていない。理由には、正確性、完全性、最終稿への責任が関わる。ツールは支援を提供できるが、人間の著者がなお責任を負う。これは出版機関の現行の規則であり、将来ありうるすべてのAIの能力についての最終判決ではない。
このシリーズによって、診断をどう分類すべきか、統計上の閾値をいくつにすべきか、誰が問う立場に就くべきかが決まったわけではない。動物、生態系、まだ生まれていない人をどう迎え入れるか。問う立場自身が取りこぼすものをどこに置くか。そうした問いも残っている。境界を示すことは、それらをすでに誰かが引き受けたと約束することではない。
あの申請者は、望む答えを得られないかもしれない。まして融資を受けられる保証はない。ここで求めているのは、もっと小さく具体的なことだ。モデルの計算が間違っているふりをしなくても、その線がなぜ成り立つのかと問えること。問いを受け止める立場は説明を要求できるが、自分の答えを、次に現れる、永久に問うことを許さない扉にしてはならない。
原論文と読む範囲
中国語の読者向け散文から訳した。出典を別記しない窓口、採点、会議、手続き間の引き継ぎの人物や場面は設例である。実在の文献、研究、規則には出典と資料の時期、証明できる範囲を示す。区分には常に収まりきらないものがあること、人は道具にすぎないのではないことは、原著が公に引き受ける哲学的・規範的な出発点で、経験法則ではない。証拠の審査自身も価値を扱え、専門の境界、限定された権限、審査後の維持は職務怠慢とは限らない。原著が確認できなかった完全な実例を確立した事実へ補わず、未確認を不存在とせず、見つからないことから頻度を判断しない。診断、融資の閾値、医療処置を決めるものではなく、法律や専門業務の実施についての助言ではない。