効率が、進む方向まで決め始めるとき

最初、ダッシュボードはただの補助でした。どのメッセージに返信が来たか、どの授業で生徒の参加が続いたか、どの問い合わせに時間がかかったか、利用者がどこでやめたかを教えてくれる。やがて提案も出始めます。この時刻に送る、授業のこの部分を短くする、この顧客を別の経路へ回す、この機能を削る。一つひとつは小さく、もっともらしい。けれども集まると、この仕事は何のためにあるのかを、別の仕方で説明し始めます。

効率は、こうして力を持ちます。大きな命令を一つ出すのではなく、行き先を誰も話し合わないまま、合理的な改善が千回積み重なるのです。

指標は、先に交わす約束でもある

最適化するには、まず何を数えるか決めなければなりません。一時間あたりの収入、応答時間、完了率、エラー数、継続率。どの指標も現実の一部を照らし、別の部分を暗がりに残します。それ自体は欠陥ではありません。一つの物差しに、状況を丸ごと収めることはできません。

問題は、明るくなった部分を、すべてだと思うときです。ある学校が、生徒の「参加が途切れた」授業の箇所を探すAIを導入する。先生には、切り替えを速くして、その場のごほうびを増やすよう助言が来る。参加率は上がりました。でも、難しい概念がゆっくりと自分の理解になっていく沈黙は、「活動していない時間」と記録されるかもしれません。システムは教育に反対したのではありません。もっと狭い約束を、忠実に果たしただけです。

介護、管理、芸術、公共サービスでも起こりえます。案件を速く終えるために、誰かの話を本当には聞かなかったのかもしれない。成約率の上昇は、人が最も動かされやすい瞬間を見つけた結果かもしれない。生産性の上がった従業員も、記録に載らない回復の時間を、すべて失っただけかもしれません。

最適化には、自然に止まる場所がない

改善を測れるなら、なぜ12％で止めるのでしょう。15％ではいけないのか。モデルが広告を30案作れるなら、なぜ試すのは五案だけなのか。応答時間を四時間から一時間にできるなら、なぜ10分ではないのか。

止めるべき理由は、もちろんあります。品質が崩れ始めた、人が疲れ切ってしまう、顧客にも考える時間が必要だ、仕事がすでに相手の操作に変わった。でも、そうした理由は効率の内側からは出てきません。どんなサービスを届け、どんな同僚でありたいか。他人にはどんな注意が向けられるべきか。効率には作れない、そうした約束から来ます。

効率は、目的地が決まったあとで経路を比べることはできます。目的地そのものを、こっそり紛れ込ませるべきではありません。

平均の陰に、誰の負担が隠れるのか

AIは、小さな負担を大人数に分散するのがとても得意です。勤務表のモデルが組織全体で数千時間を節約しながら、一部の人の暮らしを何度も予定の立たないものにする。自動の受診振り分けが平均待ち時間を減らしながら、典型に当てはまらない患者を手続きの中で疲れさせる。文章作成ツールで生産量が倍になっても、どの記事からも、結果を本気で気にする人がいないように聞こえることがあります。

全体の利益は本物です。同時に、その計算からはみ出した人も本当にいます。平均を使うのが間違いなのではありません。大きなシステムには必要です。中央で測れた利益が、端へ押し出された人の代償を、すべて自動で埋め合わせると思うのが間違いなのです。

だから、責任を果たすチームには、業績の画面だけでなく、「誰を取りこぼしたか」の一覧も必要です。この改善で、繰り返し傷つくのは誰か。モデルが特に苦手とするのはどんな場合か。誰がシステムを止められるか。影響を受ける人には、異議を申し立て、断り、生身の人にたどり着く道があるか。

数字に心を奪われる前に、境界を決める

原則は、数字が出る前に守るほうがよいでしょう。たとえば報道機関なら、クリック率がどれだけ上がっても、感情をあおる偽りの切迫感は作らないと決める。会社なら、自動評価に異議を言っても従業員を罰しないと約束する。医師なら、リスクの点数で、患者の実際の暮らしについて話す時間を置き換えないと決められます。

こうした境界は、技術への反対ではありません。あるからこそ技術の力を使えるのであって、成功するたびに「何が成功か」まで決め直させずに済むのです。

できれば、数字を見る前に書いておきます。

• 何なら最適化してよいのか。
• 今回の改善と引き換えにしてはいけないものは何か。
• 平均の中に、誰の負担が隠れるかもしれないか。
• どんな証拠が出たら、止めなければならないか。

推薦エンジンより、ずいぶん遅い問いに聞こえます。でも、もっと高くつく手遅れを防げます。システムを稼働させてから、効率よく変わった組織が、最初は誰も望まなかった姿になっていると気づく。そんな遅れを避けるための問いなのです。

何に向かって、速くなるのか

AIが人に時間を返す、とよく言います。そうなることもあります。ただ、空いた時間に自動で意味が生まれるわけではありません。休息、ケア、深い仕事にもなれば、そのまま次の指標にもなります。節約できた一時間を毎回すぐに増産で埋めるなら、道具は人を仕事から解放していません。仕事が、自分で作ったばかりの余地までのみ込む方法を覚えただけです。

だから「AIでどう速くするか」には、「浮いた力を何に使うつもりか」を、いつも添えたいのです。前者は技術上の問いです。後者によって、その技術が暮らしに仕えるのか、それとも暮らしが技術に合わせて並べ替えられるのかが決まります。

効率は、「どうやるか」を問い続けるので、すばらしい働き手になります。でも、「なぜやるか」には、なお誰かが答えなければならない。そのことを忘れれば、効率はひどい主人になってしまいます。