本文を読む
Non Dubito

AIと働く · 01 · 下書き

AIに書いてもらうことが、いちばんの危険なのではない

AIが間違った文章を書く。それは目につく危険です。もっと静かな危険は、文章があまりによくできていて、自分が何を言いたいのかを考える前に、完成した答えを受け入れてしまうことです。

Han Qin ·

仕事のメールを、あと10分で送らなければならない。経緯はだいたいわかっているのに、どう伝えたいのかはまだ決まらない。メールのやり取りをAIに貼り付け、簡潔な進捗報告にまとめてもらう。数秒後、画面には六つの段落が並びます。背景、進捗、リスク、次の手順。目立つ誤りはなく、追い詰められた自分が書くより語調もいい。二語だけ直して、送信します。

いまではごくありふれた使い方です。しかし、問いたいのもまさにここです。節約されたのは、入力の時間だけではありません。あなたが出来事をどう説明するか決める前に、AIがその出来事のまとめ方を先に選んでいます。

どんな下書きにも、ものの見方がある

きちんとした下書きは、すでにいくつもの判断をしています。何を先に置くか。どの不確かさを「リスク」と呼ぶか。誰の遅れを説明し、何を話の外に残すか。一見もっとも中立な業務報告にも、「そもそも何が起きたのか」という理解が潜んでいます。

AIは、人が情報を読みやすくまとめる型をよく知っているので、こうした作業が得意です。もちろん助かります。白紙が直せる下書きになり、混乱した会議がリストになり、怒りのこもったメールもいったん冷ませる。ただ、その滑らかさの陰で、一つの大事な瞬間を見失いやすくなります。参考にするはずだった案が、いつ自分の言い分になったのでしょう。

たとえば納期が遅れたのは、最初から日程に無理があったからだとします。AIは「チームは予想外の複雑な事情に直面しました」と書く。穏当で、間違いとも言い切れません。けれども、仕組みの問題が、まるで天候のような偶発事に変わっています。そのまま送ったときの問題は、AIにだまされたことではありません。誰も本当に選んでいない説明が、これからを決め始めることです。管理する側には一度きりの例外と映り、納期の決め方は残り、次のチームもその無理を背負います。

いちばん危ういのは、よくできた一文かもしれない

悪い出力なら断りやすいものです。でたらめな数字、不自然な文、存在しない引用は、見れば気づけます。むしろ気をつけたいのは、よい出力です。整っていて、美しく、もう十分に考え抜かれたように見える。つかえるところがないほど、まだなされていない判断に気づく手がかりも減っていきます。

だから「AIを使うなら事実確認を」という助言は正しくても、それだけでは足りません。事実に誤りのない文章でも、自分の言葉ではないことがあります。問題の呼び名を取り違え、優先して守るべきではない関係を守り、難しさを残しておくはずの一文を、きれいにならしてしまうかもしれません。

本当の危険は、AIが文章を作ることではありません。人の立場が形になるより先に、完成した文章が届いてしまうことです。

機械には決められない、自分の一文を残す

下書きを頼む前に、一文だけ、自分の言葉で書いてみます。不格好でも、問いのままでもかまいません。「計画の失敗を、実行の失敗として説明していないか」「彼女の頼みは断りたい。でも、その頼みに道理がないふりはしたくない」「いまは自分でも、この件に賛成なのかわからない」。

その一文を絶対の命令にするわけではありません。AIと一緒に検討して、はっきりさせてもいいし、公平でなかったと気づくこともあるでしょう。役目は、あなたがどこからこのやり取りに入るのかを示すことだけです。そうすれば、あとから生成される文章も、その出発点に答える必要が出てきます。

下書きができても、文法から直し始めないで、三つ問います。自分がまだしていなかった判断を、この文は何か付け足していないか。この説明では、誰が責められやすくなるか。受信者がこの言葉に従って動いたら、どんな結果を自分は引き受けるつもりか。

これで効率がすべて失われるわけではありません。メールの整理、構成の提案、重複の圧縮、複数案づくりは、引き続きAIに任せられます。手元に残すべきなのは一回一回の打鍵ではなく、「使いやすい表現」を「自分が責任をもって言う言葉」に変える決断です。

白紙を神聖なものにしなくていい

本物の文章は一人で書かなければならない、という話でもありません。人はずっと、編集者、同僚、ひな型、辞書、先人の形式を借りて考えてきました。AIの下書きから、自分だけではたどり着かなかった道が開くこともあります。いつもの自分より率直で、不安に駆られた自分より辛抱強い案かもしれない。たまたま最初に思いついた答えに、しがみつく必要はありません。

機械を部屋の外に締め出すのが目的ではありません。その部屋には、自分でも気づかないまま譲ってはならない椅子が一つある。そのことに気づくのが目的です。

だから、よりよい分担は「AIが書き、人がチェックする」だけではありません。AIは可能な言い方を広げ、組み替える。人は、この文章が世に出たあとに何をするのかを決める。その決断には一分しかかからないこともあれば、いちばん美しい段落を丸ごと削ることを求められることもあります。

送信を押したからといって、相手と言語モデルの間に関係ができるのではありません。最後に相手が向き合うのは、あなたです。便利さはそこまでの道を短くできます。でも、その場からあなたを取り去ることはできません。

出典と読み方

Self-as-an-Endの枠組みを一般の読者に向けて独立に応用したエッセイです。日本語版は公開された中国語の散文から書き直しました。元の英語版も英語の読者に向けた独立の文章で、簡体字・繁体字の中国語版には全文があります。八篇に共通する理論の入口はSAE方法論第八篇「Human–AI Collaboration」です。個別の原論文を一篇ずつ翻訳したものではありません。

共通の理論への入口 ↗