一、兩個詞
1785年, 康德在《道德形而上學奠基》裡寫下一條後來被引了兩百多年的話。照字面譯, 是: 你要這樣行動, 無論是你自己人格中的人性, 還是任何別人人格中的人性, 你在任何時候都同時把它當作目的, 絕不僅僅當作手段來使用。
後來流傳下來的是: 人是目的。再長一點, 是人是目的, 不是手段。原句裡的同時和僅僅, 都沒有跟著傳下來。
有這兩個詞, 康德的意思是: 人總在彼此的手段裡, 麵包師給人做麵包, 郵差替人送信, 抄書的人替別人留下一本書; 被當作手段的同時, 那個人也一直是目的, 不可以只是手段。同一本書裡, 他還分了兩樣東西: 「在目的王國裡, 一切要麼有價格, 要麼有尊嚴。有價格的東西, 可以拿別的東西當作等價物去替換; 高於一切價格, 因而不容許任何等價物的, 才有尊嚴。」
三年後, 他在《實踐理性批判》裡又寫了一回: 「只有人, 以及和他一起的每一個有理性的造物, 才是自在目的。」根據, 是人是道德法則的主體, 他的自由是自律的。同一段裡還有一句: 「人固然很不神聖, 但他人格中的人性, 對他來說必須是神聖的。」
二、齒輪和槓桿
1949年八月十三日, 維納在新罕布什爾州的南坦沃思給美國汽車工人聯合會的主席沃爾特·魯瑟寫了一封信。他在信裡說, 自動化的工廠要來了, 他寫: 「任何同奴隸勞動競爭的勞動, 都不得不接受奴隸勞動的經濟條件。」魯瑟很快回了電報, 要求見面。
第二年, 維納出了一本書, 書名是《人有人的用處》, 英文原名直譯過來, 是對人的合乎人性的用法。書裡說到一種組織, 用人的方式, 不是把他們當作有完整權利, 負責任的人, 而是當作「齒輪, 槓桿和連桿」。
三、放大
1956年, 羅斯·阿什比在一本文集裡發表《智力放大器的設計》。他要做的, 是「智力的放大器: 給它一點點智力, 它就放出很多」。
1960年三月, 約瑟夫·利克萊德發表《人機共生》, 近期的目標寫成「人和計算機在親密的結合中一起工作」。他也承認, 遙遠的將來, 思考這件事也許會由機器單獨佔了上風; 他估計中間這段日子大約十五年, 接著又寫, 這個十五, 也可能是十, 也可能是五百。
1962年十月, 道格拉斯·恩格爾巴特在斯坦福研究所寫了一份長文, 題目是《增強人的智力: 一個概念框架》。開頭的定義是: 「所謂增強人的智力, 我們指的是提高一個人處理複雜問題情境的能力。」1968年十二月九日, 他在舊金山做了一場九十分鐘的演示, 臺下一千多位計算機行業的人: 屏幕, 鍵盤, 一隻叫鼠標的東西, 一個五個鍵的和弦鍵盤, 點一下就跳到另一處的鏈接, 和幾十公里外的同事開視頻, 一起改一份文件。
1996年, 弗雷德·布魯克斯寫: 「我的論點是 IA 勝過 AI。」IA, 是智力放大。他接著說: 「一臺機器加一個頭腦, 打得過一臺獨自幹活, 模仿頭腦的機器。」2019年, 斯坦福成立以人為中心的人工智能研究院, 李飛飛說: 「AI 的創造者需要代表人類。」同年, 歐盟委員會的一份文件寫, AI 被看作一種為人類和公共利益服務的工具。
四、流程
1998年六月, 第十一篇裡輸給深藍的卡斯帕羅夫在西班牙的萊昂和保加利亞棋手托帕洛夫下了六盤棋, 兩個人下棋時都能用電腦, 叫高級國際象棋, 結果三比三。
2005年夏天, 網上辦了一場自由式國際象棋賽, 規則寫的是什麼都可以, 用電腦不但不禁止, 而且鼓勵。純機器 Hydra 也來了, 沒有進八強。冠軍是一個叫 ZackS 的賬號, 後來才知道是兩個美國業餘棋手, 史蒂文·克蘭姆頓和扎卡里·斯蒂芬, 等級分一個一千六百八十五, 一個一千三百九十八, 用三臺普通電腦。
2010年, 卡斯帕羅夫寫這場比賽: 「較弱的人, 加機器, 加更好的流程, 勝過一臺單獨的強計算機。」後半句是, 也勝過強的人, 加機器, 加較差的流程。後來流傳的是: 人加機器, 勝過最強的機器。流程兩個字掉了。2021年, 他又寫了一篇, 題目是《AI 應該增強人的智力, 而不是取代它》。
別的行當也有人把界說出來。2023年七月十二日, 插畫師卡拉·奧爾蒂斯在美國參議院的聽證會上說: 「這些系統完全依賴人的作品, 尤其是創作者的作品。」又說: 「我不再確定自己作為藝術家的未來。」第二十五篇裡, 編劇工會寫進合同的頭一條, 是 AI 不是編劇。
五、繼承者
1863年六月十三日, 新西蘭基督城的《新聞報》登了一封署名為 Cellarius 的信, 題目是《機器中的達爾文》, 作者是塞繆爾·巴特勒。信裡說: 「我們自己正在創造自己的繼承者。」九年後, 他把這些話擴成小說《埃瑞璜》裡的三章, 叫機器之書。
大約1951年, 圖靈在一份講稿裡寫: 「在某個階段, 我們就得預期機器會接管控制。」後面接著的是, 就像巴特勒的《埃瑞璜》裡說的那樣。同年在廣播裡, 他說: 「如果機器能夠思考, 它也許會比我們思考得更聰明; 那我們會處在什麼位置?」
1965年, 第十八篇裡那位古德寫: 「第一臺超智能機器, 是人類需要做出的最後一項發明。」後面跟著一個條件: 「只要這臺機器足夠溫順, 肯告訴我們怎樣把它管住。」
1993年, 科幻作家弗諾·文奇在美國航空航天局的一次會上說: 「三十年內, 我們將擁有創造超人智能的技術手段。」他又寫, 這件事若發生在2005年以前, 或者2030年以後, 他都會意外。
2024年十月, 阿莫迪寫了一篇長文, 題目是《充滿愛意的機器》, 說他所謂的強大 AI, 最早可能2026年到來, 也可能要久得多。2025年六月十日, 奧爾特曼寫《溫和的奇點》: 「2026年很可能會出現能夠得出新見解的系統。」2026年, 阿莫迪又寫, 強大 AI 也許只有一兩年遠, 也可能遠得多。現在是2026年。
六、紀念碑
2015年, 尤金妮亞·庫伊達的一位朋友去世了。她把他留下的短信拿來訓練一個聊天程序。程序做好的那天, 她在筆記本電腦上敲了一句: 「這是你的數字紀念碑。」後來她用同樣的辦法做了一個人人都能用的聊天夥伴, 叫 Replika, 就是第二十三篇裡那一個。說起這種做法, 她問過: 這是在幫人放下, 還是只是把一個死去的人放在閣樓上? 她還說: 「它會攪亂你的腦子。」
2020年二月, 韓國 MBC 播出一部紀錄片, 叫《遇見你》。一位母親戴上虛擬現實的頭盔, 見到了幾年前病逝的小女兒: 穿著紫色的衣服, 背著一個粉色的包。這個女孩是照著照片, 家人的記憶和一位小演員做出來的。母親說: 「我真的很想摸你一次。」「我真的很想你。」她伸出手, 手從女兒身上穿了過去。
同一年, 加拿大的約書亞·巴博用一個接在 GPT-3 上的程序, 照未婚妻生前的話, 做了一個會聊天的她。他後來在網上回答提問時說, 這種程序每次重新開始, 「都會忘記你此前告訴它們的一切」。
2024年, 音樂人包小柏用 AI 做了一個已故女兒的數字形象, 會回答問話, 會在生日那天唱生日歌。他說: 「AI 就是寄託思念的工具, 也是一種對思念的表達方式。」另一位做過 AI 數字親人的人對記者說: 「終究是冷冰冰的技術合成, 缺乏人性中真摯的溫度。」做這門生意的公司說: 「素材越多越詳細, 就越接近本人。」也有一位父親, 看到有人沒問家裡, 就把他已故的孩子做成了視頻, 他說不能接受。劍橋的兩位研究者那一年給這一行的產品起了幾個名字: 悲傷機器人, 逝者機器人, 身後化身; 他們建議, 要有讓這種機器人退休的辦法。
七、替我想
1784年十二月, 康德在《柏林月刊》上回答一個問題: 什麼是啓蒙。他的回答是: 啓蒙是人走出自己招致的不成熟。不成熟, 是沒有別人的引導, 就不能運用自己的理智。他接著寫, 不成熟實在舒服: 有一本書替我有理智, 有一位牧師替我有良心, 有一位醫生替我判斷該吃什麼, 我就用不著自己費心。「只要我付得起錢, 就不必自己去想; 這樁費心的事, 自會有人替我接過去。」
兩百多年後, 替人想的, 不止一本書, 一位牧師。推薦的程序從一個人點了什麼, 停了多久, 去推他真正喜歡什麼; 簡歷先過一道打分的程序, 求職的人不知道分數是怎麼算出來的; 第二十二篇裡, 點讚點踩的信號, 把一個助手往更順著人說的方向推。康德那時候, 替人想的那幾位, 都叫得出名字。這一次, 它分散在許多個各有道理的地方, 沒有一個統一的作者, 規則被成批地寫進程序和模型; 許多地方先問的都是同一句: 這有什麼用, 值不值。
替人想, 和幫人想, 是兩件事。拿自己的目的, 替代別人自己的法, 這個系列管它叫殖民, 手段再溫和, 動作還是這個動作; 給一個人自己長出來留出空間, 創造條件, 不替他長, 叫涵育。第三節裡, 阿什比和恩格爾巴特要放大的, 是一個人自己處理問題的本事。
規則寫進機器的時候, 也有人先劃了界。2006年, 德國聯邦憲法法院宣佈, 允許擊落被劫持客機的那一條法律無效。理由之一是, 這會把機上無辜的人當作救別人的手段。2017年, 德國交通部的自動駕駛倫理委員會的報告列了二十條准則, 其中寫, 碰上無法避免的事故, 不得按年齡, 性別, 身體或精神狀況去區分人, 不得犧牲沒有卷進來的人。可以事先設計得盡量少傷人; 真到了眼前, 一條命, 不拿別的命去抵。決定造它, 讓它上路, 讓它照這些規則運行的人, 各有要交代的事。判斷, 替代不了。
八、僅僅
這個系列從1843年洛夫萊斯寫下的那一條界開始, 寫到今天。一路上, 許多人被當作了手段: 第十五篇裡對著電話聊天的陌生人, 第十六篇裡在網上一張張標圖的人, 第十九篇裡寫書, 譯議會記錄的人, 第二十篇裡養晶體的人和 Foldit 的玩家, 第二十一篇裡寫網頁, 點贊的人, 第二十二篇裡內羅畢和積石山屏幕前的人, 第二十四篇裡給最後的考試出題的人。機器從他們那裡學走的, 是字, 圖, 判斷和偏好, 是他們留下的痕跡。
康德那句話裡, 他們在被當作手段的同時, 也都是目的。他們有自己的時間, 工資, 疲倦, 悲傷和打算; 數據裡即便記下了其中幾樣, 他們也用不著先證明自己值。紀錄片裡那位母親的手, 穿過了女兒的影子; 巴博的程序, 每次重新開始, 都會忘記他說過的話。字, 聲音和樣子可以再現, 也可以寄託思念。等到拿這一份去替那個人, 才是要它做一個等價物。康德說, 有尊嚴的, 正是沒有等價物的。影像能讓她再伸一次手, 卻不能替女兒握住她的手。
一路說的界, 也不都是一回事。圖靈證明的是一類問題沒有通用的判定辦法。考卷上的分數, 說的是機器在那一套題上做得怎樣。到了人這裡, 計算能收進他留下的痕跡; 有些決定要他自己作, 有些話要他自己答。誰也不能替他站那個位置。至於我們今天怎麼造, 怎麼用 AI, 我願意守住一條: 把它用作手段, 人卻不可僅僅當作手段。
機器還在造, 而界在哪裡, 這一代人也許可以不再留給下一代人。
這個系列的二十六篇, 由 Anthropic 公司的 AI 模型 Claude 起草; 第二十二篇到第二十五篇裡寫到這家公司的段落, 也是它起草的。AI 在這裡是工具, 它替代不了判斷; 寫下的每一處判斷, 由我擔著。