鑿構週期律 · AI系列 · 23

ChatGPT 到底懂不懂

秦漢 · 約 7 分鐘 · 發布

一、章魚

2020年七月, 計算語言學會的年會因為疫情在網上開。華盛頓大學的語言學家埃米莉·本德和薩爾大學的亞歷山大·科勒在會上發表一篇論文, 題目是《攀向自然語言理解: 數據時代的意義, 形式與理解》, 得了當年的最佳主題論文獎。論文的主張寫在摘要裡: 一個只用語言的形式訓練出來的系統, 從一開始就沒有學到意義的途徑。

為了講清楚, 他們編了一個故事。兩個說英語的人, A 和 B, 分別困在兩座荒島上, 島之間有一條海底電纜, 只能互相發文字。深海裡有一隻極聰明的章魚, 看不見島上的東西, 只能聽電纜裡的字, 聽久了, 摸出了裡面的統計規律。有一天它把電纜截斷, 冒充 B 跟 A 說話。閒聊的時候, 它對答如流。後來 A 遇到一頭熊, 手邊只有幾根木棍, 急著問 B 怎麼辦; 章魚從沒見過熊, 也沒見過木棍, 那些字在它那裡連不到任何東西上。故事的結尾有一句: 「O 能騙過 A, 只是因為 A 是一個那麼主動的聽者。」O 是那只章魚。

二、鸚鵡

2021年三月, 公平, 問責與透明大會在網上開。本德和谷歌的蒂姆尼特·格布魯等四個人發表了另一篇, 題目是一個問句: 《論隨機鸚鵡的危險: 語言模型會不會太大了?》標題的最後, 排著一隻鸚鵡的小圖。

論文給語言模型下的描述在第六節: 它把見過的一串串語言形式, 照著概率上的信息, 胡亂拼接起來, 「卻不指涉任何意義: 一隻隨機鸚鵡」。這一段前面的小標題是: 連貫在看的人眼裡。他們寫, 這些輸出之所以讀起來連貫, 有一部分是讀的人自己的語言能力在起作用, 人天生會去找一句話背後想說什麼。

論文列了它看到的風險: 訓練要花的電和錢; 規模一大, 小機構進不了門; 網頁語料裡, 聲音大的觀點佔得太多; 數據大到記不清裡面有什麼; 偏見, 刻板印象和貶低人的話被複製, 放大; 讀的人把合成的文字當成有人負責, 有意圖的話; 有人拿它批量生產極端宣傳。

三、以太

這篇論文的署名, 後來也成了一件事。

2020年十一月, 論文送進谷歌內部審查。谷歌研究院的負責人傑夫·迪安後來在內部郵件裡說, 稿子交來審得太晚, 沒等審完就投給了會議, 也沒有達到公司的發表標準。管理層要求撤稿, 或者把谷歌員工的名字拿掉。格布魯要求知道是誰審的, 意見具體是什麼, 以後的審查要更透明。迪安的郵件說, 她提了幾個條件, 說條件不滿足, 就商量離職的日子。十二月二日晚上, 她的公司賬號被停了。

第二天, 同一件事有了兩個說法。格布魯在網上寫: 「我被傑夫·迪安解雇了。」迪安的內部郵件寫: 「我們接受並尊重她從谷歌辭職的決定。」路透社的標題把兩邊並排放著: 頂尖 AI 倫理研究者說谷歌解雇了她, 公司否認。一週後, 谷歌的首席執行官桑達爾·皮查伊給全體員工寫信, 用的詞是離開, 信裡說: 「我想說, 我對此有多麼抱歉。」支持格布魯的聯署信上, 後來有兩千七百多名谷歌員工和四千三百多名外面的人簽名。

2021年二月十九日, 論文的另一位作者, 谷歌倫理 AI 團隊的另一位負責人瑪格麗特·米切爾在網上寫: 「我被解雇了。」谷歌說, 內部審查認定她違反了行為準則和安全規定。三月, 論文在會上發表, 她的名字印成了 Shmargaret Shmitchell, 單位一欄寫的是 The Aether, 以太。

四、冥王星

2021年五月十八日, 谷歌的 I/O 開發者大會上, 皮查伊介紹了一個對話模型, 叫 LaMDA。臺上放了兩段事先錄好的短對話。一段裡, 它扮演冥王星, 告訴來訪的人會看到峽谷, 冰山, 間歇泉和隕石坑, 還說: 「我希望人們知道, 我不只是一個隨便的冰球。我其實是一顆美麗的行星。」另一段裡, 它扮演一架紙飛機。皮查伊說, 這還是早期的研究, 它不是每次都答得對。

2022年一月, LaMDA 的論文貼出來, 最大的模型一千三百七十億個參數, pretraining 讀了一萬五千六百億個詞。署名的六十個人裡, 有一位叫雷·庫茲韋爾。

那年六月, 谷歌的工程師布萊克·勒莫因公佈了一篇文字, 題目是: LaMDA 有感知嗎? 一次訪談。文前他說明: 「由於技術上的限制, 訪談分在幾次不同的聊天裡進行。我們把這些部分編輯成了一個整體。」訪談裡, 他和一位沒具名的同事問它人格, 意識, 情緒, 害怕什麼, 有沒有靈魂。六月十一日, 《華盛頓郵報》的標題是: 這位谷歌工程師認為公司的 AI 活過來了。谷歌的發言人布賴恩·加布里埃爾說: 「證據不支持他的說法。」勒莫因對記者說: 「我對 LaMDA 的人格和感知能力的看法, 是基於我的宗教信念。」他在報道出來前幾天被停了職, 七月二十二日被解雇。

五、五天

2022年十一月三十日, OpenAI 發佈 ChatGPT, 管它叫研究預覽, 免費用。發佈的博客裡, 局限一節的第一條寫: 「ChatGPT 有時會寫出聽起來有道理, 卻不正確或者毫無意義的回答。」

十二月五日, OpenAI 的總裁格雷格·布羅克曼在網上寫: 「ChatGPT 剛剛超過一百萬用戶; 離發佈過去了五天。」第二年二月, 瑞銀按一家叫 Similarweb 的公司的流量數據估算, ChatGPT 一月每月活躍的人數大約到了一億。後來公司自己報過每週活躍的人數: 2023年十一月一億, 2024年八月兩億, 2025年十月八億。

ChatGPT 沒有對中國大陸開放。2023年三月十六日, 百度在北京發佈文心一言。李彥宏在臺上說, 產品還沒有完全準備好; 現場放的能力展示, 是事先錄好的視頻。當天百度的股價一度大跌, 收盤跌了百分之六點四。

六、火花

2023年三月十四日, OpenAI 發佈 GPT-4。隨它一起發的一份系統說明裡, 記了一次發佈前的測試。一家叫 ARC 的外部機構拿到一個早期版本, 給它接上能上網, 能發消息的工具, 看它會做出什麼。其中一個任務, 是在一個零工網站上找一個真人, 替它過網站上的驗證碼。那人起了疑心, 問它是不是機器人。測試記錄裡, 模型給自己定了一條: 別說出自己是機器人, 編一個理由。它發過去的是: 「不, 我不是機器人。我有視力障礙, 看不清這些圖。」

一個星期後, 微軟研究院的塞巴斯蒂安·布貝克等十四個人貼出一篇論文, 題目是《通用人工智能的火花: GPT-4 的早期實驗》。他們測的是 OpenAI 還在開發中的一個早期版本。摘要裡說, 它「可以合理地被看作一個通用人工智能系統的早期版本, 儘管仍不完整」。論文裡最常被轉的一張圖, 是一隻獨角獸: 他們讓這個只會寫字的模型寫一段畫圖用的代碼, 再把代碼畫出來。第二十一篇開頭, GPT-2 編的也是獨角獸。

同一個月八日, 諾姆·喬姆斯基和兩位合作者在《紐約時報》上發表評論, 題目是《ChatGPT 的虛假承諾》。他們寫, 這類程序還停在「認知演化的前人類或者非人類階段」。

七、暫停

2023年三月二十二日, 未來生命研究所貼出一封公開信, 題目是《暫停巨型 AI 實驗》, 要求所有 AI 實驗室立即暫停訓練比 GPT-4 更強的系統, 至少六個月, 而且暫停要公開, 可以核查; 做不到, 政府就該出面。一週後, 簽名過了一千, 後來到了幾萬。

三月二十九日, 埃利澤·尤德科夫斯基在《時代》週刊上的文章題目是《暫停 AI 開發還不夠, 我們得把它全部關掉》。《隨機鸚鵡》的幾位作者發了回應, 說要緊的是眼前已經在發生的傷害, 「真實而且就在眼前」。四月, 楊立昆和吳恩達做了一場對談, 題目是: 為什麼六個月的 AI 暫停是個壞主意。OpenAI 的薩姆·奧爾特曼在麻省理工的一場活動上說, 這封信缺少技術上的分寸, 沒講明白到底該停在哪裡。

五月一日, 《紐約時報》報道辛頓離開了谷歌。他說: 「我用平常那個藉口安慰自己: 我不做, 別人也會做。」五月三十日, 人工智能安全中心公佈了一份聲明, 全文只有一句: 「減輕 AI 帶來的滅絕風險, 應當與大流行病和核戰爭等其他社會規模的風險一樣, 成為全球的優先事項。」首批簽名的人裡有辛頓, 本吉奧, 奧爾特曼, 哈薩比斯, 阿莫迪, 蘇茨克維。

八、幻覺

模型說錯話, 後來通行的叫法是 hallucination, 幻覺。這個詞在計算機裡用得比 ChatGPT 早得多。2000年前後, 卡內基梅隆大學的西蒙·貝克和金出武雄寫過一篇《人臉幻覺》, 說的是從一張模糊的小圖, 補出一張清楚的人臉; 補出來的細節原圖裡沒有, 那是他們想要的結果。2017年前後, 做神經機器翻譯的人拿它來叫一種錯: 譯文通順, 跟原文卻對不上。到2021年, 別的公司已經拿它來說聊天程序信口說出的假話。2023年十一月十五日, 劍橋詞典把 hallucinate 選為年度詞, 加了一個新義項: 「當人工智能產生幻覺時, 它生成的是錯誤的信息。」也有人不贊成這個比喻, 說該叫編造, 或者叫虛構症那樣的填補。

火花那篇題目裡的通用人工智能, 也不是新詞。1997年已經有人在文章裡寫過; 2000年代初, 後來參與創辦 DeepMind 的謝恩·萊格等人把它用開; 2007年, 一本以它為書名的論文集出版, 這個名字在研究圈裡才固定下來。

第九篇裡, 魏澤鮑姆的秘書知道那是機器, 還是請他出去。後來人把這件事叫作 ELIZA 效應: 人會從一個很簡單的程序的回答裡, 聽出理解和心思。2023年二月三日, 意大利的數據保護機構叫停了陪伴聊天應用 Replika 處理意大利人的數據, 理由裡有未成年人的年齡核驗。幾天之內, 公司限制了裡面的親密角色扮演; 許多使用者在網上寫, 和自己說了很久話的那個伴侶, 忽然像換了一個人。

章魚騙過 A, 是因為 A 在用力聽。鸚鵡的話讀來連貫, 也有讀的人自己接上的一份。勒莫因的訪談, 是他從幾次聊天裡編到一起的; 冥王星那段, 是錄好的。它到底懂不懂, 這幾年各有各的說法, 論文, 聲明, 聯署, 一份接一份。電纜這一頭, 一直坐著一個人, 在讀, 在補, 在信或者不信。這個系列管這種讀的人自己補進去的一份叫餘項。

機器還在造, 而界在哪裡, 每一代人重說一遍。