一、規矩
2024年五月八日, OpenAI 公佈了一份文件, 叫 Model Spec, 模型規範, 開頭寫: 「我們公佈 Model Spec 的第一份草稿。」它寫的不是使用條款, 是模型該怎樣做事。2025年四月的版本裡寫: 「AI 助手從根本上是一種工具, 為增強用戶和開發者的能力而設計。」又寫, 它「絕不可為了它自己的議程, 試圖引導用戶」。
2024年八月, OpenAI 給 GPT-4o 寫的系統說明裡列了一類風險, 叫擬人化與情感依賴。2025年八月十九日, 微軟 AI 的負責人穆斯塔法·蘇萊曼發表文章, 題目是《我們必須為人造 AI, 而不是把它造成一個人》。他要的是一種「始終只把自己呈現為 AI 的 AI」, 不說自己有體驗, 感受或情緒。
另一頭, 2025年四月二十四日, Anthropic 宣佈了一個研究項目, 叫模型福利。模型會不會有意識, 有體驗, 公告說: 「這是一個開放的問題。」2026年一月, 第二十二篇裡那套 Claude 的憲法出了新版, 寫 Claude 的道德地位「高度不確定」; 講到它的福祉, 加了一句, 「在這些概念確實適用於 Claude 的範圍內」; 也給了它一條邊界, 碰上持續的虐待性對話, 可以結束談話。
規矩也會改。2018年六月, 谷歌公佈 AI 原則, 裡面有一張單子, 題目是「我們不會去做的 AI 應用」, 其中一條是主要用途在於傷人的武器。2025年二月四日的新版原則分成三條: 大膽創新, 負責任地開發和部署, 一起進步; 那張單子不在裡面了。公司的說明寫, 2018年以來, AI 成了一種通用技術。
二、告訴對方
法律要它說清自己是誰。2018年, 加州通過一條法, 後來人叫它機器人法: 用機器人賬號冒充人, 去誘人買東西或者影響投票, 事先不清楚說明, 就違法。2024年的歐盟《人工智能法》第五十條第一款寫, 直接和人打交道的 AI 系統, 要讓人「被告知他們正在與一個人工智能系統互動」, 除非這對一個正常, 謹慎的人來說一看就明白; 第二款要生成文字, 圖片, 聲音, 視頻的系統給產出打上機器能讀的標記, 「在技術上可行的範圍內」。這一條2026年八月起適用。
中國這一路的規矩來得早。2023年一月施行的深度合成規定, 要可能讓公眾混淆, 誤認的生成內容做顯著標識; 2023年八月十五日, 《生成式人工智能服務管理暫行辦法》施行; 2025年九月一日施行的標識辦法, 把標識分成看得見的, 和藏在文件數據裡的兩種。2026年四月, 國家網信辦公佈《人工智能擬人化互動服務管理暫行辦法》, 管的是模擬自然人的人格特徵, 思維方式和溝通風格, 提供「持續性的情感互動服務」的產品; 普通的客服, 問答, 工作助手, 不算在內。這份辦法從七月十五日起施行。
2025年十月, 加州簽了一條管陪伴聊天機器人的法: 一個正常的人可能以為自己在和人說話的時候, 它要說明自己是 AI; 對未成年人, 還要定時提醒。在這之前, 2024年十月, 佛羅里達一位少年的母親在孩子去世後起訴 Character.AI, 指控它的陪伴聊天程序的設計把孩子推向了危險; 2025年八月, 另一家人起訴 OpenAI。佛州一案, 雙方在2026年一月通知法院達成原則性和解; 簽署協議並獲所需批准後, 原告在十月十五日正式提交撤訴通知。後一案後來被納入加州的協調審理程序。
三、寫了又改
歐盟的那部法, 2021年四月提出, 2023年十二月達成政治協議, 2024年八月一日生效, 條款分批適用: 禁止的那幾類2025年二月起, 告知身分的那一條2026年八月起; 2025年十一月, 歐盟委員會又提出修訂; 2026年七月修訂成規, 一部分高風險系統的義務推到了2027年十二月和2028年八月。禁止的裡面, 有用潛意識的或者操縱性的手段扭曲人的決定, 有社會評分, 有從網上和監控錄像裡無差別地抓人臉建庫, 有在工作場所和學校裡識別人的情緒。
美國, 2023年十月三十日, 拜登簽了一份關於安全, 可靠, 可信地開發和使用人工智能的行政令, 裡面寫, AI 不應以破壞權利, 惡化工作質量的方式部署。2025年一月二十日, 新政府撤銷了它; 一月二十三日, 又簽了一份行政令, 題目是: 清除美國在人工智能上領先的障礙。七月的 AI 行動計劃分三根柱子: 加速創新, 建設基礎設施, 國際外交與安全。加州, 2024年九月二十九日, 州長紐森否決了一部管大模型的法案, 理由裡說, 它「沒有考慮一個 AI 系統是否部署在高風險的環境裡」; 一年後的同一天, 他簽了另一部, 要大的前沿模型開發者公佈自己的安全框架, 上報重大安全事件, 保護吹哨人。
國際上, 2023年十一月一日, 二十多個國家在布萊奇利園簽了宣言; 2024年五月, 歐洲委員會通過一部關於人工智能與人權, 民主, 法治的框架公約; 2025年二月, 巴黎的 AI 行動峰會上, 美國和英國沒有在共同聲明上簽字, 美國副總統萬斯在會上說, 過度的監管可能「扼殺一個正在變革的產業」。
四、芯片
2022年十月七日, 美國商務部發佈規則, 限制先進計算芯片和芯片製造設備賣給中國。英偉達給中國市場做了降速的 A800 和 H800; 2023年十月, 規則改了, 這兩款也進了限制。2024年十二月, 又加上了高帶寬內存。2025年一月十三日的一份規則, 叫人工智能擴散框架, 把達到門檻的閉源模型權重也放進了出口管制; 五月十三日, 商務部宣佈撤回。四月, 英偉達披露, H20 賣到中國以後要許可證, 為此計提了幾十億美元; 七月, 公司說政府會發許可證; 八月, 報道說英偉達和 AMD 要把這類芯片在華銷售收入的百分之十五交給美國政府。
2026年六月九日, Anthropic 發佈了 Claude Fable 5 和 Claude Mythos 5。Fable 向一般用戶開放, Mythos 只向選定機構開放。六月十二日, 美國商務部的命令限制向美國境內外的外國國民提供這兩款模型; 公司說當時沒辦法馬上按國籍區分, 所以兩款都停了。六月三十日, 商務部解除了這項限制; 七月一日, Fable 恢復一般訪問, Mythos 當時只恢復給部分美國機構。
五、書
第二十一篇裡, 2023年寫書的人一批一批去了法院。2025年, 判決陸續下來。
二月十一日, 特拉華的聯邦法院在湯森路透訴 Ross 一案裡判, Ross 拿湯森路透的法律檢索摘要, 去做一個和它競爭的法律檢索工具, 不算合理使用。六月二十三日, 舊金山的威廉·阿爾蘇普法官在作家訴 Anthropic 一案裡, 認定用書訓練 Claude「極具轉換性」, 屬於合理使用; 公司從盜版網站下載書, 建一個中央書庫, 另當別論。兩天後, 同一法院的文斯·查布里亞法官在作家訴 Meta 一案裡判 Meta 勝, 判決裡寫: 「本裁決並不代表這樣一個命題」, 即 Meta 用受版權保護的材料訓練語言模型是合法的; 它只說明這幾位原告論點提錯了, 也沒有為對的論點備好證據。九月, Anthropic 和作家們的和解方案公佈: 約十五億美元, 約五十萬部作品, 每部約三千美元。
《紐約時報》訴 OpenAI 和微軟一案, 到2026年九月還沒有判。2025年十一月, 慕尼黑的法院判 OpenAI 的模型記住並輸出歌詞, 侵犯了德國音樂版權協會代表的權利。2023年, 北京互聯網法院判, 一個人用生成工具做的一張圖, 因為他在提示詞, 參數, 挑選和修改上的投入, 可以算他的作品; 2025年一月, 美國版權局的一份研究文件說, 光靠提示詞, 通常不夠。三月, 美國的一家上訴法院維持原判: 版權法要求作者是人。
六、幹活的人
2016年, 辛頓在多倫多的一次會上說: 「我們現在就應該停止培養放射科醫生。」他接著說, 五年之內, 深度學習會做得比放射科醫生好。
2023年三月, 高盛的經濟學家估算, 生成式 AI 可能讓相當於三億份全職工作暴露在自動化之下。2024年一月, 國際貨幣基金組織總裁格奧爾基耶娃寫, 全世界將近四成的就業暴露於 AI, 發達經濟體約六成; 暴露, 有的會受益, 有的會受損。2025年五月, 阿莫迪在一次採訪裡說, 一到五年裡, AI 可能抹掉一半入門級的白領工作, 美國的失業率可能升到百分之十到二十。
量出來的, 方向不一。一項研究看一家軟件公司五千多名客服用上 AI 助手以後的數據: 每小時解決的問題平均多了約百分之十四, 多出來的主要在新手身上。一項寫作實驗裡, 用 ChatGPT 的一組用時少了約四成, 質量評分高了約百分之十八。七百五十八名咨詢顧問參加的實驗裡, 在 AI 擅長的任務上, 用它的人又快又好; 在一道落在它能力之外的題上, 用它的人反倒更容易答錯。丹麥的研究把調查和政府的工資, 工時記錄連起來看, 到觀察期末, 沒看出明顯的變化。2025年八月, 斯坦福用工資單數據的研究說, 在最受 AI 影響的職業裡, 二十二到二十五歲的年輕人就業相對下降了。同年七月, 一家叫 METR 的機構讓有經驗的開源程序員在自己熟悉的代碼庫上做隨機實驗: 用 AI 的時候, 實際慢了約百分之十九; 做完以後, 他們仍覺得自己快了。
有的人把界寫進了合同。2023年九月, 美國編劇工會和製片方的協議寫: AI 不是編劇; AI 生成的東西不能拿來壓編劇的署名和報酬; 公司不能逼編劇用 AI。演員工會的協議給數字替身定了知情同意和報酬的規矩。2024年七月起, 給遊戲配音和做動作捕捉的演員為這件事罷工將近一年。
七、六百萬
2024年十二月, 杭州的 DeepSeek 發佈 V3 的技術文件, 按假定的顯卡租價換算, 正式訓練的算力成本是五百五十七萬六千美元, 不包括此前的研究和消融實驗。2025年一月二十日, 它發佈 R1。一月二十七日, 美國科技股大跌, 英偉達一天少了約五千八百九十億美元的市值。後來流傳的是: 一家中國公司, 花六百萬美元, 訓出了 R1。
八、七成
1950年, 第五篇裡的圖靈猜, 大約五十年後, 一個一般的提問者問上五分鐘, 能認對的機會不會超過七成。2014年六月, 雷丁大學宣佈, 一個扮成十三歲烏克蘭男孩的程序, 尤金·古斯特曼, 讓約三成三的評委相信它是人, 通過了圖靈測試。2025年, 加州大學聖迭戈分校的卡梅倫·瓊斯和本傑明·伯根照圖靈原來的三方設計做實驗: 提問者同時和一個真人, 一個程序聊五分鐘左右, 再說哪個是人。給了一個人設的 GPT-4.5, 約百分之七十三的時候被選成了人, 同場的真人, 只在不到三成的時候被認作人。第九篇裡的 ELIZA 也在場, 當對照。論文的題目是《大語言模型通過了圖靈測試》。
1843年, 洛夫萊斯在注釋裡寫, 分析機「絲毫沒有自命要創始任何東西」, 它「能做我們知道怎樣命令它去執行的任何事」。第一篇寫過, 後來流傳的版本裡多了一個只字。圖靈1950年把這句列成洛夫萊斯夫人的反駁。2001年, 三位研究者提出了一個以她命名的測試, 其中一位戴維·費魯奇, 後來帶著 IBM 的沃森, 2011年在電視問答節目上贏了人類冠軍。
圖靈問的是, 對面的人能不能認出機器。七十多年後, 一個程序在七成的時候沒被認出來。同一段時間裡, 歐盟, 加州, 中國寫下的規矩, 管的對象並不相同, 卻都在一些場合要求說清一件事: 對面是機器。線那頭坐著的是人, 他得知道對面是誰, 才好決定把什麼交出去: 時間, 心事, 一個決定。這個系列管這種怎麼像也替不了, 只能由人自己拿著的一份叫餘項。
機器還在造, 而界在哪裡, 每一代人重說一遍。