一、规矩
2024年五月八日, OpenAI 公布了一份文件, 叫 Model Spec, 模型规范, 开头写: 「我们公布 Model Spec 的第一份草稿。」它写的不是使用条款, 是模型该怎样做事。2025年四月的版本里写: 「AI 助手从根本上是一种工具, 为增强用户和开发者的能力而设计。」又写, 它「绝不可为了它自己的议程, 试图引导用户」。
2024年八月, OpenAI 给 GPT-4o 写的系统说明里列了一类风险, 叫拟人化与情感依赖。2025年八月十九日, 微软 AI 的负责人穆斯塔法·苏莱曼发表文章, 题目是《我们必须为人造 AI, 而不是把它造成一个人》。他要的是一种「始终只把自己呈现为 AI 的 AI」, 不说自己有体验, 感受或情绪。
另一头, 2025年四月二十四日, Anthropic 宣布了一个研究项目, 叫模型福利。模型会不会有意识, 有体验, 公告说: 「这是一个开放的问题。」2026年一月, 第二十二篇里那套 Claude 的宪法出了新版, 写 Claude 的道德地位「高度不确定」; 讲到它的福祉, 加了一句, 「在这些概念确实适用于 Claude 的范围内」; 也给了它一条边界, 碰上持续的虐待性对话, 可以结束谈话。
规矩也会改。2018年六月, 谷歌公布 AI 原则, 里面有一张单子, 题目是「我们不会去做的 AI 应用」, 其中一条是主要用途在于伤人的武器。2025年二月四日的新版原则分成三条: 大胆创新, 负责任地开发和部署, 一起进步; 那张单子不在里面了。公司的说明写, 2018年以来, AI 成了一种通用技术。
二、告诉对方
法律要它说清自己是谁。2018年, 加州通过一条法, 后来人叫它机器人法: 用机器人账号冒充人, 去诱人买东西或者影响投票, 事先不清楚说明, 就违法。2024年的欧盟《人工智能法》第五十条第一款写, 直接和人打交道的 AI 系统, 要让人「被告知他们正在与一个人工智能系统互动」, 除非这对一个正常, 谨慎的人来说一看就明白; 第二款要生成文字, 图片, 声音, 视频的系统给产出打上机器能读的标记, 「在技术上可行的范围内」。这一条2026年八月起适用。
中国这一路的规矩来得早。2023年一月施行的深度合成规定, 要可能让公众混淆, 误认的生成内容做显著标识; 2023年八月十五日, 《生成式人工智能服务管理暂行办法》施行; 2025年九月一日施行的标识办法, 把标识分成看得见的, 和藏在文件数据里的两种。2026年四月, 国家网信办公布《人工智能拟人化互动服务管理暂行办法》, 管的是模拟自然人的人格特征, 思维方式和沟通风格, 提供「持续性的情感互动服务」的产品; 普通的客服, 问答, 工作助手, 不算在内。这份办法从七月十五日起施行。
2025年十月, 加州签了一条管陪伴聊天机器人的法: 一个正常的人可能以为自己在和人说话的时候, 它要说明自己是 AI; 对未成年人, 还要定时提醒。在这之前, 2024年十月, 佛罗里达一位少年的母亲在孩子去世后起诉 Character.AI, 指控它的陪伴聊天程序的设计把孩子推向了危险; 2025年八月, 另一家人起诉 OpenAI。佛州一案, 双方在2026年一月通知法院达成原则性和解; 签署协议并获所需批准后, 原告在十月十五日正式提交撤诉通知。后一案后来被纳入加州的协调审理程序。
三、写了又改
欧盟的那部法, 2021年四月提出, 2023年十二月达成政治协议, 2024年八月一日生效, 条款分批适用: 禁止的那几类2025年二月起, 告知身份的那一条2026年八月起; 2025年十一月, 欧盟委员会又提出修订; 2026年七月修订成规, 一部分高风险系统的义务推到了2027年十二月和2028年八月。禁止的里面, 有用潜意识的或者操纵性的手段扭曲人的决定, 有社会评分, 有从网上和监控录像里无差别地抓人脸建库, 有在工作场所和学校里识别人的情绪。
美国, 2023年十月三十日, 拜登签了一份关于安全, 可靠, 可信地开发和使用人工智能的行政令, 里面写, AI 不应以破坏权利, 恶化工作质量的方式部署。2025年一月二十日, 新政府撤销了它; 一月二十三日, 又签了一份行政令, 题目是: 清除美国在人工智能上领先的障碍。七月的 AI 行动计划分三根柱子: 加速创新, 建设基础设施, 国际外交与安全。加州, 2024年九月二十九日, 州长纽森否决了一部管大模型的法案, 理由里说, 它「没有考虑一个 AI 系统是否部署在高风险的环境里」; 一年后的同一天, 他签了另一部, 要大的前沿模型开发者公布自己的安全框架, 上报重大安全事件, 保护吹哨人。
国际上, 2023年十一月一日, 二十多个国家在布莱奇利园签了宣言; 2024年五月, 欧洲委员会通过一部关于人工智能与人权, 民主, 法治的框架公约; 2025年二月, 巴黎的 AI 行动峰会上, 美国和英国没有在共同声明上签字, 美国副总统万斯在会上说, 过度的监管可能「扼杀一个正在变革的产业」。
四、芯片
2022年十月七日, 美国商务部发布规则, 限制先进计算芯片和芯片制造设备卖给中国。英伟达给中国市场做了降速的 A800 和 H800; 2023年十月, 规则改了, 这两款也进了限制。2024年十二月, 又加上了高带宽内存。2025年一月十三日的一份规则, 叫人工智能扩散框架, 把达到门槛的闭源模型权重也放进了出口管制; 五月十三日, 商务部宣布撤回。四月, 英伟达披露, H20 卖到中国以后要许可证, 为此计提了几十亿美元; 七月, 公司说政府会发许可证; 八月, 报道说英伟达和 AMD 要把这类芯片在华销售收入的百分之十五交给美国政府。
2026年六月九日, Anthropic 发布了 Claude Fable 5 和 Claude Mythos 5。Fable 向一般用户开放, Mythos 只向选定机构开放。六月十二日, 美国商务部的命令限制向美国境内外的外国国民提供这两款模型; 公司说当时没办法马上按国籍区分, 所以两款都停了。六月三十日, 商务部解除了这项限制; 七月一日, Fable 恢复一般访问, Mythos 当时只恢复给部分美国机构。
五、书
第二十一篇里, 2023年写书的人一批一批去了法院。2025年, 判决陆续下来。
二月十一日, 特拉华的联邦法院在汤森路透诉 Ross 一案里判, Ross 拿汤森路透的法律检索摘要, 去做一个和它竞争的法律检索工具, 不算合理使用。六月二十三日, 旧金山的威廉·阿尔苏普法官在作家诉 Anthropic 一案里, 认定用书训练 Claude「极具转换性」, 属于合理使用; 公司从盗版网站下载书, 建一个中央书库, 另当别论。两天后, 同一法院的文斯·查布里亚法官在作家诉 Meta 一案里判 Meta 胜, 判决里写: 「本裁决并不代表这样一个命题」, 即 Meta 用受版权保护的材料训练语言模型是合法的; 它只说明这几位原告论点提错了, 也没有为对的论点备好证据。九月, Anthropic 和作家们的和解方案公布: 约十五亿美元, 约五十万部作品, 每部约三千美元。
《纽约时报》诉 OpenAI 和微软一案, 到2026年九月还没有判。2025年十一月, 慕尼黑的法院判 OpenAI 的模型记住并输出歌词, 侵犯了德国音乐版权协会代表的权利。2023年, 北京互联网法院判, 一个人用生成工具做的一张图, 因为他在提示词, 参数, 挑选和修改上的投入, 可以算他的作品; 2025年一月, 美国版权局的一份研究文件说, 光靠提示词, 通常不够。三月, 美国的一家上诉法院维持原判: 版权法要求作者是人。
六、干活的人
2016年, 辛顿在多伦多的一次会上说: 「我们现在就应该停止培养放射科医生。」他接着说, 五年之内, 深度学习会做得比放射科医生好。
2023年三月, 高盛的经济学家估算, 生成式 AI 可能让相当于三亿份全职工作暴露在自动化之下。2024年一月, 国际货币基金组织总裁格奥尔基耶娃写, 全世界将近四成的就业暴露于 AI, 发达经济体约六成; 暴露, 有的会受益, 有的会受损。2025年五月, 阿莫迪在一次采访里说, 一到五年里, AI 可能抹掉一半入门级的白领工作, 美国的失业率可能升到百分之十到二十。
量出来的, 方向不一。一项研究看一家软件公司五千多名客服用上 AI 助手以后的数据: 每小时解决的问题平均多了约百分之十四, 多出来的主要在新手身上。一项写作实验里, 用 ChatGPT 的一组用时少了约四成, 质量评分高了约百分之十八。七百五十八名咨询顾问参加的实验里, 在 AI 擅长的任务上, 用它的人又快又好; 在一道落在它能力之外的题上, 用它的人反倒更容易答错。丹麦的研究把调查和政府的工资, 工时记录连起来看, 到观察期末, 没看出明显的变化。2025年八月, 斯坦福用工资单数据的研究说, 在最受 AI 影响的职业里, 二十二到二十五岁的年轻人就业相对下降了。同年七月, 一家叫 METR 的机构让有经验的开源程序员在自己熟悉的代码库上做随机实验: 用 AI 的时候, 实际慢了约百分之十九; 做完以后, 他们仍觉得自己快了。
有的人把界写进了合同。2023年九月, 美国编剧工会和制片方的协议写: AI 不是编剧; AI 生成的东西不能拿来压编剧的署名和报酬; 公司不能逼编剧用 AI。演员工会的协议给数字替身定了知情同意和报酬的规矩。2024年七月起, 给游戏配音和做动作捕捉的演员为这件事罢工将近一年。
七、六百万
2024年十二月, 杭州的 DeepSeek 发布 V3 的技术文件, 按假定的显卡租价换算, 正式训练的算力成本是五百五十七万六千美元, 不包括此前的研究和消融实验。2025年一月二十日, 它发布 R1。一月二十七日, 美国科技股大跌, 英伟达一天少了约五千八百九十亿美元的市值。后来流传的是: 一家中国公司, 花六百万美元, 训出了 R1。
八、七成
1950年, 第五篇里的图灵猜, 大约五十年后, 一个一般的提问者问上五分钟, 能认对的机会不会超过七成。2014年六月, 雷丁大学宣布, 一个扮成十三岁乌克兰男孩的程序, 尤金·古斯特曼, 让约三成三的评委相信它是人, 通过了图灵测试。2025年, 加州大学圣迭戈分校的卡梅伦·琼斯和本杰明·伯根照图灵原来的三方设计做实验: 提问者同时和一个真人, 一个程序聊五分钟左右, 再说哪个是人。给了一个人设的 GPT-4.5, 约百分之七十三的时候被选成了人, 同场的真人, 只在不到三成的时候被认作人。第九篇里的 ELIZA 也在场, 当对照。论文的题目是《大语言模型通过了图灵测试》。
1843年, 洛夫莱斯在注释里写, 分析机「丝毫没有自命要创始任何东西」, 它「能做我们知道怎样命令它去执行的任何事」。第一篇写过, 后来流传的版本里多了一个只字。图灵1950年把这句列成洛夫莱斯夫人的反驳。2001年, 三位研究者提出了一个以她命名的测试, 其中一位戴维·费鲁奇, 后来带着 IBM 的沃森, 2011年在电视问答节目上赢了人类冠军。
图灵问的是, 对面的人能不能认出机器。七十多年后, 一个程序在七成的时候没被认出来。同一段时间里, 欧盟, 加州, 中国写下的规矩, 管的对象并不相同, 却都在一些场合要求说清一件事: 对面是机器。线那头坐着的是人, 他得知道对面是谁, 才好决定把什么交出去: 时间, 心事, 一个决定。这个系列管这种怎么像也替不了, 只能由人自己拿着的一份叫余项。
机器还在造, 而界在哪里, 每一代人重说一遍。