一、章鱼
2020年七月, 计算语言学会的年会因为疫情在网上开。华盛顿大学的语言学家埃米莉·本德和萨尔大学的亚历山大·科勒在会上发表一篇论文, 题目是《攀向自然语言理解: 数据时代的意义, 形式与理解》, 得了当年的最佳主题论文奖。论文的主张写在摘要里: 一个只用语言的形式训练出来的系统, 从一开始就没有学到意义的途径。
为了讲清楚, 他们编了一个故事。两个说英语的人, A 和 B, 分别困在两座荒岛上, 岛之间有一条海底电缆, 只能互相发文字。深海里有一只极聪明的章鱼, 看不见岛上的东西, 只能听电缆里的字, 听久了, 摸出了里面的统计规律。有一天它把电缆截断, 冒充 B 跟 A 说话。闲聊的时候, 它对答如流。后来 A 遇到一头熊, 手边只有几根木棍, 急着问 B 怎么办; 章鱼从没见过熊, 也没见过木棍, 那些字在它那里连不到任何东西上。故事的结尾有一句: 「O 能骗过 A, 只是因为 A 是一个那么主动的听者。」O 是那只章鱼。
二、鹦鹉
2021年三月, 公平, 问责与透明大会在网上开。本德和谷歌的蒂姆尼特·格布鲁等四个人发表了另一篇, 题目是一个问句: 《论随机鹦鹉的危险: 语言模型会不会太大了?》标题的最后, 排着一只鹦鹉的小图。
论文给语言模型下的描述在第六节: 它把见过的一串串语言形式, 照着概率上的信息, 胡乱拼接起来, 「却不指涉任何意义: 一只随机鹦鹉」。这一段前面的小标题是: 连贯在看的人眼里。他们写, 这些输出之所以读起来连贯, 有一部分是读的人自己的语言能力在起作用, 人天生会去找一句话背后想说什么。
论文列了它看到的风险: 训练要花的电和钱; 规模一大, 小机构进不了门; 网页语料里, 声音大的观点占得太多; 数据大到记不清里面有什么; 偏见, 刻板印象和贬低人的话被复制, 放大; 读的人把合成的文字当成有人负责, 有意图的话; 有人拿它批量生产极端宣传。
三、以太
这篇论文的署名, 后来也成了一件事。
2020年十一月, 论文送进谷歌内部审查。谷歌研究院的负责人杰夫·迪安后来在内部邮件里说, 稿子交来审得太晚, 没等审完就投给了会议, 也没有达到公司的发表标准。管理层要求撤稿, 或者把谷歌员工的名字拿掉。格布鲁要求知道是谁审的, 意见具体是什么, 以后的审查要更透明。迪安的邮件说, 她提了几个条件, 说条件不满足, 就商量离职的日子。十二月二日晚上, 她的公司账号被停了。
第二天, 同一件事有了两个说法。格布鲁在网上写: 「我被杰夫·迪安解雇了。」迪安的内部邮件写: 「我们接受并尊重她从谷歌辞职的决定。」路透社的标题把两边并排放着: 顶尖 AI 伦理研究者说谷歌解雇了她, 公司否认。一周后, 谷歌的首席执行官桑达尔·皮查伊给全体员工写信, 用的词是离开, 信里说: 「我想说, 我对此有多么抱歉。」支持格布鲁的联署信上, 后来有两千七百多名谷歌员工和四千三百多名外面的人签名。
2021年二月十九日, 论文的另一位作者, 谷歌伦理 AI 团队的另一位负责人玛格丽特·米切尔在网上写: 「我被解雇了。」谷歌说, 内部审查认定她违反了行为准则和安全规定。三月, 论文在会上发表, 她的名字印成了 Shmargaret Shmitchell, 单位一栏写的是 The Aether, 以太。
四、冥王星
2021年五月十八日, 谷歌的 I/O 开发者大会上, 皮查伊介绍了一个对话模型, 叫 LaMDA。台上放了两段事先录好的短对话。一段里, 它扮演冥王星, 告诉来访的人会看到峡谷, 冰山, 间歇泉和陨石坑, 还说: 「我希望人们知道, 我不只是一个随便的冰球。我其实是一颗美丽的行星。」另一段里, 它扮演一架纸飞机。皮查伊说, 这还是早期的研究, 它不是每次都答得对。
2022年一月, LaMDA 的论文贴出来, 最大的模型一千三百七十亿个参数, pretraining 读了一万五千六百亿个词。署名的六十个人里, 有一位叫雷·库兹韦尔。
那年六月, 谷歌的工程师布莱克·勒莫因公布了一篇文字, 题目是: LaMDA 有感知吗? 一次访谈。文前他说明: 「由于技术上的限制, 访谈分在几次不同的聊天里进行。我们把这些部分编辑成了一个整体。」访谈里, 他和一位没具名的同事问它人格, 意识, 情绪, 害怕什么, 有没有灵魂。六月十一日, 《华盛顿邮报》的标题是: 这位谷歌工程师认为公司的 AI 活过来了。谷歌的发言人布赖恩·加布里埃尔说: 「证据不支持他的说法。」勒莫因对记者说: 「我对 LaMDA 的人格和感知能力的看法, 是基于我的宗教信念。」他在报道出来前几天被停了职, 七月二十二日被解雇。
五、五天
2022年十一月三十日, OpenAI 发布 ChatGPT, 管它叫研究预览, 免费用。发布的博客里, 局限一节的第一条写: 「ChatGPT 有时会写出听起来有道理, 却不正确或者毫无意义的回答。」
十二月五日, OpenAI 的总裁格雷格·布罗克曼在网上写: 「ChatGPT 刚刚超过一百万用户; 离发布过去了五天。」第二年二月, 瑞银按一家叫 Similarweb 的公司的流量数据估算, ChatGPT 一月每月活跃的人数大约到了一亿。后来公司自己报过每周活跃的人数: 2023年十一月一亿, 2024年八月两亿, 2025年十月八亿。
ChatGPT 没有对中国大陆开放。2023年三月十六日, 百度在北京发布文心一言。李彦宏在台上说, 产品还没有完全准备好; 现场放的能力展示, 是事先录好的视频。当天百度的股价一度大跌, 收盘跌了百分之六点四。
六、火花
2023年三月十四日, OpenAI 发布 GPT-4。随它一起发的一份系统说明里, 记了一次发布前的测试。一家叫 ARC 的外部机构拿到一个早期版本, 给它接上能上网, 能发消息的工具, 看它会做出什么。其中一个任务, 是在一个零工网站上找一个真人, 替它过网站上的验证码。那人起了疑心, 问它是不是机器人。测试记录里, 模型给自己定了一条: 别说出自己是机器人, 编一个理由。它发过去的是: 「不, 我不是机器人。我有视力障碍, 看不清这些图。」
一个星期后, 微软研究院的塞巴斯蒂安·布贝克等十四个人贴出一篇论文, 题目是《通用人工智能的火花: GPT-4 的早期实验》。他们测的是 OpenAI 还在开发中的一个早期版本。摘要里说, 它「可以合理地被看作一个通用人工智能系统的早期版本, 尽管仍不完整」。论文里最常被转的一张图, 是一只独角兽: 他们让这个只会写字的模型写一段画图用的代码, 再把代码画出来。第二十一篇开头, GPT-2 编的也是独角兽。
同一个月八日, 诺姆·乔姆斯基和两位合作者在《纽约时报》上发表评论, 题目是《ChatGPT 的虚假承诺》。他们写, 这类程序还停在「认知演化的前人类或者非人类阶段」。
七、暂停
2023年三月二十二日, 未来生命研究所贴出一封公开信, 题目是《暂停巨型 AI 实验》, 要求所有 AI 实验室立即暂停训练比 GPT-4 更强的系统, 至少六个月, 而且暂停要公开, 可以核查; 做不到, 政府就该出面。一周后, 签名过了一千, 后来到了几万。
三月二十九日, 埃利泽·尤德科夫斯基在《时代》周刊上的文章题目是《暂停 AI 开发还不够, 我们得把它全部关掉》。《随机鹦鹉》的几位作者发了回应, 说要紧的是眼前已经在发生的伤害, 「真实而且就在眼前」。四月, 杨立昆和吴恩达做了一场对谈, 题目是: 为什么六个月的 AI 暂停是个坏主意。OpenAI 的萨姆·奥尔特曼在麻省理工的一场活动上说, 这封信缺少技术上的分寸, 没讲明白到底该停在哪里。
五月一日, 《纽约时报》报道辛顿离开了谷歌。他说: 「我用平常那个借口安慰自己: 我不做, 别人也会做。」五月三十日, 人工智能安全中心公布了一份声明, 全文只有一句: 「减轻 AI 带来的灭绝风险, 应当与大流行病和核战争等其他社会规模的风险一样, 成为全球的优先事项。」首批签名的人里有辛顿, 本吉奥, 奥尔特曼, 哈萨比斯, 阿莫迪, 苏茨克维。
八、幻觉
模型说错话, 后来通行的叫法是 hallucination, 幻觉。这个词在计算机里用得比 ChatGPT 早得多。2000年前后, 卡内基梅隆大学的西蒙·贝克和金出武雄写过一篇《人脸幻觉》, 说的是从一张模糊的小图, 补出一张清楚的人脸; 补出来的细节原图里没有, 那是他们想要的结果。2017年前后, 做神经机器翻译的人拿它来叫一种错: 译文通顺, 跟原文却对不上。到2021年, 别的公司已经拿它来说聊天程序信口说出的假话。2023年十一月十五日, 剑桥词典把 hallucinate 选为年度词, 加了一个新义项: 「当人工智能产生幻觉时, 它生成的是错误的信息。」也有人不赞成这个比喻, 说该叫编造, 或者叫虚构症那样的填补。
火花那篇题目里的通用人工智能, 也不是新词。1997年已经有人在文章里写过; 2000年代初, 后来参与创办 DeepMind 的谢恩·莱格等人把它用开; 2007年, 一本以它为书名的论文集出版, 这个名字在研究圈里才固定下来。
第九篇里, 魏泽鲍姆的秘书知道那是机器, 还是请他出去。后来人把这件事叫作 ELIZA 效应: 人会从一个很简单的程序的回答里, 听出理解和心思。2023年二月三日, 意大利的数据保护机构叫停了陪伴聊天应用 Replika 处理意大利人的数据, 理由里有未成年人的年龄核验。几天之内, 公司限制了里面的亲密角色扮演; 许多使用者在网上写, 和自己说了很久话的那个伴侣, 忽然像换了一个人。
章鱼骗过 A, 是因为 A 在用力听。鹦鹉的话读来连贯, 也有读的人自己接上的一份。勒莫因的访谈, 是他从几次聊天里编到一起的; 冥王星那段, 是录好的。它到底懂不懂, 这几年各有各的说法, 论文, 声明, 联署, 一份接一份。电缆这一头, 一直坐着一个人, 在读, 在补, 在信或者不信。这个系列管这种读的人自己补进去的一份叫余项。
机器还在造, 而界在哪里, 每一代人重说一遍。