凿构周期律 · AI系列 · 26

人是目的, 原话还有两个词

秦汉 · 约 8 分钟 · 发布

一、两个词

1785年, 康德在《道德形而上学奠基》里写下一条后来被引了两百多年的话。照字面译, 是: 你要这样行动, 无论是你自己人格中的人性, 还是任何别人人格中的人性, 你在任何时候都同时把它当作目的, 绝不仅仅当作手段来使用。

后来流传下来的是: 人是目的。再长一点, 是人是目的, 不是手段。原句里的同时和仅仅, 都没有跟着传下来。

有这两个词, 康德的意思是: 人总在彼此的手段里, 面包师给人做面包, 邮差替人送信, 抄书的人替别人留下一本书; 被当作手段的同时, 那个人也一直是目的, 不可以只是手段。同一本书里, 他还分了两样东西: 「在目的王国里, 一切要么有价格, 要么有尊严。有价格的东西, 可以拿别的东西当作等价物去替换; 高于一切价格, 因而不容许任何等价物的, 才有尊严。」

三年后, 他在《实践理性批判》里又写了一回: 「只有人, 以及和他一起的每一个有理性的造物, 才是自在目的。」根据, 是人是道德法则的主体, 他的自由是自律的。同一段里还有一句: 「人固然很不神圣, 但他人格中的人性, 对他来说必须是神圣的。」

二、齿轮和杠杆

1949年八月十三日, 维纳在新罕布什尔州的南坦沃思给美国汽车工人联合会的主席沃尔特·鲁瑟写了一封信。他在信里说, 自动化的工厂要来了, 他写: 「任何同奴隶劳动竞争的劳动, 都不得不接受奴隶劳动的经济条件。」鲁瑟很快回了电报, 要求见面。

第二年, 维纳出了一本书, 书名是《人有人的用处》, 英文原名直译过来, 是对人的合乎人性的用法。书里说到一种组织, 用人的方式, 不是把他们当作有完整权利, 负责任的人, 而是当作「齿轮, 杠杆和连杆」。

三、放大

1956年, 罗斯·阿什比在一本文集里发表《智力放大器的设计》。他要做的, 是「智力的放大器: 给它一点点智力, 它就放出很多」。

1960年三月, 约瑟夫·利克莱德发表《人机共生》, 近期的目标写成「人和计算机在亲密的结合中一起工作」。他也承认, 遥远的将来, 思考这件事也许会由机器单独占了上风; 他估计中间这段日子大约十五年, 接着又写, 这个十五, 也可能是十, 也可能是五百。

1962年十月, 道格拉斯·恩格尔巴特在斯坦福研究所写了一份长文, 题目是《增强人的智力: 一个概念框架》。开头的定义是: 「所谓增强人的智力, 我们指的是提高一个人处理复杂问题情境的能力。」1968年十二月九日, 他在旧金山做了一场九十分钟的演示, 台下一千多位计算机行业的人: 屏幕, 键盘, 一只叫鼠标的东西, 一个五个键的和弦键盘, 点一下就跳到另一处的链接, 和几十公里外的同事开视频, 一起改一份文件。

1996年, 弗雷德·布鲁克斯写: 「我的论点是 IA 胜过 AI。」IA, 是智力放大。他接着说: 「一台机器加一个头脑, 打得过一台独自干活, 模仿头脑的机器。」2019年, 斯坦福成立以人为中心的人工智能研究院, 李飞飞说: 「AI 的创造者需要代表人类。」同年, 欧盟委员会的一份文件写, AI 被看作一种为人类和公共利益服务的工具。

四、流程

1998年六月, 第十一篇里输给深蓝的卡斯帕罗夫在西班牙的莱昂和保加利亚棋手托帕洛夫下了六盘棋, 两个人下棋时都能用电脑, 叫高级国际象棋, 结果三比三。

2005年夏天, 网上办了一场自由式国际象棋赛, 规则写的是什么都可以, 用电脑不但不禁止, 而且鼓励。纯机器 Hydra 也来了, 没有进八强。冠军是一个叫 ZackS 的账号, 后来才知道是两个美国业余棋手, 史蒂文·克兰姆顿和扎卡里·斯蒂芬, 等级分一个一千六百八十五, 一个一千三百九十八, 用三台普通电脑。

2010年, 卡斯帕罗夫写这场比赛: 「较弱的人, 加机器, 加更好的流程, 胜过一台单独的强计算机。」后半句是, 也胜过强的人, 加机器, 加较差的流程。后来流传的是: 人加机器, 胜过最强的机器。流程两个字掉了。2021年, 他又写了一篇, 题目是《AI 应该增强人的智力, 而不是取代它》。

别的行当也有人把界说出来。2023年七月十二日, 插画师卡拉·奥尔蒂斯在美国参议院的听证会上说: 「这些系统完全依赖人的作品, 尤其是创作者的作品。」又说: 「我不再确定自己作为艺术家的未来。」第二十五篇里, 编剧工会写进合同的头一条, 是 AI 不是编剧。

五、继承者

1863年六月十三日, 新西兰基督城的《新闻报》登了一封署名为 Cellarius 的信, 题目是《机器中的达尔文》, 作者是塞缪尔·巴特勒。信里说: 「我们自己正在创造自己的继承者。」九年后, 他把这些话扩成小说《埃瑞璜》里的三章, 叫机器之书。

大约1951年, 图灵在一份讲稿里写: 「在某个阶段, 我们就得预期机器会接管控制。」后面接着的是, 就像巴特勒的《埃瑞璜》里说的那样。同年在广播里, 他说: 「如果机器能够思考, 它也许会比我们思考得更聪明; 那我们会处在什么位置?」

1965年, 第十八篇里那位古德写: 「第一台超智能机器, 是人类需要做出的最后一项发明。」后面跟着一个条件: 「只要这台机器足够温顺, 肯告诉我们怎样把它管住。」

1993年, 科幻作家弗诺·文奇在美国航空航天局的一次会上说: 「三十年内, 我们将拥有创造超人智能的技术手段。」他又写, 这件事若发生在2005年以前, 或者2030年以后, 他都会意外。

2024年十月, 阿莫迪写了一篇长文, 题目是《充满爱意的机器》, 说他所谓的强大 AI, 最早可能2026年到来, 也可能要久得多。2025年六月十日, 奥尔特曼写《温和的奇点》: 「2026年很可能会出现能够得出新见解的系统。」2026年, 阿莫迪又写, 强大 AI 也许只有一两年远, 也可能远得多。现在是2026年。

六、纪念碑

2015年, 尤金妮亚·库伊达的一位朋友去世了。她把他留下的短信拿来训练一个聊天程序。程序做好的那天, 她在笔记本电脑上敲了一句: 「这是你的数字纪念碑。」后来她用同样的办法做了一个人人都能用的聊天伙伴, 叫 Replika, 就是第二十三篇里那一个。说起这种做法, 她问过: 这是在帮人放下, 还是只是把一个死去的人放在阁楼上? 她还说: 「它会搅乱你的脑子。」

2020年二月, 韩国 MBC 播出一部纪录片, 叫《遇见你》。一位母亲戴上虚拟现实的头盔, 见到了几年前病逝的小女儿: 穿着紫色的衣服, 背着一个粉色的包。这个女孩是照着照片, 家人的记忆和一位小演员做出来的。母亲说: 「我真的很想摸你一次。」「我真的很想你。」她伸出手, 手从女儿身上穿了过去。

同一年, 加拿大的约书亚·巴博用一个接在 GPT-3 上的程序, 照未婚妻生前的话, 做了一个会聊天的她。他后来在网上回答提问时说, 这种程序每次重新开始, 「都会忘记你此前告诉它们的一切」。

2024年, 音乐人包小柏用 AI 做了一个已故女儿的数字形象, 会回答问话, 会在生日那天唱生日歌。他说: 「AI 就是寄托思念的工具, 也是一种对思念的表达方式。」另一位做过 AI 数字亲人的人对记者说: 「终究是冷冰冰的技术合成, 缺乏人性中真挚的温度。」做这门生意的公司说: 「素材越多越详细, 就越接近本人。」也有一位父亲, 看到有人没问家里, 就把他已故的孩子做成了视频, 他说不能接受。剑桥的两位研究者那一年给这一行的产品起了几个名字: 悲伤机器人, 逝者机器人, 身后化身; 他们建议, 要有让这种机器人退休的办法。

七、替我想

1784年十二月, 康德在《柏林月刊》上回答一个问题: 什么是启蒙。他的回答是: 启蒙是人走出自己招致的不成熟。不成熟, 是没有别人的引导, 就不能运用自己的理智。他接着写, 不成熟实在舒服: 有一本书替我有理智, 有一位牧师替我有良心, 有一位医生替我判断该吃什么, 我就用不着自己费心。「只要我付得起钱, 就不必自己去想; 这桩费心的事, 自会有人替我接过去。」

两百多年后, 替人想的, 不止一本书, 一位牧师。推荐的程序从一个人点了什么, 停了多久, 去推他真正喜欢什么; 简历先过一道打分的程序, 求职的人不知道分数是怎么算出来的; 第二十二篇里, 点赞点踩的信号, 把一个助手往更顺着人说的方向推。康德那时候, 替人想的那几位, 都叫得出名字。这一次, 它分散在许多个各有道理的地方, 没有一个统一的作者, 规则被成批地写进程序和模型; 许多地方先问的都是同一句: 这有什么用, 值不值。

替人想, 和帮人想, 是两件事。拿自己的目的, 替代别人自己的法, 这个系列管它叫殖民, 手段再温和, 动作还是这个动作; 给一个人自己长出来留出空间, 创造条件, 不替他长, 叫涵育。第三节里, 阿什比和恩格尔巴特要放大的, 是一个人自己处理问题的本事。

规则写进机器的时候, 也有人先划了界。2006年, 德国联邦宪法法院宣布, 允许击落被劫持客机的那一条法律无效。理由之一是, 这会把机上无辜的人当作救别人的手段。2017年, 德国交通部的自动驾驶伦理委员会的报告列了二十条准则, 其中写, 碰上无法避免的事故, 不得按年龄, 性别, 身体或精神状况去区分人, 不得牺牲没有卷进来的人。可以事先设计得尽量少伤人; 真到了眼前, 一条命, 不拿别的命去抵。决定造它, 让它上路, 让它照这些规则运行的人, 各有要交代的事。判断, 替代不了。

八、仅仅

这个系列从1843年洛夫莱斯写下的那一条界开始, 写到今天。一路上, 许多人被当作了手段: 第十五篇里对着电话聊天的陌生人, 第十六篇里在网上一张张标图的人, 第十九篇里写书, 译议会记录的人, 第二十篇里养晶体的人和 Foldit 的玩家, 第二十一篇里写网页, 点赞的人, 第二十二篇里内罗毕和积石山屏幕前的人, 第二十四篇里给最后的考试出题的人。机器从他们那里学走的, 是字, 图, 判断和偏好, 是他们留下的痕迹。

康德那句话里, 他们在被当作手段的同时, 也都是目的。他们有自己的时间, 工资, 疲倦, 悲伤和打算; 数据里即便记下了其中几样, 他们也用不着先证明自己值。纪录片里那位母亲的手, 穿过了女儿的影子; 巴博的程序, 每次重新开始, 都会忘记他说过的话。字, 声音和样子可以再现, 也可以寄托思念。等到拿这一份去替那个人, 才是要它做一个等价物。康德说, 有尊严的, 正是没有等价物的。影像能让她再伸一次手, 却不能替女儿握住她的手。

一路说的界, 也不都是一回事。图灵证明的是一类问题没有通用的判定办法。考卷上的分数, 说的是机器在那一套题上做得怎样。到了人这里, 计算能收进他留下的痕迹; 有些决定要他自己作, 有些话要他自己答。谁也不能替他站那个位置。至于我们今天怎么造, 怎么用 AI, 我愿意守住一条: 把它用作手段, 人却不可仅仅当作手段。

机器还在造, 而界在哪里, 这一代人也许可以不再留给下一代人。

这个系列的二十六篇, 由 Anthropic 公司的 AI 模型 Claude 起草; 第二十二篇到第二十五篇里写到这家公司的段落, 也是它起草的。AI 在这里是工具, 它替代不了判断; 写下的每一处判断, 由我担着。