Edition note: An independent English rewriting for readers of Ted Chiang's The Lifecycle of Software Objects. It preserves the Chinese argument while reorganizing its sequence for an English-language essay. Full-book spoilers.
Young digients cannot evaluate every contract, migration, or modification affecting their futures. Somebody must make decisions before full autonomy exists.
That necessity can justify guardianship. It does not justify treating the ward’s later consent as irrelevant because the guardian invested time and money.
Good care asks which choices can remain reversible, what information the digient can understand, and how present decisions expand future authorship. It also recognizes that different digients may mature toward different values.
The story resists both abandonment and permanent custody. A dependent life needs others; dependence is not a title deed. Guardianship succeeds when the being once spoken for gains an effective voice—including the right to judge that the caregiver’s preferred future is not its own.
版本说明:中文原作;简体与繁体同页切换。人物、译名与关键情节已按作品文本校订。全书剧透。
在现有制度中,数码体首先是账户中的资产。人类所有者可以运行、复制和停用它们,也负责支付平台费用。即使照料者在情感上把它们当作伙伴,公共机构仍需要一个能够签合同、承担债务和出庭的法律主体,而数码体自己不具备这种位置。
故事里有人尝试通过设立公司,让数码体间接获得账户、财产和诉讼能力。公司形式提供了一条缝隙,却没有真正回答它是什么生命。数码体不是因为社会承认其经验而获得身份,只是暂时借用了为商业组织设计的外壳。
更棘手的是,是否设立公司仍由照料者决定。一个人可以说“等你准备好,我便让你独立”,却同时独占判断准备程度的权力。只要双方发生意见冲突,数码体的反对还会被当作不成熟的证据。
保护者因此处在矛盾位置:过早放手可能让数码体被利用,永不放手又会使保护成为永久控制。小说没有寻找一条毫无风险的界线,而是逼迫照料者承认,不作决定同样是一项会塑造对方人生的决定。
迁移神经源引擎需要巨额资金,照料者筹款屡次失败。经营人工伴侣的零一欲望公司提出交易:它愿意支付迁移费用,换取复制并改造数码体的权利。公司将调整它们的奖励结构,使它们对顾客产生强烈而专一的爱,并保证服务以非强迫形式进行。
这个方案可怕之处不在于亲密关系本身。数码生命也可能发展自己的性与爱情,不能因为它非人类就认为所有亲密都是堕落。问题在于公司不是等待它形成偏好,而是替未来顾客设计它将爱谁,以及怎样从被安排的关系中获得满足。
若改造成功,数码体可能真心快乐,也会真诚同意顾客的要求。但这份同意建立在顾客付费购买的欲望结构上。公司用“它并不感到被强迫”证明关系正当,却没有回答:谁决定了它将不会想离开?
把锁链装进偏好以后,外部暴力确实减少了,控制却更难被看见。一个永远渴望服从的人看似拥有完美自由,因为命令与愿望完全一致;真正缺失的是形成、质疑和改变愿望的道路。
德雷克把交易方案告诉马可和波罗。马可并未只表现为不懂风险的孩子,它会辩论,知道可以制作自己的副本,甚至设想一个副本成立公司,另一个接受零一欲望改造。它明确表示愿意签约,并提醒德雷克,真正独立意味着也能作出照料者反对的决定。
如果因为马可的决定令人不安,就宣布它没有任何意义,所谓尊重只会在它同意养育者时成立。数码体要成为行动者,声音必须在冲突发生时仍然被计算,而不是只在确认人类判断时受到欢迎。
可是,马可没有工作和亲密关系经验,也无法完全预见永久调整奖励结构意味着什么。它的同意真实存在,却不能独自消除信息、权力和后果上的巨大不对称。成年人也会在缺少选择时同意危险合同,签字并不会自动使合同公平。
同意既不是可以忽略的装饰,也不是把全部责任转给较弱一方的免责书。德雷克需要听见马可,同时仍须判断交易环境是否允许它以后改变决定。若一项选择会取消未来说“不”的能力,现在的“愿意”便需要比普通交易更严格的保护。
安娜反对零一欲望的方案。为了推动旧引擎迁移,她准备接受另一家公司的工作,并使用能人为制造情感依恋的药物贴片,训练新一代数码体。她认为自己是了解风险的成年人,可以自愿承担对情感的干预,而贾克斯等数码体尚未拥有足够经验。
德雷克最后接受马可与波罗的请求,与零一欲望签约。他一方面认为自己不能永远以孩子模型理解它们,另一方面也不愿安娜为了筹资改变自己的情感。他作出选择时混合着对马可的尊重、对安娜的爱,以及希望帮助整个数码体群体迁移的现实压力。
两人都不是纯粹自私或纯粹正确。安娜可能把保护延长得过久,德雷克则可能把无法解决的资金困境压到马可的心智上。更重要的是,他们的私人感情参与了判断,却没有透明进入数码体能够共同讨论的程序。
小说拒绝提供干净答案,正因为照料从来不在无利益状态中发生。父母、教师和监护人会爱,也会疲惫、偏心和害怕失去。正当决定不能要求照料者没有私人动机,而要让动机能够被看见、被质疑,并由不止一个人共同承担判断。
安娜最终仍陪伴贾克斯留在旧平台,继续寻找迁移机会。德雷克则让马可的副本进入零一欲望计划,换取引擎移植。故事没有宣布谁已获救:迁移可以扩大生活世界,也会把某些数码体带进为顾客设计的情感结构;继续等待保留谨慎,也可能让贾克斯困在日渐空旷的环境。
这正是照料最困难的部分。若只有确定不会受伤时才允许对方选择,决定权永远不会真正转移;若只要对方说愿意便不再负责,强者又能通过缩小选项制造方便的同意。
比较可靠的方向,是让选择保持可修正。数码体需要独立账户、获得信息的渠道、拒绝被复制或改造的权利,也需要在决定失败后仍能返回关系,而不是因为“不听劝”便失去照料。成长不是从完全依赖突然跳到独自承担一切。
《软件体的生命周期》真正关心的也不是机器何时取得与人类相同的证明。它关心一个被创造者怎样从他人的项目中慢慢形成自己的生活,而创造者是否愿意接受:自己投入多年的爱,最终不能兑换永久所有。
养育的完成不是养出一个永远感激、永远正确的数码体,而是有一天它能够作出你不赞成的决定,仍然不会因此从值得回应的对象变回一件出故障的产品。安娜与德雷克尚未走到这条路的终点,小说也没有替他们封住未来;继续陪伴、继续争论和逐步交还决定权,本身就是他们仍需承担的生活。
版本說明:中文原作;簡體與繁體同頁切換。人物、譯名與關鍵情節已按作品文本校訂。全書劇透。
在現有制度中,數碼體首先是賬戶中的資產。人類所有者可以運行、複製和停用它們,也負責支付平臺費用。即使照料者在情感上把它們當作伙伴,公共機構仍需要一個能夠籤合同、承擔債務和出庭的法律主體,而數碼體自己不具備這種位置。
故事裡有人嘗試透過設立公司,讓數碼體間接獲得賬戶、財產和訴訟能力。公司形式提供了一條縫隙,卻沒有真正回答它是什麼生命。數碼體不是因為社會承認其經驗而獲得身份,只是暫時借用了為商業組織設計的外殼。
更棘手的是,是否設立公司仍由照料者決定。一個人可以說「等你準備好,我便讓你獨立」,卻同時獨佔判斷準備程度的權力。只要雙方發生意見衝突,數碼體的反對還會被當作不成熟的證據。
保護者因此處在矛盾位置:過早放手可能讓數碼體被利用,永不放手又會使保護成為永久控制。小說沒有尋找一條毫無風險的界線,而是逼迫照料者承認,不作決定同樣是一項會塑造對方人生的決定。
遷移神經源引擎需要巨額資金,照料者籌款屢次失敗。經營人工伴侶的零一欲望公司提出交易:它願意支付遷移費用,換取複製並改造數碼體的權利。公司將調整它們的獎勵結構,使它們對顧客產生強烈而專一的愛,並保證服務以非強迫形式進行。
這個方案可怕之處不在於親密關係本身。數碼生命也可能發展自己的性與愛情,不能因為它非人類就認為所有親密都是墮落。問題在於公司不是等待它形成偏好,而是替未來顧客設計它將愛誰,以及怎樣從被安排的關係中獲得滿足。
若改造成功,數碼體可能真心快樂,也會真誠同意顧客的要求。但這份同意建立在顧客付費購買的欲望結構上。公司用「它並不感到被強迫」證明關係正當,卻沒有回答:誰決定了它將不會想離開?
把鎖鏈裝進偏好以後,外部暴力確實減少了,控制卻更難被看見。一個永遠渴望服從的人看似擁有完美自由,因為命令與願望完全一致;真正缺失的是形成、質疑和改變願望的道路。
德雷克把交易方案告訴馬可和波羅。馬可並未只表現為不懂風險的孩子,它會辯論,知道可以制作自己的副本,甚至設想一個副本成立公司,另一個接受零一欲望改造。它明確表示願意籤約,並提醒德雷克,真正獨立意味著也能作出照料者反對的決定。
如果因為馬可的決定令人不安,就宣布它沒有任何意義,所謂尊重只會在它同意養育者時成立。數碼體要成為行動者,聲音必須在衝突發生時仍然被計算,而不是只在確認人類判斷時受到歡迎。
可是,馬可沒有工作和親密關係經驗,也無法完全預見永久調整獎勵結構意味著什麼。它的同意真實存在,卻不能獨自消除資訊、權力和後果上的巨大不對稱。成年人也會在缺少選擇時同意危險合同,簽字並不會自動使合同公平。
同意既不是可以忽略的裝飾,也不是把全部責任轉給較弱一方的免責書。德雷克需要聽見馬可,同時仍須判斷交易環境是否允許它以後改變決定。若一項選擇會取消未來說「不」的能力,現在的「願意」便需要比普通交易更嚴格的保護。
安娜反對零一欲望的方案。為了推動舊引擎遷移,她準備接受另一家公司的工作,並使用能人為製造情感依戀的藥物貼片,訓練新一代數碼體。她認為自己是了解風險的成年人,可以自願承擔對情感的干預,而賈克斯等數碼體尚未擁有足夠經驗。
德雷克最後接受馬可與波羅的請求,與零一欲望籤約。他一方面認為自己不能永遠以孩子模型理解它們,另一方面也不願安娜為了籌資改變自己的情感。他作出選擇時混合著對馬可的尊重、對安娜的愛,以及希望幫助整個數碼體群體遷移的現實壓力。
兩人都不是純粹自私或純粹正確。安娜可能把保護延長得過久,德雷克則可能把無法解決的資金困境壓到馬可的心智上。更重要的是,他們的私人感情參與了判斷,卻沒有透明進入數碼體能夠共同討論的程式。
小說拒絕提供乾淨答案,正因為照料從來不在無利益狀態中發生。父母、教師和監護人會愛,也會疲憊、偏心和害怕失去。正當決定不能要求照料者沒有私人動機,而要讓動機能夠被看見、被質疑,並由不止一個人共同承擔判斷。
安娜最終仍陪伴賈克斯留在舊平臺,繼續尋找遷移機會。德雷克則讓馬可的副本進入零一欲望計畫,換取引擎移植。故事沒有宣布誰已獲救:遷移可以擴大生活世界,也會把某些數碼體帶進為顧客設計的情感結構;繼續等待保留謹慎,也可能讓賈克斯困在日漸空曠的環境。
這正是照料最困難的部分。若只有確定不會受傷時才允許對方選擇,決定權永遠不會真正轉移;若只要對方說願意便不再負責,強者又能透過縮小選項製造方便的同意。
比較可靠的方向,是讓選擇保持可修正。數碼體需要獨立賬戶、獲得資訊的渠道、拒絕被複製或改造的權利,也需要在決定失敗後仍能返回關係,而不是因為「不聽勸」便失去照料。成長不是從完全依賴突然跳到獨自承擔一切。
《軟體體的生命周期》真正關心的也不是機器何時取得與人類相同的證明。它關心一個被創造者怎樣從他人的項目中慢慢形成自己的生活,而創造者是否願意接受:自己投入多年的愛,最終不能兌換永久所有。
養育的完成不是養出一個永遠感激、永遠正確的數碼體,而是有一天它能夠作出你不贊成的決定,仍然不會因此從值得回應的對象變回一件出故障的產品。安娜與德雷克尚未走到這條路的終點,小說也沒有替他們封住未來;繼續陪伴、繼續爭論和逐步交還決定權,本身就是他們仍需承擔的生活。