Edition note: An independent English rewriting for readers of Peter Watts's Blindsight. It preserves the Chinese argument while reorganizing its sequence for an English-language essay. Full-book spoilers.
Near the dark object called Big Ben, Theseus finds Rorschach: enormous, changing, flooded with radiation, and capable of answering human messages with disturbing fluency. Inside move scramblers whose coordination and tactical ability seem incompatible with their apparent lack of reflective consciousness.
The discovery attacks a cherished hierarchy. Humans have treated awareness of awareness as evolution's summit—the source of planning, science, art, and moral standing. Rorschach suggests that costly inner narration may be outperformed by systems that calculate and adapt without ever becoming present to themselves.
Even the pronoun “it” may promise too much unity. Rorschach could be organism, ship, factory, distributed network, or one temporary organ of a wider process. Scramblers may be components rather than inhabitants. There may be brilliant activity with no bounded someone for whom it occurs.
We should not solve that uncertainty by romantic projection. Many first-contact stories reward tolerance by revealing that the alien secretly feels as we do. Blindsight withholds the reassurance. Rorschach may truly lack a listener who can be persuaded and may process human language as hostile waste.
But uncertainty also limits the opposite conclusion. A defensive response may become necessary; it should not be inflated into a universal verdict on every unfamiliar life. A model that explains Rorschach's behavior does not automatically establish what kinds of inwardness are impossible there.
The deepest injury to human pride is not that intelligence has no value. It is that intelligence can no longer serve as a simple title to importance. If humans defend consciousness only because it wins the cognitive competition, Rorschach has already defeated the argument. What may deserve protection is precisely what benchmarks omit: the experienced world that cannot be replaced for the being living it, even when that experience is inefficient and cannot prove superiority.
版本说明:中文原作;简体与繁体同页切换。人物、译名与关键情节已按作品文本校订。全书剧透。
忒修斯号在名为“大本钟”的黑暗天体附近发现罗夏。它体量巨大,结构持续变化,内部充满强辐射、磁场与看似不可能的空间。人类尝试通信时,罗夏能够流畅使用他们的语言,甚至表现得像熟悉地球文化。
最初,这足以构成智慧证明。一个陌生存在能够接收问题、生成合乎语法的回答,还能根据对话变化调整内容,我们自然会假定那里有某个正在理解的对话者。语言在日常生活中正是判断他人心灵的主要依据。
罗夏内部生活着被称为攀爬者的生物。它们能在极端环境中高速行动,身体结构适应复杂空间,也表现出惊人的协同与战术能力。团队捕获标本后发现,攀爬者的大脑并没有明显支持自我反思的部分。
它们可能像罗夏的细胞或手指,局部完成感知和行动,却不需要每个个体拥有独立世界。甚至整个罗夏也未必存在一个中央主体;无数高效机制相互作用,便足以产生人类称为目的性的行为。
被捕获后,攀爬者在隔离条件下会失去部分惊人能力,研究者因此怀疑智慧并不完整地装在某一只体内,而产生于个体、磁场和罗夏环境的联结。人类切开一只标本寻找“意识器官”,可能像拆下一枚棋子寻找整局棋的策略。可网络式能力也不能反过来证明存在一个巨大的共同自我;协调、学习与主体经验仍是需要分别寻找证据的三件事。
人类长期把意识视为进化顶点。我们能够知道自己知道,能够想象未来、回忆过去,并把经验变成艺术、伦理和科学。正因为拥有自我,人类才认为自己比只会条件反射的生命更高级。
罗夏提出相反可能:意识也许只是昂贵的回路。大量认知在进入主观经验以前已经完成,意识只是较慢地观看结果,再编造“我作出了决定”的故事。面对高速、复杂的宇宙环境,无意识智能可能反应更快、消耗更少,也不受自我怀疑拖累。
贝茨的战斗机器与攀爬者交锋,为这项推断提供了情节中的尺度。高速冲突里,等待人类意识逐项确认往往意味着已经来不及,机器和外星生物都把判断压在自觉之前完成。可是,贝茨仍关心机器被授权到什么程度,也知道完全解除人的约束会改变战斗性质。反应速度说明有些任务适合非自觉处理,并不能直接决定谁来设定任务、谁有权承担失败。
许多第一次接触故事会让人类发现,外星敌人其实有情感,只要克服偏见便能和平交流。《盲视》拒绝这条安慰。罗夏可能真的没有可以被说服的主体,也可能把人类语言本身判断为攻击。对陌生保持开放,并不能保证陌生者愿意与我们共同生活。
这不意味着人类应当一开始就射击。任务团队确实需要调查,尝试交流,并不断修正假设。只是,当证据显示罗夏主动设伏、散布探针并构成现实威胁时,保护地球也不能被无限延后。承认对方与避免自己被毁灭必须同时存在。
关键在于,不要用危险取消全部求知,也不要用求知否认危险。把罗夏称为无意识怪物,可以让毁灭它更容易,却可能掩盖判断仍有不确定;把它赞美成超越人类的高等智能,又会把效率当作崇拜理由,忘记它同样可能消除所有有感受的生命。
版本說明:中文原作;簡體與繁體同頁切換。人物、譯名與關鍵情節已按作品文本校訂。全書劇透。
忒修斯號在名為「大本鐘」的黑暗天體附近發現羅夏。它體量巨大,結構持續變化,內部充滿強輻射、磁場與看似不可能的空間。人類嘗試通信時,羅夏能夠流暢使用他們的語言,甚至表現得像熟悉地球文化。
最初,這足以構成智慧證明。一個陌生存在能夠接收問題、生成合乎語法的回答,還能根據對話變化調整內容,我們自然會假定那裡有某個正在理解的對話者。語言在日常生活中正是判斷他人心靈的主要依據。
羅夏內部生活著被稱為攀爬者的生物。它們能在極端環境中高速行動,身體結構適應複雜空間,也表現出驚人的協同與戰術能力。團隊捕獲標本後發現,攀爬者的大腦並沒有明顯支持自我反思的部分。
它們可能像羅夏的細胞或手指,局部完成感知和行動,卻不需要每個個體擁有獨立世界。甚至整個羅夏也未必存在一個中央主體;無數高效機制相互作用,便足以產生人類稱為目的性的行為。
被捕獲後,攀爬者在隔離條件下會失去部分驚人能力,研究者因此懷疑智慧並不完整地裝在某一隻體內,而產生於個體、磁場和羅夏環境的聯結。人類切開一隻標本尋找「意識器官」,可能像拆下一枚棋子尋找整局棋的策略。可網路式能力也不能反過來證明存在一個巨大的共同自我;協調、學習與主體經驗仍是需要分別尋找證據的三件事。
人類長期把意識視為進化頂點。我們能夠知道自己知道,能夠想像未來、回憶過去,並把經驗變成藝術、倫理和科學。正因為擁有自我,人類才認為自己比只會條件反射的生命更高級。
羅夏提出相反可能:意識也許只是昂貴的回路。大量認知在進入主觀經驗以前已經完成,意識只是較慢地觀看結果,再編造「我作出了決定」的故事。面對高速、複雜的宇宙環境,無意識智能可能反應更快、消耗更少,也不受自我懷疑拖累。
貝茨的戰鬥機器與攀爬者交鋒,為這項推斷提供了情節中的尺度。高速衝突裡,等待人類意識逐項確認往往意味著已經來不及,機器和外星生物都把判斷壓在自覺之前完成。可是,貝茨仍關心機器被授權到什麼程度,也知道完全解除人的約束會改變戰鬥性質。反應速度說明有些任務適合非自覺處理,並不能直接決定誰來設定任務、誰有權承擔失敗。
許多第一次接觸故事會讓人類發現,外星敵人其實有情感,只要克服偏見便能和平交流。《盲視》拒絕這條安慰。羅夏可能真的沒有可以被說服的主體,也可能把人類語言本身判斷為攻擊。對陌生保持開放,並不能保證陌生者願意與我們共同生活。
這不意味著人類應當一開始就射擊。任務團隊確實需要調查,嘗試交流,並不斷修正假設。只是,當證據顯示羅夏主動設伏、散布探針並構成現實威脅時,保護地球也不能被無限延後。承認對方與避免自己被毀滅必須同時存在。
關鍵在於,不要用危險取消全部求知,也不要用求知否認危險。把羅夏稱為無意識怪物,可以讓毀滅它更容易,卻可能掩蓋判斷仍有不確定;把它贊美成超越人類的高等智能,又會把效率當作崇拜理由,忘記它同樣可能消除所有有感受的生命。