人类简史 · 第20章 · 科学革命 · PDF 395–413

智人末日当设计者开始改变自己的欲望

生物改造、身体与设备结合、数字系统的可能性,把未来问题从“拥有什么工具”推向“谁会使用工具、又想要什么”。

开始阅读

可带走的原则

区分已经展示的能力、仍待验证的推测和价值选择;人能设计某些生命条件,并不表示已掌握生命、意识与未来。

康复场景中,装配义肢的成年人练习拿取日常物品,治疗师认真陪伴;强调具体辅助而非科幻超人,不冒充书中真实人物的照片。
康复室里,装了义肢的成年人练习拿起日常物品,治疗师在旁边陪着。这是一项具体的辅助,不是超人,也不是书中某人的照片。能控制义肢,推不出记忆已经可以上传,或机器已经有意识;那些仍是思想实验,不是现成技术(原书 PDF 403—405 页)。
康复场景中,装配义肢的成年人练习拿取日常物品,治疗师认真陪伴;强调具体辅助而非科幻超人,不冒充书中真实人物的照片。

康复室里,装了义肢的成年人练习拿起日常物品,治疗师在旁边陪着。这是一项具体的辅助,不是超人,也不是书中某人的照片。能控制义肢,推不出记忆已经可以上传,或机器已经有意识;那些仍是思想实验,不是现成技术(原书 PDF 403—405 页)。

本章的关键判断

  1. 人工选择与工程干预改变过程,仍受物理和生物机制约束。
  2. 某一动物、组织或接口的结果,不能直接推成完整人体能力或主观意识。
  3. 治疗与增强可能相连,分配、同意和谁决定目标应从一开始进入讨论。

可带走的原则

区分已经展示的能力、仍待验证的推测和价值选择;人能设计某些生命条件,并不表示已掌握生命、意识与未来。

01

从选择后代,到直接改动条件

原章导读 全书从物理、化学、生物走到历史,这一章再问历史会不会反过来改变生命。选择育种早已让人偏好某些后代;作者认为,细胞和基因层面的干预,则扩大了人能主动改变形态、能力与生物关系的范围。他用荧光兔艺术项目,作为人类设计目标进入生命过程的醒目案例。

编者分析 “打破自然选择法则”是原书的戏剧性表达,并不意味着实验违反了生物学或物理规律。人工选择本来就能与遗传、环境和自然选择共同作用,工程也不能令所有想象都实现。可以变化的是选择压力与干预方式,不能据此宣布生命已完全由人的意图支配。

02

三条路线,不在同一成熟程度上

原章导读 作者提出三种可能路线:生物工程改变生物组织和基因;仿生工程连接有机身体与无机设备;无机生命设想则尝试在非生物载体上产生独立演化或心智。它们被放在同一章,是因为都可能改变“人”与工具、其他生命的边界,而不是因为它们已经同样成功。

软骨长成耳形的动物实验、微生物生产药物、农业动物的基因研究,以及动物行为和寿命的实验,被作者用来展示生物工程的跨度。伦理问题也随之出现:动物的痛苦是否被忽略,改造是否服务强制控制,少数人是否获得他人无法取得的能力。

编者分析 耳形软骨并不是一只已经具备完整听觉的耳朵;动物或微生物结果,也不直接证明同样方式适用于人。原书关于脂肪、能力和行为的表述有些过度简化,不宜把复杂性状想成加一个基因便能精准重写。证据层次必须随每个例子分别判断。

三条工程路线不在同一成熟度。生物组织与基因干预;身体与设备接口;非有机心智与生命设想;已有局部能力;尚未证明的远景
三条路线的成熟程度不同:生物组织和基因干预,身体与设备的接口,以及对非有机心智和生命的设想。有的只是局部能力,有的远景尚未得到证明。不能从义肢控制推出记忆上传或机器意识,思想实验也还不是手上的技术(原书 PDF 397—398、403—407 页)。
  1. 生物组织与基因干预

  2. 身体与设备接口

  3. 非有机心智与生命设想

  4. 已有局部能力

  5. 尚未证明的远景

把图中的比较与条件分开看。

三条工程路线不在同一成熟度。生物组织与基因干预;身体与设备接口;非有机心智与生命设想;已有局部能力;尚未证明的远景

三条路线的成熟程度不同:生物组织和基因干预,身体与设备的接口,以及对非有机心智和生命的设想。有的只是局部能力,有的远景尚未得到证明。不能从义肢控制推出记忆上传或机器意识,思想实验也还不是手上的技术(原书 PDF 397—398、403—407 页)。

  1. 生物组织与基因干预

  2. 身体与设备接口

  3. 非有机心智与生命设想

  4. 已有局部能力

  5. 尚未证明的远景

把图中的比较与条件分开看。

03

复活亲属与升级人类,是作者提出的远景

原章导读 长毛象和尼安德特人重现的设想,让本章重新接上第一章消失的人类亲属。作者提出研究、补偿灭绝与用途等可能动机,又转而问,何不直接改变智人的记忆、情绪和身体?治疗阿尔茨海默病的药若同时增强健康人的记忆,治疗与增强的分界就可能受到挑战。

编者分析 这些是原书当时援引的计划、设想与反问,不能写成复活已经完成或只缺经费。基因组长度也不是复杂度的直尺,不能用人比鼠多多少碱基,推断工程难度只多同一比例。尚未发现绝对障碍,不等于已证明能够安全做到;伦理也不是唯一剩余难题。

04

接口能传信号,不等于传走整个自己

原章导读 仿生部分从眼镜和起搏器等辅助物,走到听觉、视觉植入和可由神经信号控制的义肢。杰西·沙利文与克劳迪亚·米切尔的故事,呈现失去肢体后获得部分日常能力的意义。猴子控制外部机械装置与协助闭锁患者沟通的研究,则扩展了身体动作和交流的可能。

作者随后把想象推向双向脑机接口、多脑联网和共享记忆,追问自我、隐私与身份如何变化。若人的愿望混入他人记忆,“认识自己”就不再只是熟悉的内省。这里已从有限任务的演示,走入远得多的未来情境。

编者分析 信号能被解码成某个动作,与能读取一个人的全部思想并不相等;发送刺激,也不表示可以完整写入他人的经验。尊重辅助技术的实际价值,不需要把使用义肢者说成不再是人,更不能用是否有设备决定尊严或身份权利。

05

会复制、会计算,是否就是会感受

原章导读 无机路线以自我复制、变化和选择的计算程序作类比。作者问,若程序能独立演化,它是否算生命;若能把脑备份并运行,那个系统是否仍是本人;删去它又意味着什么?蓝脑计划被列为尝试模拟神经网络的项目,而不是已经解答意识的证据。

编者分析 这里至少有三步不能混在一起:模拟某些神经活动、表现出复杂行为,以及拥有主观感受。前一步成功不自动证明后一步。复制程序的“突变”也可能受设计与环境限制,不能直接照搬有机演化全部条件。原书的项目期限是当时预测,不是本稿更新的完成报告。

06

增强若不平等,会改变怎样的社会

原章导读 原书把基因隐私、保险、招聘、专利和医疗公平列为制度问题。预防和治疗疾病,与让某些人拥有额外能力,在分配上可能产生不同冲突:若增强只供少数人,原先以虚构身份维持的等级,可能叠加新的能力差距。

作者用奇异点作比喻,表达未来的意识与欲望也许陌生到今天难以想象;科幻若只是把熟悉的人放进更快飞船,仍未触及这种可能。《科学怪人》则被重新解释为人害怕创造物超出自己、改变自身地位的故事。

编者分析 能力差距不等于人的价值等级,未来风险也不意味着某种替代必然发生。物理学奇异点在此只是借喻,不能作为社会预测的数学证明。原书说“最后一代智人”是为了激发问题意识;它自己随后承认许多技术预言会落空。

07

不只问能禁止什么,也问目标由谁选择

原章导读 最后几页明确承认,没有人知道未来,这些理想或梦魇并非逐项预报。作者仍认为,治疗、延寿和增强可能相互推动;只讨论某个实验能否获准,不足以讨论整条发展路线。若未来连欲望都可改变,问题便从想变成什么,深入到希望自己想要什么。

编者分析 这个反问不应让人放弃具体规范。恰恰因为方向会被资助者、政府、企业和文化影响,更需要同意、可追责、分配公平与受影响者参与。不能先把发展称作不可阻挡,再把选择权交给少数设计者。未知的未来要求更清楚地检查条件,而不是更快地相信一种命定结局。

论证比较

从演示到未来,跨了哪几步

比较三个层次,分别要求证据,避免把可能性连成必然性。

展示某项具体功能

原书证据

义肢控制、微生物产物和组织形态各解决有限任务。

怎样推到下一步

人可以主动改变某些生命条件和能力。

还需要什么条件

任务、物种与安全条件不同,不能随意外推。

PDF 398–400, 403–405

设想全新人类体验

原书证据

共享记忆、人格改造和数字自我成为原书反问。

怎样推到下一步

若能力扩大,身份与权利需要重新讨论。

还需要什么条件

信号解码或神经仿真不证明完整思想传输与意识。

PDF 405–407, 409

决定改变朝向哪里

原书证据

治疗、增强、公平和欲望改造形成价值冲突。

怎样推到下一步

技术目标受制度和文化塑造,需讨论谁能决定。

还需要什么条件

科学能力不能独自证明目标正当,预测也不取消具体规范。

PDF 408–409, 412–413

先问已知能做什么,再问条件与后果,最后公开讨论为什么要做以及由谁选择。

还可以想下去

如果一项增强能改变人的愿望,获得它以前的同意,如何与改变以后的偏好相协调?

查看来源、页序与论证限度

尤瓦尔·赫拉利著,林俊宏译,中信出版社。《人类简史:从动物到上帝》。页序按本图册所用 PDF。

本章作者正文:PDF 395–413。原章阐释与编者分析分别标明;画面为对应论证的概念表达。

  1. 人工设计生命条件仍受物理生物机制约束。

    编者分析 · PDF 395–397

    不采用“违反自然选择法则”的字面解释。

  2. 组织、动物和人类的工程结果不能直接互相外推。

    编者分析 · PDF 398–402

    基因长度不等于复杂度,具体项目仍需独立证据。

  3. 有限接口任务不等于读取全部思想或共享完整记忆。

    编者分析 · PDF 403–406

    辅助设备使用不改变人的尊严。

  4. 神经仿真、复杂行为与主观意识需分开证明。

    编者分析 · PDF 406–408

    原书项目期限与数字生命为当时预测及设想。

  5. 本章结尾要求思考目标和欲望,同时承认未来不确定。

    原书叙述 · PDF 411–413

    非智人必将灭绝的确定预报。