未来简史 · 第10章 · 智人失去控制权 · PDF 340–355

意识的海洋增强什么、牺牲什么:没有全图的心智工程

当人能改变欲望,欲望还足以决定我们该怎样改变自己吗?

开始阅读

可带走的原则

增强不是一条统一向上的刻度;必须说明目标、保留什么能力,以及谁能决定改造方向。

开阔海面上鲸的背影与调查船上的研究者在不同景深,水下有克制的鲸歌视觉线索;让已能记录的信号与仍不能直接进入的体验同时可感。
海面上是鲸的背影,调查船在另一层远处,水下只有克制的声音线索。人可以记录到信号,却不能直接走进鲸的体验。意识海洋是比喻,不是一张已经测完、还能分出高下的体验表(原书 PDF 344—348 页)。
开阔海面上鲸的背影与调查船上的研究者在不同景深,水下有克制的鲸歌视觉线索;让已能记录的信号与仍不能直接进入的体验同时可感。

海面上是鲸的背影,调查船在另一层远处,水下只有克制的声音线索。人可以记录到信号,却不能直接走进鲸的体验。意识海洋是比喻,不是一张已经测完、还能分出高下的体验表(原书 PDF 344—348 页)。

本章的关键判断

  1. 心理研究的样本不等于全部人类,更不等于全部可能意识。
  2. 系统需要的高效率,可能与人的丰富体验发生冲突。
  3. 改变欲望能减轻苦难,也使同意、目标与控制者的问题更迫切。

可带走的原则

增强不是一条统一向上的刻度;必须说明目标、保留什么能力,以及谁能决定改造方向。

01

科技人文主义仍然要拯救人

原章导读 本章把科技宗教分成两路:科技人文主义想增强人的身心,以继续对抗强大的无意识智能;数据主义则可能把人让位给更大的信息系统,留待下一章讨论。前一路仍把人放在价值中心,只认为现有智人不足以胜任未来。作者把它比作第二次认知革命,设想基因、脑机接口等可能开放新的能力与经验。

编者分析 第一次认知革命的具体生物机制,并没有因宏观历史叙述就被完整证明;从“过去能力曾变化”到“少量定向改造即可可靠产生新人类”,仍隔着重大未知。科技人文主义在这里是一种目标与想象,不是已被证实的研发路线图。它与过去优生或种族清洗的区别也必须讲清:讨论能力改变不自动赞成强制,但仍需检查分配、同意与排除风险。

02

我们绘出的心智地图为何过窄

原章导读 “意识海洋”的比喻来自一个认知困难:人可能只熟悉很小范围的心理状态,却已经准备改变整个心智。作者用可见光之外还有大量频段作类比,再指出心理学常研究两类样本:有特定临床困难的人,以及西方、受教育、工业化、富裕和民主社会中的人。大学心理系学生容易招募,不代表他们足以代表所有社会的生活经验。

编者分析 便利样本的问题是外推效度,不是说这些研究都无用。临床诊断也不该被压成所有能力“低于正常”的一条等级线,不同困难与能力有各自结构。可见光有可测物理频率,心理状态却没有在本章被建立同样的连续标尺,因此“海洋”只能打开未知,不能证明确有无边意识频谱或某种最高状态。

研究过的样本不是全部心智。临床样本;西方受教育等特定样本;更广的人类经验;动物与不可直接重建的体验;机构优先增强的狭窄功能
临床样本、特定的受教育样本,盖不住更广的人类经验,也盖不住动物和无法直接重建的体验。记录到信号,不等于知道主观感受。机构优先增强的狭窄功能,也不会自动等于个人需要的。这不是一张排好的体验榜(原书 PDF 341—348、351—352 页)。
  1. 临床样本

  2. 西方受教育等特定样本

  3. 更广的人类经验

  4. 动物与不可直接重建的体验

  5. 机构优先增强的狭窄功能

把图中的比较与条件分开看。

研究过的样本不是全部心智。临床样本;西方受教育等特定样本;更广的人类经验;动物与不可直接重建的体验;机构优先增强的狭窄功能

临床样本、特定的受教育样本,盖不住更广的人类经验,也盖不住动物和无法直接重建的体验。记录到信号,不等于知道主观感受。机构优先增强的狭窄功能,也不会自动等于个人需要的。这不是一张排好的体验榜(原书 PDF 341—348、351—352 页)。

  1. 临床样本

  2. 西方受教育等特定样本

  3. 更广的人类经验

  4. 动物与不可直接重建的体验

  5. 机构优先增强的狭窄功能

把图中的比较与条件分开看。

03

动物经验与失落文化让边界更明显

原章导读 即使研究今天所有人,现代交流已经改变社群生活,我们仍难直接重建古代猎人、武士或不同人类近亲的体验。冥想与仪式传统的报告提示还有别的探索路线,却不提供自动可信的结论。蝙蝠则带来更彻底的距离:知道回声定位怎样收集信息,不等于亲身知道用回声生活是什么感觉。作者借内格尔的问题,区分外部机制说明与主观视角。

鲸歌又提醒我们,世界支配力不是体验深度的奖杯。人可以录音、比较声谱与传播模式,却未必懂鲸听到歌曲时的感受。鲸脑组织差异可能与不同能力相连,但具体情绪层次仍是推测。由此,作者警惕把当前人的心智当成全部可能经验的顶端。

编者分析 未知值得谦逊,不能被转成任意神秘主张的凭证。古代生活方式、尼安德特人与其他动物的内部经验,都需区分观察、间接推论与想象;脑容量尤其不能直接排列智力和情感价值。技术未来能否让人进入完全不同的体验,也是开放设想,而非从鲸歌已经推出的结果。

04

系统要增强的,未必是生活最需要的

原章导读 作者把积极心理学看成从疾病之外研究心理力量的尝试,又担心增强目标会由军队、企业与市场狭窄规定。嗅觉、注意感官与记梦的例子说明:一个社会可以培养阅读、抽象推理和快速回应,同时不再重视其他技能。会不断检查邮件的人对机构有用,能闻出环境细节或容忍疑虑的人未必被同样奖赏。

编者分析 原书关于史前人靠气味准确读出恐惧与勇气、现代人失去某些能力的表达包含推测,不宜当作一条已经测定的退化史。人仍然做梦,记不得梦不等于不再有梦。更稳妥的核心是文化练习与制度激励会改变哪些技能被使用、培养或忽略,而不是宣告现代人的心智全面下降。

原章导读 专注头盔被比成不耐烦的朋友:你想倾诉工作冲突,对方急着让你在辞职和服从之间选一个,却没有留空间理解复杂情绪。若改造只服务快速决定,可能压低犹豫、同理、反思与怀疑。作者把“升级成更高效齿轮”叫作潜在降级:对系统更有用,不等于对这个人更丰富。

05

减轻痛苦与压下异议,不能只看同一个开关

原章导读 人文主义强调面对内心声音,技术路径却可能选择调低某些声音。作者没有因此一概反对治疗:适当干预能使受严重症状困扰的人恢复生活,有些破坏性的念头不该被浪漫化为必须服从的真实自我。但它同时提出控制问题:若可以改变欲望与感受,谁判断哪一部分是噪声、哪一部分值得保护?

编者分析 本章药物与脑刺激案例只用于理解论证,不提供治疗方案,也不能用“生化失衡”一句穷尽所有心理困难。医疗目标应与使人适应不公制度的目标分开。减轻症状可能扩大行动空间;为了便利雇主或国家而消除拒绝与怀疑,则可能收缩它。判断要看干预目的、实际效果、知情同意和可撤回安排。

06

如果连想要什么也可选择,依据又在哪里

原章导读 作者最后构造一个青年在宗教压力与性倾向之间改变请求的思想实验,以及罗密欧可以用药物删除爱情的设想。它们不是关于这种技术真实有效的报道,而是用来显示二阶欲望冲突:我想要某件事,同时又可能想不再想要它。如果意志既是最高裁判,又是可设计的产品,科技人文主义便难单凭当前意志决定应设计成哪一种意志。

编者分析 性倾向不应被当成疾病,思想实验也不能变成所谓转化治疗可行或正当的暗示。一个人改变目标,并不自动取消所有自主;我们经常在学习、关系与反思中修改欲望。真正未解的是这种修改在什么条件下尊重人,怎样防止强制与操纵,以及能否保留继续质疑与改路的能力。欲望可变使公共理由更重要,不证明信息流应自动接任最高价值。

原章导读 数据主义将在下一章提出更激进的回答:不再以人的欲望和体验作为最后终点,而让信息处理本身取得优先地位。本章只是展示科技人文主义内部的张力,还没有证明那个替代答案值得接受。

论证比较

同一增强方案,三种不同目标

不能只问是否更强,要看强在什么地方。

更快完成明确任务

原书证据

专注训练被设想用于加速反应与决策。

怎样推到下一步

任务绩效可能提高。

还需要什么条件

实际效果与长期影响需验证,速度不代表完整福祉。

PDF 351–352

减少阻碍生活的症状

原书证据

作者承认适当干预可以改善痛苦处境。

怎样推到下一步

改变某些感受可能扩大行动空间。

还需要什么条件

应由专业证据、同意与个体目标约束,不由本文给医疗方案。

PDF 352–353

保留反思与多样体验

原书证据

不耐烦朋友的例子区分解决任务与理解感受。

怎样推到下一步

犹豫与敏感性未必是应消除的低效率。

还需要什么条件

不能浪漫化所有痛苦或宣称未知体验必定更高。

PDF 341–342, 351–352

增强方向包含价值选择,不是一条天然统一的进步刻度。

还可以想下去

一种改造如果让人更满意也更顺从,需要什么证据才能区分自由扩大与拒绝能力被削弱?

查看来源、页序与论证限度

尤瓦尔·赫拉利著,林俊宏译,中信出版社。《未来简史:从智人到神人》。页序按本图册所用 PDF。

本章作者正文:PDF 340–355。原章阐释与编者分析分别标明;画面为对应论证的概念表达。

  1. 现有心理研究覆盖的样本不等于全部可能经验。

    作者推断 · PDF 342–346

    光谱类比不证明心理有同一可测连续轴。

  2. 任务优化可能削弱制度不重视的心智能力。

    作者推断 · PDF 349–352

    史前能力与现代失落的具体说法含推测,不能宣称普遍退化。

  3. 减轻症状与压制怀疑需按目标和同意分开评价。

    编者分析 · PDF 351–353

    不是用药或脑刺激建议。

  4. 可塑的欲望使人文主义选择改造目标面临二阶难题。

    作者推断 · PDF 353–355

    思想实验不证明性倾向转化技术有效或正当,也不证明自主不可能。