未来简史 · 第11章 · 智人失去控制权 · PDF 356–383

信数据得永生当信息流从工具升为最高价值

用数据解释生命,与按数据贡献决定生命的价值,究竟跨过了哪一步?

开始阅读

可带走的原则

有用的计算描述不自动规定应追求的价值;评判信息系统,要同时看其目标、权力、遗漏与可质疑性。

自然环境中看见大象的成年访客,一人认真观察,一人举起手机准备分享;背景普通而真实,不出现已将万物全知连接的发光网络。
看见大象时,是继续观察,还是急着拍下、上传?画面把动物、游客与分享的动作放在一起,呈现作者讨论的经验与数据之间的关系(原书 PDF 372—374 页)。
自然环境中看见大象的成年访客,一人认真观察,一人举起手机准备分享;背景普通而真实,不出现已将万物全知连接的发光网络。

看见大象时,是继续观察,还是急着拍下、上传?画面把动物、游客与分享的动作放在一起,呈现作者讨论的经验与数据之间的关系(原书 PDF 372—374 页)。

本章的关键判断

  1. 数据处理是强大的共同语言,是否足以穷尽生命仍是问题。
  2. 信息自由与人的表达自由不同,后者也包含保留与沉默。
  3. 更准的预测不自动授予统治权,连接更多也不自动代表生活更好。

可带走的原则

有用的计算描述不自动规定应追求的价值;评判信息系统,要同时看其目标、权力、遗漏与可质疑性。

01

描述框架怎样变成价值体系

原章导读 赫拉利把数据主义定义为:宇宙可由数据流理解,任何实体按其对数据处理的贡献取得价值。它连接生命科学中的生物算法观与计算机科学的电子算法,提供跨学科语言:音乐、股市与病毒都可以研究模式、传递和处理。传统路径从数据走向信息、知识和判断;当数据量超过个人能力,数据主义转而要求信任更强的计算系统。

编者分析 这里至少有三步不能合并:用计算模型描述某些过程;主张一切生命完全可还原为计算;认为更高数据处理贡献应得到更高价值。第一步的成功不独自证明后两步。原书把“大部分科学机构”概括为改信数据主义,是作者的强判断,不能当成做过完整调查的结果。共同语言能促进合作,也可能让各学科真正不同的问题被同一套词遮住。

02

集中与分散,解释效率却不能裁定一切

原章导读 经济被改写为收集能力与需求信息、再形成生产分配决定的系统。市场让分散的生产者、消费者和投资者用价格协调,计划经济则把许多信息送进中央机构。作者借哈耶克、面包供应与李森科式单一权威的错误,说明快速变化时,允许多处试错与纠正可能有优势。苏联访客寻找“负责伦敦面包供应的人”的故事,作者自己承认可能不真,功能是把无人总揽的协调直觉化。

编者分析 信息处理视角不是冷战的完整因果史,更不证明市场在所有情境都最有效。价格反映有购买力的需求,未必完整反映饥饿、公共利益或环境损失;现实市场也包含大组织、法规与公共基础设施,政府内部同样可以分权。李森科案例还涉及政治压制证据,并非只因计算集中就必然发生。比较系统要说明处理什么信息、纠正什么错误,以及错误落在谁身上。

03

信息更快,政治为何仍难作决定

原章导读 同一框架被用于政治:选举、政党与议会可能赶不上技术速度。互联网的结构、隐私和跨境权力并非由一次普遍民主授权设计,后来又形成难以改动的路径。作者因此区分知道很多与能够行动:政府即使监测更多,也未必能组织共同目标、预测后果并取得同意。权力可能分散进复杂系统,而不是全藏在一个密室里的阴谋集团。

编者分析 这段是出版时对政治困境的评估,不是今天每位领导人或网络监管状态的报告。“无人控制一切”也不等于无人负有具体责任;目标狭窄的企业与利益团体仍可能在局部有强大权力。数据速度并非民主的唯一绩效标准,公开争论与限制权力有时刻意较慢。更快的新结构会不会更好,要问授权、问责与纠错,而不能只问吞吐量。

04

把全人类压成网络,会看见什么,又漏掉什么

原章导读 数据主义版历史有四个改进方向:处理者更多、种类更多、连接更多、流通更自由。作者依次叙述认知革命后的扩散与文化分化、农业形成密集地方网络、文字货币支持城市与帝国,以及近代全球连接。厨房里的小麦、马铃薯、糖和咖啡来自不同地区,说明全球网络也汇集了多样传承。各项指标可能互相冲突:人数与差异增加,不保证彼此更容易沟通。

编者分析 这个压缩框架可以提示规模与连接的权衡,却不能拿来把征服、奴役、疾病与文化破坏算成中性“带宽增加”。更多数据也可能是重复、噪声或监视。若把整个历史的产出预设为更强信息系统,人就已经被从目的改成生产下一系统的手段;那是价值选择,不是从历史资料中自然跳出的唯一结论。

05

信息自由,未必等于人能够自由

原章导读 当信息流被奉为最高善,数据主义开始具有宗教的规范结构:尽量生成与使用信息,把人、车辆、冰箱、动物和树木都接入系统,阻碍流动被视为错误。作者特意区分它与言论自由。言论自由保护人表达,也保护不说、保留与拒绝公开;若信息本身拥有优先流通的权利,就可能压过人的控制和隐私。

艾伦·施瓦茨的开放获取行动与死亡,在书中成为数据主义的殉道叙事;其争议涉及研究成果、付费数据库与开放知识的权利。共享无人车则是另一种吸引力:人真正需要的可能是移动,而非一辆每天大部分时间闲置的车;更好调度有望减少车辆与停车空间,却需知道人的行程。原书提出的替代数量是设想,并非已验证的城市结果。

编者分析 开放论文与公开所有人的健康、位置、交往资料并非同一种授权。施瓦茨与机构的具体法律历史也不能仅凭“信息应自由”一句概括,更不能推成全部知识劳动只能靠论文付费取得报酬。共享交通的效率应看高峰需求、等待、空驶与替代公共交通等条件;是否真有必要把所有隐私都交出,仍可通过不同设计讨论。

信息自由与人的自由不是一回事。知识开放;可记录可传播的信息;个人表达;不说与保留;数据流的优先性
知识开放、可记录和传播的信息、个人表达、选择不说和保留,以及让数据流优先,并不是同一件事。分享可以帮助知识流通;若要求一切公开,就可能和保留的权利冲突。系统效率也不自动等于生命价值(原书 PDF 368—372 页)。
  1. 知识开放

  2. 可记录可传播的信息

  3. 个人表达

  4. 不说与保留

  5. 数据流的优先性

把图中的比较与条件分开看。

信息自由与人的自由不是一回事。知识开放;可记录可传播的信息;个人表达;不说与保留;数据流的优先性

知识开放、可记录和传播的信息、个人表达、选择不说和保留,以及让数据流优先,并不是同一件事。分享可以帮助知识流通;若要求一切公开,就可能和保留的权利冲突。系统效率也不自动等于生命价值(原书 PDF 368—372 页)。

  1. 知识开放

  2. 可记录可传播的信息

  3. 个人表达

  4. 不说与保留

  5. 数据流的优先性

把图中的比较与条件分开看。

06

记录、上传、分享,把体验变成可交换的证明

原章导读 用户不断收取、加工和回传信息,越提高效率,可能越把他人淹没。数据主义又为这种忙碌提供宏大意义:你是更大数据流的一部分,算法会看见并解释你的经历。人文主义要求在体验中理解世界,这里则要求先记录并分享,再由系统给予价值。看见大象时急着拍照、检查点赞,与只给自己看的日记形成对照。

评价音乐的标准也转变了。上一章比较聆听者体验,数据主义在此改问和弦、关系与处理复杂度。只要另一种算法完成相同功能更有效,原本人类经验的优势就可能消失。作者用这种功能主义说明,系统无须仇视人,也可能在目标改变后不再把人的感受当最后理由。

编者分析 一段音乐可被描述成数学模式,不证明模式复杂就更有价值;一段经历没有上传,也不因此真的没有意义。这些是书中被检视的数据主义主张,不是本稿的劝告。犬类脑波翻译等被提及的项目也只能按当时研发宣称阅读,不能写成已经可靠读懂动物情感。最关键的滑移,是把“系统用得到”偷换成“这个存在才值得关心”。

07

聆听算法,还需要谁决定它应听什么

原章导读 观星、读经、向内反思与咨询算法,被作者排成不同的认识自我路径。新系统用生物指标、记录和大数据库承诺减少自欺,却可能没有任何一个人全盘理解;机器学习又能发现人未预想的模式。但作者最终主动重开根本问题:生命真的只是数据处理和决策吗?意识怎样出现?若无意识系统在已知任务上全胜,我们会遗漏什么?一种观念即使不完全真实,也仍可能因制度力量扩张。

编者分析 理解不完整不自动取消模型作用,也不构成放弃审计的理由。预测更准仍要说明标签、目标与误差;要把建议升级成决定权,还需授权、申诉与退出。解释人受进化塑造,不能自动证明外部平台知道人真正应该要什么;平台自己的激励同样需要被看见。数据系统可以帮助人获得能力,而无需把数据流指定为最高终点。

08

结尾不是预言,而是三道必须保留的问题

原章导读 全书以人与动物的关系收束:人曾按网络功能评价其他生命,若用同一标准评价自己,当系统不再需要人时,人也可能被降为零件和数据。这是作者的伦理警报与条件推演,不是已经写好的灭绝史。他明确说相同技术可以用于不同社会,书中情境是可能性,目的在于让不愿接受的人尝试新行动。

在信息过量的世界,选择忽略什么也成为能力。最终应记住的三个问题是:生物是否真的只是算法,智能与意识哪一个更值得重视,以及当外部算法比人更了解人时,制度和生活会怎样变化。它们分别检验理论是否充分、目标如何排序与权力怎样配置,不能被一个关于未来年份的答案取代。

编者分析 因此,最忠实的读法不是接受“技术必然接管”的宿命,也不是凭希望说一切自动无碍。我们可以逐层拒绝跳跃:工具好用不等于终极理论正确,处理更多不等于价值更高,个体会犯错不等于应放弃权利。保留这些区别,才把本书提出的选择真正留在讨论中。

论证比较

从有用工具到最高权威,中间有三步

用同一个数据系统检视三个不同主张。

它能解释和预测某些过程

原书证据

价格、交通和身体记录可以用于分析模式。

怎样推到下一步

信息处理模型具有具体用途。

还需要什么条件

结果要接受任务范围、误差与反例检验。

PDF 357–358, 371–372, 380

它已经穷尽生命的意义

原书证据

数据主义把体验与生物整体都视为数据模式。

怎样推到下一步

主张没有独立于处理功能的剩余。

还需要什么条件

意识与主观体验的解释问题仍未关闭。

PDF 375–376, 380

它应决定最高价值与行动

原书证据

信息自由被置于隐私和个体选择之上。

怎样推到下一步

处理效率从工具升为目的与权威。

还需要什么条件

需要独立伦理论证、授权与问责,不能由预测准确率推出。

PDF 369–370, 378–379, 381

同一系统可以有用,而其还原论和统治权主张仍不成立。

还可以想下去

如果一种数据实践让生活更便利,也使拒绝记录变得昂贵,怎样判断这仍是可以自由选择的连接?

查看来源、页序与论证限度

尤瓦尔·赫拉利著,林俊宏译,中信出版社。《未来简史:从智人到神人》。页序按本图册所用 PDF。

本章作者正文:PDF 356–383。原章阐释与编者分析分别标明;画面为对应论证的概念表达。

  1. 数据主义把数据贡献从描述提升为价值标准。

    原书叙述 · PDF 356–357, 368–369

    是作者描绘的思想类型,不代表全部科学家一致信奉。

  2. 集中分散的信息视角能解释协调差异。

    作者推断 · PDF 357–359, 362

    不穷尽冷战原因,也不证明市场总最优。

  3. 信息流通权与人的言论和沉默权可能冲突。

    作者推断 · PDF 369–371

    开放知识与公开个人资料的范围不可混同。

  4. 处理功能不应未经论证等同生命价值。

    编者分析 · PDF 374–376, 380–381

    不否认数据分析的具体效用。

  5. 全书情境应作为可被行动改变的可能性。

    原书叙述 · PDF 382–383

    并未断言某一制度或灭绝结局必然发生。