聊一聊最近的热门新书《生命3.0》

1.先聊一聊背景

最近刚好看到一篇新闻：

在2018年7月18日召开的斯德哥尔摩IJCAI上，马斯克和一个成立仅三年的组织“未来生命研究所”再一次被推上舆论的风口浪尖。2000多名AI学者以及科学家共同在会上签署《致命性自主武器宣言》，誓言绝不将他们的技能用于开发自主杀人武器。

这次行动由未来生命研究所的联合创始人，MIT物理学终身教授迈克斯·泰格马克发起，包含Deepmind、欧洲人工智能协会等来自160家AI相关组织和企业，以及丹尼斯·哈萨比斯、斯图尔特·罗素、埃隆·马斯克等来自60个国家的2400位企业家、科学家、研究者共同签署。

报道原文 地址：https://futureoflife.org/2018/07/18/ai-companies-researchers-engineers-scientists-entrepreneurs-and-others-sign-pledge-promising-not-to-develop-lethal-autonomous-weapons/

从这次宣言行动中，我们可以看到一个人：泰格马克，也就是《生命3.0》的作者。一个组织：未来生命研究所。这是一家成立与2015年的非盈利组织。在他们官网上可以找到介绍：

极力于催化并支持能够保卫生命与促进未来往正面发展的研究与题案，协助人类在科技日益更新和挑战不断改变的情况下朝光明的道路迈进。

创始人认为“我们应当更加审慎的发展和应用人工智能技术”。在组织创办时，获得了来自马斯克1000万美元的捐赠。因为“钢铁侠”本人也非常支持这种观点，他不止一次怼过扎克伯格、拉里佩奇等人对AI过于乐天的看法。而这笔钱用于支持全球13支研究团队对AI安全领域的研究。

可以看见很多跨界大咖

自律AI武器是作者最近特别关注的问题，而这个问题包含在“AI有益运动”的大主题之下。《生命3.0》这本书聚焦在这几个主题上——人工智能技术究竟意味着什么？当这种技术发展到极限，人类的未来将呈现怎样的图景？我们又该怎样让这种技术最终对人有益？

在这里我不想过多讨论书的内容（打个广告，得到上万维钢给这本书写了8期解读，非常精彩，懒得翻书的可以找一找这个）。只想谈谈这本书写得咋样。

2.聊两句作者

关于作者，一个物理学家，是不是“够格”写这本书。国外也有人怀疑过，而且是在作者的脸书底下问的。作者的回答是：

我在MIT的研究团队专注AI和相关话题，并发表了7篇技术领域的文章。包括最近与Yann LeCun合著的论文，关于如何有效实现循环神经网络的文章，在ICML上发表。

AI这个话题只有资深技术专家可以谈吗？当然不是，因为AI本身就不是孤岛上的技术，它诞生在科学的沃壤之上。包括数学、物理学、认知科学等等。而AI所产生的影响，也早就超出技术领域之外，从经济、法律再到伦理，一系列新问题需要解决。so，谁才是“真正”够格谈这个问题的人？

这样的理想作者不存在，但是，一个有深厚科学背景的人谈论AI，我是支持的。首先，作者从“物理学第一性”的视角出发谈论AI，乃至意识、智能，我是十分信服的。同时，这本书里最“信马由缰”的脑洞，也是构建在严格的假设和推理之上的。这也是让我很满足的。

书中的名词备忘录，对全书的主要概念做了清晰的界定。而且，作者强调：我的定义并不是比别人更好，而是澄清我将在书中表达的思想。

3.聊两句书

这本书虽然在国外被马斯克一句twitter顶上爆款，但在国内想要获得更多读者是很困难的。类似的主题，大家会更认尤瓦尔·赫拉利。因为很简单，首先他会写很爆款的句式。“科技革命将让99%的人沦为无用阶层《未来简史》”。另外，他很会打造新概念：数据主义、神人、“后真相时代（即将出版的《今日简史》）”。这些掷地有声的句子和概念，让他更容易被抬上先知的神坛。可以说，赫拉利更会写书。

泰格马克写书，科学家“不讨好”的严谨就会暴露出来。即便他在遣词用句上，更像在大学草地上盘腿而坐的学长（因此，最好从现在就开始进行研究，才是明智之举，而不是等到某些猛灌红牛的程序员决定开启一个人类水平的通用人工智能的前夜才开始亡羊补牢）。他也非常擅长举很多妙趣横生的比方：（人类能控制老虎，并不是因为我们比老虎强壮，而是因为我们比它们聪明。这意味着，如果我们不再是地球上最聪明的存在，那么，我们也有可能会失去控制权）。然而，他就是不愿写更畅销的句子。书里有一段，作者写到关于超级智能的争论。

有人对人工智能研究者进行了一些调查， 请他们预测多少年之后，人类水平的通用人工智能实现的可能性将达到至少50%。所有这些调查的结果都一样：世界顶级专家各执一词，因此我们根本不知道答案。在波多黎各会议上，我们也进行了一次这样的调研，答案的平均数（英文版好像是中位数）是2055年，但有些研究者认为需要几百年，甚至更久。

然而科学家就是科学家，不会把这句缩写成“超越人类的人工智能将在2055年降临”。看到书名《生命3.0》，很多人会觉得作者就是在论断，人工智能将完成人类的进化，成为“生命3.0”。但我们可以在书中看到，作者从没有下这样简单粗暴的论断，他的推理完全是构建在归纳演绎的逻辑之上。

总之，我们可以根据生命设计自身的能力，把生命的发展分成三个阶段：

生命1.0（生物阶段）：靠进化获得硬件和软件；

生命2.0（文化阶段）：靠进化获得硬件，但大部分软件是由自己设计的；

生命3.0（科技阶段）：自己设计硬件和软件。

而人工智能“最有可能”成为生命的更高阶段。另外，作者之所以选用“生命”这个定义，也在于一种隐喻。人工智能对人类社会的冲击和影响将远远超出了工具的范畴。我们更应该以看待一种新生命的方式来看待人工智能对我们的影响，审慎的考量我们在经济、伦理乃至政治等一系列层面上，承受即将到来的“新生命”。

虽然作者不会“越界”的写下耸人耳目的畅销书式的观点，但书中从来不乏发人深省的观点。比起担心某天降临的“生命3.0”，我们更应该担心它会以怎样的方式出现。更重要的是，我们该怎样为一切做好准备。

担心作者在书里吹牛逼？作者列了张表告诉你，哪些地方，我确实有点吹......  

4.最后……《生命3.0》到底写了什么

因为喜欢这本书，所以就想把这本书推荐给更多人。而作者也在书里做了简短的介绍，我摘下来分享下吧。

在本书接下来的篇章里，我们将一起探索有着人工智能相伴的生命的未来。让我们用一种组织有序的方式来探讨这个丰富而又包罗万象的话题。首先，我们将在概念和时间维度上探索生命的完整故事，接着，我们会探索目标和意义，以及要如何采取行动才能创造出我们想要的未来。在第2 章中，我们会探索智能的基础，以及看似愚钝的物质如何组合出能够记忆、计算和学习的形式。随着我们对未来的探讨变得越来越深入，我们的故事将出现许多不同的分支，每个分支则会对应着各不相同的情景。会出现哪种情景，取决于我们如何回答某些关键问题。

如今，我们面临的问题是：应不应该进行人工智能军备竞赛，以及如何才能让明天的人工智能系统不出故障和保持稳定。如果人工智能的经济影响日益增长，我们还需要考虑如何修改法律，以及我们应该为孩子们提供什么样的就业建议，以免他们选择那些很快会被自动化取代的工作。我们将在第3 章中讨论这些短期问题。

如果人工智能发展到人类水平，我们还需要想一想如何保证它对人类有益，以及我们能不能或者应不应该创造出一个不需要工作就能保持繁荣的休闲社会。这也提出了另一个问题：智能爆炸或者缓慢但稳定的增长会不会创造出远超过人类水平的通用人工智能？我们会在第4 章许多这样的情景进行探讨，并在第5 章讨论在这之后可能会发生什么事情，范围从可能的乌托邦情景一直延伸到反乌托邦情景。谁会处在统治地位？是人类、人工智能，还是赛博格？人类会得到温和还是残暴的对待？我们是否会被取代？如果被取代，我们会把取代我们的东西视为征服者，还是后裔？我很好奇你会喜欢第5 章中的哪一种情景，因此，我建了一个网站（Superintelligence survey - Future of Life Institute）， 你可以在这里分享自己的看法， 参与讨论。

在第6 章， 我们会穿越到几十亿年后的未来。具有讽刺意味的是，我们在那里会得出一些比前几章更强的结论：因为我们宇宙中的生命的最终极限取决于物理定律，而不取决于智能。

对智能历史的探索终结之后，我们将用本书余下的部分来探讨我们应该朝着什么样的未来前进，以及如何实现它。为了将冷冰冰的事实与意志和意义联系起来，我们将在第7 章和第8 章分别探讨目标和意识的物理基础。最后，在尾声部分，我们将讨论当下应该做些什么，才能创造出我们想要的未来。

如果你读书时喜欢跳过一些章节，那么你需要知道的是，只要你理解了第1 章和下一章开头部分给出的名词解释及定义，后面的大部分章节都是相对独立的。如果你是一个人工智能研究者，你完全可以跳过第2章，除了最开始对智能进行定义的部分。如果你是最近才燃起对人工智能的兴趣，那第2 章和第3 章会让你明白，为什么第4～6 章的内容不容忽视，更不能被视为不可能发生的科幻故事。

一段精彩的旅程正在等待着我们，让我们出发吧！