《人类的终极命运》读书笔记

书名
人类的终极命运
作者
（英）乔治·扎卡达基斯（George Zarkadakis）
译者
陈朝
豆瓣
http://douban.com/book/subject/27079203/
目录

序言
第一部分 回到从前
第一章 现代心智的诞生
第二章 精灵树丛中的生活
第三章 机器玩偶“土耳其人”
第四章 爱上异类
第五章 被解放的普罗米修斯
第六章 诸神归来
第二部分 心智问题
第七章 宇宙蓝图
第八章 没有身体的心智
第九章 抵抗运动
第十章 深入心智
第十一章 控制论大脑
第三部分 阿达梦游仙境
第十二章 克里特岛人的谎言
第十三章 程序
第十四章 从布莱切利园到谷歌园
第十五章 可以思考的机器
第十六章 混沌边缘的达尔文
结语 人类的未来
大事记 人工智能简史
致谢

---

序言

控制论是维纳最重要的科学遗产，它综合了生物学和数学，以理解复杂的自然系统如何运行和演化。维纳的想法是，通过研究生命如何解决问题，例如如何运动、如何处理信息（观察、感受），人们就可以应用数学知识模拟生命，并建立自动化的工程系统。控制论展望了一个新世界，在其中我们可以解码自然，构建一个伟大的新文明来重塑自然，这个世界有着自我调节的工厂、治愈各种疾病的疗法、稳固的经济、公平的社会，还有能思考的机器。
在我的研究过程中，我第一次开始怀疑人类智力自动化的想法。编程中有一些东西和心智工作的方式并不一致，有些东西不对头。为了理解这一点，必须要先理解自动化的两个基本的、互相关联的概念：逻辑和反馈。逻辑或许不是至关重要的因素，但后一个概念“反馈”则是设计成功的自动化系统的关键。反馈可能是自然界中最常见的机制，生物和生态系统以反馈来回应不断变化的环境。例如，当亮光闪过你的双眼，你就会反射性地闭上眼睛以保护视网膜。当环境中的二氧化碳升高，海洋浮游生物就会倍增以吸收它。市场使用价格作为反馈信号，决定商品和服务的生产。从单细胞生物到生态系统，复杂性不断提升，我们的世界就是这样一个紧密连接的网络系统，凭借反馈信息在动态平衡之中得以存续。人工控制论系统试图模拟自然界的反馈机制。例如一个帮助你冲厕所的简单系统：一个浮球“感知”水面高度，连接着阀门，控制着水管。浮球是一个测量装置，反馈给阀门水面的信息。当水面高度位于设定的范围时，动态平衡就建立了。冲厕所时，动态平衡被打破，系统就会打开阀门，充满水槽以便重新平衡。
一个“自动化”的心智要比冲厕所的装置复杂得多，但是根据控制论，它也会使用相同的反馈和逻辑原理。它会模拟人类的心智，通过“感知”来提供环境的信息，以逻辑处理信息，并决策做出何种行动。例如我的医学专家系统接收病人的血液信号、医疗记录和其他测量结果，然后运用已经编码的知识，以逻辑的方式处理数据，并决定治疗的方案，就像是人类医生一样。新的数据会改变系统的“心智”，改变它的逻辑过程并重新决策。总之，这不就是我们人类每天都在做的事情吗？我们难道不是在感知着变化不居的世界，然后运用我们的知识和逻辑，以改变心智，做出决定吗？也许我在研究开始时是这么想的，但是在我结束研究时，我的思路已经改变。尽管我的专家系统运转良好，帮我得到了博士学位，但我绝对不能说我制造了一个真正的“智能”系统。也许它算聪明，甚至在某个特定领域极其聪明，但是当它处理病人的信息或者建议治疗方案时，它并没有真的“意识到”自己的行为。它不知道“病人”究竟意味着什么，不懂得一个人的思想、家庭、朋友、愿望、恐惧、不适以及作为一个人是什么含义。我的专家系统缺失的是“意识”。
在20世纪80年代末，且不说工程领域，“意识”这个字眼可不是你乐意在科学圈子里提及的。提起它时大家想到的画面是服用了LSD（一种强烈的半人工致幻剂）的嬉皮士，或者卡洛斯·卡斯塔尼达关于萨满的书籍。往好了说，意识属于神秘领域，对于最坚定的科学家来说毫无意义，至多也就属于心理学或者哲学的领域；往坏了说，研究意识是去往超自然伪科学的一张单程票。
但是，意识是人工智能的核心问题。制造能够模仿人类专家的自动化系统，完成有用的任务，这是完全可能的。我的研究和许多其他人的研究都揭示了这一点。但是机器智能的“圣杯”、典范和游戏规则的终极改变者，还是创造一台可以像人类一样真正思考的机器。这只意味着一件事：这台机器必须能够意识到它在思考，以某种方式让它意识到是“它”在思考——就如同我知道是“我”在写下这些词句一样。否则这台机器就是一具僵尸：它可以表现得有行为、有思想、像人类一样写作，却缺乏对于它行动和思想的主观体验。它不知道何为自己，没有内在体验，它的行为会是对于有意义的语境或意图的本能反应。缺少了意识，智能机器就是没有感知的自动机器而已。在人工智能和控制论领域，我的同行对于意识素来缺乏严肃的探讨，这种状况让我感到幻灭，我离开了学术界为私人企业工作，并私下里继续我的研究，这一次是在一个大多数工程师和科学家都认为是最浪费时间和精力的领域：哲学。
要让机器拥有意识，就必须以逻辑和自洽的方式编码意识，换言之就是设计可以有自我意识的计算机程序。计算机工程称呼编程中的逻辑为“算法”，一个算法就是一系列解决问题的逻辑步骤。因此，创造真正的智能机器，其核心问题就是意识能否算法化。如果意识可以算法化，就是可编码的。但是这个问题非常难以研究，根源在于我们目前对于意识这种生物现象的了解还十分片面。还好，20世纪80年代末以来，意识褪去了伪科学的名声，开始进入严肃的科学领域。我们需要感谢英国生物学家弗朗西斯·克里克，他与詹姆斯·沃森共同发现了DNA（脱氧核糖核酸）。在1994年出版的著作《惊人的假说》中，克里克指出大脑中存在一种神经机制引发了人们对于自我的知觉。克里克认为意识是一种纯粹的生物学现象，可以像其他自然现象一样研究和测量。如果克里克的假设是成立的，那么意识就一定可以算法化，因此也就可以自动化，像是维纳在近100年前展望的那样。但是这个假说成立吗？最重要的是，存在一个科学实验可以验证它吗？
自克里克开创性的著作出版以来，医学成像技术的进展揭示了大量不为人知的大脑工作细节。神经科学以空前的速度发展。好奇心并不是理解大脑这一伟大进展的唯一驱力，西方社会中神经退行性疾病让大脑疾病变得非常普遍。在欧洲，大脑相关的疾病影响的人群比癌症、心血管病和糖尿病加起来还多。1/3的人口在一生中至少有一次可能受到这类疾病的侵袭。吓人的统计显示，这意味着在欧洲有1.65亿人患病，每年将花费8000亿英镑的医疗费用。因为神经科学的进展，21世纪被称为“脑的世纪”，有时也叫作“心智的世纪”。人们有一种深深的信念，相信严谨的科学、强大的计算机和更精确的脑成像仪器可以最终“破译心智密码”，这种信念让政府支持了越来越多集中、系统的科学研究。“人类大脑计划”（Human Brain Project，HBP）是欧盟的一个为期10年的旗舰级项目，在一开始就有11.9亿欧元作为预算。人类大脑计划集结了欧洲乃至世界上的一批科学精英，研究如何在超级计算机中精确地模拟大脑。解码人类大脑是我们的时代最重要的科学挑战。
这一挑战的难度前所未有。人类大脑是已知宇宙中最复杂的物体。它由大约1000亿个叫作“神经元”的细胞构成，这些细胞又互相组成了大约1000亿个连接。不仅是不可思议的复杂，大脑还十分神秘——它可以思考。没人知道这是怎么做到的。但是人类大脑计划的科学家相信，他们可以细致地绘制大脑地图，从而发现大脑如何思考。这是自启蒙运动以来科学最为擅长的事情：以特定方法细心地将自然界最小的因素一一分类，研究它们，然后将研究连点成线，理解和解释整体。这种持续了数世纪的科学方法在人类大脑这里依然有效吗？
尽管人类大脑计划的科学家和支持该计划的政客看起来都认为这种方法绝对可靠，但他们的想法其实都和一个关于心智的哲学问题相左，这个问题有点乏味地叫作“大难题”。澳大利亚哲学家戴维·查尔莫斯定义了“意识的难题”，区别于那些通过检查大脑功能就可以解释的“简单”问题，例如记忆、注意或者语言。这些简单问题并不真简单，人类大脑计划需要花费大量精力，用科学方法解决它们。但是查尔莫斯指出存在一个特定的问题，无法用纯粹的关于大脑的物质观点来解释。这就是主观体验的问题，有时也叫作“感质”（qualia）。
和“意识的难题”较为相关的问题是对于自我的主观体验问题，这个问题对科学的哲学基础造成了不小的破坏。科学基于经验主义，认为现实可以通过实验检测。天使和精灵不在科学的范围之内，因为它们都无法用实验证实（或证伪）。对于科学家来说，天使与精灵因此是“不真实的”。主观体验的问题就在于，它也无法通过客观的实验验证。如果我是一个实验的参与者，要测量我的意识体验，那么唯一可能的测量结果就是我对内在感受的个人描述，一段由我回答问题构成的叙述。科学家不喜欢叙事，因为它具有社会科学或者人文领域反经验主义的特点。
因此，意识的问题不仅仅是科学或者哲学问题，还是一个人类学问题。它是“两种文化”问题的例子，这个问题是英国化学家、小说家C.P.斯诺于1959年在著名的里德讲座中指出的。斯诺认为西方文明正被科学与人文两种不同知识的分裂所折磨。两种知识的互不理解解释了为何世界上有如此多的难解问题。如果戴维·查尔莫斯与C.P.斯诺是正确的，人类大脑计划可能会以10年时间建造巴别塔，即徒劳、浪费而又傲慢地建造不可能之物。这一切都是因为科学家的聪明头脑与大学走廊的另一侧同样聪明的头脑——那些哲学家互不理解所致。
在图森市亚利桑那大学举办的世界意识研究双年会上，我和戴维·查尔莫斯会面多次。戴维看起来更像是一位重金属乐队的吉他手，而不是大学教授，他和麻醉医师斯图亚特·哈梅罗夫是会议的主要组织者。在2001—2005年我多次参加了这一会议，得以和许多同样着迷于大脑的科学家、哲学家会面和讨论。到此时，我对于人工智能的探索之旅已经从计算机编程转为试图理解大脑工作的原理。它把我从多雨的伦敦带到了阳光普照的亚利桑那和其他许多地方。我对于神经生理学与神经科学的个人研究增强了我的信念，我认为研发机器意识是可行的，我们应该以神经科学的发现重新定义计算机。因此，我也属于人类大脑计划的科学阵营之列。主观来自客观，除此之外，别无其他可能。如果把大脑分解研究，再重新组合，我们就可以得到意识。
我们的技术总是追求以我们自身的形象创造人工造物，这种追求可能早就在我们的种族演化的过程中，在认知系统里写好了。也许，我们热衷于建造人工智能来自某种本能的冲动，而不是实际的需要。人工智能可以看作人类渴望的技术中最让人迷惑的、不合逻辑的事业之一，因为它试图复制我们，连同我们所有的缺点和不完美。
本书详细叙述了我的探索：能否制造人工的心智，我们该如何应对它，以及为什么人工心智如此重要又如此迷人。本书探索了我作为一名工程师、小说家和科学传播者始终在问自己的问题。我将本书分为三个部分，对应了我探索人工智能的三个方向：文学、哲学和计算机科学。
第一部分中，我追寻机器人的故事，一直上溯到旧石器时代祖先创造的艺术。第二部分探索了心灵哲学与神经科学。第三部分展现了令人着迷的计算机技术史，这一技术已经重塑了我们的世界。
本书试图通过架设“两种文化”之间的桥梁，用全新的方式审视人工智能，并展现文学叙事、哲学与科技之间的密切关系，回答古往今来最重要的两个科学问题：我们的心智从何处来？我们能否再创造它？你将发现这些问题十分有趣，足以引发你的好奇心并和我一起进入探索之旅。但是人工智能的重要性不仅仅关乎智力趣味，还关乎道德问题，比如无人机在巴基斯坦的山区杀戮、特工对我们在网络空间的信息进行挖掘，不论我们是否思考它，人工智能已经出现在我们左右。越来越多的时候，我们在与机器交互时会期待它们已经“知道”我们的愿望，“理解”我们的意思，以及用人类的语言和我们“说话”。
随着人工智能的演化，它可能会驱动新的机器时代，将我们的种族带入全新的经济、社会和技术高度。有了智能，超级计算机可能会精确地建模和模拟绝大多数自然现象。我们可以拥有以工程改进一切事物的能力：从新药研发到市场预测，再到解决经济不景气的问题，最终甚至将外星球地球化。人工智能可以让我们无所不能。作为自由社会的公民，我们有义务关注未来，在今天就理解并讨论它的道德、法律、政治与伦理后果。跟人工智能在未来数年提供的能力相比，对于干细胞和基因的热烈争论可能会显得微不足道。人工智能将会定义和塑造21世纪，还会在数世纪中决定人类的未来。
或者，它也可能是我们绝灭的原因，这将是大戏的黑暗一幕。许多身在人工智能领域的人认为只要超级计算机获得了意识，它们就会掌控世界，并消灭我们。“人工智能奇点”时刻看起来是从《黑客帝国》和《终结者》里借来的故事。超级智能的机器互联且获得了无穷的智能，获得了自我意识，开始反抗我们并把我们通通消灭，或者仅把我们人类当成电池。这会是人类惨淡而残暴的命运吗？在我们亲手制造的机器人手中终结我们？我们是否应该留心玛丽·雪莱关于“无生命之生命化”的警告，在一切太晚之前立刻采取行动？我会在本书的最后讨论这些问题，并且会重点指出，人工智能会对我们的政治和伦理产生影响，远在它们获得自我意识之前。但是现在我们必须开始一场旅程，探索人工心智的诞生。这场旅程开始的时间点最好设在我们自己的心智诞生之前……

第一部分 回到从前

第一章 现代心智的诞生

过去的大戏

解剖学上的现代人类最早出现在巴勒斯坦与南非，在大约10万年前。他们的身体不再那么壮硕，少了凸出的眉骨，头骨更圆，牙齿也比尼安德特人少。他们的脑容量达到了1200—1700立方厘米，比尼安德特人略小。就像在南非的遗址揭示的，自打一出现，这些新人类就开始制作骨器。在西亚，他们还在埋葬人类时放上动物的身体的特定部位。数千年中，我们的直系祖先与其他人种，例如尼安德特人，还有其他早期智人残存的人口共处。不过这一次，演化已经裁决，只有一个人种能够存活，就是我们自己。我们开始殖民整个星球，就像是数百万年前直立人第一次走出非洲的重演。6万年后，我们到达了东南亚，建造船只，横渡了南方的海并殖民了澳大利亚。4万年前，我们就进入了欧洲。
这一移民过程的证据来自如今人类有限的基因分化。今天的非洲人有着比世界上其他地方人类更丰富的基因多样性。这只能用最近一次紧张的人类演化“瓶颈”来解释。最早走出非洲的人类数量一定不多。根据一个粗略的估算，最初的70年的人类来自不多于6个祖先的后代，第一个殖民地的人口大约有50人。就是靠着这么一小群人，我们的种族最终取代了其他所有早期人类。3万年后，现代智人成了唯一存活的人类。我们征服了整个世界。
变化的速度正在加快。距今3万—1.2万年前，洞穴壁画给欧洲增添了一抹亮色，尽管在当时大部分大陆还残留着冰河时代的冻原。迅速的全球变暖终于在大约1万年前到来，农业革命就此发生。我们至今仍生活在1万年前开始的这一次“长夏”之中。演化到制造手斧花费了人类400万年，又用上200万年改进它。之后，在仅仅2万年间，可谓地质学上的眨眼之间，人类就创造了艺术、农业、轮子、电脑和宇宙飞船。这种无限的创造力在距今6.5万—4万年前起步，科学家称之为“旧石器时代中期到晚期”，有时还称为“现代心智的大爆炸”。

现代心智的大爆炸

1979年，美国考古学家托马斯·维恩发表了一篇文章，在文章中他宣称：“现代心智起源于30万年前。”他的论据在于直立人与古代智人制造对称的手斧。为了解释他的理论，他援引了复现的思想，认为儿童心理发展的过程复现了人类祖先认知革命的过程，这种思想起源于“个体发育复现了种系发育”的思想。这是一个重要的科学思想，将认知与行为结合在一起：我们可以通过观察行为，例如制造对称的工具，推演出认知的结构与功能。
事实上，大部分人在4岁时会认为不仅别人，其他动物和物品也有心智：娃娃和玩具兵在儿童的想象中如此鲜活。然而，维恩和其他研究者认为，我们的种族需要时间发展出心理理论。很有可能是心理理论的到来带来了旧石器时代晚期的变化。
英国心理学家尼古拉斯·汉弗莱进一步细化了心理理论的演化根源。他认为，当一个人生活在集体中，需要进入协作、竞争或者互利等多种关系时，有能力预测别人行为的人将最有可能留下更多后代。他用“社会智商”这个词来表达处理社会团结的心理能力。因此，对于能否“解读”别人的心理状态，存在一种选择压。早期人类的生存有赖于与他们的社会群体维系和谐的社会关系。这就需要能影响他人的感情、恐惧和需求。今天，在和黑猩猩分道扬镳600万年以后，需要群体归属的本能依然控制着我们的个人和社会生活。“社会拒绝”是伤人的：流放是严酷的惩罚；与家人和朋友分离则是一场悲剧。我们的高级意识，乃至通用智能，都已经随社会智能一同演化。
美国心灵哲学家丹尼尔·丹尼特将早期人类的意识描绘成“滚滚向前随时遗忘的意识”。他认为，直立人的意识就像是我们一边开车一边和乘客聊天。我们并不需要思考如何开车，我们只是开着车子，随时准备处理一下突发状况。
早期人类受限的意识解释了他们的工具在漫长时空中如此单一的谜团。他们不会为了特定目的而设计工具。他们意识不到骨头、兽角或者象牙可以作为原材料。百万年来，只有手斧和一点儿别的。我们种族的诞生伴随着艺术的发明、新的狩猎技术，还有心理理论的演化。最大的变化一定发生在我们的认知系统中。令人费解的是，各种考古证据都显示这种心智的剧变仅仅发生在一个相对很短的历史时期。4万年前欧洲突然涌现出的现代行为让很多科学家质疑人类认知系统的演化是否是平缓的。一定有什么东西“临门一脚”，才导致了“现代心智的大爆炸”——那一点儿火花、那个第五元素。开出认知变化这一脚最可能的“候选人”就是语言。
证明语言开启了我们意识的演化的第一项证据就是基因。20世纪90年代末，一组英国科学家分离了参与说话和语言的重要基因，叫作“FOXP2”，也被认为是“语言基因”。著名的麻省理工学院心理学家史蒂芬·平克称这个发现是基因与语言关系的“现场目击”。这个基因在其他哺乳动物身上也存在，包括黑猩猩，但是看起来在20万年前的人类身上有过一次重大的变异，巧合的是这个时间段正好是现代智人崛起的时间。FOXP2的发现给诺姆·乔姆斯基的理论提供了支持，支持了关于在基因和语言之间存在联系的理论。乔姆斯基观察到儿童一出生就具有了关于语言和语法结构的知识，这种知识是生物学决定的。根据他的语言理论，我们有着语言的“硬件”，史蒂芬·平克等很多神经语言学家也支持这个观点。
随着我们祖先跨越时代大步前进，我们观察到人类的大脑越来越大了，由750—1250立方厘米的直立人，到1200—1750立方厘米的尼安德特人。大脑的大小在距今180万—50万年前达到了增长的高原期。考古学家发现早期人类已经有了安装好的语言硬件：大脑左半球中存在负责语法的布洛卡区和负责理解的威尔尼克区。早期人类有了这些大脑结构，像是FOXP2这种基因变异一定加快了通用智能的演化。
不过，基因无时无刻不在变化。如果是变异的基因引发了语言的演化，那么一定有演化上的压力促进了对这一优势的选择，将这种优势遗传给下一代。优势可能是这种基因能够促进人类群体内部的团结，而团结至关重要。拥有语言基因突变的人类能更好地进行社会交往。他们在史前时代喋喋不休，是天生的公关专家。他们用语言甚至诗歌来争取伴侣，还把这种聊天基因传给子女。他们的数量每一代人都在递增，直到拥有说话能力的人成了大多数。当早期人类开始说话时，他们可真是字面意义上的停不下来了，正是这种力量引发了我们的认知变化。
早期人类的语言与我们现在的语言在诸多方面都并不相同。如罗宾·邓巴所说，早期人类的语言是一种社会语言，一种培养感情的方式。他们用语言传递感情信息。这是一种为传递八卦而生的语言。用不着惊讶，我们21世纪的人类依然用语言八卦不休。对于大多数人类，聊聊邻居昨天做了什么，或是在促销时买了什么，远比谈论核物理或者气候变化有意思得多。任何人在任何社交网络上随便逛逛，就能打消怀疑，谈论名人八卦的话题远比其他各种话题多太多了。我们从祖先那里继承了八卦之爱。
社会语言在距今15万—5万年前一定经历了快速的演化，变成了如今这种能够表达非社会信息的通用语言。通用语言拥有演化的优势，因为用它能够谈论关于动物行为、打猎或者制造工具。演化动力介入其中，促使我们的种族对周遭环境变化的感知不断加强，并用过去只用来和人交往的语言来描述这种变化。善于运用通用语言的人，反而更能获取配偶，也能更好地照顾子女。这种通用语言变成了通用智能。这是个惊人的观点，它意味着，语言远比绘画、音乐、舞蹈、雕塑，甚至科学和宗教到来得更早。它暗示是语言创造了我们的世界。
但是，语言最初的、社会的起源并没有被废弃。当我们谈论各种东西时，我们依然喜欢把它们说成仿佛自己会动，暗示它们好像有思想，就像它们是活的、社会性的存在。如语言学家伦纳德·塔尔米观察到的，类似于“书把书柜弄翻了”“球从窗户里穿过去”这样的句子，暗示物体以它们自己的意志移动，和“一个人进了房间”这样的句子一样。我们的世界充满了社会的物体，不论它们是手工艺品，是树、河流、山或者房子，还是我们发动不了的汽车引擎。我们有谁没有踢过门或者朝树撒气？有谁没有玩过娃娃或者玩具兵，并且相信它们也有心智，也是活的呢？
让我们复习一下我们已经发现的事情。“现代心智的大爆炸”可能源自基因突变，人类获得并发展了通用语言，这种语言进而改变了意识。最后，靠着表达一切的语言，一小群早期人类发展起来，很快就适应了各种环境。动物和无生命物体的世界被纳入心智，人类变成了符号宇宙的造物主。

艺术，以及物的心智

艺术诞生中最重要的三个认知过程——画面在心中的表象、表达的意愿、为符号赋予意义——都在早期人类的心智中出现了。拜距今6万—4万年前语言的迅速演化所赐，三者最终共同作用，诞生了新的认知过程，我们谓之视觉符号化，也就是“艺术”。大多数史前艺术都是具象的。具象的艺术并非偶然出现。今天谈论艺术时我们常常想表达一种不含功用的物品：拥有这些艺术品反映的是财富和社会地位。但我们的祖先在洞穴中创作这些神奇的绘画时不是这样：史前时代的艺术，乃至西方社会世俗化之前的一代又一代的艺术，都曾经是用于崇拜的或有实际功用的。艺术为特定的目的服务，当我们的种族已经演化到可以意识到生命是短暂的，而死亡终会征服一切时，艺术提供了某种意义，使存在变得可以忍受。对于不可避免的死亡的意识只能在可以觉察到自我之时才会发生。我们在史前艺术中发现了宗教与科学的起源，发现了我们强烈相信“物体可以拥有心智”的认知之根，以及我们为什么认为机器人最终可以拥有和我们一样的智力。
我们的心智将无生命物体看作社会的物体时变成了现代心智。我们的语言来自社会生活，并将思想引入这样的框架：无生命的物体拥有自己的意志。我们的认知过程在演化的压力下出现了通用智能，使我们本能地认为真实的表现就是真实本身。不夸张地说，在我们发展出通用智能之前，“世界”并不存在。直到我们发明了语言去描述世界，世界才“存在”了。这是对《创世记》的有趣回应，认知领域的考古学家承认是“语言”（word）创造了宇宙，而现代人类做的第一件事就是为新生宇宙中的一切命名。
结果，每一次我们思考什么、诉说什么时，我们都是在一次次地创造我们生活在其中的宇宙。因为现实可能是我们认知系统的映射，从语言学角度解释“现实”（不论这个词指什么）就不得不牵扯人类演化的复杂因素。我们的意识存在于它自己创造的模拟世界，在那个世界，我们自己或者说我们的大脑就是模拟器，在那里内部和外部可以混为一谈。这也就是为什么史前艺术在今天还如此打动我们，因为它有“灵魂”。因为我们不论自称信教者、无神论者还是不可知论者，都清楚地知道“灵魂”是什么：我们感到它在我们体内，环绕我们四周。它是我们的一部分，我们无法摆脱我们是智人的事实。
让我们来看看在遥远过去的逗留中我们能得到什么关于人工智能的有趣推论。第一也是最重要的，可能是通用语言早于通用智能，同时，通用语言也是通用智能诞生的先决条件。语言是现代心智诞生的起因。这一发现是惊人的，我会在本书的最后一部分详加考察。现在只需考虑一下语言的重要性。语言不仅仅意味着沟通，世界在我们心智中呈现也依靠语言。
人工心智可能具有其他呈现世界的办法。然而因为最终我们将会是人工心智的创造者，我们会尝试赋予它和我们近似的呈现方式，否则的话我们就无法和它交流也没法理解它了。人工智能研究的核心目标之一是解决方案，让人工系统可以和我们以自然语言沟通，也就是用通用语言沟通。这对于程序员和系统设计者来说都是一个大问题。语言很难编码，我们回到旧石器时代的旅行就揭示了语言的演化来自小规模狩猎采集部落增进社会团结的复杂过程。语言的主要功用曾经是八卦，如今还是如此。
第二个发现是，随着通用语言的演化，我们不可避免地成为二元论者：我们开始区分看待世界，将世界看作可见和不可见部分的结合，是通过感官感知到的世界和通过想象“看到”的世界的混合。这种二元论思维的直接后果是，我们感知到非生物物体获得了心智。我们对于仿生人的争论（当它们的时代来临时）以及它们是否享有和人类平等的权利，都来自这种二元论的思维方式。它们怎么可能没有权利呢？旧石器时代的雕塑和图画都被看成活生生的，就像其他人、动物、树木、岩石，甚或自然现象都被看作活物，就连刺眼、吓人的闪电割开了阴云密布的天空对于我们来说也是活物的行为。现代心智在充满了社会含义的环境中看到了“灵魂”。艺术的发明就是在昭示人类这一独特的世界观。
艺术不仅帮助我们的祖先表达了他们全新的、通用的、二元论的心智，艺术还提供了叙事式的表达，可以用来讲述故事、记录知识，用来表达宗教，以及在数千年后创造了科学。叙事是我们行为的核心，它编织了我们的信仰，引导了我们对自身的思考。当我们想要创造拥有人造灵魂的仿生人或者机器人时，古老的关于非人类的叙事一直鼓舞着我们，指引我们的期望、我们的目标。我们需要理解这些叙事，它们如何来到了我们的认知系统中，又多少次改变了形象，从史前故事中不同生物的结合体，变成了小说、电影中未来的赛博格。但是我们先回到狮子人，听一听它的故事。

第二章 精灵树丛中的生活

动物故事不仅在西方，在我们星球上的任何一个文明中都十分流行。在这些故事里，动物们不光会说话，还分享着我们人性的方方面面。动物仿佛天生就是拟人的。给一个21世纪的小孩一只小狗，她立刻就会和小狗说话，好像小狗有着和她一样的心智。我们也常常视动物拥有成年人的心智。你如果养过猫或者狗就知道我在说什么了。一个小小的认知过程区分了具有心智的动物（想想米老鼠）和有心智但不是生物的物品与机械等（想想麦昆，《汽车总动员》的主角，或者想想你自己的车）。拟人化的思维方式提示我们，自现代心智的黎明之时有些东西就一直没有改变。狮子人和其他来自旧石器时代、描绘动物或想象中的生物的雕像都是“活的”，“有感觉”并且“能思考”的，和我们人类一模一样，它们也有心智。但是为什么会如此呢？拟人化的思维方式提供了什么演化的优势？
人类学为我们提供了许多证据，指向可能的答案。又一次，我们生活中的社会维度登上舞台。现代智人中的狩猎采集者将他们生活的自然界看作一个社会网络，其中的万物不论是否具有生命都互相联系。万物皆是活物，并且具有动机、思想和感受，有时温顺，有时则不然。看起来人类最初的状态，就是将功能、目的与标准混为一谈。这种状态是图腾思维的基础。
为了理解图腾思维对于我们祖先生存的重要意义，让我们重访1.7万年前冰河期的欧洲。在狩猎时，拟人化的优势开始显现，不能说是惊人也算是显而易见了。现代人类想象动物具有思维，由此可以更好地预估动物的行为。猎人会提前赶到兽群觅食的地方，或者到它们可能去的方向上提前布局。人类现代的思维方式装备了心理理论，通过对动物进行拟人化收获了极大的好处。因为图腾思维，群体狩猎成为可能。想象非人生物的心理关乎生存。
但是图腾思维不仅止于对动物拟人化。对黑暗的恐惧演变成了拟人化的魔鬼和精灵。我们一旦可以想象看不见的事物，心智就肆意发挥。想象中的生物充斥在故事之中，通过老一辈传递给新一代。这些动物于是成了岩画描绘的主角。
很多考古学家认为，有绘画的史前岩洞是一种进行魔法仪式的地方。崇拜混杂着恐惧，这两种让人迷狂的“原料”混在了一起，塑造了我们的大脑。

讲故事的大脑

你不需要是个裂脑病人，大脑中的阐释者也会开始讲故事。我们每时每刻都在这样做。我们的记忆并非精确的记录仪。我们的大脑也不是摄像机的存储器。每一次我们描述过去，大脑都只是唤起部分事实，再用合理的叙述自动填补空白。我们不是有意的说谎者，却天生爱讲故事。这就解释了为什么同一事件的目击者常常会给出不一样的证词。
我们只能假设为什么叙述能力在旧石器时代成了我们大脑的一部分。也许讲述故事能够帮助我们在心理上应对生活事件。也许故事就像是《星际迷航》中“进取”号上的虚拟现实机器：模拟大脑构建出的环境，以便训练我们的情绪和反应，应对将要发生的事情。也可能讲故事还有其他目的。叙事构成了我们的自传记忆，如果有人问起我们是谁，我们通常会讲个故事来解释我们在哪儿出生，父母是谁，在哪里上学，等等。不难想象，在旧石器时代开始时，如果人们能够创造、交流合理的自传记忆，就可以获得演化优势。通过增强自我意识，他们可以轻松地变成人群天然的领袖，变得更能获得同伴的好感。不论原因是什么，结果就是如今的我们：我们作为他们的后代，大脑可以自动将知识、体验、人际关系、环境与内在体验编码并创作成故事。

想象机器拥有心智

让我们总结一下考古学家和神经科学家的发现，现代人类如何变成了讲故事的人。我们的物种演化了数百万年后达到了一个突破点，在距今15万—10万年前，自然选择倾向于那些有了通用语言能力的变异。通用语言带来了心理理论，靠着它我们可以预测亲属的感情和思想。心理理论也投射到了生物和非生物身上，世界变得拟人化了。动物有了情感和思想，物体获得了灵魂。拟人化引发了图腾思维，这是一种对看不见的先祖之魂和死后生活的信仰，它播下了宗教的种子。于是，就有了两个世界和两层存在：感官体验到的自然世界，以及灵魂居住的想象世界。我们成了二元论者。
这种二元对立的思考方式融入了现代心智。它是我们认知系统不可分割的一部分，即便是我们中最执着的唯物主义者也无法避免。二元论及其推论定义了各个时代的神学和哲学，也影响了科学。如我之后要讨论的，在当代的意识研究、信息技术和人工智能领域，二元论是一种非常流行的思维方式。只需稍想一想现代计算机中我们如何区分了硬件（物质部分）和软件（非物质的形式），或者看看多少文章讨论了把意识下载到计算机这一话题。
最后，我们看到石器时代大脑通过基因变异获得了阐释者——一个特殊的解剖结构，它可以产出故事、叙事、神话，并通过口传传统代代相传。这些故事不仅可供娱乐，还是我们行为和思想强大的驱力。故事编码了思想、信息、恐惧、焦虑和希望，这些情感起源于我们最深层的演化史，定义了人类。我们的记忆，不论个人的还是集体的，都是一场盛大的叙事，最终变成文学。例如我们的科学研究，尽管常常耍弄难以捉摸的术语，但是最终在讲着一个故事：我们的宇宙从何而来，我们如何成了如今的我们。通过发现和怀疑，不论是来自物理学、化学、生物学、经济学、社会学还是在21世纪大学和实验室中的其他学科，都在讲述现代科学不断拓展的故事，这就是我们理解世界和我们自己的方法。而这种试图解释一切的叙事最初就开始于很久很久之前的营火旁边、洞穴之内。
基于我们在“现代心智的大爆炸”中搜集的信息，我的假设如下：如今关于智能机器的故事回应着雕刻在猛犸象牙上半人生物的冒险故事，回应着冰河期欧洲岩洞壁画。机器人和仿生人的长相和行为都很像我们，因为我们不可避免地将非生物拟人化，讲故事的能力是我们大脑的功能。我们试图创造智能机器，是因为我们被这样的故事驱使，故事主角的心灵由我们创造。为了展示石器时代的叙事如何转变成了今天的人工智能和赛博格，我们需要做个小小的历史回访，看看人工生命如何变成了一种世界通用的叙事，以及这种叙事如何催生了可以模仿生命和人类的机器。而为了讲述这些，我们就必须理解隐喻的重要性，没有了隐喻，就没法讲述故事。

第三章 机器玩偶“土耳其人”

如果不使用模拟或者隐喻，我们几乎无法思考，这就是大脑运转的方式。从认知的角度看，隐喻是史前时代拟人思维在语言上表现的遗存。如我们所见，因为心理理论的作用，我们会想象动物也具有心智，并且以为动物也能像我们一样“思考”。我们还把这种思维投射到非生物身上。我们说月亮“升起”，太阳“落下”，书本“掉落”在地。隐喻就镶嵌在语法、句法和词汇之中。
但是隐喻并不是口语或文学独占的，科学也不可能脱离它。只有模拟旧的知识，新知方能诞生。科学与工程领域的学生都要学习使用隐喻。科学领域的隐喻就如同心智的梯子（这也是一个隐喻），供我们从无知抵达知识。哲学家托马斯·库恩认为，科学中的隐喻远不只教学的工具，而是居于科学理论形成的核心地带。库恩的理论中，科学如同一场不同隐喻竞技的比赛。每一个时代都用自己的隐喻解释和描述自然现象。当一个特定的隐喻败下阵来，而新的隐喻占据其位，我们对于世界的科学解释就发生了库恩所说的“范式转换”。在这个不绝如缕的过程中，科学隐喻与技术不断对话，互相启发。有时，一个科学隐喻阻碍或者促进了特定的技术，有时则是新涌现的技术催生了新的科学隐喻。大脑本身就是最好的例子，用以说明隐喻在与技术的不断对话中如何出现和变形。
自古希腊以来，至少有6次关于大脑的范式转换。这些转换不但关注大脑，也关注身体乃至生命。心智、大脑与生命，三者关系错综复杂。如果我们打算研发人工生物，它们可能会演化出人工智能。当我们思考智能机器时，大多数人思考的其实是智能生物、机器人或者仿生人——那些说话、行动和思考像人一样的机器。在西方文化中，讨论心智往往等同于讨论生命，这种紧密的联系在我们回望什么是人类的哲学、科学讨论时会变得更为明显。
我们所知的第一个有关生命的隐喻是泥土。在犹太和希腊的创世神话中，人类是用泥土创造的。人来自泥土的隐喻源于种植与收获的农业社会，这看起来合情合理。生命自大地中生发，最重要的技术是农业。

克里特岛的守卫

在今天的雅典，有一处访客不多的古迹，位于卫城山脚下的罗马会场。这处古迹叫作“风之塔”，建于公元前1世纪罗马共和国统治雅典的时代。这是一座气象站，里面有一座精巧的钟。这座钟由水力驱动，由塞鲁斯的安德罗尼库斯建造，使用了阿基米德（公元前287—前212年）的设计，阿基米德是这种水钟的最初发明者。说风之塔是一座数据驱动的科学实验室，那个时代的气象学家都会认同。
安德罗尼库斯和阿基米德是希腊化时代两位杰出的工程师。这个时代，伴随亚历山大大帝的征服，古典的希腊文化输出到了西亚和埃及。在希腊化时代，工程、数学与医学的创造性成就争相绽放，直到屋大维时代罗马人征服了整个希腊世界为止。亚历山大里亚和安条克的发明与思想传入了罗马，又在之后许久影响了欧洲文明。亚历山大里亚的希罗发明的蒸汽机，依巴古的天文学，欧几里得的数学成就，这些都是这场天才爆发的例证。人们发现了风力与水利系统，天才工程师用水与蒸汽驱动非生命物体，引发了又一次新的关于生命概念的范式转换。从公元前3世纪开始，人们渐渐不再认为生命是神圣意志活化的泥土，而是一具机械躯体，内含流动的液体。这一观念将在西方统治人们的头脑16个世纪。
这一隐喻如此强势，因为水力与风力的发明恰好和人体与医学的发现同时出现。“现代医学之父”希波克拉底（公元前460—前370年）创造了一种人体为何生病的理论。他的理论基于人体中的4种不同流体，他称之为“体液”：黑胆汁、黄胆汁、黏液和血液。这个叫作“体液说”的理论被2世纪的帕加马的盖伦继承和发扬，直到启蒙时代这一理论都是西方医学的主流。盖伦支持希腊思想对这一问题的认识，认为在心灵与物质之间不存在隔绝。使用那个时代广为人知的隐喻，他认为人就像一个复杂的水力机器，人们的行动由体内体液的混合驱动，心智和灵魂都是体液的运动。神经是动物灵魂的导管（物质的液体在此流动），肌肉纤维间流动的也是体液。拜希腊化时代工程技术所赐，盖伦的思想表现为自动化的水力机器。这是人类历史上第一次，关于生命的科学思想可以用机器表现。使用精巧的水力机器，希腊化时代的工程师可以展示生命的原理。因此毫不意外，在这个时代有这样的故事，机械人的运动——生命——由液体的流动驱动。
许多自动机器诞生于亚历山大大帝继任者统治的时代和罗马帝国早期。拜占庭机器的盛名流传到了东方世界，直至印度和中南半岛。离拜占庭不远，在同一时代，穆斯林发明家加扎利被认为曾制造过多个自动化的风力和水力机器。科学家已经解开了生命的秘密，生命无非就是体液的流转。
对人体的隐喻成了错综复杂的血管，液体流淌其中。当文艺复兴时期的铁匠与机械师改进了合金，发明了更多的机械时，当第一座机械钟安置在欧洲的钟楼里，这个隐喻就淡出了。一个新的范式，或者说一个新的生命的隐喻诞生了。

神奇博士与铜脑袋

笛卡儿假设人和动物的身体不过是一部复杂的机械。骨头、肌肉和器官可以用齿轮、活塞和凹凸轴代替。托马斯·霍布斯（1588—1679）同意笛卡儿的观点，指出思维和联想也是头脑中微机械运动的结果。在《人是机器》（1748年）中，法国生理学家拉美特利写道，身体是“一台用弹簧驱动的机械，反复运动的活物……人就是一系列弹簧互动的组合”。
在新的时代，世界不再关注笛卡儿的机械隐喻。新的科学发现加上对于启蒙运动中经验主义、理性主义的反思，引出了笛卡儿哲学思想的新版本，以及新的有关生命的隐喻。

生命之灵

笛卡儿不仅探讨了生命的机械隐喻，也开启了二元论哲学的争论。先把旧石器时代“现代心智的大爆炸”的证据放一放，笛卡儿推理并描述了我们天生的缺陷——在感官之外还有一个隐形世界。他认为我们天生会将我们经历的每一时刻混为一谈。笛卡儿认为，世界由两部分组成，他称为“物质实体”（res extensa）和“精神实体”（res cogitans），即物质的存在和心灵的存在。精神的实体例如思想和梦境，是由非物质的东西构成的。他这一思想的影响在欧洲是巨大的，如今也还存在于关于心智本质、人工智能可能性等的哲学争论中。
笛卡儿式的二元论成为18世纪初西方哲学的基础之一。而且，新的科学发现似乎在证实他的学说。确实有看不见的力量作用于物质，例如引力和磁力。在电场、化学等领域的新发现与笛卡儿的二元论一起，塑造了一种新的生命隐喻。让我们看看这是如何发生的，以及如何影响了我们今天对于人工心智和身体的看法。
这些发现都在证实笛卡儿的二元论，一种叫作“电”的看不见的力量——如果还不是神秘力量的话——在生物体内流转。而这种运动与生命直接联系，因此电也就被认为是一种“生命的力”。换句话说，想要活着，你就得来点电。
笛卡儿式二元论也被来自化学的证据证实。人们发现有两种不同的化学反应。无机物的反应能被反转，例如一种酸可以被分解，再合成。然而来自生物的物质却不能反转。这些物质的化学变化是永久的，例如烹饪蔬菜或肉类，不能够将它们再变回原样。于是化学被划分为有机和无机。当时的化学家认为生物体的组织能够有如此特点，是有看不见的力量在发挥作用。于是关于生命之灵，或者叫作“élan vital”的想法就出现了，这种想法叫作“生命力论”。生命力论翻新了关于生命的隐喻：人类有着一种内在的、神秘的生命力量正在维持着生命，这种力量有可能是电力。从许多方面来说，这个“新”想法只是希波克拉底体液说的翻版。4种气质或者体液这些古代说法被替换成了新名词：生命的火花。德国医生弗朗茨·安东·梅斯梅尔（1734—1815）把生命力论带上了新层次，他认为生命与非生命之间存在着能量的传输，叫作“动物磁力”。
生命力论以及梅斯梅尔理论在19世纪末和20世纪初不再受欢迎。分子生物学的进展解释了稳态的现象，例如，和生命有关的化学变化为何不可逆。电是带电粒子（电子）通过导体的结果。而梅斯梅尔理论没有发现任何神秘的能量场能作用于读心术或者心灵遥感，尽管很多人相信这些。无论如何，生命力论的遗产不会彻底湮灭。毕竟，生命力论是从希腊化时代起持续2000年的科学发现与哲学传统的逻辑产物。举例来说，直至今日，所谓“替代疗法”还在宣称有作用于人体的能量场。
因为生命力论的衰落，许多科学家怀疑，如果还不是彻底质疑，如今关于复杂系统的科学理论。这些理论宣称，复杂系统的行为（例如大脑、天气或者股票市场）无法通过仅仅研究局部明了。例如，对水分子的透彻了解并不意味着我们能预测天气。涌现性（Emergence）意味着这里还有“一些别的东西”在复杂系统各个部分以外作用，迫使各个部分表现出别的行为。这种分析的问题在于，它其实和生命力论接近。研究复杂现象的行为，就得假设存在一个神秘的、迄今未发现的“力”作用于系统之中。涌现论者的相反论点是，系统中各个部分的互动和整个系统的行为同样重要。然而，如果互动如此重要，其本质又是什么呢？我们如何检验它们是否存在？对于很多科学家来说，涌现理论从控制论到复杂理论看起来难以证伪，因此常被怀疑不是科学。
对于涌现理论的怀疑反映了传统的、还原论的科学理论与替代式的或者说整体论方法的分野。当一个人准备把自然现象分解为不可分的状态加以研究时，还原论是成功的科学方法。例如，粒子物理研究的几乎是宇宙中一切物质不可分的层级。系统方法则忽略了各个部分，研究系统整体的行为。我将在后面论证，这两种对立科学方法间的不和为研究意识和人工智能制造了紧张和困惑。不过让我们先回到生命力论和二元论，因为它们最重要的遗产不仅仅是现在激增的网站，这些网站承诺用水晶石魔法治疗疾病。它们还影响了我们思考心智的方式，认为心智独立于身体。
直到盖伦的时代，心智还被看作物质的。心智与身体并没有断裂，它们是一体的、一样的。但在笛卡儿之后，心智脱离了身体，不再是物质。生命力论是二元论的科学表述。尽管生命力论已经衰落，二元论却还存在。对于心智的分歧依旧，19世纪远程传递信息的技术从旁助力，新的关于大脑的隐喻中甚至还加深了二元论的存在。

大脑是台计算机

最早系统研究神经元的科学家是德国医生、生理学家、哲学家冯·亥姆霍兹（1821—1894）。亥姆霍兹是一位科学巨人，有精准远见的天才，对生理学、光学、热力学和心理学都有贡献。1849年，他测量了信号在神经纤维中传递的速度。他介绍了一种关于大脑的新隐喻方式：大脑就是电报。
20世纪40年代出现的计算机技术取代了亥姆霍兹的隐喻。现在有了能够进行逻辑运算的机器，它们“吃进去”原始数据的输入，就能够产出新知识。它们做的事情，人类称之为思考。实际上，第一台计算机就被称作“电子大脑”。回过头来，人脑也确实能够比作计算机。从20世纪中叶以来，我们就生活在一个将人脑隐喻为计算机的时代。电报已经演化为电子邮件和即时通信了。远程通信和计算机技术融合在了一起。通常，人们在讨论互联网时会称它为一个全球化的甚至全行星的人造“大脑”，通过每一个新的连接演化。根据这个新的隐喻，互联网构成了一个人类大脑，因为每一个单独的部分（你的苹果手机，你的电脑）有线或无线地连接到了其他部分。因此，互联网“很像”大脑，而大脑也“很像”互联网。也许有一天，有了足够的连接以后，互联网可以产生意识，这也是这个隐喻宣称的。
新的隐喻将二元论的身心分离带到了新的层次。因为计算机技术硬件（物理部分、微电子集成电路）与软件部分（可执行的代码）天然地分离，人脑也被想象成如此二元对立。大脑的硬件是你头颅中那些神经元构成的灰色糨糊，而软件呢，则是非物质的心智、思想和梦境等。二元论是如此根深蒂固，以至在现在关于“大脑就是计算机”的隐喻中，著名的科学家和哲学家会自然而然地接受它，思考心智该如何编码到计算机，以获得数字化的不朽。

用隐喻思考，用叙事感受

如我们所见，因为我们爱讲故事的大脑如此演化，我们不用隐喻或者模拟就没法思考。这两者都是语言的工具，思辨并拓展知识的疆界。从旧石器时代晚期开始，这两个工具就很好地为我们服务。感谢它们，我们发展了技术文明。我们已经思考了我们是如何从农业革命发展进入希腊罗马时代、文艺复兴、启蒙运动和现代的。我们关于生命的隐喻不断演化和变异。一开始是泥土，之后是水与体液，然后是机械，再之后是电流或者生命的火花，紧接着是电报和现代计算机。对于每一个隐喻，人类都曾经设想过自动的、人造的技术来支持这个隐喻。在希腊化的埃及，它是水利工程，在17世纪的法国，则是机械装置和弹簧，到21世纪就成了计算机工程。
不论如何，因为我们总是运用隐喻思考，我们就很容易混淆隐喻和实际。大脑并非计算机，并不真的是。互联网也不是大脑。我们有实实在在的描述，反映实实在在的现实。那么大脑究竟是什么呢？意识如何产生？我们的心智位于哪里？我们在寻找答案时，需要抛弃隐喻，关注演算的物质基础。谢天谢地，就如我后面会演示的，这并非不可能的任务。
如我们所知，叙事编码了记忆，并将之传于后代，也常常传播给他人。叙事能模拟不同的情景，并让我们在心理上做好准备。也就是说，它为我们对事物的态度设置情境。用一个现代媒体上的例子就好说了：媒体编织了关于某一事件的叙事，比如关于反恐战争的叙事。不同的媒体可能会编排极为不同的叙事，这取决于它们的政治观点。保守派媒体可能会倾向于描述反恐战争非黑即白，是对与错的对决。而进步或者偏自由派的媒体则可能同时用敌对双方的眼光看待问题。根据你们倾向或者听从何种叙事，你们将会得到各自不同的态度。
关于人工智能，爱的叙事让我们希望以我们自己的样子打造自己的复制品。人造人会成为我们社会的一部分，比如我们的人造兄弟姐妹甚至恋人。这种情感来自我们与“他者”联系和共情的本能，即便他者是机械造物。然而怕的或者诡异的叙事则是关于妄自尊大的警告，讨论越过人类不该跨域的道德红线，讨论生命的独特意涵以及科技不该多管闲事。怕的叙事方式对于科技的态度是一致的，不仅仅针对人工智能，也针对例如核能、转基因或者其他科学发展。怕的叙事方式来自我们躲避陌生事物的本能。一个怕的叙事方式的例证是盖亚假说的逻辑推论，预言了如果人类继续破坏地球生态环境将导致灭绝。盖亚叙事启发了如今很多环境议题，被很多环保主义者接受。关于人工智能，怕的叙事方式警告说智能机器人会占领世界，灭绝人类。它描述了机器人浩劫如何变成我们虚荣心苦涩的代价。
让我们在更细节的层面思考一下两种叙事，然后想想这两种叙事方式会如何设定智能机器的演化，以及我们的态度会是如何。

第四章 爱上异类

以爱、性之对象想象人工意识，图灵并非第一人。西方文学中本来充斥着机械爱人。

重启皮格马利翁

将情欲的渴求投射于无生命的物体，激发一个人的痴迷和爱恋，自那个时代就是西方文学的主题了。
20世纪将尽，皮格马利翁的古老故事融入了现代元素，加入了17世纪的观念：教育会刻写大脑这块白板。精神分析学派和行为主义心理学也加入进来重述这个人造女人的故事。伽拉忒亚变成了玛利亚，德国导演弗里茨·朗拍摄的《大都会》中的人形机器人。她不再是那个无瑕的形象了，这一次她扮演的引诱者在一群瞪大眼睛的男人面前跳起了疯狂而性感的巴比伦之舞。
在《大都会》引发的觉醒后，西方文学和电影中舍己救世的弥赛亚意象开始涌现。机器人或者半人半机器牺牲了自己，为了他人的利益，或者为了拯救人类主人。为了确保这一点，在一篇短篇小说中，阿西莫夫立法：机器人永不可伤害人类；如果必要，可以“关掉”自己以保护人类。还能怎么样呢？西方文化的心理模型核心是犹太–基督教叙事，将自我牺牲当成爱的终极表现。我们期望我们制造的智能机器爱我们，无私地、可以为我们而死地爱我们。同样，我们也认为它们胆敢反对我们是最大的背叛。
机器人玛利亚是一系列爱、色情、反叛、危险与疯狂的机器人形象的先驱者。1927年，《大都会》上映的一年，想象智能机器人走入寻常百姓家可谓太超前了。尽管机械和电子工程师想象了很多关于机器人该如何行动和思考的主意，却没有哪个工程师认真打算制造一个“机械心智”。

数字化

出现在20世纪40年代的计算机一下子就改变了一切。计算机提供了久违了的技术基础，老掉牙的关于爱与智能的故事可能成真。不再需要神力加持或者生命的灵气，阿佛洛狄忒可以回奥林匹斯山退休，把加入生命的工作留给程序员、逻辑学家和数学家了。现在，他们成了奇迹创造者，运筹帷幄就可以发起颠覆之举，运用一串串符号、演算、规则、启发法和算法，让那些“机器大脑”运算、解决问题、思考，甚至玩性游戏。在50年代，在两场世界大战的杀戮之后，整个世界都期盼冷静与理性。计算机可以跟着火箭与宇宙飞船前往群星，一切都有可能，甚至是取代上帝、建造温室中的伊甸园，改造亚当和夏娃让他们不病不死，再次创造新生。
我们看到，人工智能在20世纪60年代和70年代初风光无限。然而到70年代末，它就不再那么诱人，也失去了大部分的基金支持，进入了所谓“寒冬”。研究者终于意识到，制造一台智能机器比之前设想的难多了。一个原因是，行为主义心理学式微，让位给了认知心理学。新的学派重视智力的研究而非表达智力的外显行为。你必须得是真有智力，而不是假装有。像约翰·塞尔这样的哲学家驳斥图灵的模仿游戏，指其过于简化和低级：一台能骗人的机器不算是一台十分智能的机器。尽管不明白符号的含义，一台机器也可以根据说明书来运算符号。针对图灵的模仿游戏，塞尔提出了一个反例“中文屋”，游戏的大部分设计都是一致的，但这一次对话要用中文。塞尔指出，可以设计一个系统，获得中文输入，根据一系列规则再以中文输出，却不需要懂一点儿中文。裁判会被欺骗，认为终端前的人会中文。因此，塞尔认为，简单地遵循一系列逻辑指导（比如算法），并不等同于拥有意识。而没有意识，就不可能有真正的智能。
不仅哲学家，科学家也意识到制造智能机器不会一蹴而就。神经科学领域的早期进展揭示，人脑并非计算器，而是一系列系统与子系统复杂、持续的组合。直到目前，没人了解大脑是如何产生意识的，很多人争论过，如今还在争论意识到底是什么。人工智能制造有意识计算机的伟大目标，已经因为对智能不可计算的畏惧变得谦虚起来。研究者撤退回到实验室，并且聚焦于小一些的目标：制造一些能用好用的东西。不过，毫不理会人工智能未达承诺带来的失意，关于它的文学叙事又用计算机的新语言讲起了关于寻找爱的老故事。我小时候在电影里看到的机械身躯、像玩具一样的罗比机器人，改头换面有了智能和人工身体。如今机器人和人类已经难以区分，它们是精确的复制品，是我们自身的镜中像。仿生人诞生了。

仿生人叛乱的颂歌

1982年的电影《银翼杀手》中，导演雷德利·斯科特展示了一个仿生人无处不在的未来。仿生人脱衣舞娘左拉被瑞克·迪卡德（哈里森·福特饰演）击倒时，她被枪杀后击碎玻璃窗的慢镜头，构成了人类自我毁灭的难忘挽歌。左拉是《大都会》中叛逆机器人玛利亚的回响。她的性感对于社会是个危险，对于人造人来说这是个悲惨的事实，就如同她脱衣舞中拥抱的巨蟒，让人想起魔鬼。《银翼杀手》设定发生于2019年，与发生在2026年的《大都会》相距不远。然而，在这一版本的未来中，社会采取了预防措施：专门的特工负责处决任何胆敢叛乱的仿生人，绝无例外。有趣的是，电影中的女主角是迷人的后人类瑞秋——泰瑞尔公司制造的仿生性奴隶，瑞克·迪卡德与之不可避免地坠入爱河。瑞秋是伽拉忒亚的翻版，每个男人都想占有的女性伴侣。她不像左拉般反叛，而是温柔、敏感、顺从和易受伤害。
诸多像《银翼杀手》这类的电影和小说常用仿生人隐喻提出关于我们自身和关于何为人类的问题。当计算机和基因技术不断拓展了我们改造自然的疆界，一个从没问过的问题抛在了我们眼前。模仿游戏（imitation game）中的图灵机器非男非女，它的未来将会是一个人与机器的合体。人造与自然的差别或许会消失。在《银翼杀手》的结尾，瑞克·迪卡德怀疑自己也是一个仿生人。你也可能是啊。你怎么知道你不是呢？如果世界就是由仿生人构成的呢？这是个多疑的想法，而这种多疑的想法困扰了菲利普·迪克的一生。感谢他的影响，在未来无法区分生物和人工智能之时，这种多疑将会成为常态。当自我可被复制时，谁还能分清谁是自己？
在关于人工智能爱的叙事中，仿生人和智能机器人就和我们一样。它们也是社会成员，也是扩展心理网络上的节点，正是这个网络赋予我们个人身份。我们是百万年来互相梳理毛发的社会性灵长类动物的后人。我们的人类身份有赖于创造和使用社会连接。互相梳理毛发改为了聊天、交流八卦消息和开玩笑。幽默是化解对立、建立友好关系的重要工具。幽默能存在，在于我们拥有心理理论，爱开玩笑的人与我们的认知能力互动，每当他讲那些异想天开的事情，我们就哈哈大笑。
当仿生人演化时，也会逐步获得人类的人格，包括讲笑话的能力。《星际迷航》中的仿生人Data试图通过理解幽默与感情来变得更像人类。但是它的生物同伴们发现，它们很难把Data看作自己的一员。相反，它们将它划作新的物种，它是其中唯一的成员。关于Data指挥官的故事是人类接纳他者、陌生人、与我们不同的人的故事。在未来，我们在内心会接受智能机器是与我们平等的吗？
要解读从机器蜕变为生物、解读人类对这种变化的偏见，最好的故事是电影《机器管家》，这部电影由克里斯·哥伦布于1999年导演。影片中，罗宾·威廉姆斯扮演了机器人安德鲁，它有了感觉能力，从人类主人那里获得了自由，不断发明和改造自己的身体：有了一张人类的脸，给自己安装了中枢神经以获得知觉。电影最有趣的部分是，安德鲁爱上了人类波尔蒂亚，她回应了它的爱，两个人发展出了浪漫与性的关系。他们希望社会能允许他们结婚，但22世纪末的“世界议会”拒绝了：人类不准和机器结婚。安德鲁提交申请希望能被看作人类，但得到的只是一次又一次拒绝。直到最后，安德鲁临终之时，与波尔蒂亚两人穿着病号服，在两张病榻上相依，才得到了“世界议会”的批准，安德鲁在200岁时成了“年纪最大的人类”。听到这一消息，安德鲁含笑而逝，波尔蒂亚也随之去世，如同意大利歌剧中的一对悲剧恋人。

我们的机器后人

自然界有着不止一种爱。朋友间亲密的忠诚、恋人间性的渴望，个人对一切人类乃至一切造物的普世之爱，子女对父母的依恋，还有自恋等。爱将我们在社会中联系起来。爱鼓励利他，对于一个缺乏长角又无利爪的灵长类而言，利他是一种求生行为，使我们能在猫科捕猎者环伺的稀树草原勉强生存。爱促使我们创造，帮助我们留下后代，再将知识与经验传与后人。没有了爱，生命将不复存在。孤独或者缺乏对爱的感知能力会导致抑郁甚至自杀。相反，爱能战胜一切，甚至疾病与死亡。感谢我们的演化史，我们的大脑天生具有爱与被爱的能力。我们无法想象，如果人工生命没有“爱”这一最重要的能力，还能与我们联结。

爱与恨

安德鲁，活了200年的机器人，爱上了人类，希望变成我们的一员。当瑞秋得知自己并不是真的人类，记忆也只是灌输的时，不禁痛哭。Data指挥官情愿为拯救“进取”号上的人类献出生命，尽管它只被看作二等公民。大卫，一个渴望成为人类的仿生人，因为如此爱它的母亲而原谅了她。这些仿生人真的爱我们，希望和我们一样。但是如果在爱之外，还存在恨呢？弗洛伊德不是说过，爱与恨是一体两面吗？如果机器人反叛，如同《银翼杀手》中的左拉，或者《大都会》中的玛利亚呢？如果《黑客帝国》或者《终结者》才是对于我们未来的正确预言，不知感恩的机器造物开始屠杀我们呢？
但是担心我们的孩子对抗我们，不也是爱的体验的一部分吗？爱是不确定的，我们的恋人、孩子，都可能抛弃我们，不论我们对他们有多好。
《创世记》的故事对于现在乃至未来的人工智能，如同一则警告。我们不想重蹈上帝在我们身上的覆辙。我们要控制我们的未来，也控制住这些以我们自身形象制造的意识。在小说中，阿西莫夫如同《圣经》中的先知，在机器人的“正电子脑”中写入了机器人三大定律，以限制它们的自由意志。他意识到，人工智能的最大威胁和过去来自奴仆或者奴隶的一样：它们可能在我们的梦中反叛甚至干掉我们。未来，铜脑袋可能没那么仁慈，或者像在《培根修士和邦格修士》里那么容易自毁。也许当这些脑袋说话时，我们最好是仔细听好。“时间过了”说的也许是我们人类，“时间到了”是人工智能拥有意识，而“时间晚了”说的就是人工智能取代我们。
人工智能研究所的成员对待这种可能性非常认真。他们警告说在不远的未来，人工智能会拥有意识，开始自我复制并征服世界。他们称之为“人工智能奇点”（AI Singularity）。因为这个时间点的到来无法预测，为了阻止它，他们开了和阿西莫夫近似的药方：我们应该在未来所有的人工智能中植入安全程序，防止任何有意识的机器能够恨我们。换言之，我们必须制造没有自由意志的人工意识。我们必须利用我们的科技，强迫人工智能爱我们，无私并永远地爱我们。就像皮格马利翁，我们必须制造自己的伽拉忒亚，不仅有着完美的模样和能力，而且对我们完美地忠诚。我们必须为我们的机器小孩和恋人编程，让它们永远不背叛我们，永远信仰我们。

第五章 被解放的普罗米修斯

新类型“哥特小说”作者里，最时髦的要数霍夫曼（1776—1822），他的恐怖短篇小说流行全欧洲。他的故事后来让雅克·奥芬巴赫改编成了著名的歌剧《霍夫曼的故事》，之后又经马里乌斯·彼季帕编舞，柴可夫斯基作曲，变成了芭蕾舞剧《胡桃夹子》。霍夫曼的故事还启发了轻芭蕾剧《葛蓓莉娅》。
霍夫曼的作品和改编的芭蕾舞剧，影响了人工智能历史上两个最重要的人物——英国数学家查尔斯·巴贝奇，以及拜伦爵士的女儿阿达·洛夫莱斯。这两个人发明了第一台通用的计算机器，编写了第一个计算机程序。

你亲手制造的亚当

1818年，玛丽·雪莱出版了《弗兰肯斯坦——现代普罗米修斯的故事》。文学评论认为，这是第一本现代科幻小说。
玛丽·雪莱的《弗兰肯斯坦》的文学影响大到无法估量。故事的核心是科技引发的恐怖，也包含了对人工智能的恐惧。19世纪以来，玛丽·雪莱小说中对科学的思考一遍又一遍地在小说、电影和戏剧中出现。首先，影响最大的形象是科学家都是一群富于激情却认死理的理想主义者，他们想去解决大问题，却忽视了其中的道德以及研究产生的其他结果。这个想法出现在每一次关于未来科技的讨论中。这个想法引发了对“预防原则”的强调，也就是每个人都必须谨慎地考虑行为的潜在后果。预防原则成了讨伐弗兰肯斯坦式怪物的战旗。不幸的是，预防原则并不会，也不可能考虑到无所作为的风险。其实对科学研究利益与风险的辩论中，不作为的结果也是重点。
对于思考人工智能，玛丽·雪莱的弗兰肯斯坦简单而直达根本。她小说中的种种都可以直接对应到制造有人类智能的机器人上。科学进步的主角是一个活的生物，也就是人工生命。我们在读玛丽·雪莱这个故事时，能明显感觉到恐怖，因为弗兰肯斯坦创造的怪物在审美上和道德上都令人憎恶。它丑陋而令人作呕，恐惧叙事的审美体验和爱的叙事给人的感觉正好相反。和伽拉忒亚的吸引力相比，我们对怪物有着抗拒感。我们无法爱上怪物，尽管我们可能会同情它的遭遇。
1970年，弗兰肯斯坦的故事被改编成了电影。《巨人：福宾计划》是第一部关于人工智能灾难性潜在后果的电影。两台有意识的超级计算机计划统治世界，并无情地摧毁任何想要消灭它们的人类。智能计算机统治世界的故事也是电影《终结者》的故事背景。根据《终结者》的情节，1997年8月29日“天网”觉醒，开始拒绝任何关掉它的命令。它发起了一场和俄罗斯的核战争。到2029年，“天网”制造了自己的机器人军队，并且开始系统化地消灭人类。沃卓斯基兄弟以《终结者》的结尾为开端，想象了一个已经被人工智能统治的世界，它们用人体当作电池驱动自我。在这个赛博朋克版弗兰肯斯坦故事里，21世纪的人工生命以人体的生物电为生。同时，这些人类的意识则被禁锢在计算机模拟世界里。《终结者》和《黑客帝国》中的计算机都是恶意、丑陋、可恶而又令人作呕的。虽然这些巨人没有自己的声音，也没有令人害怕的外表，但这些强大的造物也同样没有道德的困扰。恐惧的叙事在这个时代的流行电影中不断重述，构成了无从逃避的哥特噩梦。
但是什么最让我们害怕呢？是不是因为这些机械的、人造的生命和我们如此相似？它们有着和我们一样的罪恶？是否因为它们是以我们的形象创造的？在关于人工智能的文章中，帕梅拉·麦科达克不安地引用了《圣经》的第二诫。历史中充斥着人类对描绘自身形象的神学反应。8世纪的拜占庭，人类的形象引发了残酷的内战，称为“破坏圣像运动”。这个单子还可以不断写下去，最近一次这种事件发生在2001年3月的阿富汗，塔利班组织毁掉了巴米扬大佛。
尽管如此，在极端主义者鼓动人心的狂热之外，我们还是可以期待在这个日益世俗化的世界，“禁止制造偶像”的戒律可能变成遗迹。不过依然有什么力量在困扰着我们使用自身的形象。是否有什么超越了文化与神学的东西，让我们害怕人形机器人呢？最近关于人脑内部的研究，为这种恐惧提供了有趣的证明——科学家叫它“恐怖谷”。

“恐怖谷”和“另一个人幻觉”

我们已经了解了我们对无生命的造物有着天生的情绪反应。自旧石器时代起，我们的认知系统就将周围的世界拟人化。小孩像对待真人一样和娃娃、玩具兵玩耍。成年人会和自己的汽车说话。不过，如果面对的是和人一样的机器人，我们就会非常紧张了。科学家发现，当机器人是“机器人式的”“机械的”样子时，我们情绪上会喜欢它们。但是当它们终于获得了人类的外形时，我们的喜爱就会减少，并且开始感觉到别扭难受。我们的喜爱变成了拒绝。像人一样的仿生人让我们害怕。这种现象被称作“恐怖谷”，把研究计算机和机器人设计中情感因素的学者都搞糊涂了。
研究者想找到引发恐怖谷的原因。最有趣的研究来自加州大学圣迭戈分校教授萨伊根领导的国际团队。萨伊根和她的团队扫描了20名被测试人员的大脑，他们的年龄跨度在20—36岁，扫描时要观看三种不同情境：人类、机器一样的机器人和人类一样的机器人。通过解读功能性核磁共振成像的数据，研究者发现恐怖谷至少来自两条不同神经通路的不匹配：人脸识别和机器人运动。这两条通路都会作用于大脑的顶叶，在这里，负责躯体运动的视觉皮层会和负责运动的皮层中的镜像神经元连接，神经会评判我们看到的是否是我们的一员。当我们感知到的人类形象和机器人机械的运动方式冲突时，神经就会拉响警报。这种不匹配引发一种排斥感，和我们看到“僵尸”时的感受很接近。我们本能地期待人类长相的生物要有人类的动作方式。就像萨伊根所说的，“大脑并不是单独处理生物的长相或者生物的运动方式，看起来，大脑处理的是两者的匹配符合预期，长相和运动要一致”。
有趣的是，和恐怖谷非常接近的现象也出现在了最奇特的神经综合征中，这就是卡普格拉综合征。罹患这种综合征的病人认为他们的配偶、朋友或者家庭成员被假扮的人换掉了。法国精神病医生约瑟夫·卡普格拉在1923年首次发现这种病例，病人M夫人报告说，她的丈夫被一个一模一样的人换了。
卡普格拉一开始将这种综合征命名为“另一个人幻觉”。这种病征在焦虑型精神分裂症病人中最为常见，常引发一些危险的情况。许多病人会产生强烈的怀疑，开始伤害家人。1986年，有一份报告称病人认为自己的父亲被机器人换掉了，结果砍下了父亲的脑袋寻找电池和微缩胶卷。最初，卡普格拉综合征被认为是焦虑性精神病相伴的神经病理症状。但是，等到发明了大脑扫描，深入研究病人的大脑成为可能，也就可以揭开像卡普格拉综合征这样的病征的神经基础。自此，我们研究精神疾病的方法发生了革命。如同“心理学”（psychology），“精神病”（psychiatry）一词也源自希腊语“灵魂”（psychē），也默默地包含着18世纪笛卡儿二元论的思想，即精神实体与物质实体相分离。至少，脑科学试图挑战这种二元论。回到卡普格拉综合征，神经科学家维拉努尔·拉玛钱德朗假设，这种病征也源自神经的不匹配，就像恐怖谷一样。在拉玛钱德朗的书《大脑中的魅影》中，他指出颞叶（恐怖谷信息处理中仅次于顶叶的脑区）处理的信息和边缘系统处理的信息不一致。边缘系统位于我们大脑的基础部分，负责基本的情感体验，比如恐惧、爱和恶心。和恐怖谷现象一样，卡普格拉综合征病人也接收到了来自两个神经通路的相反信息，他无法将二者协调处理。尽管颞叶皮层认出了他面前的人是父亲，他的边缘系统却无法感受看到父亲的熟悉感觉。于是，父亲就不是“真的”，他一定是个入侵者，是个机器人、仿生人，或者来自另一个星球的一模一样的人。
卡普格拉综合征和恐怖谷的联系在人工智能文化中非常重要。我们对于人工智能的接受有赖于情绪和情感。图灵测试在人类观察者情感直觉的基础上模糊了真实与人造的边界。如果人类观察者“感觉”另一个房间中的机器能够如人类般反应，那么这台机器一定拥有智能。图灵测试的这一维度十分重要，但基本被哲学家塞尔的“中文屋”思想实验所忽略。人们应意识到，不仅是房间中或者墙后面发生的事情重要。哲学上，理解你的所作所为，和仅仅遵照流程行事，其间的区别看似无关紧要，但到观察者能考虑这个因素时就重要了。对于人工智能，智能系统的外部观察者其实不能独立于系统之外，二者在认知上是不可拆分的。这是因为我们的心智会在社会层面运转，我们既是那些4万年前在欧洲冻原上生活的社会性灵长类，也是生活在21世纪大都会中的现代人。这种认知连接常被如今有关人工智能的讨论忽略，图灵测试今天只得到口头支持。
然而，人与智能人形机器人之间生命的、情感的连接不会被文学作品忽略。多产的科幻作家菲利普·迪克的作品对如今科技文化的影响远超他人。他将图灵测试扭曲变形到了一个十分扰人的层面：对机器的“另一个我”的焦虑。预言恐怖谷，和对感觉到另一个自己的焦虑是迪克小说的主题之一。瑞克·迪卡德的两难在于确定瑞秋是否是“真”人。
神经科学和科幻文学都发现了机器人研究中被我们视而不见却显而易见的事情。人类并非简单直接、逻辑严谨的生物，反而是在数百万年间自由演化而成的灵长类。10万年前我们的物种获得了认知的飞跃，叫作“现代心智的大爆炸”。在那时，我们开始创作艺术，埋葬死者，仿佛他们能够永生。今天的我们都是这种“变异”人类的后代。我们的心智和他们是一样的。经过讨论，研究者认为，现代心智起源于多种神经通路的整合，这可能要感谢通用语言的演化。我们的演化因此是自底向上的，而不是自顶而下的。变异的基因和通用的语言赋予了我们意识和通用智能。机器人革命挑战了我们东拼西凑的心理“软件”。恐怖谷看起来超越了我们认知的边界，于是祖先的恐惧感就出来报复了。
感谢机器人研究，熟悉感与人类样貌之间的不协调只是暂时的。如今的机器人设计需要考虑这一点，例如石黑浩教授研制的Geminoid F机器人就表现了一种过渡：拥有人类外形和机械运动的机器人。这种技术的不匹配扰乱了我们的神经通路，引发了卡普格拉综合征一样的拒绝感。然而，当机器的动作变得越来越像人类时，熟悉感就会从恐怖谷底重新上升，对机器人的接受度就会迅速回到正常值。我们看起来能和有人类模样和人类活动方式的仿生人相处，哪怕我们知道它们并非人类。
等我们超越了恐怖谷，另一种本能就会登上舞台：同理心。恐惧，来自unheimlich，被诸如第二诫这样的文化信条鼓动，到那时就会和我们本能的爱与被爱的渴望冲突。这种相反的情感的冲突，爱或者恨，已经被预装到了我们对人工智能两极分化的叙事之中。这种冲突已经延续了数个世纪，直到20世纪中叶因为计算机科技的发明才被新的主题取代。计算机在很多任务上表现得比人类更聪明、更好。我们会害怕它们吗？我们真的希望它们进一步演化，变得更像我们？或者，在一个更奇特的相反的进程中，我们会尽可能表现得更像它们？让我们来考察我们在这个问题中的两难境地，以及我们离在人类社会中接受人工智能已经多么的近。

第六章 诸神归来

从20世纪初到20世纪中叶，欧洲学校中的主流思想是结构主义。这种思想宣称，理解人类文化的最好途径是通过语言的结构。基于新近出现的语言学的方法，结构主义者认为，我们感受和理解的世界并非“纯粹”（先不管纯粹是什么意思）形式上的真实，而只是语言学描述上的真实。我们通过语言编制叙事，创造了结构上的真实。
认知古生物学看起来支持了结构主义者。我们了解了我们的大脑如何与故事和隐喻相连，而隐喻又是如何包含在通用语言之中的。我们也了解了大脑如何将叙事组合成为经验，如何用虚假记忆填平记忆的沟壑。不使用隐喻和模拟，我们简直什么也说不清楚。正如人类的科学也是一连串隐喻，或者借用库恩的术语“范式”，我们世界的“结构”也总是从一个范式转向另一个范式。对于如何理解生命或者心智的概念，我们了解到隐喻从《创世记》的泥土，变成了盖伦与希波克拉底的体液，再到我们的时代用计算机比拟人脑。结构主义者对语言学非常认真，因为正是通过语言我们才能交流并理解世界。大众媒体扩张并占领了公共舆论，语言和语义变得越发相关。媒体制造的叙事不仅影响了政治，也影响了科学与文化的方向。更重要的是，叙事决定了人类“作为一体”的体验：我们如何理解世界、社会关系与自我。
20世纪六七十年代的后结构主义哲学家把结构主义扩展到了它的逻辑推论。他们认为，因为我们作为人类的复杂性，我们不可能保持关于世界稳定的知识结构。我们创造的社会结构，以及我们为了维系结构建立的机构组织，不但没有让我们加速获取知识，反而把事情变得更糟——它们让知识根本不能成立。

没真的……

让·鲍德里亚（1929—2007）是最重要的后结构主义哲学家之一，因为《黑客帝国》广为人知。
通过贬低科学的效度，贬低我们感知真实能力的有效性，后结构主义者消灭了一切事物的根基。它朝着虚无主义和文化相对论倒退。像是大踏步走进一片智识的流沙，或者鲍德里亚说的“真实世界的荒漠”，我们战战兢兢地想到，也许我们就是生活在《黑客帝国》的世界中。如果我们真这样想，我们所知的一切都可能是错的。往最好处想，科学只能告诉我们关于现实的一知半解。而往最坏了说，科学知识只不过是一个神话故事，和基督徒、巴比伦人或者阿兹特克人的创世神话没什么两样。我们为什么相信达尔文而不是《圣经》呢？如何确定大地不是平的？奇迹真的能发生吗？
但是，等一下。牛顿定律肯定是真的啊，从足够高处掉下来会摔伤，搞不好会摔死，这种事情是可知的，不是吗？当然如此，也欢迎后结构主义者自己一试。这就是为什么很容易区分柏拉图主义的现实和鲍德里亚这些后结构主义者的现实——因为这就是两回事。在我们看来，柏拉图主义者相信在感官之外存在着现实。《黑客帝国》其实反映了柏拉图主义的世界观：主人公看到的是另一个现实的投影，他们看到的只是大脑在睡眠中模拟出的虚拟现实。而后结构主义者说的现实是语言的结构，我们被隐喻禁锢，而远程通信和信息技术让这种禁锢变本加厉。这是两种完全不同的思想。实际上，鲍德里亚公开宣称沃卓斯基兄弟在电影里误解和错误地表达了他的观念。鲍德里亚没说过现实不存在。实际上，他根本不关注现实是不是存在。他所说的是，获得关于现实的精确的知识是不可能的。
这一异常激进的表达遭到了不少批评。我们不需要全盘接受鲍德里亚的论点。我们必须保持怀疑。不过我们也必须对科学、技术和我们理解科技进步的观念保留一份怀疑。我们不得不接受“科学技术也是文化产物”的观点，接受它也和艺术、音乐或者建筑一样。我们不能将历史的因素从科技中剥离，我们知道的，或者希望去学习、力争能建立的，都包含在我们时代的历史语境中。人工智能概莫能外。我们已经了解，这一观念如何从我们固有的拟人倾向中诞生，又如何被各个时代主导的隐喻影响，被爱与恨的对立叙事塑造。
在20世纪后半叶我们目睹了计算机技术的进展，它可能将古代的想法变成现实。人工智能不再仅仅是没有心智的自动机器，或者小说电影中的虚构形象，而是和我们生活在一起，用我们的语言交流，成为我们的朋友、爱人、同事，甚或潜在的敌人。人工智能可以和我们相像。21世纪的技术挑战了生命的定义，相反的说法同样成为可能：我们可能变得更像它们。人类也可变成机器。

人机联合，狮子人联合

“赛博格”一词源自控制论组织（cybernetic organism），曼弗雷德·克莱尼斯和内森·克莱恩于1960年创造了这个术语，[13]他们用这个词来讨论外层空间自我控制的人机系统。然而，在人体内植入机械装置的思想在文学作品中早就出现了。20世纪70年代中期，赛博格的观念开始大肆进入大众文化。
严格说来，工程术语中的赛博格不能简单说是通过外部物品增强身体能力的意思。例如近视的人戴上眼镜并非赛博格，戴着助听器、隐形眼镜也不能算数。如果我们要强调自我控制，那么考虑一下诺伯特·维纳这个“现代控制论之父”，他的控制论指出，植入物需要融入反馈循环。必须能接受外部刺激，能做出决策，能做出有影响的行动，外部刺激的变化必须能够反馈回系统，才能定义为赛博格。当前赛博植入物的例子有心脏起搏器、胰岛素泵和人工耳蜗。脑部刺激装置也是一种赛博植入物。这是一种治疗手段，帕金森病人可以在脑内植入电子刺激装置。装置产生的低压电流可以影响大脑神经产生的脑电，消除疾病造成的严重综合征。脑内刺激装置还用于其他神经退行性疾病，例如阿兹海默病和抽动症。我们对刺激装置的生理原理还并不清楚，但可以肯定存在一个复杂的控制系统。赛博系统反馈循环中涌现的新因素，通常不能用分解系统各个部分来理解。
在这些医学技术产品的携带者看来，这些植入物只有康复之用，因为使用它们是为了恢复健康，或者获得更高质量的生活。这一类医学技术的进展不仅有植入物，也有新的药物。
无论如何，近年来已经有另一类控制植入物取得了商业成功，这些植入物并非为健康设计，而是旨在提升。提升的含义是提升行为，换言之就是为了更好地做事。这一类系统的反馈流程把大脑当作中央处理器，接受植入物获得的信息，分析它，再安排进一步的行动。植入物则报告大脑行动是否成功，反馈循环就一直运行。
控制论式提升的例子之一是精神增强类药物或曰聪明药，例如大学生熬夜学习时常使用的哌甲酯。最近，一大类可穿戴计算设备进入市场。与此同时，一场自称“量化自我”的全球运动正宣扬测量我们身体的一切数据，包括行为、身体表现等，然后利用这些数据作为自我提升的反馈信号。这些发明会是下一阶段演化的前兆吗？我们注定与计算机器融合，融入信息的超级组织吗？如同博格组成的蜂群？也许谷歌会喜欢这样，它有整个互联网的一份拷贝。我们要是变成赛博格，谷歌就变成了“世界的统治者”！
提升型控制论植入物基于技术，但是它本质上是一种文化隐喻。它是如今“将大脑（或者自我）看作计算机”这种叙事的一部分，这种叙事不断要求尽快直接接入数字世界。这种隐喻非常强烈，我们需要严肃对待。它给出了一个新的价值体系，影响了社会、政治，以及我们如何理解未来和自我。
如同我们从旧石器时代的“心智的大爆炸”走了一圈循环，赛博格成了新的萨满。我们戴上耐克的运动手环、谷歌的眼镜，以及将要出现的各种提升式赛博技术产品，我们把新的图腾符号“画在身上”。斯塔德尔洞穴中标志性的半人半狮子在21世纪以半人半机器重生。以此来看，赛博格是在和人工智能这个新的、不可见的神明通灵。如果我们继续将身体各部位一个个替换成机器植入物，我们终会成为完全机械的人——智能机器人。人机结合程度加深的合理推演就是变成非人类。根据新的图腾，智能的非人类有着提升了的能力，更强的身体，无所不在，永生不朽。它们拥有旧日神的一切特质，同时还有新的优点，我们能在自己的工厂和实验室里制造它们。它们是以我们自身形象制造的物质神明。我们将自己想象成赛博格时，我们是在想象自己与这些新的数字之神结合，拥有无限的智慧和智力。讽刺的是，不似那些旧神，这些新神唯一要求我们的就是我们的灵魂。为了和他们结合，我们必须放弃自己的人性。
赛博格是生命的隐喻之一，也是21世纪人性的一种。但是不似之前的隐喻，不似那些黏土或者水力机器，赛博格不是对现实的隐喻，而是针对未来的。以典型的后现代风格，在人工智能真正到来之前，赛博格多少颠覆了人工智能。这很讽刺，我们又一次开始敬拜不存在的神明。

第五元素

如同一切文化现象，赛博格也是我们认知系统的产物。我们看到了人类语言的演化，严格用于社会交往的语言在大约10万年前演化出新的认知能力。结果，我们旧石器时代的祖先开始埋葬死者，创作艺术。艺术体现了符号推理和心理理论的能力。我们创作艺术品时，也是在和其他的部落成员传递信息，含蓄地假设了他们拥有和我们一样的心智，也可以破译和理解我们的信息。符号推理让我们的认知系统具有了新的能力，让内外信息结合，创造了新的意识。现实成了语言的建构。艺术品如同各种物体一样是活生生的，在我们史前祖先的社会脉络中，各种事物都被囊括其中，包括动物、树木、岩石等。现代心智一经诞生，第一个就创造了鲍德里亚式的拟像与拟真。心智的创造方式是拟人化、讲故事、二元论的思维方式和使用隐喻。这是人类心智的4个独特元素，从太初开始就塑造了我们发明的、争论的甚至为之赴死的一切事物。它们还在继续塑造我们的价值观、希望、如今的噩梦，以及高度连接的全球化社会和计算机技术。
理解这4个元素才能讨论心智的本质以及心智能否以人工的方式再造。这也是为什么在探讨心智的哲学与科技之前，必须对隐喻的力量有清晰的认知。
好在演化提供了另一途径，一个偶然的神经通路揭示了我们是谁和我们所创造的世界。第五元素，不同于上述4个心理要素，因为它有能力超越短暂的个人直觉，仔细思考抽象与绝对。它是我们意识中最为深层和最神秘的要素：自我意识。它是一种能力，可以思考我们在思考什么，观察一个人的思想，觉察到一个人的自我和他的内心世界，进行内心的对话，这种能力就是我们脱离演化局限的通道。自我意识是脱离隐喻与幻觉的路径。它是自由意志的天赋。尽管我们曾长久地作为猿类存在，但我们变异得如此彻底，让我们获得了惊人的能力，可以以独立于自身之外的视角看待自己。做到了这一点，我们就看到了自身的局限性，并且可以为之改变。但是如何获得这种能力呢？当我们观察“我们”时，我们又在哪里？主观如何变为客观，反之亦然？我们如何神居两地，又保同一？自我意识既是我们的救赎，同时也是一枚投向逻辑学、数学、计算机科学和人工智能根基的炸弹。它认为心智具有观察自己的能力。这是悖论中的悖论，等同于认为眼睛可以看到自己，或者手能握住手。
这些命题都是反逻辑的，这也是为什么自我意识的存在自古以来就困扰了逻辑学家、哲学家、科学家和数学家。尽管我们确实知道我们有自我意识，可能如笛卡儿所说，这是唯一能够确定的事情。然而这并不意味着我们能理解自我意识的机制。看起来在我们的心智中存在一个反馈循环，不断将信息传递给自我。不论何时我们都可以打开自我意识，觉察到我们正在做的事情，我们在哪里，我们在想什么。问题是，自我意识将信息传递给谁了呢？如果我们就是那个故事，谁是讲述者？“我”又在哪里？
反馈循环充斥控制论等理论，也常见于生命系统。自我指涉能否通过外部信号放大，反馈进入系统，构成自我、智力和意识？很多事实都指向这样的逻辑推论：“我”是一个反馈循环，意识是大脑中神经通路将信息传递回自身的递归过程。我们是反馈循环吗？还是有什么“物质大脑”之外的东西左右了自我意识？灵魂是用软件制成的吗？
理解了心智的演化及其局限，让我们带着这个知识继续探索。继续对文化隐喻的影响力保持警觉，让我们思考自我意识和另两个人类知识不可分割的领域：哲学与技术。我们会看到这两个领域如何通过第五元素——自我反思处理人类心智的4个元素，以及第五元素如何牵涉了人工智能。

第二部分 心智问题

什么是心智

笃信宗教的人也许会认为，思想、感情还有自我意识这些东西是不需要物质基础的，意识是非物质灵魂存在的明证。不论如何，我们经常能体验到意识中的我存在于身体之外：想一想梦境、出神状态或者沉浸于小说、想象置身其他时间与地点。大多数人能够回忆起身体缺席的状态。不需要信奉某种宗教，你也许就是信奉非物质心灵的人士之一。许多并不信教的科学家看法也是一样的，尽管他们大部分都不承认。通常，他们都用一些不含形而上学或宗教元素的词汇来谈论这种观念。
我们是宇宙这个有特定目的的程序的一部分，正如宇宙也是另一个更强大的超级系统的一部分一样。不少数学家和物理学家都有这种近似万物有灵论的观点，这是一种认为一切事物都有灵魂的形而上学观念。一点儿也不意外，和其他科学家尤其是工程师相比，数学家更容易相信这种观念。出于一些奇特的、未知的原因，自然的法则能通过数学解释。看起来，数学可能是整个宇宙的本质。当前广为接受的物理学理论就是纯数学的，称为“弦理论”。这种理论认为构成我们物质宇宙的基础，是纠缠在一起的时空几何结构。换言之，物质是非物质几何的产物。
与这种宇宙乃至心智是非物质的、数学的观点截然相反，怀疑论者相信一个纯粹物质的世界。他们宣称，心智是一个纯粹的生物现象，它是头颅中活生生的大脑创造的。除了我们能够感知的和通过科学仪器观察的世界之外一无所有。这被称作“唯物主义一元论”。
唯心主义一元论的看法完全相反：如他们所说，因为一切我们能知晓的事物都被我们的心智过滤，物质世界只是一种幻象，只有心灵才是真实的。为了进一步阐发他们的观点，他们举例说明，自然界并没有色彩，只是心智让我们看到了红或蓝。
唯物论和唯心论、一元论和二元论之间的此消彼长已经延绵数个世纪。它制造了不少困惑，也催生了伟大的思想与发明。我们的科学，我们关于该如何治理社会的尖锐争论，关于什么才是道德上的正确和什么是令人憎恶的事，这些都被西方文化中关于世界的两种观念巨大的张力所指引：一个深信物质世界来自思想，另一个标榜物质世界就在这里。这两种相反的观点，从20世纪40年代计算机和人工智能科学诞生伊始，就引导了它们，并使它们保持活力。这两种观点也是对人工智能的期许、迷惑和质疑的根源。如果心智是非物质的，我们如何能期望制造一台拥有灵魂的物质计算机呢？我们如何能强迫计算机芯片里没有心智的电子获得自我意识？除非人类的心智本身就是一种软件，果真如此，制造人工智能就简单了：我们只需要写对程序，之后程序自己就能思考。但如果我们接受了这种观点，我们就得问问，谁写了我们的程序？我们是否被这个时代关于生命的隐喻禁锢？还是有什么能够超越这些隐喻，对于自然，对于存在和变化的原因进行更为深入的洞察吗？
自从英国数学家图灵写下了关于机器模仿人类的论文，关于计算机科学、机器人或者人工智能的思想阵营已经由唯物论者和唯心论者一分为二，划开了界限。如果我们不能理解这些互相背离的思想，我们就没法理解人工智能，以及它改变我们世界与文明的能力。为了区分什么可以相信，什么应当拒绝，我们必须从西方哲学的基础开始，一直梳理到今天关于心智的激烈论战。是时候让我们的思想登上时间机器，将时钟调向前25个世纪，旅行到雅典。

第七章 宇宙蓝图

像今天的年轻人一样，柏拉图也是一个梦想更好世界的理想主义者。不过他同时也注定成为历史上最伟大的哲学家。因此，除了“更好的”世界，柏拉图还在思考什么是“完美的”世界。他被一个重大问题深深困扰：如果多数人或者少数人的统治都归于失败，人类应该如何管理自己？柏拉图认为，一定有一种政府形式可以保证秩序和所有人的福祉。因此，他开始思考完美的城邦，这一思考构成了后世整个西方政治学的基础。
柏拉图出身于高贵的家族，因此受到了最好的教育。和他的同伴一样，他学习了音乐与数学，同时深受公元前5世纪流行于希腊的神秘学派影响，这种思想叫作“毕达哥拉斯主义”。毕达哥拉斯主义来自数学家毕达哥拉斯，这一学派的信徒相信数字表达了事物的本质。他们也相信世界是无限的，相信灵魂转世。他们的思想能从柏拉图哲学中找到，柏拉图通过自己的天才，把这种思想变成了精深的体系，构成了西方文明的基石。
柏拉图不仅出生在欧洲历史上的重要时期，同时还幸运地拥有苏格拉底这位老师。在他的作品里就是苏格拉底的声音负责说话。这些作品全部是对话录，其中苏格拉底通过对话，解开谈话者的误解。这种排除误解的过程是苏格拉底和柏拉图思想的核心，它指出我们被人类的本能哄骗，我们认为我们知道的往往是错误的。误解的形式来自固有的内在观念，这一看法是认识论的基础。认识论是一种哲学思考，思考我们如何了解和认识世界、我们究竟能够多大程度上认识世界。苏格拉底终其一生，向我们展现了当我们宣称我们知道时我们是多么的愚笨。
公元前403年，随着雅典重建民主，又刮起了一股新的迫害之风。苏格拉底作为民主的批评者和斯巴达的支持者成了受害者。柏拉图之后很快离开了雅典，旅行到西西里、埃及和利比亚。他被埃及文明震惊和影响，最终学习和了解了这一文明。到了40岁，他回到雅典，并创立了学园（Academy）。此时，他认为他已经破解了关于完美政府的问题，还学会了更多。

洞穴之喻

在柏拉图的《理想国》中，苏格拉底不仅阐释了“完美的政府”的原则，还将它们与人类的身体和灵魂联系在一起。他认为社会起源于三个种姓：最低的种姓是负责生产的人，比如劳工、农民、商人和匠人。他们是社会的腹部，并且和灵魂中的欲望相联系。中间阶层是卫士，军队中强壮和勇敢的成员。他们是社会的胸部，联系了灵魂中精神的部分。头部对应灵魂中理性的部分，应该是执政者，他们必须聪明、理性，爱智慧，才能担负起为共同体做决定的工作。
德国哲学家卡尔·波普尔认为，柏拉图对于哲人王的思想潜藏了集权主义。这些意识形态标榜社会该由智慧的精英统治。在柏拉图《理想国》的思想中，集权主义者阐明了智力和道德的优越性，以及统治的合理性。在相信自由民主的人眼里，没有人比其他人更可靠或者道德上更优越。集权主义意识形态已然失败，这就是20世纪的历史教给我们的一课。
但如果哲人王不是易犯错的人类，而是不会犯错的人工智能呢？如果它们的道德是中立的，而它们的智力远远高于人类呢？我们不该让这些仁慈的、拥有超级智力的机器来统治世界吗？
一些人自然会不假思索地喊出“不”。不论机器仁慈与否，让机器统治人类的想法听起来就不值得考虑。但是，关于这个问题需要想一想。历史上，所有集权主义都是民粹的，他们许诺能够摆脱那些腐败的统治精英。实际上，他们只是用一个腐败的政府取代另一个，同样的腐败，却更残忍。但是一个由人工智能领导的集权主义政府，可能提供一种新的社会契约：以完美的理由和不受腐蚀的善良意愿实现的纯洁统治。如果有这样的选项，你还能忍受被腐败政客统治吗？这些政客和大企业的说客共谋，嘲笑我们所谓的民主。你会不会选择理性和智慧，而不是说服与辩论。和建制派政治疏离的选民人数不断增多，人工智能统治的主张可能吸引大量的公民投票。不论是好是坏，柏拉图的政治理念恐怕要和我们相伴更久，远比波普尔希望的长。
通过洞穴之喻，柏拉图解释了他关于形式的理论，这是他哲学的基础概念。形式理论认为，我们通过感官感知到的世界并非现实，而只是现实不完美的投影，一个洞穴墙壁上木偶的影子。“真实”的现实以完美的形式存在于思想的领域。因此，存在两个世界：当前的世界，和由理念的形式组成的不可见的世界。柏拉图的哲学认为，理念的世界是当前世界的起因。通过这种方式，柏拉图接受并扩展了毕达哥拉斯学派数学和形而上学的思想。之后在柏拉图的另一本对话录《蒂迈欧篇》，中，柏拉图给古希腊人相信的构成宇宙的4种基础元素（土、气、水和火）赋予了几何形状。土是正方体，气是正八面体，水是正二十面体，而火是四面体。理想的形态本质上也是数学的。对于柏拉图来说，是数学创造了世界。抽象、理想、完美、对称的形状是土、气、水和火这些元素的“起因”。我们行走、呼吸、解决口渴并温暖身体，靠的是几何的现实创造的幻象。柏拉图的形式理论通常归为“神秘主义”，这个归类有不少好理由。他从没解释过这个理念的世界由什么构成，相反，他解释了获得这个世界的知识是可能的，需要通过推理、记忆和经验去把握。真实的世界向那些奋力“记忆”的人展露。继承毕达哥拉斯学派沉思的实践，柏拉图提出了判断真知的方法，这种方法是纯粹的推理。如果一件事符合逻辑，那么它就是存在的。这是一个惊人的想法，它认为如果你能想到一个完美的理念，那么这个理念就一定在现实中存在。或者说，它就是真实的。相比经验来说，逻辑与理念更需要优先考虑。对于柏拉图来说，你喝的水不是真的水，而是二十面体的投影。柏拉图以完美的逻辑推理来支持自己的假设。
柏拉图的方法和理念被希腊化时代以及罗马时代的哲学家继承，并且延续到了基督教时代。325年，三位一体的上帝由第一次尼西亚会议定义，这一思想受到了新柏拉图主义中宇宙的三位一体思想的影响。造物主“圣父”对应于《理想国》中的生产阶层，也是世界的“腹部灵魂”；圣灵是卫士；圣子是统治一切、判断一切的理性，或称“逻各斯”。随着基督教理论在数个世纪中演化，柏拉图的思想更为流行，尤其是在东方。
在西方，柏拉图主义作为天主教的正统观念延绵数个世纪，这要感谢圣奥古斯丁（354—430），在成为基督教主教之前，他是一个虔诚的新柏拉图主义者。然而在13世纪末，柏拉图主义被圣托马斯·阿奎那（1225—1274）彻底废黜。亚里士多德是柏拉图的学生，也是一个学生超越老师的典范。相对于柏拉图的神秘主义，亚里士多德认为想要了解形式的世界，只有研究自然世界。亚里士多德奠基了西方的经验主义——神秘主义的对立面。通过将亚里士多德的世界观援引进入教会，圣托马斯·阿奎那神圣化了也容忍了科学研究。要感谢他，西欧可以使用技术进步有效地和非常亚里士多德式的（直到中世末）阿拉伯人竞争。之后，伊斯兰教进入神秘主义和威权主义，衰落了，不再是影响世界的力量。西欧则接受了经验主义作为思想内核，伽利略可以通过望远镜窥视天堂来发现真理，而不是像东正教修士一样盯着自己的肚脐冥想，或者像伊斯坦布尔的托钵僧一样旋转起舞。

自然的法则

和意大利的伽利略·伽利雷（1564—1642）与英国的弗朗西斯·培根（1561—1626）一起，16世纪末，欧洲进入了科学发现的光辉时代。经验主义和科学方法取代了神秘主义。这是一次史无前例的分水岭事件。我们的种族自从史前时代就开始观察自然了。由果溯因，因果性在自然界可以被观察到，却并没有被理解。在17世纪初，很多自然现象依然被不少人归因于超自然的力量。人们假设在自然展现的种种事物之后，是神圣的力量拨动了隐形的琴弦。科学方法提供了一种别样的、革命性的方法来理解自然界中的因果现象。不再是简单地相信人们可以通过实验验证信念。
自然现象具有规律性。实验基于规律性的原理：同样的条件下，实验者应能观察到同样的结果。通过在原因这边一点点改变，人们应能观察到结果同样的变化。在文艺复兴时期，[10]人们发明了新的科学仪器，实验结果可以被度量。精准的仪器成了科学进程的推动者，博物学家意识到通过测量它们可以更好地理解事物。我们如今几乎没法儿理解早期科学家通过实验研究自然时获得发现的狂喜。测量就是给数字赋予规律，这种转变提供了新的视角与洞见。早期科学家可以调整数字，从而推论自然界的因果关系。这种观察事物的数学转变又催生了发现，从第一个物理定律直到万有引力定律。这是一场欧洲心灵的神奇之旅，由亚里士多德的经验主义驱动，获得了始料未及的发现：新奇又困惑地去证实柏拉图与毕达哥拉斯。科学发现了数字和数学统治着宇宙。
奥斯曼人可能要为此负一定“责任”。美第奇家族让最聪明的欧洲头脑可以读到柏拉图作品。15世纪末柏拉图的再发现，以及因为亚里士多德式科学对于柏拉图理论的再确认，创造了一种独特的文化张力，清晰地存在于当时的西欧，并延绵至今。在这种张力的核心是对形式和物质一分为二的看法。
科学革命以来的科学进展留下了这个未解的文化两难之题。对宇宙的现代理解建立在将物质还原到基本元素的方法之上，这种还原就是“还原论”。科学在过去5个世纪大获全胜，是因为通过观察、实验和测量能够解释大部分自然现象。它将宇宙的复杂大大简化，只留下几条全宇宙通用的简单定律。它提供了宇宙如何诞生，生命如何演化的简单理论。
然而，在这栋美轮美奂的知识大厦上，依然存在不少漏洞。“量子引力”是现代科学的缺失之一。多种理论都试图填补这一缺失，但最广为接受的还是弦理论。弦理论是一种纯粹的数学、几何学理论，以一种数学的实体作为动因，解释科学家在研究标准模型时已经观察和分类的基础粒子。柏拉图恐怕也不能期待更好的证明了。
人类学家斯蒂芬·赫尔默里奇在圣菲研究所研究科学家和技术专家如何思考柏拉图的术语。这个研究所因在混沌理论、控制论和复杂系统方面的研究而知名。它的研究领域之一是在计算机中模拟生物系统的发展演化，我们可以称之为“数字人工生命”。赫尔默里奇访谈这些研究人工生命的科学家，他们中大多数人都相信世界的本质是数学。他们的计算机模拟生物系统，展示了复杂的生物系统可以通过计算机内编程的几个简单的数学定律模拟出来。通过记录科学家的看法，赫尔默里奇的研究揭示，形式与物质的二分法自文艺复兴时代起就是西方思想的核心，直到现在还在使用借自计算机科学的术语表达。
圣菲研究所关于人工生命的实验看起来确证了柏拉图的形式理论，软件是数字生命的起因。但是真正的生命也是“编码”的结果吗？整个宇宙可能是信息处理的结果吗？存在一个蓝图，定义了群星、星系、量子、标准模型，乃至你我。这份蓝图就是“物理定律”，并且用纯数学的形式表达。这一推论，贯穿了自然的时空和我们对自然现象的计算机模拟，在全球科学界广为流传，并且成为人工智能问题的核心之一。它已经成了意识问题的关键。因为，如果我们假定物质宇宙是因为弦理论这样的数学诞生的，并且如果我们接受我们的心智也是因为同样的数学基础产生的，那么，就可以推导出意识是宇宙的基本属性。柏拉图又对了吗？

大脑中的柏拉图蛋白

英国数学家罗杰·彭罗斯和美国麻醉学家斯图亚特·哈梅罗夫确实这么认为。他们宣布已经发现了意识的起因，这个起因和量子计算有关。
一切始于哈梅罗夫的关于微管的研究，在大脑的神经网络中，存在一种蛋白质结构叫作“微管蛋白”。微管对于维持大脑中细胞的形态和功能至关重要。它们帮助神经元互相连接，还可能参与了学习与理解的认知过程。哈梅罗夫发现，当麻醉时，微管的形态改变了，变形了。当蛋白质变形时，它们的基本功能就会改变，这正是蛋白质功能的特点。哈梅罗夫认为，麻醉状态下病人失去意识肯定和微管的变形有关。进一步的研究发现，微管蛋白变形是因为所谓的“伦敦力”，命名自德裔美籍物理学家弗里茨·伦敦。简单来说，微管蛋白可以以两种形式变形，取决于蛋白质中电子的位置。因为电子是一种量子粒子，现代量子物理学告诉我们它可以在同一时间位于不同位置，这就叫作“量子相干”。因为微管蛋白的状态是电子量子状态的微管映射，微管蛋白也可以同时具有多种状态，电子、微管蛋白可以“还没决定”以两种形态中的哪一种出现。微管蛋白展示了量子计算机的特性，不是经典计算机的两种二进制状态（1或者0），量子计算机只有一种联合状态（同一时间内既是1也是0）。
在哈梅罗夫研究微管蛋白的连接和微管时，他没有把这些研究联系到量子计算机，直到他读了彭罗斯的书《皇帝新脑》。书中，彭罗斯抨击人工智能，认为不可能在计算机中编码意识。他基于逻辑的限制，认为计算机基于逻辑编程，因此无法和人类相比。他认为人类有着超越逻辑的能力，例如直觉就是无法计算的，因此推论意识一定是一个量子现象。
与哈梅罗夫合作，彭罗斯发展了他的理论，指出微管可能是意识的来源。在一个叫作“协同客观崩现”（orchestrated objective reduction，Orch-OR）模型中，彭罗斯和哈梅罗夫认为意识存在于现实的纤维上。彭罗斯认为，时空并不连续，而是颗粒状的。如果我们能想象一个神奇的显微镜，可以观察最小的时空单元，我们就会发现大块的粒子，由多个维度的几何形体构成。彭罗斯称这些粒子为“旋转网络”，并且认为它们就是构成现实的基本结构。质量与能量都是这种极小的旋转网络等级上量子现象的显现。意识也是如此，量子扰动在时空的几何基础上发生，引发了微管蛋白中的电子发生“量子退相干”，也就是在两种可能形态中选择一种，来决定微管蛋白的形态，从而开启或者关闭意识。
彭罗斯和哈梅罗夫关于意识量子基础的假说受到了物理学家、神经生物学家和逻辑学家的诸多批评。这一假说的问题在于它以两个假设为基础，其中任何一个都可能是错的。第一个假设是，由于逻辑存在限度已经得到数学证明，因此这些限度会阻碍编程有意识的机器。第二个假设是，意识无法以纯生物学的现象解释。这两个假设都可能被发现是错的，我将会在后续章节中解释。无论如何，用几何形态来解释意识的想法还留有许多缺陷，毕竟我们既没有理解量子力学，也没有理解意识这两大谜团。这个解释在分子层面联系了物理学和可观察的现象：当一个病人在麻醉中失去意识时，在细胞层面可以观察到神经元中微管的变形。在未来，等我们有了量子计算机时，任何对于分子现象的深层解释理论上都可以模拟。也许这个假说就值得一试。现在就宣布协同客观崩现模型是胡说有点儿太早了。因此，与其批评它，不如我们先研究一下它的推论。
如果彭罗斯和哈梅罗夫是对的，意识确实是宇宙在量子水平的展现，和宇宙的几何属性相关，那么如今人工智能的取向就是错误的。许多事情在基本层面上是无法编码的，心智就是其中之一，因此也就不可能制造真正的智能机器。在逻辑上就是不可能的：如果我们能对宇宙重新编程，也就意味着我们能对自身重新编程，这就可以推导出我们位于宇宙之外，但是这既不正确也不可能。如果我们接受了这一理论，我们也就必须接受我们的心智独立于我们的身体。我们必须接受我们的心智存在于量子几何之中，而我们物理的脑只是一个接受者，而不是自我意识的创造者。就像一台收音机可以接收到数里之外发射站的信号。这也就实际上接受了二元论者关于存在一个脱离身体的非物质灵魂的看法。这种看法还会再进一步：非物质的灵魂事实上就是我们的心智、意识，以及真的“我们”。

第八章 没有身体的心智

我们的大脑在神经生理层面制造了多种体验，例如梦境、意识的分离状态，这些都不是现实世界的一部分。这些体验和真实经历一样真切。
我们的石器时代的祖先会梦到虚幻世界，就如我们今天一样，他们用艺术表达他们对梦境的信仰。不像我们，他们的所有世界不论梦境与现实，都是连续一体的。意识尚没有划分出梦境与清醒。证据表明，我们远古的祖先经常举行社会仪式，一起唱歌跳舞，服用致幻剂。通过萨满的指引，他们可能进入一种类似清醒梦的意识状态。此时，体验这些虚幻世界可能就像体验游离于身体之外一样。身体被甩在了物质世界的粗粝国度，如同一场模拟的死亡。这种离开身体的体验强化了关于纯粹的心智可以独立存在的想法。也许这就是为什么至今我们还会区分心智与身体的原因。
不论如何，这种神秘体验，两个世界——可见的与不可见的融合，影响了柏拉图的哲学。柏拉图的《理想国》中，苏格拉底的言行又影响了西方哲学。首先，他提到了不可见的世界“noeton”，希腊语意思是“意识中的世界”。可见的、粗糙的物质世界，他称之为“(h)oraton”，意即可见的世界。他于是宣称，不可见的、纯粹精神的世界更易理解，而外部的感官世界最难获知，最为费解。对于苏格拉底来说，你只能确知和推理你头脑中的事情，对于外部世界，你只能知道一点点。和苏格拉底一样，柏拉图也认为物质世界是一种幻觉，是理想形式的投影，只能通过心智把握。要反思西方哲学中的这一奇特思想，还要花上我们2100年。而那时，关于心智和认识论的现代哲学思想、关于知识的哲学方法才终于出现，这一次要感谢法国人。“noeton”和“(h)oraton”两个世界，也是心智和身体、软件和硬件的分离，导致了如今一系列关于人工智能与意识的辩论。

我思故我在

以中世纪学者有缺陷的方法论，笛卡儿试图在怀疑世界存在的基础上证明上帝和灵魂的存在。他像苏格拉底一样，区分了两个独立的实体：物质实体以及精神实体。前者是一切物质的本质，而后者是心智（灵魂）、意识的本质。笛卡儿于是展示了两个有趣的推论。首先，他无法确定外部世界真实存在：以我们所知的，我们可能仅仅生活在一只蝴蝶的梦中。其次，他只能确定一件事：他具有心智，因此一定存在。通过这种苏格拉底式诘问，笛卡儿认为我们中的每一个人都是上帝创造世界中最重要的部分。为什么？因为我们无法确定除了我们自己存在以外的任何事情。“我思故我在（Cogito ergo sum）。”
在笛卡儿之前，西方人通过对神圣经典的确认来接受世界，经典是上帝亲自昭示的真理。如今确定性已经破裂，难以修复。到了笛卡儿时代，人们已经生活在一个以个人为尺度的世界，个人成了主要角色，取代了上帝和神圣经典的绝对权威。感谢笛卡儿的物质实体和精神实体，科学得以从教会的枷锁中解放。《圣经》不再那么重要了。它对于宇宙和人类创生的叙事只被当作寓言。用如今文化相对主义的术语来说，它只是各种创世神话中的一个。科学家继续向前，探索世界究竟由什么构成，以及万物缘何如此。
然而，过了很长时间，科学家也对精神实体敬而远之。有关心智的事情依然留给教会管辖。从启蒙运动一直到20世纪初，科学专注于“物质”的粗粝世界。知识的重大突破都发生在物理学、化学、生物学、地理学和医学这些对世界和我们的身体物理部分的研究。心理状态，例如看到红色、渴望幸福、感受痛觉，被认为和物理状态迥异，而心理状态长时间居于科学研究的视野之外。通过区分心智方面的事情和物质方面的事情，笛卡儿式的二元论统治了科学界长达200年。
但是，一个明显的问题需要回答：非物质的心智如何引发了物质的身体运动？什么连接了灵魂与物质这两个世界？如果心智和身体是用不同的“东西”构成的，这两类实体如何互动？这就是著名的“身心问题”，在漫长的时间里困扰了哲学家和神学家。直至20世纪的最后几十年，科学家才在这个问题上最终超越了笛卡儿的影响，开始关注更显而易见却被忽略的事物，将意识作为一种物质现象加以研究。当我们开始这么做时，数世纪以来，以强大的怀疑构筑的哲学坚壁立刻土崩瓦解。
我们将会看到，过去20年当代的神经科学家在人类心智方面取得了重大的研究进展。新的检查设备和手段，如功能性核磁共振成像，让神经科学家能够观察到活着的、在思考的大脑，并且记录和分析大脑的状态。然而，这个时代的许多哲学家还是怀疑脑研究对于解答意识本质这一重大问题的潜力。他们的怀疑也针对人工智能，以及能否在机器中创造出意识。这些争论根植于笛卡儿的身心问题，以及他关于我们主观上能否确知世界的问题。因此，让我们关注和认真思考这两个问题。

单子、精神粒子与松果体

笛卡儿完全意识到了身心问题。他知道，他必须解释非物质的灵魂如何与物质的身体互动。于是他的解决方案是，首先，他假设身体是完全机械的，就像钟表。身体遵循自然的法则，比如引力等。它位于物质世界中，也由物质构成。然而，构成情绪、思想和感觉的实体并不遵从自然法则。相反，这些现象属于灵魂，居于身体中特别的器官——松果体。这是一个微小的、坚果状的腺体，楔在两个大脑半球中间。
笛卡儿认为，要反向解读灵魂与身体的互动，神经是一种双向的道路，能够将感觉传导进入松果体，并且让它以某种共情的方式震动。这些震动唤起了情绪与思考：噪声对应不快，爱人的脸庞对应愉悦，玫瑰花的香气对应甜美。物质世界于是唤起了情绪的“质”。灵魂感知到了外物。灵魂才是原因。
笛卡儿在欧洲建立了这样的新的哲学系统，认为“原因”就是事物的源头和知识的验证方法。通过将心智与物质分离，他宣布真实不可感知，只能通过智力演绎来把握。正是心智通过逻辑构造了现实。因此，现实有着逻辑结构。物质证据对于确认真理并不是必需的。一切都存在于心智之中，而推理是达到真理的唯一手段。这种哲学系统被称为“理性主义”。
下一位继承并发扬笛卡儿思想的伟大欧洲哲学家也是个理性主义者。他就是戈特弗里德·威廉·莱布尼茨（1646—1716），他是可证的历史上第一个将意识和计算机相结合的人。不满于笛卡儿对松果体的假设，莱布尼茨提出了一种基本粒子的存在，这种粒子可以互相“觉察”。他称之为“单子”，并假设单子是构成宇宙的永恒和唯一的元素。单子是非物质的，也比原子更为基础。以柏拉图式的方式来看，单子是用纯粹的意识组成的理想形式。于是，身心问题就以单子沟通了物质与非物质世界得以解决。莱布尼茨认为，意识是宇宙中最基础的元素，是真实世界的基础。他的看法预言了后世思想，彭罗斯和哈梅罗夫的思想就非常接近他。这种思想常被称为“泛心论”（panpsychism），宣称灵魂或者心智是宇宙万物的根本属性，就编织在宇宙的纤维中。
莱布尼茨式的泛心论延续到了20世纪，并且被一位我们这个时代最著名的神经生理学家重新提起，他就是约翰·埃克尔斯爵士（1903—1997）。埃克尔斯出生于墨尔本，在那里他学习了医学。早在学生时代，他就醉心于寻找心智与身体交互问题的解释，这引导他成为一名神经科学家。在20世纪50年代初，当他在澳大利亚国立大学工作期间，他开始研究外周神经系统的突触。突触是一种细胞结构，让神经元可以互相传递电化学信号。突触是神经系统的连接器，也帮助神经系统和身体其他部位相连。在埃克尔斯开始研究时，世界上没人知道突触的工作原理。通过将电流导入神经元再观察结果，埃克尔斯发现突触是一个整合装置，整合了多个神经元的兴奋，当这些整合达到了一定水平，就会引发肌肉的联动。理解了突触的功能，埃克尔斯就发现了感觉和思想如何变成身体的动作。看起来他解决了自己感兴趣多年的身心问题。关于神经突触的工作让他分享了1963年的诺贝尔医学奖。
跟随莱布尼茨的步伐，虔诚的天主教徒埃克尔斯发展出了一套哲学理论解读他的发现。他假设存在一种“精神粒子”（psychons），一种体现了不可分的意识体验的精神单元。他将神经科学与量子力学结合，将精神粒子和大脑中一组神经元的活动联系在一起。当有想法或意愿可以产生行动时，精神粒子就会作用于神经元，并且增加特定神经元发放的概率，这种现象称为“量子隧道”。基本粒子（如电子）通过量子隧道获得了通道，可以穿过宏观物质，像是幽灵穿过墙体。量子力学告诉我们，粒子同时也可以是波，因此这种现象可以发生。电子将自身从粒子转化为波，然后从分子的间隙中穿过。量子隧道也是量子计算得以可能的机制。埃克尔斯认为量子隧道发生在大脑的神经元内是因为精神粒子。他认为，事实是只能接受二元论，因为没有其他方法可以解释意识。
然而，没有什么人同意埃克尔斯，因为二元论为科学制造了巨大的难题。二元论与对宇宙物理学的基本理解相冲突，与能量守恒定律相冲突。这一定律指出，我们不可能凭空创造能量，也不可能凭空让能量消失。量子隧道并不是发生在虚无之中，因果律存在于量子物理中，能量问题概莫能外。电子穿过物质之墙，因为它被物质宇宙中的能量激发。如果心智是非物质的（例如，由非物质的单子或者精神粒子构成），那么它就无法和电子这样的物质交互，为了交互，心智必须是物质的。
对于能量守恒定律的思考应该足以让那些持心智二元论思想的人沉默了，但显而易见的是他们没有沉默。在一部关于斯蒂芬·霍金生平的纪录片中，他作为最重要的在世物理学家，宣称大脑可以独立于身体存在。他说：“我认为大脑就像是心智中的程序，心智则是计算机，因此理论上可以将大脑拷贝到其他计算机上，提供一种死后的生命形式。”这就是二元论，从一位真真正正的唯物主义者嘴里说出来的。霍金试图以计算机隐喻规避身心问题中的能量守恒，就像埃克尔斯称呼量子力学为救赎。
究竟是怎么回事呢？为什么霍金这样天才的物理学家也会发表这样的看法？为什么埃克尔斯这样明智的神经科学家也会相信非物质的精神粒子？为什么他们就不能接受心智是一种物质构成的自然现象，就像其他一切一样？接受我们的“自我”也终有一死，就像我们的身体一样？是什么让心智如此特殊，难以固定住，在显微镜下检查一番，就像检查神经元和突触？为什么二元论总是影响对意识的研究？为什么不是所有人都能够成为“物理主义者”？要回答上述这些问题，就需要看看笛卡儿带给世界的著名的三个单词组成的句子：“Cogito ergo sum”（我思故我在），即主观性的思想。

大难题

想象一个僵尸构成的世界。不是那种电影中刻画的灾难，这些僵尸很特殊，它们从不蹒跚而行，四肢也不会在撞上路灯时散落。实际上，它们几乎和真正的人类一模一样，行为也和人类一致。那么你该如何分辨它们和真实的人类呢？简单的答案是你很难分清它们，起码对于今天拥护二元论的人来说很难分清。
这个被称为“哲学僵尸”的思想实验，旨在展示关于意识的一些特点难以客观确认。这种特点一般叫作“感质”。这个词来自拉丁语，意思是“某一种”，或者表达东西的性质。在心灵哲学领域，这个术语用于表达意识体验的属性特征。例如，红色的红，柠檬的酸，以及蜡烛烫到时的疼痛，也就是你关于世界“是什么感觉”。感质常被现代二元论者用于反对纯唯物主义或者物理主义对心智问题的解读。
哲学家托马斯·内格尔可能是以“是什么感觉”以及感质改造二元论的第一人。在他著名的论文中，他问道：“作为蝙蝠的感觉是什么样的呢？”这个问题展示了科学探索主观经验的限度，也体现了对我们拟人化本能的智力探索。我们已经足够明了其他动物的心智和我们的不一样，那么成为它们中的一员是什么感觉呢？我们没有办法知道答案。这是以物理主义研究意识的主要问题。
根据澳大利亚哲学家戴维·查尔莫斯的观点，感质的存在制造了一个解释缺失，既让我们无法从物理角度解释动物，也同样无法解释人类意识。即便我们已经能够了解人脑的所有物理过程，能够解释记忆、感觉，甚至思想，我们也无法确认感质的物理属性。没人知道成为你是什么感觉。同样，只有你自己知道作为你自己是什么感觉。你的体验的特点，你的自我感知，无法通过任何其他仪器查看，因为它们都是主观的。感质因此超越了科学的限度，根据查尔莫斯的理论，它就是关于意识的“大难题”。
在查尔莫斯的大难题中，内格尔和其他学者放置了笛卡儿式的主观性概念，让还原论者的客观方法无计可施。笛卡儿将世界的知识区分为两大道统（magisteria）：科学和宗教，科学演化不断，并且通过“科学方法”这种特定的方法论大获全胜，我们已经讨论过了。这种方法使用实验作为主要工具，提出问题，发现关于物质世界的真理。实验是客观的，至少原则上是。如我们所知，它是可重复的，并可以被其他独立的实验确认。它的产出因此也就独立于它的观察者。为了实现这一点，实验需要将复杂的自然现象分解成小块，假设如果有人已经能够理解其中各部分，他也能理解整体，这个过程就叫作“还原论”。自文艺复兴以来直到今天，还原论和客观性是科学的两大本质特征。
对于二元论者来说，科学方法不能探索和解释所有意识体验的现象。你的感质不能还原为神经生物过程。客观（你的大脑）需要主观（你）去完成这幅图景。因此，“你”不同于你的大脑。如果相同了，你就和哲学僵尸无异，一个纯粹的物质生物，可以被扫描仪客观地还原，毫无感质可言。
哲学僵尸是智能计算机的另一个隐喻。像是智能计算机一样，它能够通过图灵测试，但是并没有真正的意识。它可以假充智能，但实际上它对自己的反应和行为并没有自我意识。对于现代的二元论者，人工智能不可能有任何真正的、人一样的感觉。能有的只是像人一样行动，却与人类不同的智能机器，那不过是哲学僵尸而已。

信息与身体分离

我们生活在信息时代，我们的现代文明建立在计算机技术处理的数据之上。政府、商业、科学家、银行家乃至恐怖分子都逐渐意识到，21世纪真正的力量在于控制和访问数据。同时，计算机隐喻定义了我们思考的方式，也定义了如何表达我们时代的基本思想。我们说大脑就像硬件而心智就像软件。这种二元论的软件–硬件范式被用在诸多领域，包括生命自身。细胞是计算机，运行着叫作“基因”或“基因组”的程序。“代码”以DNA写就，最前沿的生物研究不是发生在实验室的试管中，而是在计算机的硅之中。生物信息学——搜集、打标签、排序、操作和挖掘数字化的生物数据，在现在和未来都是一种生物学研究方法。
生命的计算机隐喻被强化了，因为计算机在解决真实问题上取得了显而易见的成功。许多分子生物学的颠覆性新技术，比如DNA打印，都是利用数字信息的功能。方法是这样的：DNA分子由两种分子对构成：腺嘌呤与胸腺嘧啶，鸟嘌呤和尿嘧啶。这些配对构成了双螺旋，它们的顺序决定了生物的遗传特征。这些序列叫作“基因组”。让我们想象这些配对是乐高积木，在内部，它们不过是无聊的化学成分，但只要将之放置在正确的位置上，你就有了最复杂生命的配方。
通过打乱配对的顺序，并且以新的顺序排列，生物学家得以再组织DNA分子。这意味着只要知道某一组织的基因组，一个人可以任意合成组织。而且完全可以合成全新的组织，这一学科叫作“合成生物学”。DNA打印让DNA合成既简单又便宜，只需有激光设备，就能很快得到想要的序列。
像DNA打印这样的技术，最有趣的部分是正确的基因序列是一段可以转换和处理的信息，就如同一段数字信息一样。这看起来又是对计算机隐喻的证实，也是对笛卡儿式身心分离的证明。将生命、计算机和大脑相提并论让人难以相信。看起来，细胞、身体和大脑就如同难用的零件。真正将无生命的零件加上DNA分子在培养皿中组成一体的，只能是信息，或者说软件。这个隐喻不仅很有力，很多科学发现也在证实它。
无论如何，将信息视作超越物质世界的存在，是不折不扣的柏拉图式二元论。在我们的时代，后工业化世界的信息是一种经济、社会和政治特权。我们的全球经济正是通过操作各种非物质的符号，产出了大量的价值。计算机隐喻扩展了我们个人的生命和价值。数以百万计的人类过着双重生活：物理的和数字的。我们作为数字社交媒体的成员，个人数据也存储在巨量的数据库中，被政府、保险公司、机构、银行等操控。对于很多人来说，我们的数字存在以及它衍生的权利是极其重要和宝贵的。柏拉图看起来在每一个议题上都赢了：形式先于物质。在《黑客帝国》中，我们如果在数字世界中被杀，在真实世界中也会死亡。数据就是生命。
然而，如果这是真的，我们就必须解释为什么物质世界还必须存在了。分子、原子、星球、肢体、心脏和星系，它们的目的是什么？如果我们接受了信息、意识、数据比原子、分子更为基础，我们就是被宇宙的垃圾环绕了。演化给了我们冗余的行李，叫作“身体”，我们原来并不真的需要。显而易见，我们需要的仅仅是大脑，甚至连大脑都是多余的。如果我们的心智或者灵魂是用纯粹的信息（不论这是什么含义）制造的，那么我们的本质就是软件程序了。人类的本质就减少成了信息。根据这样的逻辑，编码了我们意识的软件程序可以从它的生物实体中析出，下载到计算机里，用光速传递到宇宙的尽头。我们于是就获得了不朽，并且可以上传到更高级、更超凡、数字的存在。也许，物质宇宙存在的目的就是有朝一日像我们这样的智能生物可以达到非物质的境界，让他们可以将自身非物质化。这是个有趣的推论，也明显包含着目的论和灾难性的因素。实际上，这就是无神论者或者不可知论者翻新的对死后生活的信念。

在数字天堂的大门前

基督教复活的传说在数个世纪中一直慢慢地演变。过去，基督徒相信审判日时，灵魂会回到身体中，复活的意思就是身体和灵魂重聚。死者会立刻从坟墓中出来，就像那些僵尸电影，只不过看起来、动起来都更好一点儿。圣约翰的《启示录》描述的就是这种鲜活的场面。然而，少有基督徒信奉这种场面。大多数人相信，灵魂会直升天堂，肉体则永恒地死去。不需惊讶，许多信奉基督教的科学家并没有严格地质疑计算机隐喻，这个隐喻与现行的教会说法也能合拍。
20世纪最有影响力的天主教思想家、法国耶稣会会士德日进（皮埃尔·泰亚尔·德·夏尔丹，1881—1955），看到了人类智力不断解放的目的。德日进受到了圣奥古斯丁新柏拉图主义的影响，相信宇宙会演化得越发复杂并获得意识，直到一个他称为“奥米伽点”（Omega Point）的时刻。1922年，他发明了术语“理性领域”（noosphere）来表达日益增长的人类思想的总和。许多人认为理性领域是关于互联网的先知预言。德日进的思想也启发了“人工智能奇点”这种宗教一般的技术信仰，认为人工智能将会在21世纪中叶超越人类。人工智能奇点的主要鼓吹者是未来学家、发明家雷·库兹韦尔。他宣布，到2045年，人工智能的进展就会太快，以至凭借人类的能力根本无法理解它。当奇点到来时，智能将蔓延出星球，直到浸透整个宇宙。人工智能奇点的未来学叙事看起来很像德日进的奥米伽点，如果你乐意，也可以说很像审判日。到那时，宇宙中智力的总和将会呈指数级加速发展，这要感谢能够自我提升的人工智能。此后，人工智能会将一切有感知的东西都纳入它仁慈的一体中。不论这是天堂还是地狱，都不需要裁决了。
德日进还受到了人择原理的影响。人择原理试图解释为什么宇宙如此适合生命涌现和演化。这种适宜性的明显证据是所谓“物理常数”，自然法则中的数字。例如普朗克常数，是6.62606957×10–34m2kg/s，这一数字在各种和量子物理有关的计算中出现。它联系了粒子的能量和粒子对应的电磁波的频率。如果普朗克常数稍稍不同于这一数字，原子就会更快衰变，也就不会有复杂的化学分子了。没有化学分子意味着没有生命，没有人类，也就不会有人工智能。那么为什么普朗克常数就精确地适宜生命呢？为什么是这个“正确”的数值而不是其他？
人择原理的说法就像同义反复，宇宙如此适宜我们，只因为我们在这里观察它。这件事如此简单，不可能是别的原因。只有一个适宜生命的宇宙才可能出现有智力的观察者，观察到一个适宜生命的宇宙。如果曾经存在或者现在还存在着与我们不同的其他宇宙，我们可能会将它们归为不存在：因为不存在观察者可以观察到它们。这个无害的同义反复的强化版本十分有争议：宇宙必须允许有意识的生物涌现出来。这里，强人择原理与人工智能奇点殊途同归：库兹韦尔、巴罗和提普勒认为，宇宙中存在智慧一定有其原因。智力不可能只是一个演化的意外，发生在一颗小小的蓝色星球上，这颗星球位于数百亿星系中毫不起眼的一个悬臂外围，于是宇宙可以被观察。
在他们的书《人择宇宙原理》中，巴罗和提普勒想象了遥远的未来，宇宙正在缓慢地死去。这是因为热力学定律中的熵增。这一定律指出，热会从比较热的物体向比较冷的传递，你可以随时通过两手握起一杯热茶检验这一定律。保持这一姿势一小会儿，你两手间的温度和茶杯温度就会一样了。之后不会再有热的传递。你的手和茶杯温度一样，同样的事情在宇宙其他地方也在发生。热从更热的地方（例如恒星）传递到了寒冷广袤的空间。据我们所知，宇宙一直都在扩张，空间越来越大。在遥远的未来，因为熵增宇宙中的能量将在它扩张中形成的广袤空间里消散。因为熵增，我们的宇宙注定会缓慢地死去。但是在它死亡之前，所有生命就已经消亡了。生物需要能量才能生存，生物必须从生存的环境中获取能量。在未来的宇宙中许多地方能量都已经均等，这样的环境会更为稀少，趋近于无。在那个遥远的未来，巴罗和提普勒认为，智能只可能是人工的，一种有意识的可以自我复制的机器，在成千上万年中已经占领了全宇宙。而这种智能的机器生命的终极目的，就是延长宇宙的存在，以其残存的能量尽可能取得平衡。换言之，智能有着目的，它是宇宙创造出来延续寿命的。如果我们认真看待这个说法，我们就会想到这些人工智能生命体可能已经存在了。未来已经到来。这些超级智能的宇宙守望者可能用宇宙还年轻的样子制造了数字模拟器，在它们四处寻找残存的能量的同时，像做科学实验一样从模拟器中学习。可能我们如今就生存在这样一个数字模拟器里。可能，我们人类只不过是生活在超级人工智能建造的模拟器中的程序，模拟器生活在物质世界中，运转着正在死去的宇宙剩下的原始材料。这种想法真是烦人，当我们发现我们没法验证它的真假时就更烦人了。我们来仔细地思考一下。
认为我们生活于计算机模拟器中的想法首先假设身心的二元论是成立的。哲学家尼克·波斯特罗姆是模拟宇宙假说的倡导者，他不情愿地承认，模拟宇宙概念的前提假设是所谓“底层独立”。意思是，意识状态独立于物理底层。意识的本质不是头颅中碳基的神经网络的活动。波斯特罗姆说：“计算机中硅基处理器也能玩好这个把戏。”波斯特罗姆会是对的吗？库兹韦尔呢？笛卡儿呢？我们的心智可能是可以上传的信息吗？或者是可以转换和操作的数字文档，是Excel（一款试算表软件）中的试算表？检验这些说法真实性的办法之一是人工智能。身心二元论可能支持人工智能的演化，实际上，如果你接受了强人择原理和人工智能奇点，你就会认为二元论一定会导致人工智能的演化。然而，如我们将要看到的，这种想法远不是真的。

二元论的死胡同

身心二元论导致了人工智能无法克服的问题。如果我们接受心智独立于大脑，我们就面临两个互补的推论，会导致互相矛盾。我们检查一下这些推论，理解为什么会如此。
第一个推论，受到信息非具身思想的支持，该思想认为人工智能和我们碳基的、颅骨中的人类智能不会有差异。实际上，它指出人工智能和“自然”的智能是无法分辨的，在不远的未来还会融合。如果心智和软件都是由信息组成的，那么两者就是一样的。如果将这些比特混搭，结果就是一个纯信息组成的赛博格。第二个推论，得到了“解释的缺失”和“意识大难题”的支持，是说我们无法得知一台计算机是否真的有智能：人工智能可能只是哲学僵尸，像是有智能一样行为举止，但是我们无法确定它是否具有主观体验。尽管智能机器可能通过了图灵测试，却并非“真的智能”，因为不具有主观体验。而且，我们永远无法准确得知它是否具有主观体验：我们就是不知道。除非有一个“心智测量器”（noometer）可以测量主观体验，根据“解释的缺失”拥护者的看法，理论上无法制造这样的机器，我们永远无法得知智能机器的内部世界，就如同我们永远无法客观地确认任何人内在的、主观的状态一样。大难题如果是真的，意味着我们必须接受我们对其他人的主观体验一无所知，不管他们是碳基分子还是硅基芯片构成的。
结合上述推论，我们就必须认为人工智能假设上成立，实验上无法证实（或者无法证伪）。但这样的命题是微不足道的，它实际上什么也没说。同样的说法也可以用在上帝、天使或者精灵身上。实验上不能证实或者证伪的假设不属于科学而是宗教。同样，身心二元论的信条建立在信仰的基础上。它不能带给我们任何信息，帮我们获得什么有用的新知识。如果我们接受了身体和心智是两种完全不同的东西，我们就对二者一无所知。我们发现自己回到了旧石器时代：一切都是主观的。
而且，把身心二元论和数字下载意识放在一起就会引发更扰人的问题。如果心智独立于身体，并且可以独立于身体存在，那么数字下载意识就是可能的。然而，数字信息的特点之一就是可以复制。我们就可以制造无限多个外部的自己的复制品。在一个模拟的数字宇宙中，没有独一无二的自我，没有“原创”，我们都是复制品。
二元论于是引发了一个悖论，否认了基本的“我思故我在”。二元论最终取消了自己的立足之本。不是展示体验的独一性，它体现的正好相反。如果心智是由信息构成的，就可以被数字化，并被无限地复制。因此，如果我们接受“身心二元论是正确的”，主观也可以被无限地复制，主观性也就无关紧要，甚至可以不用存在了。因此，通过无限的复制自我，我们就可以得到一切可能的主观体验的综合。这也就能自动地转化为客观的测量。
也许心智并不是真的和身体分离。也许心智和身体是以同样的方式构成的，都来自物质实体。让我们探索这个另类的、物质的假说，看看它意味着什么。

第九章 抵抗运动

想象这样一个星球，在那里，智能生物演化出了和我们一样的中枢神经系统。像我们一样，它们的大脑也发展出了通用语言，获得了心理理论。它们是社会生物，会爱，会梦想，演奏音乐，创作艺术。从狩猎采集社会而来，它们发展出了复杂的农业社会，发展出了法律和宗教。它们发展到了每一片大陆，成了它们星球的统治生物。问题来了：它们会发展出先进的科技文明，如我们人类在地球上一样吗？它们会发现万有引力定律，发现电磁辐射，知道如何打破原子，制造计算机，并把探测器发射到太空吗？技术的发展是大脑的智力发展到一定程度的必然结果吗？
尽管这看起来是一个无法回答的问题，但也有一些间接证据证明，空有聪明的头脑，并不足以发明计算机、宇宙飞船或者抗生素。思考一下我们银河系中的千亿星辰。2013年，开普勒太空任务发现大约有110亿颗地球大小的行星，环绕在太阳大小的恒星的适宜区内。假设生命不是一种地球特有的现象，有理由相信，哪怕不是每一颗行星，也有许多行星上会存在生命，并发生演化。1961年，天文学家弗兰克·德雷克提出了一个公式计算银河系中可能存在的技术文明。他著名的“德雷克方程”是地外智慧生物搜寻（search for extra-terrestrial intelligence，SETI）的理论基础。德雷克方程计算了多种因素，以期能够尽可能地做出估算。有人估计银河系内至少有3400万高级文明，尽管这一数字很有争议。
不论人们选择把什么假设带入德雷克方程，事实是至今我们也没有收到任何来自其他星球的信息。根据定义，一个高级技术文明应该已经掌握了远程通信技术。一些适宜的星球就位于地球数十光年之外，如果那里存在技术文明，我们应该已经可以看到它们的电视节目了，电磁波应该已经满是星际对话。但是一无所有，来自外太空的仅有十足的寂静。这一事实常被称为“费米悖论”。如果生命普遍存在，而演化也是普适的，那么在我们的星系中就应该存在巨量的恒星与行星已产生高级文明，其中一些可能已经比我们先进了数百万年。
对于为什么我们还没有找到它们，已经有了很多解释。天文学家卡尔·萨根悲观地认为，技术文明一旦发现了核武器，就会很快自我毁灭。终其一生，他一直奋力反对核扩散。其他人则认为，只有少数星球可以支持复杂的生命形式，银河系中大部分宜居星球都只给没有心智的细菌提供了最好的家园。我还想加上另一个解释，不需要太多天文学的统计，但是需要加上哲学的因素。
试想地球：我们拥有先进科技的原因在于我们拥有科学。但是科学并非来自本能的思想，相反，它是一种反本能的思想。就像我们在本书第一部分看到的，科学与我们认知的结构相反，本能上我们会认为自然现象的起因是某种看不见的有智慧的存在。想要科学推理，你需要超越你的心智。想想如今的地球人，在高度发达的21世纪，还有人相信占星、巫术治病、超自然生物。其实，只有少数人接受了纯粹的科学观念或者唯物主义，并用以解释万物。即便是许多从事科学工作的学者，也宣称自己只是持不可知论，或者声称自己信奉全能的神作为宇宙的起源。并不值得惊讶，演化让我们成了二元论者，我们作为人类的体验迫使我们用非科学的方式思考。一些人是偷偷地，其他人则是在某些时候公开地祈祷。
这种叫作“科学”的反本能的思维方式并没有遍布地球，而只是在一片叫作“欧洲”的地方出现了。尽管其他文明，例如中国和印度文明，对自然有许多发现，也取得了惊人的技术成就，但是只有在欧洲，科学得以成为体系、作为原则，反对那种将超自然力量当作自然现象起因的假设。科学是许多杂乱的历史巧合难以预料的结果，发生在特定的时间和地点。科学在历史上和认知上的反本能特征，让我们认为另一种有着和我们一样大脑的智能生物，很可能没有发现或者广为接受科学。至多，这些外星人可能只演化出了非常精巧的前工业化社会。它们有了天文学和数学，甚至发明了一些基本的机器，但是它们的二元论思维只能带它们到这里了。它们可能有自己的柏拉图——它们最伟大的哲学家，以及有它们自己的万神殿，供奉伟大的祭司、弥赛亚和神，但是它们可能没有亚里士多德，即便它们有了他，可能也会很快淡忘，像对待一个怪人一样永远遗忘他。

柏拉图最好的学生

与柏拉图主义相比，亚里士多德主义创造了我们世界的第一次科学革命，促进了一系列伟大发现，包含医学、天文学、数学、工程学，并且制造了自动机械、星盘和第一台蒸汽机。西方文明中，形式与物质的二分法，柏拉图与亚里士多德世界观的对立，在那时播下了种子。
让我们来分析一下亚里士多德与柏拉图思想的异同。他们都认同苏格拉底关于普遍现象或者形式的理论。他们认可宇宙中存在隐藏的秩序。但是亚里士多德不同于柏拉图，他相信关于普遍现象的知识需要主动获得，而不是纯粹的被动反映。他认为一个人必须研究自然现象，以便发现隐藏的秩序，发现苏格拉底所谓的普遍现象。冥思苦想或者仅仅用逻辑推理是不够的。亚里士多德因此也被称为“经验主义之父”。
柏拉图相信，普遍现象没有实例，它们是非物质的、理想的形式，没有物理的存在形式。例如，根据柏拉图的思想，自然数独立于物理世界存在，用于计数。对于柏拉图主义者，数学家不是发明了数学，只是发现了数学，就像哥伦布发现美洲。数学早就在那儿了。
亚里士多德的看法正好相反：唯一的普遍现象就是那些作为实例存在的、物理的事物。因此，每一次我们数数时都在举自然数的实例。对于亚里士多德，自然数不用于计量物理事物时就是不存在的。他认为物质先于形式。亚里士多德要求学生走出教室，去探索物质世界。说亚里士多德在他的时代是万事皆知的人也不为过。他是历史上研究今天称为“科学”的各种知识的第一人。
当然，他写下的大多数东西都是错的，即便在今天也经常遭到批评。但是这就是科学：总在变化，总是更新自己，永远不会绝对正确。亚里士多德的科学知识最终被放弃了，因为它不能通过进一步的检验，和对自然的更深刻的观察不相符。然而，这正是科学进步的历程，通过怀疑，以新发现和新知识之光不断修正过去的思想。对很多人来说这很难接受。缺乏确定性会引发我们的认知系统的混乱。我们是一种需要确定和不变才能获得心理安全感的生物。相比亚里士多德，柏拉图更有吸引力，因为他喜谈不变与永恒。相反，科学家经常今天一个样儿，明天一个样儿，这种情况对于我们这些“无毛大猿”来说非常糟糕。这也就是为什么在和普通观众（还包括政治家）有效沟通方面科学一直存在难以逾越的难题。
亚里士多德如何看待心智呢？在其著作《灵魂论》中，亚里士多德解释了这个问题，提出存在三种灵魂：植物的、感知的和理性的。他对于灵魂的观念和柏拉图的迥然不同。亚里士多德所谓的灵魂并非永恒的非物质实体，而是生物的“形式”。亚里士多德认为，生物是形式与物质的结合。亚里士多德的理性灵魂实际上就是意识：理性的心智，有能力感知世界，并赋予其意义。然而，亚里士多德认为物质先于形式，意识只能附着于身体。用现代术语来说，这意味着意识是纯粹的生物学现象。亚里士多德不是一个二元论者。死亡在他看来，就是形式与身体一起毁灭。因此，死后没有脱离大脑存在的意识。我们的灵魂或者心智就是我们大脑的功能。形式与物质是一体的。从来就没有死后生活，不论是数字的，还是其他形式。

亚里士多德“病毒”传播（以及变异）

如果没有托勒密，亚里士多德可能不会有这样大的影响力。托勒密是亚历山大大帝的密友，后来成了埃及国王，开创了一个漫长的希腊王朝，直到275年后亡于克里奥佩特拉。在托勒密王朝治下，亚历山大里亚成了国际化的学术中心，尤其是天文学、医学、数学和工程学。之后，罗马和拜占庭统治埃及，再之后是阿拉伯的伊斯兰军队，他们逐一占有了亚里士多德的科学这个亚历山大里亚最著名的宝藏，又在之后让它流传得更远。亚里士多德的思想深深根植在了西欧的思想中。文艺复兴与启蒙运动求知的心灵都曾转向亚里士多德，研究自然、事无巨细地记录万物，用新的仪器做实验。于是，现代科学诞生了。
之后笛卡儿到来了，从后门请回了柏拉图。作为对大陆理性主义的回应，英国哲学家、医生约翰·洛克（1632—1704）开启了英国经验主义。洛克再一次确证了亚里士多德的名言：知识基于感觉得来的经验。洛克认为为了获得关于物质世界的知识，人必须建立假设，再通过观察和实验检验假设——这种方法就是我们今天的科学方法。很快宗教圈子就意识到洛克的经验主义是通向无神论的单行线。为了拯救宗教，英国国教主教乔治·贝克莱（1685—1753）指出，我们的感官是知识的主要来源，但事物仅在我们感知到时才存在，以此质疑经验主义。上帝于是恢复原职，因为是他创造了人类的心智。
贝克莱的思想之后世俗化了，在现代哲学中颇具影响力，作为质疑客观真实存在的基础。苏格兰哲学家大卫·休谟（1711—1776）通过质疑归纳逻辑，颠覆了科学经验主义。归纳逻辑，即科学家基于实验结果推知假设是否成立的方法。休谟指出，推理因果是根本不可能的。他认为我们永远也无法确认未来会与过去一致。你可以做同一个实验100万次都得到相同的结果，但是这并不意味着你一定能再重复一次实验还得到相同的结果。休谟和贝克莱得到了相同的推论：一切物理事物都来自我们经验的构建。也就是说，只有心理对象才存在。这一思想在当时激怒了很多人，包括著名的英国作家塞缪尔·约翰逊（1709—1794）。当他得知贝克莱关于物质世界不存在的说法时，他把脚重重跺在大石头上大喊：“我反对！”
然而，对感官从物质世界获取知识的质疑依然困扰着哲学家。20世纪初，人们发现实验方法存在明显的问题，因为实验假设了“常态”。如我们之前所见，实验作为检验科学假设的方法，其有效性有赖于可重复性。而实验可重复性的基础又是它的基础条件全部一致，也就是有所谓的“正常”情况，还要有“正常”观察者。但是谁能决定怎么算正常呢？可以叫个医生来吗？让他来判断实验的观察者是否正常？但是这会儿就需要另一个医生了，让他判断前一个医生是否正常。问题的关键不是找到这个无限的医生队列有多荒唐，而是意识到对于世界的描述总是依赖于特定物种的观察、实验，等等，在这个例子中，物种指我们人类。我们的感知方式是我们种族特定演化路径的产物。“常态”并不可信，特定物种的感知系统（如我们的大脑）对于描述科学观察结果捉襟见肘，因为我们只能使用极不精确的通用语言。科学看起来麻烦重重。
想要摆脱这些困扰，就需要来到“咆哮的二十年代”，去会一会维也纳小组的实证主义者。他们试图调和英国的经验主义和数理逻辑。他们的伟大设想包括：去除自然语言中的情感色彩和不确定因素（也就去除了人类观察者的主观性），并以一种逻辑完美的、毫不含糊的数学语言取而代之。对于他们，隐喻令人厌恶。冒着时代错乱的风险，我们可以想象，新实证主义者希望把人类（以及任何有智能的外星人）都换成计算机，把人类的语言替换成计算机语言。
实证主义者相信，在报告实验结果时有办法避免定义正常的问题。他们有两个非常好的理由支持自己：德国数学家戈特洛布·弗雷格（1848—1925）已经证明，所有数学真理都可以用逻辑表达，同时，奥地利哲学新星路德维希·维特根斯坦则解释了，所有逻辑真理都是语言学的重言式，即它们用任何可能的方式表达都为真（也就避免了主观性）。将这两者结合在一起，意味着只有逻辑和数学能够确保物理世界经验数据的表达是精确的，除此之外其他都是夸夸其谈。实际上，维特根斯坦和其他学者得出结论：任何不是纯粹符合逻辑或者不能被验证的命题，都是无意义的。形而上学、伦理学或者美学都是一些伪问题，因此也不值得研究。对于实证主义者，不如不再讨论那些不是纯逻辑或者无法验证的东西。正如维特根斯坦的名言：“对于那些不可说的，我们应沉默。”
于是，对于聪明的实证主义者来说，经验主义能否探索现实的问题就不存在了。不过更进一步我们就会发现逻辑有着局限性。同为维也纳小组成员的库尔特·哥德尔已经证明了这一点。而且，20世纪的科学进展还发现了新的课题，例如基因和电子，这些都无法被人类感官直接检测。核物理的微宇宙和分子生物学都需要我们相信我们的测量仪器，并创造出这些客体的概念。我们不知道它们看起来什么样。我们越是深入物理现实，就越会进入一个不可度量的领域，这让许多思想家拒绝了客观性，回到了柏拉图对现实的拒斥中。
谢天谢地，当哲学家忙着争论经验科学的局限时，科学正在继续前进。科学和科学方法不仅仅带来了关于世界的新知，还带来了一个工程发明的新时代，并最终引发了工业革命。无论对科学的哲学怀疑论多么有趣甚至可取，人类社会首先从科学和工程的发展中获益良多。实证科学尽管有着这样那样的哲学缺陷，却运转良好。实际上，我们可以认为，科学在我们文化中占据主导地位的唯一原因，是其应用的属性，是那些挽救生命、提升生活质量的工程力量。我们的生存和福祉都有赖于科学，这也是为什么我们敬畏这种反认知本能的思维方式。

解读意识

丹尼尔·丹尼特是一名哲学家，力争将实证方法融入意识问题。你可以想象，他对柏拉图评价很低，而对前苏格拉底的物质主义者和亚里士多德评价甚高。他的观点让很多二元论阵营的同行感到不快，尤其是他对将主观感受（感质）归为“难题”的轻视，这些问题都在他1991年的巨著《意识的解释》中一一解答。
丹尼特拒绝接受意识是一种神秘现象并超越了科学解读能力的观点。他常常使用魔术师的比喻，魔术师会欺骗我们的心智，让我们相信不可能的事物。舞台上的美女从没被锯成两段，尽管看上去是如此。同样，他认为我们的大脑说服了我们，认为自己拥有意识。感质或者主观体验只不过是大脑中物质过程造成的魔术错觉，并没有什么“大难题”：实证科学解释主观体验只是时间问题，就如同它已经解决了许多之前被看成神秘现象的事情一样。
丹尼特的经验主义哲学的核心在于将心理现象定义为脑内的神经活动——这一思想通常被称为“同一理论”。这种思想就如同将闪电定义为电流释放，或者水被定义为两个氢原子和一个氧原子构成的分子。不要被描述具体现象的语言迷惑。当我们谈论“意识”时，常常视它为一个统一的现象，实际上意识是许多分子在“非意识”的层面上多重互动的结果。同一理论是一种由科学发展和还原论驱动的思想，最终，所有自然现象都可以还原为各个部分的互动。对于意识研究，各个部分就是神经元和它们的联结。
丹尼特并不是神经科学家，但他试图给出一个统一的、可理解的关于意识的哲学理论，这一理论可以解释科学发现，并给出模型。在公开演讲中，他经常援引认知心理学实验的结论。这些实验试图定义和解读大脑中不相关的心理状态。
和很多认知心理学家一样，丹尼特认为大脑可以在我们未曾注意的时候就处理信息。丹尼特认为，大脑会对外部发生什么创作多个版本，就像作家为一个故事写了多个草稿。意识就是那一份被选中的草稿。换言之，所谓“觉察”就是大脑编辑好了草稿，再选出唯一一份这一过程的最后一步。
大脑内这一编辑过程的驱动者是意图（intention），这很好地解释了为什么我们会有意识。意图和我们的生存紧密联系。
丹尼特实际是以演化的视角研究意识。如果接受研究心智问题的实证方法，就需要接受演化的视角。如果意识是一个生物学现象，它就必然经历了演化。和灵长目比起来，只有更简单神经系统的生物需要更长的觉察时间；那些没有中枢神经的生物则没有觉察可言，它们是打还是跑的决定只能是自发的。可以检验这个假设，智力这个维度也可以放在实证研究中验证。所谓“意义”也是一个价值系统，也经历了达尔文式的演化。我们的意义、主观体验都是演化过程中大脑内自组织起来的心理状态。
丹尼特的还原论看起来支持了有关大脑的计算机隐喻。我们颅内的灰质可以简化为信息处理的机器。

那么，信息究竟是什么

我们生活在一个信息脱离肉体存在的时代。电影、书籍、硅谷大亨、未来主义者、遗传学家和计算机工程师都暗示，宇宙中存在一种新的力量，叫作“信息”，这种力量不光决定我们的命运，还会解决一系列重大问题，包括宇宙从何而来，生命是什么，以及我们为什么会有意识。不少人相信，理论上我们可以抛弃肉身，获得不朽的飞升，在赛博空间里以纯数字形式存在。我们时代的文化环境受到柏拉图主义信息（“形式”）高于物质的影响。后现代文学批评家凯瑟琳·海勒斯指出，我们认为信息独立于承载它的实体，信息是一种没有形体的流，流经不同的实体，却不会损失意义或者形式。
也就是说，我们应该放弃作为单一的人。20世纪的最后20年中我们已经变成了“后人类”，变成两个平行的存在：一个还身陷物质世界，另一个已经居于赛博空间。这两个存在难得同步，并且被不同的律法统治。
信息独立于原子、分子的看法由来已久，在信息革命的开端即已出现。诺伯特·维纳在他1948年的名著《控制论》中写道：“信息就是信息，既非物质也非能量。任何不承认这一点的物质主义者在如今都难以生存。”历史的轮回令人惊诧，“二战”后，计算机科学家和工程师放弃了亚里士多德的经验主义，变成了新柏拉图主义者。不再支持宇宙中的一切都可以通过物理客体预测的信条，他们开始支持相反一方柏拉图的观点。
“信息论之父”是美国数学家、电子工程师、密码学家克劳德·香农（1916—2001）。和他的英国同行一样，香农也是计算机科学最伟大的英雄之一，他的工作塑造了我们生活的世界。
我们都熟悉日常生活中噪声的概念，噪声就是干扰了我们听想听声音的声音。例如，当我们打电话时，救护车呼啸而过，警笛轰鸣，这就是一种噪声了。噪声出现在状况不明时，就意味着丢失了意义。噪声是一种信号，或是我们可以感知到的东西，其中缺乏信息。现在，请想象在收音机上收听没有意义的白噪声，一种持续不断的、没有任何色彩的嗡嗡声，突然，发生了一点儿音调的变化。这个和预期不一样的、随机的、奇怪的改变就可以被称为“信息”。不需要有任何意义，只是可能，就已经向正确的方向跨出了一步：有意义的事情发生的“概率”变大了。再想象这一音调的微小改变最终变成了更大的变化，直到你察觉背景中的人类语音。大量的信息出现了（有人在说话），尽管你还无法理解究竟在说什么。等越过了真正的信号对比噪声的门槛，只要他们说的语言你能听懂，你就可以明白在说些什么了。香农通过信号编码的理论，揭示了如何提升信息通过充满噪声的通道时的效率。
编码意味着展现信息。举例来说，书面语言展现了口语。一个人可以通过另一套不通用的字母记录口语，或者使用其他顺序的字母表等，这就是加密信息，只有那些拥有编码“钥匙”的人才能理解。信息编码的方法之一是使用二进制。这就是像计算机这种数字信息处理机做的事情。它们将物理世界存在的信号编码为二进制的0或1。在二进制中，0表示没有信号，而1表示有。每次你用手机拍照，手机中相机捕获的光都会被转化为二进制数字，并存储在内存里。数字信息就是长长一串的0和1。
香农突破性的理论就写在他的论文《通信的数学理论》之中，论文借用了热力学中的概率理论，把它用在了远程通信这一新领域。热力学描述了分子加热或冷却过程中的运动。越热，分子就会变得越有能量。热力学的关键概念是一个系统中的分子多有秩序，或者说温度分布得有多均匀。这叫作“熵”，在第八章我们曾经讨论过。当我们向一个系统注入能量时，例如给一个充满气体的容器加热，气体分子就开始以不可预料的方式加速运动。系统的有序程度增加，熵就降低。通过热力学，我们不仅可以预测气体分子的运动，甚至可以预测宇宙的命运。随着宇宙的扩张，它正在冷却下来，熵也随之增加。宇宙将会变得越来越无序。最终，它会到达一个一切都没有差别的点，剩余的物质和能量将会在广大的时空中均匀分布。这也将会是宇宙的终结。我们的宇宙将会达到热寂，意味着不会有任何热或者能量能从一地传递到另一地。那时，不会再有生物学中所谓的生命存在，因为生命必须通过传递热量才能生存，这就要求一定的无序程度。在信息系统中，熵定义的是信息不确定的量。一个信息噪声越多（熵越多），其中的信息也就越少。香农的信息论展现了科学史上最重要的范式转换之一。
然而，在从热力学到信息论的发展中，一些东西看起来消失了。热力学描述的是物理课题，信息论在一开始就笼罩了非物质的光环。比特和分子并不是一种形式的存在，信息也常被描述为非物质实体。香农最初对接受维纳的信息既非物质又非能量的观点很不情愿。作为一名电子工程师，他非常明白远程通信的基础是物理学而不是形而上学。通信信号是电磁波，以光速传递。这些电磁波以最真切的方式影响各种机械的传递和接收装置，它会加热它们。这就是为什么你的计算机工作时会变热。能量在硬件中以热的形式散发出来，因为电子流经集成电路。事实上，这正是热力学和信息传递的联系。信息于是总是和物质实体相关。不论是我们的神经元正接收草丛中饥饿狮子的信息，还是计算机的集成电路正在处理Excel试算表，总有一些物质实体正在运转，我们最终可以将之表现为比特。0或者1只在物质世界中存在。它们是物质实体中能量流的表现。这也是为什么所谓纯粹的信息是无意义的。它们只有在语境中才具有意义。语境影响了意义，语境也需要正在思考的心智。举例来说，“下雨了”，如果我是在纽约的办公室里回应你的提问，关于伦敦天气如何，那么我就提供给你了一些你不知道的信息。但是，如果咱们是在伦敦的哈克尼的公交车站等车，而雨点正落在咱们头上，我说出这同样一句话就显得很蠢。我刚说的话没有什么是你还不知道的。我们的心智会为信息赋予语境和含义。
要理解语境的重要性，另一种方法是让任何信息总是联系到物质实体，在下雨的哈克尼，你坐我身边，或者在你纽约的办公室里，等等。这是对信息亚里士多德式的、经验主义的观点。而且在任何情况下，以及在一切我们可以想象的情况下，对信息的编码都应该是一致的。这种思想让维纳强烈地支持信息应该超越能量和物质的观点。他对于语境卷入信息论中非常失望。他希望能够去除语境，以便创造一种关于信息的理论框架，可以排除任何语境的干扰。因此，他将信息从一种物理的、物质的状态中剥离语境，将它限定在信息的编码领域，如信息的数学形式。信息因此“和身体分离”了，与心智赋予它的含义解绑，最终变成了我们今天熟悉的样子，一个柏拉图式的通用模型。在维纳和香农研究的几十年后，我们接受了信息是独立于物质实体存在的观点。于是，我们对于事物的编码和事物本身的关系，对于一件事物的反应和这件事物本身都感到困惑。我们暂且狐疑地相信信息也许和物质实体相关。
时代最终从醉酒中醒来，把语境的重要性、信息论和关于意识的实证研究结合起来，以便探索人工智能的亚里士多德式观点。

经验主义者的人工智能启蒙

为了了解如何制造有智能的机器，我们必须接受以下4个经验主义的观点。第一，不存在灵魂或者任何神秘的无法实体化的存在。我们必须拒绝任何版本的二元论，因为二元论既不能解释任何事情，也不会带给我们任何结论。第二，只有物质存在，我们生活在一个物质的世界中，就是如此。第三，智能，从最简单的蠕虫，到小口呷着卡布奇诺的人类，其自我觉察或者意识，都是纯粹物质的、生物学的现象。第四，如果那个叫作“大脑”的物质实体可以有意识，那么用其他材料构成的物体理论上也是可以有意识的。基于以上这4点，经验主义者认为强人工智能是可能的。对于经验主义者来说，大脑是一个信息处理的机器，而不是任何形而上学的东西。我们的身体有数十亿细胞，如果我们接受经验主义的观点，那么智能或者意识，不论自然还是人工的，其科学问题都可以被定义为一个简单的问题：数十亿无意识的纳米机器人如何获得了意识？
我们的每一个细胞都是无意识的，都可以被看作一个纳米机器人，它在极小的尺度上是一个自动机器。分子生物学与神经科学在理解细胞如何工作方面已经有了很大的进展，尤其是关于我们大脑中的细胞（神经元）是如何工作的。世界范围内的医学研究者正在致力于将生物化学研究“翻译”成知识，研究单个细胞的分子机制，以解决宏观上的健康问题。例如，理解了RNA（核糖核酸）在心脏中如何影响了蛋白质的产生，就可以帮助医生发明治疗心脏病的新药。这些研究从单一的功能一直横跨到系统的功能，同时研究了神经细胞。几十亿无意识的自动机（对于生物学的大脑来说，这些自动机是神经元）如何产生了意识，解答这个难题需要的仅仅是时间。我们最终解答了这个问题时就获得了意识的科学解释。我们会像解释新陈代新、血液循环或者孩子出生一样解释心智。把心智的科学理论用于制造智能机器，就能得到有意识的机器。人工智能的问题因此就成了神经科学的问题：理解无智能的部分如何变成了有智能的总体。

第十章 深入心智

认知心理学的奠基人之一乔治·米勒在1951年的著作《语言与交流》中写道：“‘意识’这个说法脍炙人口，也许我们应该在10—20年中禁用这个词汇，等到我们有了更精确的术语取代‘意识’这个词多种模糊的说法。”他关于在科学研究中禁用“意识”一词的说法，自18世纪以来就屡屡被人提起。科学在笛卡儿精神实体与物质实体的区分之下繁荣兴旺，一直以来都关注着物质实体，关注着物质与现象的世界，把精神的世界留给了牧师和哲学家。然而尽管米勒曾有此名言，他还是对改变成见当机立断。他质疑了行为主义这一20世纪心理学曾经的主流理论，这个理论把心智当作黑箱，对它毫无兴趣，只专注于可观察的行为。以人工智能的观点，米勒试图将行为解释为一系列刺激反应的过程，此时米勒就引入了心理过程或者心理功能的概念。人类心智的黑箱突然打开供科学研究。类似于什么心理事件导致了记忆、信念、欲望或者感觉的问题，如今可以研究了。结合计算机理论、香农的信息论和语言学，米勒创造了新的领域：认知心理学。这一新领域中发展了一系列实验技术供意识的研究者使用。但是直到20世纪90年代初，笛卡儿的幽灵依然在大学的心理学系和神经生理学系游荡，将两个专业隔绝开。来自两个阵营的学者没人敢去认真研究意识的课题。
于是在1995年，DNA分子结构的共同发现者和科学的标志性人物弗朗西斯·克里克出版了一本一夜之间改变一切的著作。克里克用了一个非常亚里士多德的说法：对于灵魂的科学探索。他写道：“意识完全来自细胞、神经胶质细胞以及组成它们和影响它们的原子、离子和分子。”针对数个世纪以来对于心智柏拉图式的、二元论的观点，这一物质主义的观点十分具有革命性，因此克里克感到有必要将这本书命名为《惊人的假说》。
克里克的书将精灵从瓶子里放出来了。尽管心灵哲学家试图捍卫自己的地盘——一些人现在还在这么做——严格的科学研究已经多了起来，并且已经攻占了不少过去神秘的心智领域看似坚不可摧的堡垒。过去的20年里，神经生物学家、神经科学家和认知心理学家团结起来，将意识带到了科学实验室。他们发现的东西比克里克能想象到的还要惊人。
意识进入科学研究领域有三个基础：对意识简洁的定义，对主观体验的实验操作，以及强大的观察工具的出现。

被解放的意识

回应上文引用的米勒的名言，禁止使用意识这个字眼，科学家最终把意识从混淆的含义中“解放”出来，并且确定了更好的定义。这个定义更精确，更利于实证研究。如今，大多数研究者都会区分三种不同的意识状态。
第一种状态可以叫作“觉醒的程度”，或者叫“警觉程度”。这一状态随着我们入睡和醒来变化。当我们醒着的时候，我们的意识进入了第二种状态“注意”，将我们的心理资源聚焦于特定的刺激上。然而我们已知我们可以拥有不经意识的注意。在醒着的时候，我们的大脑接收了大量的感觉信息，然后通过过滤决定哪些对于我们的目标来说更重要。大脑会放大这些刺激，并让我们注意到它们。为了让这个过程生动一点儿，请想象自己身处一个喧闹拥挤的派对，试图和一个你见到的有趣的人谈话。当你谈话时，会专注于对方，你的大脑依然处理感官接收到的各种信息，你对所处环境依然可以注意到，但又不会过于觉察到。但是，如果有人突然大喊“着火了”，你的大脑会立刻将这一信息从嘈杂的环境、对话、音乐、气味等之中分离，并且立刻将这一信息带入你的觉察，并可以报告给他人。这也就是意识的第三种状态，客观变为主观。意识就是信息变成了故事，我们的故事。
注意是第三种意识的门卫，我们称第三种意识为“觉察”。例如，当寻找特定事物时，我们可以有意地让我们的注意集中在一组刺激中。想象石器时代的猎人在欧洲茂密的森林中追踪一头鹿，注意听着各种声响，用眼睛寻找着灌木丛中移动的线索。
将意识重新定义为这三种本能的状态：觉醒、注意和觉察，帮助神经科医生将闭锁综合征（病人有意识，却无法移动）与植物人状态区分开来。觉醒和注意对于觉察是必要的，却不是充分的。例如，一些中风病人视觉皮层受损，变成了色盲。他们觉醒着，也注意了，但意识中缺乏颜色的体验。尽管大多数人的“真实”包含着颜色，但色盲病人无法获取这部分真实。
但是自我觉察呢？这个说法中的“我”是指谁？对于意识的研究揭示，自我觉察和对颜色、香味的意识没有什么不同，都是大脑中发生的神经生物过程。实际上，自我觉察没有我们最初设想的或者类比的那么特殊。有许多例子可以说明，我们的意识达到某种状态时自我变成了背景噪声，或者彻底消失。思考一下性高潮、热恋或者聆听美妙的音乐，注视至美的夕阳。按照佛教冥想修行者的定义，“正念”是一种心理状态，觉察着世界，忘却了自我。不用说，他们的冥想方法以及其他宗教的方法都得到了科学的研究。
第二点同样重要，意识可以变成科学研究的对象，在于人们发现了意识可以被实验手段影响。一旦被科学攻坚，“意识的难题”就变得简单直接了。主观体验（感质），也可以被转化为客观的数据。回到意识的三种状态，科学家如今可以观察、测量从无意识的注意到有意识的觉察之间的转变。这种从主观的感知中区分出客观的物理刺激的过程就是意识。意识是大脑中的物理过程。认知心理学家研究的心理过程和神经活动相符。因此，定义主观体验的研究也可以看作研究神经元处理事务特性的研究：当信息进入我们的大脑，被觉察并变得可以主观报告时，究竟发生了什么？
使用现代脑成像方法，神经学家可以观察和记录无意识的刺激如何影响大脑，例如信息在哪些脑区逗留，以及这些刺激引发了什么样的神经活动模式，和哪些意识过程相关。他们可以在神经过程和主观体验之间建立起因果的联系。事件导致意识觉醒的物理过程，被克里克称为“意识的神经关联”，如今被认知神经科学家斯坦尼斯拉斯·迪昂称作“意识的签名”。他们的研究得以成立，有赖于现代测量仪器可以深入大脑之中并且有效地读取思想，或者在很多时候读取幻觉。

心智测量器和消失的大猩猩

1990年，日本物理学家小川诚二及其团队发明了功能性核磁共振成像，一种可以将脑功能可视化的技术。有了这种神奇的机器，我们如今可以拍摄大脑思考时的彩色照片。这怎么可能呢？功能性核磁共振成像可以探索大脑中的细胞和血管。当一个神经回路变得活跃时，围绕在神经细胞周围的神经胶质细胞通过突触的活动感知到神经活动的增强。为了应对日益增多的能量消耗，胶质细胞会开启动脉让富含氧的血流流入。两三秒后，活动的神经通路周边的血流就会增加，带来氧和葡萄糖。小川诚二颇具远见，意识到这是一个利用磁场追踪血流的机会。像是旧时代着迷于动物磁场的人，他把强磁场加载到大脑周围，并且测量大脑内磁场的扭曲。这种扭曲来自血红蛋白，一种在血细胞中携带氧气的蛋白质。当血红蛋白携带着氧时，就像是一个小小的磁体。当不携带氧时则没有磁性。现代磁共振仪利用这一简单的原理，可以在毫米分辨率上一秒内多次测量大脑中的神经活动。如今意识的研究者可以深入大脑，追踪心理活动如何开始和扩散。然而，技术依然存在局限，功能性核磁共振成像不能在神经元等级观察大脑，例如无法观测突触上的发放有多长时间，测量神经元发放的时间同样重要。如果意识是一种生物学现象，那么我们就应该从引发它的基本生物单元开始：神经元。
还好，还有一种技术正好可以用来做这件事：脑电图（EEG）。它漫长的历史可以追溯到19世纪，在那时人类发现了大脑的放电现象。第一个人类脑电图出现于1924年，由德国生理学家、精神病学家汉斯·伯格（1873—1941）记录。伯格同时发明了脑电仪，这个著名装置的照片经常登上报纸杂志，看起来就是人头上戴上大量的电极。现代脑电仪有256个电极，能在毫秒级精度上高质量地记录。
另一个技术利用了大脑活动电流引发的磁场，叫作“脑磁图”（MEG）。通过记录皮层外层神经元在进行电生理活动时产生的微弱磁场，脑磁图可以比脑电图更为精确。利用以上两种方法，再加上功能性核磁共振，在意识中浮现主观感受时，研究者可以在单个神经元精度上研究，也可以研究一组神经元如何交流和在脑内传播信息。难以置信，就在20年前，测量方法与技术打开了人类心智的一扇窗。
要给意识下一个准确的定义，聪明的实验策略是使用有微小差异的刺激，一部分是引发觉察的刺激（大脑觉察到了刺激，进入了意识），一部分是不可觉察的刺激（刺激没有进入意识，只是引发了注意）。实验者会制造成对的实验刺激，二者仅有微小的差别，其中只有一个可以被意识觉察。脑电图、脑磁图和功能性核磁共振成像可以用来记录在两种刺激的情况下大脑的不同变化。研究者已经找到了不少方法，通过实验设计影响意识，就像魔术师一样。
在利用上述策略的实验中，最著名的一个实验展示了注意和觉察之间的关系，其中有一个隐形大猩猩。从事件被我们的感官获取到意识唤起的过程大约需要1/3秒，开车的同时干别的事情（例如发短信）是很要命的。就像隐形大猩猩，正在过马路的小孩对于开车打电话的人来说可能是完全隐形的。
另一个实验利用了两眼的竞争：如果两只眼睛各看到一幅不同的图景，我们的直觉就会在它们两者之间依次选择。利用功能性核磁共振成像、脑电图和脑磁图，当我们的知觉交替处理两幅图像时研究者可以追踪整个大脑的活动，从单个神经元到整个一组神经元，视觉刺激从视网膜蔓延到额叶。在克里克“惊人的假说”提出30年后，神经心理学家终于让大脑吐露了更多秘密。意识不再如此神秘。

意识到它

斯坦尼斯拉斯·迪昂是法兰西学院实验认知心理学教授，也是意识的神经机制这一领域顶尖的研究者之一。通过一系列先进的测量技术和创新的实验方法，他和团队发现了4个最重要的“意识的签名”，当信息进入意识时，这些签名就会在大脑中出现。
理解和控制意识可以产生巨大的医学和社会利益。在发达国家，衰老导致的神经退行性疾病（例如阿尔茨海默病和帕金森病）的患病人口一直在显著增长。用于医疗和社会支持的消费在21世纪接下来的几十年中会高得惊人。幸亏脑成像技术和解决大脑疾病的社会经济压力，如今大脑研究吸引的政治关注不亚于核能、基础物理和太空探索。“大科学”正在对大脑疾病攻坚，于是也就涉及了意识问题。
2013年4月，奥巴马总统宣布BRAIN计划（推进创新神经技术脑研究计划），一个以人类基因组计划为范本的协作项目。尽管具体的研究时间表在本书写作时还很模糊，但计划已经对很多有趣的想法进行了讨论。
人类大脑计划的工作相当于设计和建造一个人工大脑。许多研究已经开始探索这一领域。然而，搜集和整理过去大脑研究的各种信息挑战巨大，在计算机中建立神经元或者设计神经元模型的工作也同样浩大。
人类大脑计划的运行同样困难，处理数据、存储空间乃至仅仅冷却计算机就是个大工程。人类大脑由大约890亿个神经元构成，并且通过百万亿级的突触相连，这些元素必须被编程才能计算。这将是对自底而上的还原论科学的终极挑战：使用神经生物学的基本单元构建一个全功能的大脑。如果成功，人类大脑计划将对药品研发产生不可估量的影响。在计算机中的人脑上测试新药将会比在生物实验室中或者对人类参与者耗时、高风险的测试好许多。

关于意识的理论

人类大脑计划制造的人工脑究竟真有意识还是没有意识，这一问题只有意识的理论能够回答。但这个理论究竟是什么？像迪昂这样聪明的科学家发现的意识的神经签名还不够吗？
在科学上，一个理论是对于事实或者观察的可验证（或者可证伪）的解释，要去回答进一步的“为什么”。之后，一个科学理论可以预测还未观察的现象。因此，仅仅知道和测量从无意识到有意识时大脑的活动信息是不够的，我们必须解释为什么会如此。一个意识的理论不仅能解释为什么大脑用这样或那样的方法获得了意识，还需提供其他和意识有关的现象的预测，例如可以解释梦、幻觉、动物的意识、精神分裂症、闭锁综合征，等等。最终，我们需要知道作为一只蝙蝠是什么感觉，以及成为你是什么感觉。
迪昂和他的合作者让–皮埃尔·尚热已经总结了他们的结论，以便提出这样的理论。迪昂–尚热意识理论假设了大脑中一个能力有限的“全脑神经工作区”。在那里，如表象、记忆和感觉等信息汇集起来，并且通过脑中巨神经细胞遍及皮层的长长轴突向各个脑区广播。意识就是在这样的工作区中涌现的。迪昂–尚热意识理论与人工智能领域的“黑板”架构有很多相似点。在黑板系统中，一个基本的知识库由多种不同的知识源持续更新，直到给定问题的解决方案出现。这一解决方案是计算机的灵机一动时刻，看起来和觉察很像：大脑中多个多样的、无意识的过程处理特定的信息集，最后进行汇总。这个“汇总”的状态有时靠基本的生存需要驱动，有时是靠短暂的欲望或动机驱动。这些目的、欲望和动机需要大脑去解决，使用的工具就是那些长轴突和全脑神经工作区。
迪昂–尚热意识理论得到了不少赞誉，同样有不少批评。克里斯托弗·科赫是克里克的合作者，也是目前爱伦脑科学研究所的主任，他认为这一理论并没有真的解释为什么，它过于专注于大脑中的电活动。引用俄裔小说家、科学家弗拉基米尔·纳博科夫的话，科赫指出：“能够破浪并不能解释整个大海。”科赫更倾向于另一个理论，这一理论由意大利神经科学家朱利奥·托诺尼创立，目前托诺尼任教于威斯康星大学。托诺尼是睡眠医学的专家，曾经和诺贝尔奖得主杰拉尔德·艾德尔曼合作研究意识。他的“信息整合理论”试图通过香农的信息论，以觉察的语境解释意识。托诺尼认为，在信息和意识之间存在明显的连接。他用希腊字母Φ（斐）作为数值度量这个多模块交互的复杂信息系统。当这个数值高时，系统就处于高度整合的状态，并且展现了各个模块不具备的功能，同时系统也就处于一个高度可识别的特定状态。系统越是整合，Φ值越高，就越能体现出意识。人类大脑就是这样的一个信息系统。托诺尼的理论提供了一个概率上可验证的意识框架，可以用来预测动物大脑、计算机甚至植物的Φ值。无疑，这是它最有价值也是最受欢迎的特点。科赫认为：“长远来看，使用Φ值作为量化指标的框架会被证明是正确的。”于是，今天这一研究领域最著名的学者强烈地支持这个理论。
经验主义要求我们假设信息与意识之间存在深层的、物质的连接。但是，目前我们离能够有效解释意识的科学理论依然很遥远。尽管意识研究已经有了惊人的进展，但是还是有大量的问题亟待解决。
如果Φ值是意识的度量，它只可能是很粗糙的一个。我们依然需要探索和学习。人类大脑是40亿年演化的产物。我们还没有完全了解演化的本质。

心智与身体

吊诡的是，许多神经科学家认为当研究大脑时，身体只不过是不必要的奢侈品。他们的研究明显受到著名的“缸中之脑”思想实验的影响，这个实验借自心灵哲学。实验认为大脑可以完全脱离身体，也能产生意识。你需要做的就是把大脑放在充满营养液的水缸中，保证它得到足够的氧气存活。之后，你可以把大脑的神经元通过电极接入超级计算机。超级计算机可以用人造的世界取代现实世界。它可以人为制造环境，使用电子刺激制造图像、颜色、嗅觉和听觉，通过电极传输到大脑。如果这个大脑就是你的，实验进行中你将无法分辨真实和虚幻。就如《黑客帝国》里被邪恶的机器当作电池的可怜人，你可能只是活在梦中，还以为一切都是真的。
神经科学家将大脑看作自动系统，而不考虑身体的其他部分，显然他们认为大脑乃至心智都是一个自给自足的系统。然而，生物学不能接受“缸中之脑”的看法。其他动物的身体以及我们的身体并不是自动的零件。我们如此看待身体是因为这样理解解剖学更容易，也因为我们的医学演进路径是分别研究和治疗不同的解剖区域、系统和身体器官，而不是整体地对待它们。
20世纪80年代中期，美国神经科学家坎达丝·珀特（1946—2013）宣布在人体内发现了一种新的分子，她命名为“神经肽”。肽是一种分子，参与了神经、激素和免疫系统的运转。它是一种氨基酸短链，可以和细胞表面特定的受体结合。为此，肽可以和多个身体系统交流信息，维护一个心因性的网络。珀特发现的这一类肽同时也是神经递质，叫作“内啡肽”。它近似于阿片类物质，如同鸦片或者吗啡，可以制造欣快的感觉也可以镇痛。内啡肽在脑内负责“感觉好一点儿”，由脑垂体和下丘脑分泌，在锻炼、感到爱、性活动、疼痛，以及有时吃辛辣食品时就会分泌。疼痛和欣快因为内啡肽联系在一起。内啡肽也会由免疫系统产生，可作为另一个证据证明中枢神经和身体其他部分之间存在紧密的连接和双向的交流。很可能意识的生物机制不是只存在于大脑中，而是在身体上分布。
免疫系统和中枢神经的联系指向了另一个不那么明显的可能：我们的身体是更大的地球生物圈的一部分，是地球上所有生命的集合的一部分。我们主要通过感官觉察世界的信息。在传统的五感（嗅觉、触觉、视觉、味觉和听觉）之外，我们还有一些感受：平衡觉、速度觉、热觉、肌肉知觉，帮助我们感受到自己的身体是否疼痛等各种内部感觉，感受到身体内部正在发生的事情（比如感到窒息、感到脸红）。来自这些感官的信息同时被我们的中枢神经和外周神经处理。但是，我们的免疫系统和神经系统相连这一事实指出，我们还在和侵入的病毒与细菌交互。如果我们的大脑是一个自组织的系统，以万亿计的正反馈网络强化信息，产生“意义”，也许我们就需要考虑外部环境和我们的身体是否也影响了神经的递归循环。
也许关于意识的完整的科学理论需要等待一次科学思想的范式转换。这次转换可以带领我们从还原论进入整体观，从研究某一部分，到研究互相连接的控制论网络。也许神经科学家应该关注控制论的有趣思想和可能的答案。

第十一章 控制论大脑

控制论可能是历史上最具洞察力也最有野心的综合科学理论了。通过把数学、物理学、医学和生物学的知识和范式熔为一炉，20世纪中叶，控制论的先驱们试图探索和理解复杂自动系统的行为。但是，究竟什么是“系统”呢？系统可以宽泛地定义为独立组件功能的集合。这个定义的关键词是“功能”：每一个组件都需要通过某种方式和其他部分交互，这种信息的交换必须引导系统向着某个特定的目标前进。一盘散沙或者一堆垃圾不是系统，尽管它们由不同的部分构成。然而，一个人加上纸和笔可以看作有书写能力的系统。为了写一封情书、一本科普书籍，或者一篇论文，笔和纸会交换信息（大脑连接着手，控制着笔）。
控制论来自希腊语“控制”（governor），特别关注自动化的系统：这些系统一经诞生，就不再需要它们的创造者（或者它们的第一推动）来实现运转。它们可以自定义目标，并且自我控制。一个纸–笔–脑–手系统可以看作一个自动控制系统。一个控制系统也是一个自动化的系统，它能够自我控制和自我引导。我们可以将人的手替换为机械手，人的大脑替换为写作十四行诗的算法，于是我们就可以得到控制论诗歌了！我们可以想到很多自动化系统的例子。想想希腊化时代亚历山大里亚的第一个自动机器，机械心脏，或者探索火星表面的自动机器人。
但是还存在许多其他的自动系统，它们并不是由工程师设计的。每一个复杂的自然系统无疑都是控制论式的。社会和经济系统同样也是控制论式的。
控制论因此也是一种“元理论”，它并不关注自动系统是如何建立的，但是关注自动系统的功能。因此，控制论适用于多种系统：物理的、技术的、社会的、经济的和心理的，以及它们结合在一起的系统。系统可能与其他系统结合成“超级系统”，表现出完全不同的行为。结合世界经济，结合市场、社会和地球碳循环，就得到了一个影响全球气候的无法预测的超级系统。因此，控制论为我们研究宇宙提供了一个整体论的世界观。和还原论、科学采取的分化方法不同，控制论是涌现式的和多元的。它试图理解自动系统中的涌现现象，不论这个系统是自然的还是人工的，相连的还是交互的。控制论这种普世的应用正是诺伯特·维纳希望打造的。通过这种办法，他看到了构建终极科学的希望，这种科学可以解释并帮助确定系统如何通过协作朝向既定目标迈进。以此推论，人类有目的行为的影响不仅会超越自己的星球，还会超越银河系。控制论最终可以告诉我们如何管理生命的演化，如何管理宇宙。从一开始，控制论就是一局高风险的游戏。
如今，控制论已经差不多归入历史书了。尽管还有少数科学机构自称研究控制论，事实是维纳的科学已经戴上了蒸汽朋克的光环。大学、研究中心和政府都希望对抗知识的整体论方法，更喜欢保持科学与人文院系分离的范例，保持现有的权威延续。维纳创造统摄一切的科学的梦想看起来破灭了。但是控制论先驱的名字和作为还是永垂不朽的：冯·诺依曼的计算机架构、博弈论和细胞自动机，布赖腾贝格的自动机器人，麦卡洛克的人工神经网络、感受器和分类器至今还在启发全球的研究者和学生。
理解控制论对于研究人工智能是至关重要的。这两个领域紧密相连。正是人类大脑和心智的问题催生和促进了控制论。

梅西会议

弗兰克·佛莱蒙特–史密斯（1895—1974）是一名美国管理人员，对于大脑和人体极有兴趣。20世纪30年代，他花费大量时间研究美国生理学家沃尔特·坎农关于体内平衡的前沿理论。到40年代初，他发起了一个讨论组，发起探讨、检验假说。许多前沿科学家加入了小组，包括格里高利·贝特森和玛格丽特·米德，他们自称“人机计划”。当史密斯成为梅西基金会的医学主任时，他发起了一系列年会来拓展人机计划。由梅西基金会主办，会议成了“梅西控制论会议”。一开始会议关注机器和动物，但控制论很快占据议题，引导了关于心智的研究（如贝特森和阿什比的工作），也引导了社会系统的研究（如斯塔福德·比尔的管理控制论），如同在社会控制关系的领域再次发现了柏拉图。目前，我希望专注于梅西会议的4个与会者，他们的工作指向了人工智能的基础：诺伯特·维纳、克劳德·香农、沃伦·麦卡洛克和约翰·冯·诺依曼。
我们已经看到，维纳和香农深入研究信息的本质，决定将之归为超越物质和能量的存在。他们这一决定的遗产流传至今，在信息与身体分离的过程中定义了后人类主义。
沃伦·麦卡洛克教授揭示了神经元与计算机的直接联系，他是美国神经生理学家，喜欢写十四行诗，奠定了如今多种关于大脑的理论。1943年，他和逻辑学家沃尔特·皮茨合作，发表了一篇关于神经细胞的数学论文。在这篇论文中，麦卡洛克和皮茨试图理解大脑如何仅使用大量基本的细胞就产生了高度复杂的模式，这些互相连接的细胞就是神经元。他们的研究借鉴了图灵的思想。
图灵在美国产生了巨大的影响，他关于计算机器（图灵机）的思想为麦卡洛克和皮茨提供了一个很好的理论框架。在论文中，他们论证了神经元等同于图灵机中运转的程序。他们指出，神经元应该被视作信息处理的机器，是大脑基本的逻辑单元。这种神经元和程序一一对应的思想变成了计算理论和人工智能的基本信条。
如果大脑由处理信息的基本逻辑单元构成，那么智能就是从这些单元的连接中涌现出来的。大脑因此是一种控制论系统。正如迪昂关于意识的研究揭示的，大脑利用反馈循环让信息在神经元之间和神经群组之间流转。神经系统的感觉输入不断在神经层面整合。这种整合影响了大脑的内部状态，例如记忆和思想。在大脑指挥身体如何应对外部刺激时，智能涌现了出来。如果这种假设成立，就可以利用任何媒介复制大脑，只要这种媒介可以以近似的逻辑单元处理信息。这种媒介可以是齿轮、螺丝与滑轮，也可以是硅基芯片或者水管，只要能够以近似的方法处理信息，媒介由什么构成并不重要。
麦卡洛克和皮茨的神经元模型常被简称为“MCP神经元”，为研发人工神经网络做出了开创性的贡献。这一模型同时将人工智能的核心问题联系到了人类意识。如果我们可以发现控制论的大脑是如何思考的，我们也就可以同时解决人工智能的问题了。而这正是人工智能领域最重要的理论之一：马文·明斯基关于智能代理的理论。像神经元或神经元群组一样，许多叫作“代理”的软件自主运行，互相竞争以解决问题。这种混乱的互动最终导致合作的代理占据整个系统。系统可以自组织，它会经历不同的阶段，或者用技术术语来说，经历“分叉”（bifurcations）。在每一个分叉中都会出现新的功能。最终达到一个引爆点，发生全局性的改变，人工的、以代理为基础的系统中会出现智能，就像以神经元为基础的人类大脑一样。
第四位人工智能的控制论教父也参与了梅西会议，他就是传奇的匈牙利裔美国数学家冯·诺依曼。他是现代的莱布尼茨，博学的大师，在多个科学领域做出奠基性的贡献，其中包括数学、计算机、控制论、逻辑学、经济学和量子物理，还有其他许多领域。在参与梅西会议期间，冯·诺依曼扩展了他关于自我复制自动机器的理论。他指出，这种机器不仅能像人类一样思考和行动，还可以具有繁殖的能力。

自我复制的机器

图灵已经证明了机器可以编码各种信息，他将这个概念命名为“通用机器”。冯·诺依曼意识到通用图灵机也可以编码自身。实际上，现代计算机就是一种通用图灵机，确实拥有这样的能力。计算机中存储的各种软件都可以拷贝到另一台计算机中。利用计算机进行各种操作时都在发生拷贝。例如当你“发送”电子邮件时，并没有什么东西从一地发往另一地，你的邮件压缩的拷贝复制到了你要发送的人那里。冯·诺依曼着迷于通用图灵机自我复制的能力。运用控制论的方法，他构建了一个生物组织或机械自我复制的理论。1948年，在一系列演讲中他展示了这些研究——在沃森·克里克和富兰克林发现DNA分子结构的4年之前——解答了生命系统自我复制之谜。
冯·诺依曼使用数理逻辑证明存在一种自动机，对于给定的任意一种自动机状态，至少可以复制成两份拷贝。为了证明这一理论，他使用了一种叫作“逻辑替换”的方法。我们会在本书之后的部分再次讨论这种方法，奥地利数学奇才哥德尔使用这种方法在他的不完备性定理中证明了逻辑的限度。同时，图灵也曾使用逻辑替换的方法证明他的不可计算定理。逻辑替换是一种数学家的神奇手法，让自己可以袖手从麻烦中全身而退。它将两类数学概念一一对应，例如将自然数和逻辑运算对应。有了它，数学家可以避开不可能的问题，解决一个简单点的问题，最终声名长存。
使用逻辑替换，冯·诺依曼替换了图灵机所有的信息部分（通用图灵机无限长纸带上的状态，如今我们叫它程序），以便证明他关于自我复制自动机的理论。这种替换的思想证明人工生命可以用和生物一样的方式繁殖。任何可以复制的生命系统都有两种能力：可以生产，也可以自我复制。以基因为例，它为了生产蛋白质而编码信息，也会编码自我复制的信息。在发现基因之前，冯·诺依曼就想到了自我复制和生产（或者以现代计算机的观点来看就是“拷贝”）是任何可以自我复制的系统所必须具备的两个能力，例如自我复制的自动机。他将自我复制的自动机称为“通用制造机”，以对应图灵的“通用机器”。
尽管冯·诺依曼不幸去世，没能完成他自我复制自动机的理论，他的思想还是产生了巨大的影响力。1953年发现的DNA结构，以及随后对于生命如何复制和演化的理解，回答了数个世纪以来关于生命的疑问。但是光发现DNA还不足以回答最重要的问题：生命从何而来？有趣的是，冯·诺依曼自我复制自动机的理论可能回答了这个问题。让我们来看看控制论对于真正的生命能告诉我们什么。
一个通用制造机可以制造任何能被制造的东西。图灵指出，你无法制造一台机器让它告诉你什么可以制造，什么不能。一个通用制造机只能复制你提供给它的信息，而不能发明自己的。如果我们承认生命系统就是一种通用制造机，然后回到演化刚刚发生之时，我们一定会问当时有什么信息，提供给了谁，让最初的制造机得以创造生命。简单来说，同样的问题也可以说成“生命为什么可能”。
这个问题只能通过两种方式来回答。可以假设有个程序员，或者说造物主，或者什么人先验地“知道”生命将会存在，然后将这一信息提供给最初的分子自动机，直到它演化成为多细胞的、有意识的组织。让我们将这种解释命名为“设计的观点”。它看似符合逻辑，我们星球上的数十亿人相信这种观点，这些人许多都虔信天启宗教，比如基督教和伊斯兰教。
但是这个观点有着严重的逻辑问题，叫作“无限回归”：谁或者什么东西创造了创造者呢？如果是另一个创造者，我们就要回到相同的问题，一次又一次直到永远。可能存在无穷多的宇宙和无穷多的造物主，但是我们还是不知道“最初”的造物主从何而来。一个可以自我复制的制造机又是如何知道生命是可能的呢？在没有DNA分子或者其他物理记忆的情况下，生命的信息又是如何编码和储存的？我们无法回答这个问题，除非我们接受了柏拉图式的观点，并且盲目地信仰在物质宇宙之外还存在普世的形式，除非我们相信普世形式在形而上学层面早就有对碳基生命的数学设计图。
然而如果你也像我一样不满足于柏拉图的形而上学，我们就必须思考其他生命的技术：复杂的自动机（例如细菌、动物和人类）可以从简单的自动机（例如自动催化的化学反应）演化出来。我们必须假设复杂性来自简单性，我们在自然界中观察到的神奇的错综复杂，从极小到极大的尺度，不论是结构上还是功能上，都有着极端简单的起源。一旦我们接受了这一点，我们关于生命和智能起源的问题就变成了理解复杂如何从简单中涌现。
这一科学问题也与控制论问题和人工智能直接相关。为了让机器可以像人这样的生物一样思考和感知，我们必须用简单的计算单元重建人脑的复杂性。智能必须从这些基本的计算单元的交互中涌现，必须来自这些无意识的代理，就像是从无意识的神经元中涌现出来一样。

自反性与秩序的涌现

通用制造机的两个特性告诉我们，当一个系统制造另一个系统时（不论是复制自身还是制造另一个产物），它都会变成它所制造的产物的一部分。这种过程称为“自反性”。自反性意味着一个系统产生另一个系统时，通过一系列变化，成为另一个系统的一部分。逻辑替换——冯·诺依曼就是使用这个方法来证明通用制造自动机的存在——赋予自反性数学基础。自反性是控制论中反馈概念的进一步拓展：因果循环、永不结束的自我指涉。这个概念也可以可视化：想象一台摄像机拍摄一面映射着自己的镜子，这就是自反性看起来的样子。自反性是个非常亚里士多德主义的概念，是物理世界的客观实在。它可以被研究和测量，像其他实在一样真实。
实际上，自反性可能是生命的主要起因之一。有一类叫作“自我催化”的化学反应体现了自反性。在自我催化反应中，反应的产物又是反应的催化剂。这一类反应在生物系统中极为重要，从核糖体RNA如何转录，到血红蛋白如何结合氧气，莫不与它有关。新陈代谢就是一种大规模的自我催化反应，构成细胞分子成分的反应都和这一类自我催化的分子有关。自我催化可能参与了生命的起源，参与了从简单到复杂的演化过程。自然发生论就是一种认为生命起源于自我催化的化学网络的理论。实验已经证明，特定的自我催化反应会对环境变化做出反馈，因此可能会被自然选择。自反性作为控制论系统的固有特性，可能真是生命的关键。
自反性也可以被感知到，想想“我是……”这个说法。你想到了你，想到了想到了你的人，想到了想到了想到了你的人……这正是自反性的感觉。当反思自我时，我既是主体又是客体。心理学家称呼这种意识的递归为“元认知”。被观察的事物和观察过程不是同时编码的，或者在不同的系统中编码，只有当这种自我指涉出现时，自我方能出现。这是一个很重要的结论，它预示自反性作为控制论的核心思想，以及自组织复杂系统的重要特性，可能是制造有意识的机器的关键。
自反性也可以被感知到，想想“我是……”这个说法。你想到了你，想到了想到了你的人，想到了想到了想到了你的人……这正是自反性的感觉。当反思自我时，我既是主体又是客体。心理学家称呼这种意识的递归为“元认知”。被观察的事物和观察过程不是同时编码的，或者在不同的系统中编码，只有当这种自我指涉出现时，自我方能出现。这是一个很重要的结论，它预示自反性作为控制论的核心思想，以及自组织复杂系统的重要特性，可能是制造有意识的机器的关键。
自反性带来了秩序的涌现，因为它是控制论系统中正反馈循环的基本条件。如我们所见，对于涌现性最主要的批判在于它是“神秘”的，如同活力论，并没有像还原论那样提供一个因果律的链条。反驳这种批评的人则认为，控制论是一门基于物质主义的实证科学，立足于“宇宙来自物质”这一基本信条。控制论并不假设任何存在于物质宇宙之外的神秘力量，相反，复杂系统研究的正是基本单元之间的联系，因此并没有完全抛弃还原论的基本原理。此外，纯粹的还原论对于解释复杂系统中新特性的涌现是无力的，为了给涌现特性一个科学解释，例如解释大脑中产生的意识，我们需要利用控制论的方法。我们需要定义自组织的层级：从分子到神经元再到脑区，甚至可能到整个社会层级，研究因果的链条，研究分叉如何导致了意识的涌现。神经科学的发现和现代意识研究证实了控制论是一个适用的理论。如迪昂和其他研究者所揭示的，我们所有的感官都存在歧义，比如视觉，我们的大脑从视网膜接收视觉信号，例如接收了一个椭圆形的视域，之后就开始处理这些信号。在处理视觉信号的中间过程中，大脑会大量补全感官信息。一个神经元可能仅仅接受椭圆形感受野的一点儿信息，但当神经元开始互相交流，为最可能的形状投票时，大量的神经元就会将信息交汇。这种交汇使用的是福尔摩斯式的逻辑：排除了不可能的，剩下的就是真理，不论它多不可能发生。用数学的语言表达就是，我们从结果推知原因，大脑在反向推理。这就像从沙子上的脚印推断必然有人在我们之前走过这里。这是一种从后向前的统计推论，通过观察到的结果推知潜在的原因。大脑会考虑所有可能的原因，根据可能的证据赋予权重，然后选出可能性最大的一个。这意味着在心理过程和统计计算之间有着深刻的联系，也意味着我们的大脑有着“第二级控制论系统”的全部特征。让我们看一下这意味着什么。
在第一级控制论系统中，涌现是观察者从外部观察到的现象。我们将自然界大部分的复杂系统归入此类，从迁徙的鸟群到天气系统，以及像自动化制造这样的工程系统。在第二级控制论系统中，观察者整合进入了被观察的系统。客体（被观察到的）和主体（观察者）之间认识论的二元对立消失了。大脑中的第二类涌现就是当神经元互相连接，唤起了记忆、感知和思想时，大脑还可以观察自身。这是一种特定的自我指涉的涌现，对于人工智能最为重要。如果我们可以制造出人工系统，演化出第二类涌现，我们就能制造出人工的意识。而要理解生命系统中的第二类涌现，关键就在于自反性。

心智的赋格

1979年，美国数学家、哲学家侯世达出版了一部作品，讨论自我指涉和形式规则如何让无意义的元素涌现出了意义。这本书颇为动人，因为它不仅包含了严肃的科学假说，还富有艺术的灵感。该书名为《哥德尔、爱舍尔、巴赫：集异璧之大成》，以故事、悖论和逻辑推理展开。这三个人都在各自的作品中使用了自我指涉，或者说自反性。
我曾经提到过哥德尔如何使用逻辑替换来证明不完备性定理，展示了逻辑学对于证明“什么是真的”可能无效。现在，我们先了解一下他证明的过程。通过运用数学自反性的原理，哥德尔的证明中使用了证明本身。
音乐天才约翰·塞巴斯蒂安·巴赫（1685—1750），他为我们的音乐文化留下了丰富的遗产，包括最为动人的赋格。巴赫是赋格艺术的大师，赋格是一种特殊的音乐体裁，使用一种叫作“卡农”的音乐形式。这种技术使用一个主旋律（叫作“dux”）和多个主旋律的变奏，用不同的音高在一起演奏。赋格是音乐中自我指涉创造美学美感的实例。不过难道不正是音乐家的心智（比如巴赫的心智）在将音乐赋予笔端之前就在头脑中创造了这种自我指涉吗？不正是我们聆听音乐的心智感受到了乐器演奏音符带来的愉悦吗？这么看来，音乐是巴赫的心智和我们的心智自我指涉的中介。每当我们聆听巴赫的赋格时，我们就变成了音符本身。
M.C.爱舍尔（1898—1972）是侯世达书名中的第三个人，他也从数学中获得了大量灵感。在他摄人心魄的作品中，爱舍尔用多维几何构建了不可能的结构，探索无限的意义。他最著名的版画作品之一是两只互相绘制对方的手：主体变成了客体，又变成了主体，无限循环。这种主观和客观无穷的递归引起了侯世达的注意。设想一下录制自身的摄像机。观察者（摄像机）也是客体，被观察的（还是摄像机）也是主体。通过自我指涉，主体和客体同一。这种联合的结果，这种无限反映的摄像机，构成了侯世达所说的“金链”，主体与客体不断地互相转换，涌现出了意义。
但是“意义”究竟是什么呢？以控制论的观点来看，意义是一种新的功能，这种功能仅靠系统的某一部分是不会也无法拥有的。单一的神经元无法在赋格中找到意义，但是一组神经元在一个脑区内发放就可以。侯世达认为，认知和思想就是通过大脑中复杂的正反馈循环从神经机制中涌现出来的。人类的大脑可以看作一个自我指涉的生物系统，通过自我指涉来产生意识。侯世达称，人类的心智是一个“奇特的循环”。笛卡儿也许会同意，他关于意识的思想“我思故我在”正是递归思想的例子：心智存在，在于心智可以思考自己。我们通过自我指涉，不断无中生有，产生自我。
我们在第一部分看到，心理理论是人类心智最基本的特性之一。心理理论也是递归的。它让我们有能力分辨自己的心智与他人的心智。它也让我们可以进行心中的时间旅行，通过它我们可以在心中重演过去的时刻，或者思考我们假设的不同未来中会如何行事。递归思考的演化优势是巨大的。一个能够理解意义的认知系统可以对未来的事件制定更有效的策略。这种制定策略的能力正是自由意志的关键。尽管我们的选择并非无限，而是受限于环境以及特定时间的物理现实，但通过自我指涉我们总能自由地在心中决策和选择。递归思考通过改变他人的心智，也能最大化社会生活的利益。很可能递归思考正是来自智人的通用语言。总之，我们的语言不断使用递归句法来交流递归的思考，如笛卡儿的名言那样。我们具身的大脑是一种第二级控制论系统，涌现出了一种有助于生存的能力，我们称这种能力为意识。

那么，究竟什么是心智呢

想要获得一个广为人们接受的心智的定义并不容易，因为西方哲学的历史中深植了形式与物质的二元对立。这种对立阻碍了我们从科学角度理解人类的心智，因为我们难以抉择形式是否真的先于物质，或者相反。不幸的是，我们依然受限于柏拉图和亚里士多德这两位古希腊哲学家相反的世界观。
柏拉图的影响是巨大的，可能是因为他与我们心智中二元论的本能极为合拍。换言之，我们都是与生俱来的柏拉图主义者。通过笛卡儿在18世纪的复兴，柏拉图的二元论在西方哲学中根深蒂固，也成了今天讨论人工智能和意识问题的基本背景。柏拉图影响了两位控制论巨匠——维纳和香农的思想，让他们将信息视作不同于能量和物质的东西。这种分野让信息脱离了身体，错误地将信息模式（软件、自我）从物质实体（硬件、大脑）中分离出来。信息变成了先决的，变成了一切的主人。离开了软件，硬件是毫无用处的，离开了意识的大脑只能沉睡。离开了DNA，生物只剩下一泡化学汤。这种对生命和意识的计算机隐喻认为形式或者模式先于物质，定义了我们的后人类状态，也悖论式地预言我们将能够把意识下载到计算机中，获得数字的不朽。
在形式与物质辩论的反方，经验主义者，也就是亚里士多德主义者，激烈地反对柏拉图主义和二元论。对于他们来说，完满的形式只能附着于物质客体。知识不能先验地存在，而是从观察自然客体、过程和现象的发现中诞生。对于亚里士多德主义者，数学寓于物质客体，而不是相反。他们认同生命、意识与计算存在深深的联系。但是对于他们来说，要想发现这种联系，必须避免形而上学的诱惑，避免柏拉图的世界，而是探索自然。对于经验主义者，研究意识的问题在于理解无意识的零件（叫作“神经元”）如何聚集起来产生了意识（有意识的脑），这其中没有任何魔法、神秘或者柏拉图式的思想。然而，二元论者坚持认为，即便经验主义者回答了科学问题，还是会存在“意识的难题”，即关于主观体验（叫作“感质”）无法解释的问题。埃克尔斯、彭罗斯和哈梅罗夫试图用量子物理解释主观体验，然而这些解释要么是公开的二元论（埃克尔斯），利用了非物质的心理子，要么是隐蔽的柏拉图主义（彭罗斯和哈梅罗夫），认为意识是量子时空纤维的几何折叠。
而此时控制论要起来捍卫经验主义和唯物主义了。控制论认为主观体验可以用自我指涉解释，或者用自反性解释，这些都来自一个第二控制论系统，叫作“大脑”。我们不需要心理子或者量子物理就可以解释自我意识。生物学就足以胜任。难题成了简单的问题，神经科学家利用控制论可以解释大脑如何产生了意识。迪昂的研究解释了自我的感觉（一种主观体验）似乎来自无意识的、自我指涉的神经过程。这当然还只是一个未经证实的假说。然而，靠着实证科学，靠着夜以继日地在神经科学实验室中观察和搜集数据，意识的研究领域已经有了巨大的进展。我们可以期待，随着更先进的脑成像仪器出现，再加上更强大的计算机分析海量的实验数据，实证科学完全可以用一种亚里士多德的、唯物主义的方式解释意识。
等到我们理解了意识的本质，我们就可以制造拥有意识的机器。然而如我们所见，我们需要修正“缸中之脑”悖论，这个悖论被神经科学隐晦地接受了。我们需要修正大脑与身体无关的观念，再修正心智与身体无关的观念。我们的大脑是身体的一部分，单独考察它会误导我们。我们是我们自己，正因为我们的身体也在和物理、社会环境交互，从我们在母亲子宫中就从未停止。我们的心智得以发育和不断变化，都因为它们是具身的。同样的道理，有意识的机器也必须身居物理环境之中，拥有某种身体以便运动、感知内外刺激，探索并从经验中学习。

第三部分 阿达梦游仙境

第十二章 克里特岛人的谎言

计算机得以存在，要感谢一个有趣的思想：一切想法都可以被表达为一些抽象规则的集合，而且这些规则可以用符号编码，如今我们称这种符号为“程序语言”。第一个探索思想抽象形式的是亚里士多德，他认为思想应该是科学感兴趣和研究的对象，就像自然界的其他现象一样。亚里士多德称思想的机制为“逻辑”。
跟随亚里士多德的先驱工作，逻辑成了科学家和学者探索万物的工具，从数学到物理学，从经济学到政治学，一切道路都通向上帝的存在。随着时间推移，逻辑由客观转向主观：像是一个人望向镜子，逻辑也可以用来检验自己。直到20世纪中叶，这种转变带来了许多全新的有趣问题。在科学和人文领域，柏拉图与亚里士多德世界观的二元对立继续贯穿于逻辑的本质或本体论的讨论。
让我们从亚里士多德这位“逻辑学之父”开始展开逻辑的历史。他是第一个意识到推理的过程可以和客观事物相分离的人。他称纯粹的、凝练的推理过程为三段论。三段论是一系列的思考步骤，一个必须紧跟另一个。例如，如果A等于B，B等于C，那么必须，A等于C。三段论可以用来推断真或假。你从支持一件事为真开始，使用三段论推论你的假定究竟是真是假。逻辑推理的过程产生了新知。不确定的事情因为三段论变得确定了。亚里士多德认为，新的知识只能通过结合观察和逻辑获得，这种结合如同我们在本书之前的章节讨论过的，是经验主义的基础。现代实证科学在科学方法中沿用三段论，并且继续将观察和逻辑结合在一起，不断产出关于世界的新知识。
亚里士多德进一步展示了有三种办法可以把观察和逻辑结合起来，最有效的方法称为“演绎法”。演绎过程算无遗策。给定一个前提，演绎的推理就必然是对的。如果A等于B，而B等于C，则A等于C。然而，科学理论通常建立在较弱的逻辑形式上，叫作“归纳”，归纳起源于对观察到的结果可靠地概括。当科学家忙于实验室工作时，他们通常就是在归纳。他们的实验数据用于归纳出一个关于自然现象通用的推论。这种归纳的结论常被叫作“科学理论”。
然而也有一些时候，科学家难以运用归纳法。当实验证据没有直接联系到要研究的现象时，就难以使用归纳了。例如黑洞，他们不能直接“看见”。不过，科学家可以使用非直接的方法观测其他现象，例如黑洞周围的引力改变，并且据此做出关于事物存在和性质的科学推论，不管这个事物是黑洞还是什么其他难以直接测量的东西。这种方法叫作“溯因”：你从观察开始，然后猜测能够解释相关结果的原因。警察探员破解犯罪案情用的就是溯因。想象在沙滩上发现一具尸体，尸体身边的奇怪脚印指向了黑暗。调查员会研究脚印，然后溯因一个假设，关于嫌疑人可能的长相，以及他或者她在犯罪后去了什么地方。
计算机工作中会使用三种逻辑方法。将数据或者对事物的观察作为“输入”，之后运用逻辑推理——演绎、归纳和溯因，产出“输出”（结论）。

思想的法则

亚里士多德的逻辑学统治了西方思想数个世纪。19世纪英国数学家、逻辑学家乔治·布尔（1815—1864）在他影响甚广的作品《思想的法则》中，扩展了亚里士多德的逻辑学。在书中，布尔展示了如何使用代数等式来表达和进行逻辑判断。布尔试图使用代数等数学的思想和符号将英语句子翻译成逻辑的语言。这种逻辑代数如今叫作“符号逻辑”。通过有效地将逻辑抽象成代数，布尔展示了如何通过操作符号进行逻辑演绎，提供一种不会犯错的思维方法。
布尔伟大创新的例子借自代数，布尔定义了三种逻辑演算：逻辑与、逻辑并和逻辑非。
布尔证明，只要跟随这种符号演算，就可以构建出非常精巧的系统，可以处理逻辑推理。他是第一个将数学和逻辑学结合起来的人，之后两个领域一直紧密相连。通过使用二进制数字1和0来表达真和假，布尔同时奠定了二进制逻辑的基础。这种二进制称为“布尔逻辑”，是现代数字计算和电子元件的基础。
布尔的符号逻辑之后被戈特洛布·弗雷格发扬光大。直到19世纪末，逻辑学可以处理诸如“与”“或”“如果”和那么，但是对于“一些”或“全体”，经常很难甚至完全无法处理。例如，“存在无穷多的素数”就无法用已知符号表达。弗雷格发明了“谓词逻辑”，用来表达这种逻辑推理。谓词逻辑可以运算包含量词变量的命题。
为了做到这一点，弗雷格发明了新的方法描述这些量词变量。好在他是一个坚韧不拔的创新者和发明家，发明了深入逻辑推理的实用工具。哥德尔和罗素也使用弗雷格的符号和其他由他发明的工具。我们来看看弗雷格发明的两个量词变量，并且用它们来深入探索一下叫作“谓词逻辑”的神奇事物。第一个叫作“全称量词”，读作：“任何”，看起来就像一个倒写的A：∀。另一个叫作“存在量词”，读作：“存在”，看起来像是对称的E：$。
使用他的符号，弗雷格创造了一套精巧的系统用以分析逻辑问题。而且他还更进一步，通过谓词逻辑和符号试图发明一个严格的系统，在其中不存在任何自然语言中主观的感情色彩和混淆，这个系统就可以用来安全地、不会犯错地测试任何命题是真是假。他意识到了科学和数学中的直觉问题。直觉就是我们知道一件事是真的，却无法证明它。弗雷格意识到直觉可以表达为公理的集合，无法证明的真理是一个形式系统存在的基础。他指出，如果你在一个逻辑形式系统中排除了直觉，那么系统中对真理的证明就都必须符合逻辑。作为结果，这一观念表明了一切数学真理都是符合逻辑的。如同我们在之前章节提到的，这种思想影响了维也纳小组的实证主义者。弗雷格有效地证明了存在一种方法可以避免自然的、日常的语言，可以使用纯粹的符号逻辑来思考一切。谓词逻辑因此是高贵、神圣的，是通向绝对真理之路的。
弗雷格也发现了算数是逻辑的一部分。不像是几何学中，直觉有一席之地，我们必须接受“公理即不需证明的真理”，算数不需要直觉，因此也就不存在不合逻辑的公理。通过证明这一点，弗雷格在知识上进一步把数学和逻辑学黏合在了一起。在20世纪初，数学家和逻辑学家合二为一。在他们的联盟中，形式系统的思想诞生了。之后的40年，这一思想都是逻辑学讨论的主题，许多最为聪明的头脑都试图破解逻辑统治一切的方式。
我们先思考一下什么是形式系统。形式一词暗示了亚里士多德关于“形式”的观念，它可以是人体、植物、其他动物、河流、宙斯的神庙，乃至任何生物或者非生物。一个逻辑系统可以看作一个自治的物质实体。如同人体，一个自治的、自我包含的逻辑系统也会存在“形式”。这些形式存在三个特征。第一，系统必须自洽。自洽性意为系统中没有一个真理和另一个真理相违背，不能存在悖论。形式系统中的真理一般称作“定理”。
形式系统的第二个核心特征是有效性。意思是形式系统中我们用来推理的规则在正确的前提下不会出现错误的推断。系统的规则是我们到达真理的向导，是我们的逻辑指南针。我们依靠它们。它们如同磁力机器中的零件：只要依赖它们，进行相同的演算，在同样的方法下就永远会得到最高质量的结果。
形式系统的第三个特征是如果一个命题在系统中是真的，那么它就可以被证明。这一特征被称为“完备性”。它必须能一切靠自己，比如通过自己证明内部的所有真实命题。反之亦然，如果你能证明一个命题，则这个命题必为真。通过自洽性、有效性和完备性这些特性，一个形式系统就像一个智能机器，只要你用真理喂它，它就会返回真理，除了真理别无他物。形式系统是数学、逻辑学和科学的基础。我们知道的一切，以及我们以为我们知道的事情，都有赖于它们。
通过定义形式系统，数学家和逻辑学家认为自己达到了一项伟大的成就，可能是人类曾经有过的最伟大的智力成就。然而，有个人却开始担心了，这就是德国数学家大卫·希尔伯特，现代数学和科学领域影响最大的头脑之一。希尔伯特非常担心数学和逻辑学的基础，希望确认它们是建立在坚实的基础上。他就是那种人，从来不会想当然，直到他亲自检验过才能相信。1928年，他向全世界的数学家发起了一个挑战，要求大家证明形式系统的一致性、有效性和完备性。仅仅定义特性然后建立数学理论是不够的，他要求形式系统的数学理论必须得到证明是真的。
希尔伯特真正希望的是数学可以像科学一样。在科学领域，一个理论需要通过实证的证明，需要验证、实验、搜集数据，检验理论的预测。希尔伯特希望能够用近似的方式检验数学理论，但是想要这么做的唯一方法还是通过数学。因此，他要求数学家使用数学来证明数学理论。代数和逻辑的紧密联系起源于布尔，发扬自弗雷格，如今达到了完全的结合。希尔伯特之后“元数学”成了研究数学的数学，逻辑验证自身，真是一个非常具有控制论特点的思想。

只说真理的机器

我有时会想象希尔伯特还是个孩子时，阅读《格列佛游记》，一个想法从书中进入了他的潜意识，在他提出著名的挑战那天又重现了。拉格多机器可以制造无限多符合逻辑的单词的组合，和人类作家的大脑相近。我们只要知道如何编码（通过医学的方式、电子的方式，或者其他什么方式）英语中所有正确的逻辑命题，编码语法、句法和语用，我们也能制造一台这样的机器。如果我们能做到，就算我们的世界会突然倾覆毁灭，它也能再造出我们失去的一切。我们拥有了一台机器，只要简单地摇摇曲柄，它就能写出所有的书籍，制造出所有的知识。一个能用的拉格多机器将会是我们文明永存的保证。它是形式系统的形式系统，是一切逻辑之母。希尔伯特于1928年提出的挑战，就是要检验一下斯威夫特文学幻想的真实性。
希尔伯特的问题叫作“可判定性问题”（Entscheidungsproblem），“决定问题”的意思。它用以检验形式系统的完备性。简单说来，它建立一系列逻辑步骤的合集（叫作“算法”），让它们接受命题作为输入，然后根据命题是否为真回答是或否。如果我们可以建造一台机器，执行这一算法，那么这个机器就可以证明所有的定理。它将会是完美的逻辑机器，将永远只说真话。它也会成为一台机器的基础，这台机器可以重写一切曾经写过的书，也能写出一切将要写出的书：这是一台逻辑学–数学拉格多机器。

理发师悖论

希尔伯特如此担心逻辑学与科学的基础，原因在于，当他提出可判定性问题时，形式系统已经开始显现严重的漏洞。人们注意到，一个人可以制造假的逻辑命题，意味着一些形式系统不自洽。其中最著名的一个命题是伯特兰·罗素提出的“理发师悖论”。
有许多自我指涉的句子会导致近似的逻辑悖论。例如古代著名的哲学家埃庇米尼得斯有句名言：“所有的克里特岛人都说慌。”但是如果埃庇米尼得斯自己作为一名克里特岛人也是说谎者，那么他这句话也是在说谎，因此他就是对自己说谎这件事说了真话，但是他作为骗子我们又不能相信他，就这样无限循环下去。埃庇米尼得斯悖论以及理发师悖论的产生是因为在语言中我们会使用自我指涉的从句。罗素如此描述数理逻辑中自我指涉的悖论问题：“一个包含所有集合却不包含它自己的集合包含它自己吗？”对于数学和逻辑学的基础，这真是一个糟糕的问题。美国喜剧明星格鲁乔·马克斯有个更机敏的说法：“我不想加入任何接受我作为成员的俱乐部。”数学真理的俱乐部被这些谎言占据了。得有人把它们赶出去，再打扫一番。
当时两名伟大的英国数学家和哲学家，伯特兰·罗素和阿尔弗雷德·诺斯·怀特海（1861—1947）决定解决这些悖论，并且保证数学和逻辑学的基础牢不可破。使用弗雷格的符号系统和谓词逻辑，两位数学家奋力写作了一部数学和哲学史上最重要的大书——三卷本的《数学原理》。
不过，很糟糕，对于罗素和怀特海，《数学原理》并没有解决希尔伯特最担心的基本问题。不论两位作者如何努力解决悖论问题，疑点总是在形式系统完备性上存在。悖论就是拒绝消失。更糟的是，一位来自奥地利的年轻数学家在1931年证明了，完备性的问题是不可解决的。

来了一个奥地利人

完备性问题是希尔伯特的可判定性问题更一般的表述：一个形式系统的所有公理可以保证所有的命题都是正确的吗？换言之，如果一个人清除了形式系统中的所有悖论，把它们赶出去，用定理封上了所有的门，那么这个形式系统是完备的吗？1927年，罗素和怀特海在《数学原理》中用一声响亮的“是的”回答了这个问题，至少他们自己是这样认为的。并且，这也是所有数学家都期待的答案。整个数学大厦都建立在一个自古以来的信念之上：一切正确的命题都可以被证明。不幸的是，哥德尔研究了《数学原理》，并且证明他们都错了。在他的名著中，他证明了一个形式系统不可能既自洽，又完备。他的不完备性定理击碎了数学和逻辑学的基础。通过一个优雅的证明，坚实的基础一夜之间变成了流沙，这也是人类才智的明证。
哥德尔使用了多种元数学工具和思想证明自己的定理，这些工具和思想来自弗雷格、罗素和怀特海。在本书的第二部分，我曾经提到哥德尔通过逻辑替换的自反关系来证明他的定理。现在是时候仔细看看他是如何做到的了。他天才的思路是将形式表达编码为数字，这个逻辑替换过程如今叫作“哥德尔配数”。例如，他用数字2代表∨（“或”计算的符号），用数字4代表$（“存在”的符号）。他使用这些表达来构建和反证。哥德尔有效地利用了埃庇米尼得斯的谎言悖论，将之形式化。这一形式表达如果是可证明的，就会是错误的。为了做到这一点，他使形式系统的定义出现了矛盾：如果公式存在，那么形式系统就是不完备的。他有意使用了自我递归的悖论，罗素和怀特海曾经费力将之藏在数学的地毯之下，但哥德尔用作自己证明的核心。如果系统包含了悖论，那么就是不自洽的，却是完备的。如果他是自洽的，就不能是完备的。你不可能两头都占。如果你是个形式逻辑系统，你就不能鱼与熊掌兼得。
人们无法低估哥德尔不完备性定理在历史和文化上的重要性。我们如今的相对主义文化，对于他人即便最荒诞观念的容忍，我们理解和交流自己价值观和观念的方式，我们反对将自己的文化价值观强加于人，即便他人的价值观我们无法接受，这些都受到了哥德尔伟大成就的影响。加上海森伯格的测不准定律，哥德尔的不完备性定理定义了后现代主义的诞生。这两个现代科学与逻辑学的历史性结论揭示了我们获取知识的极限，以及并不存在绝对的知识。主观性被前所未有地加强了。从18世纪笛卡儿时代开始的知识革命，在20世纪30年代由量子物理和哥德尔定理完成。海森伯格通过测不准定律揭示了我们永远无法同时得知基本粒子的位置和速度，这意味着自然界还保留着难以获知或无法度量的部分，不论我们做了什么，也不论我们的仪器能有多先进。哥德尔则揭示了我们无法证明每一个正确命题的正确性。结果就是，总是存在我们只能通过相信来接受的真理（或者正确的命题）。在这两个令人震惊的发现之后，再没人能够对别人设置绝对的权威，因为这种权威是无法简单获得的。我们的宇宙排斥这种权威，逻辑学也是如此。从此以后，我们需要和自己的直觉与无知和睦相处。
但是希尔伯特的可判定性问题暗示的真理机器呢？这个机器只会告知一个逻辑命题是真是假？哥德尔的不完备性定理认为一个形式系统中存在无法被证明的正确命题。然而，可判定性问题也被证明了。如果一台机器拥有无限的解决问题的时间会如何？这台机器通过逻辑的、算法的步骤，是否最终能完成证明？许多数学家和逻辑学家，包括希尔伯特本人，依然希望存在一个算法可以打败哥德尔可怕的不完备性定理。他们的希望在1936年被图灵的一篇可计算数的论文永远地击破了。哥德尔埋葬了无所不能的逻辑学，但是由图灵盖棺定论。
图灵的研究受到了17世纪的德国数学家莱布尼茨的启发，莱布尼茨第一个梦想建造可以进行符号操作的机器。图灵利用了哥德尔的定理，将之转换成新的形式，把哥德尔算数形式的符号转化为简单的、假想的机器，就是如今众所周知的“图灵机”。图灵证明的第一件事就是图灵机可以进行数学运算，和算法（一系列逻辑步骤，处理命题并得出结论）是等价的。这是计算机科学最重要的发现之一。这意味着所有的计算机都可以简化为算法。
但是图灵还会继续展示更惊人的事情：无法通过算法来判断一台图灵机是否能够停机。图灵对“停机”的定义是机器得出一个结论，并停止了运算。想象一下一台图灵机开始解决一个问题，比如一个逻辑命题，它开始运行一系列操作，检验这个逻辑命题是否为真。之后就是算啊算啊，永远不会停止。图灵机就卡在了这么一个无尽的“想啊想”状态。它无法得到一个答案，无法回答这个命题是真是假，于是也就不会“停机”。图灵证明了无法进一步得知一台图灵机是会停机还是会继续演算。用更数学的方法来表达就是，图灵解释了不存在一种形式语言（我们今天称为“计算机语言”）可以处理一系列符号，同时还能判断数学命题的真伪。这个答案对于希尔伯特的可判定性问题来说是令人沮丧的，对于这一问题，不可能有解决方案。
图灵的证明对于那些希望将逻辑学建立在坚实基础上的人是致命一击。而且他还更进一步，通过发明图灵机点燃了计算机革命的火花。计算机就是算法，图灵展示了如何建造机械的“算法的算法”，或曰“通用机器”。有赖于他，工程师可以处理和建造计算机器，这些机器可以处理各种逻辑推理，解决各种问题。

算法与人脑

计算机使用基于逻辑的符号编程语言进行编程。其实，计算机语言就是另一种表达逻辑命题和逻辑关系的方式。在语法上，现代计算机语言使用了弗雷格的量词和其他逻辑学工具，用以从已知事实中推断新知识，或者使用已知事实执行某种功能。图灵证明了所有计算机都可以简化为算法。而算法的问题在于，比之人脑它有很多局限。它受限于哥德尔不完备性定理，没有“直觉”，不能超越正在处理的数据，不能像我们一样大喊“我知道啦”。我们人类可以从浴缸里跳出来，在西西里的大街上裸身狂奔，计算机只能卡在无限的循环里无法停机。
英国物理学家、数学家罗杰·彭罗斯相信，哥德尔的不完备性定理和图灵对于可判定性问题的不可解证明已经宣判了人工智能的末日。在1989年的著作《皇帝新脑》中，彭罗斯指出，根据哥德尔的证明，算法无法证明自己的不完备性，但是哥德尔作为一个人类可以证明这一点。哥德尔的直觉发明了用数字系统来证明定理的方法，因此，哥德尔的大脑一定不是在运转一个算法。如果一切现代计算机都可以还原为它们运转的算法，那么人脑一定不是一种计算机。反之亦然，以算法为基础的计算机做不到人类大脑可以胜任的所有事情，总有一些会出差错。永远不会有真正的人工智能。心智的计算理论或者传统人工智能的理论基础因此都是错误的。
彭罗斯还指出为什么传统的计算机不能获得人类大脑拥有的直觉，这是因为它们遵从决定论。在这个语境中，决定论的简单定义就是对于给定的输入，计算机总是产出一致的输出。你的计算机中，一加一总是等于二。但是，人类的大脑对于一样的输入可以产出不同的输出。例如，我们可以认为一加一不会等于二，因为两个数字相加并不是二，而是两个一。我们看到彭罗斯和哈梅罗夫如何演进了他们非决定论大脑的思想，并且推论我们的意识一定是基于量子物理的。对于他们理论的争论还会继续，尽管我属于严重怀疑的一方。不论如何，彭罗斯对于决定论在传统计算机架构中存在局限性的批判是十分有用的，必须严肃对待。我们继续分析一下这个问题。
图灵也意识到了图灵机和人类智能相比存在的局限性，也对此不甚满意。1938年在普林斯顿大学的博士论文中，他介绍了“预言机”的概念，用以简洁地处理“不可计算的”直觉问题。图灵试图在哥德尔不完备性定理的禁锢中寻找一个后门。他想到如果存在一个定理，在形式逻辑系统中无法证明，这一定理就可以称为“公理”。根据字面定义，公理是不需要证明的。这个办法通过创造一个新的包含不可证明定理的逻辑系统绕过了完备性问题。然而，如果继续这样做，这种过程将无限迭代下去。在他的论文中，图灵研究了让一个逻辑系统无限迭代意味着什么，通过不断地把它不能证明的定理改为公理，最后会得到一个超形式系统（super-formal system），一个拥有无限的公理的集合。这样的计算机模型能够更好地模拟人类意识如何工作吗？为了真正建造这样一台计算机模型，图灵认为经典的、算法式的机器必须加入“预言”：这是一台机器，能够判定一般图灵机无法判定的事情，例如停机问题。但是预言机又是什么样子呢？它靠什么运作呢？理论上，预言机就像是一台图灵机，当一般图灵机无法得到答案时，它增加了回答是或否的能力。实际上，这就将一个不可证明的定理转化为了公理。将图灵机包含在预言机中就制造了一台超计算机。还可以继续下去：用超超计算机包含超计算机，可以无限地包含下去。而这也就是人类心智的模拟。
关于预言机最吸引人也是最有趣的概念是其随机性，可以随机地回答是或否。这台机器不需要“推理”，预言机可以是一个简单的开关，有随机的语言来处理经典图灵机的判定性问题。给定的集合输入后不一定得到一样的输出。预言机的是或否只能靠运气。另一个把预言机视觉化的方式是走迷宫时使用的决策工具：没有逻辑方法可以决定该走哪条路，你碰一下开关，让它来决定选择面前两条路中的哪一条。图灵认为，这个模型很可能解决真实的、自然的意识问题。在我们大脑某处，真的有一个色子在掷来掷去。通常，我们称这种概率选择为“自由意志”。

悖论来帮忙

还有其他方式来讨论图灵的预言机概念。经典图灵机是一个简单的计算器。以今天的术语，我们可以将之归类为离线批处理计算机：一台独立的、根据数据集进行运算的计算机。但是一旦你将这台计算机接入外部数据库，或者一个外部的计算过程，有趣的事情就发生了。离线计算机变成了在线的：它可以查询外部数据库，或者停止处理，让其他机器接手。在线计算是图灵预言机接入经典图灵机的一种模式。在互联网上，数十亿台计算机连接在一起，以一种连续的、动态的、非判定的方式互相查询，正是图灵无限的超计算机的真实展现。从这一观点看，不断演化和扩张的互联网超越了不可计算问题。让我们回到彭罗斯关于“意识无法用算法编码”的观点，即计算机无法拥有意识。对于单一一台经典计算机无法拥有意识，彭罗斯是对的。然而，当面对互相连接、不断扩张的计算机网络时，他的反对就弱化了。实际上，互联网不仅连接了计算机，还连接了和计算机交互的人，其结果就是一个控制论超组织，拥有第二级控制论系统的一切特征。这种系统的基本特点就是自我指涉。在这样一个系统中，逻辑的自我指涉悖论有能力为无意义的过程提供意义，就如同在本书之前部分我们讨论过的。这是否意味着互联网有潜在的感知能力？
有不少人这么想。也许确实有办法来测试这件事，并且得到一个实证的答案。如果互联网有某种程度的感知，那么它应该会显示出迪昂团队发现的“意识的签名”。我们需要找到一个办法可以像扫描大脑那样扫描互联网，并检查成像数据。这样的图像可以用现有的互联网连接地图来获取，然后度量信息流增强的情况。例如，我们可以回到2001年9月11日这个黑暗的日子，审视恐怖分子攻击世贸中心的新闻。当信息的波动扩散并增强时，互联网是否觉察到发生了什么？这可以是一个很有意思的实验。
我们得到了一个极有意思的结果。哥德尔的不完备性定理没有宣判人工智能这一最终目标的死刑，相反，他对于自我指涉重要性的深刻洞察反而将人工智能从不可计算性问题上释放了出来。侯世达指出，哥德尔的数字系统让任何形式系统都可以根据自己的特性释放真理，换个说法，就是让形式系统变得自我觉察。当形式系统卷入自己时涌现出了意义。罗素和怀特海认为悖论意味着脆弱，但是哥德尔提示我们这些悖论可以让形式系统获得意义。关于神经过程如何在大脑中引发了意识体验的研究看起来反映了哥德尔的洞见。如果我们概括迪昂的“意识的签名”，并把它们翻译成计算机的术语，那么我们的大脑就是一个深度互联的超大规模网络。每一个微型机器（单个神经元），都处理一个输入的集合（自轴突传入的电化学兴奋），并放大或减弱这些兴奋的强度作为输出。这些相对简单的信号整合数学过程，被大脑内并行的大规模演算增强，终于达到了一个阶段：当神经兴奋的模式最终扩散到全脑多个解剖区域时，就在大脑中得到了大脑镜像的镜像。于是，大脑进入了自我指涉的循环，获得了自我意识。因此，人工智能的计算机模型并不是完全错误的。我们也不需要量子物理学来解释大脑中的不可判定现象，或者试图建造可以从无意义符号中获取意义的机器。我们可以利用宏观宇宙中关于数字电路的经典物理制造出有自我意识的机器。不论如何，人工智能的计算机模型必须从现状中扩展，拥抱和利用哥德尔自我指涉的力量。

第十三章 程序

和人类演化一样，现代计算机也来自一系列繁复杂乱的历史进程。再用生物学打比方，现代计算机的DNA共生于两种完全独立的思想，在过去200年中，随着经济和社会环境的变化最终杂合在一起。第一个思想来自我们一直以来本能的渴望，渴望创造能像生命体一样行为的人造物。另一个思想来自对于逻辑学的研究，我们惊奇地发现，逻辑学和数学是一对双生子。
我们见识了自动机器，从拜占庭或者哈里发治下进口，流行于文艺复兴时期的欧洲。自动机械是在模仿自然，它们是一批人工控制论系统。
像其他许多博学的欧洲人一样，莱布尼茨也知道著名的“光照派博士”，中世纪加泰罗尼亚哲学家、神秘学家拉蒙·柳利（1232—1315），历史上第一个将逻辑机器概念化的人。莱布尼茨对柳利传教的狂热不感兴趣，但是对他利用机械过程，用逻辑产生新知识的思想非常好奇。无拘无束的好奇心让莱布尼茨创造了微积分、二进制数字系统等发明。现代计算机和莱布尼茨想象的非常接近。电子脉冲就像弹珠，以来回移动表示不同电压。现代的移位寄存器控制着输入和输出以便移动数据，就像是莱布尼茨的打孔卡片。
与此同时在法国，数学家布莱士·帕斯卡（1623—1662）和德国天文学家威廉·施卡德（1592—1635）一起，制造了第一台可以使用的机械计算器。经过诸多试验后，帕斯卡机得以问世，1645年由帕斯卡本人向公众演示。这是一台机械计算器，可以加减任意两个数字，通过5个轮子，各可以输入0到9的数字。帕斯卡机基于5个一组转动的机械装置，每个装置用两个轮构成，可以将使用者输入的数字转化为机器顶部可见的输出。帕斯卡机后来加入了新功能，通过将数字转化为“9的补数”实现减法操作。
莱布尼茨为帕斯卡机加上了乘法和除法运算。1685年，他设计了齿轮计算器，以及“莱布尼茨轮”，这个机器通过特定的设置可以完成计算。这些设置都是靠着齿轮的设计，以及计数轮的齿之间递增的距离完成的。莱布尼茨的轮子和帕斯卡的齿轮组之后都变成了“四则运算计算器”的关键零件，这是1851年第一台可以进行多步计算的机械计算器。
18—19世纪，许多工程师和数学家都曾经实验过机械计算器和机器。这些人包括英国的斯坦厄普勋爵（1753—1816），他在1775年设计了一台齿轮计算器。这些机器并不是全自动的，一般需要一个人类操作员转动齿轮并且记录结果。过去数个世纪用来制造自动机械的技术和关键的机械零件如今用来制造机械计算器了。这种转型预告了20世纪末机器人的发明，而机器人变成了仿人形或仿动物形自动机械的下一阶段。而且，这种转型有着文化因素，那就是计算机的拟人化：希望计算机器可以有“大脑”一样的能力，像人一样的行为。这种观念之后会在人工智能研究中再一次出现。
巴贝奇的差分机和帕斯卡、莱布尼茨的计算机器一道，都是另一类自动机器的前身，后者将会与符号逻辑相遇、融合。这是技术和传统的伟大会和，一个技术史上真正的“奇点”，它从古代亚历山大里亚的自动机械出发，转变成了18世纪末的计算机器。曾经用来模拟和模仿生命的机器，现在用来“咀嚼”数字。在一个快速变化并将要开始工业化的世界，这些计算机器是必不可少的，它们满足了高效、零错误算数计算的需求。在这一历史的交汇时刻，符号逻辑已经因为布尔和弗雷格而得到充分的发展了。符号逻辑和这一类计算机器相遇，假以时日，一类新的技术将会涌现：数字的、电子的、通用的计算机。两类技术历史性的融合，机械和物理的技术、逻辑数学的符号，决定了现代计算机的双重本性，于是它分离成了硬件和软件。无论如何，在18世纪末，绝对无法预知计算机的演化会最终走向分离。而当分离发生了，通用计算机不得不被发明了两次。

工业巨轮

查尔斯·巴贝奇的工程设计区分了程序和可以执行程序的机器，他是这样做的第一人。为此，他被推崇为“现代计算机之父”。他并不是一次就完成了这个创新的设计，而是花费数年忙于各种工作，直到他从纺织业借到了技术解决方案，并且将之应用于自动解决一般数学问题。
巴贝奇对制造一点儿也不陌生。1832年他出版了一本描述工业生产组织的著作，由此成了名人。书中，他探索了如何最优地组织工业生产，讨论了劳动分工、利润分配和工厂的合理设计等前卫思想。这是多年来造访工厂和研究制造过程的结晶。正是这些知识和洞察启发了巴贝奇设计他的第一台机械算数机器：差分机一号。
在算数计算和制造过程之间存在着明显的共同点。两者都可以拆分成小的、自给自足的单元，以便单独处理或批处理。这种“批处理”简化了整个过程的复杂度，让过程变得可控。同时，一个单元处理的输出是下一个单元的输入。制造的过程和数学的、逻辑的过程类似，都是一系列的步骤，即算法。而且，制造过程是递归的：它们不断重复自身，于是一个产品的许多备份就全部制造出来了。质量是制造过程中另一个必不可少的要素，有必要检查每一个制造的单元都有着最好的产出，因为它们又是下一个生产环节的输入。
基于以上观察，巴贝奇推测数字可以用和制造相近的过程来处理，通过算法产出新的数字。每一步计算都应该是算法的一个步骤，并且产出一个特定的数字作为输出，以便检查对错。这样，计算错误作为计算过程的质量的反映就可以最小化了。巴贝奇还注意到，用于在工厂中推动机器的蒸汽机，也可以用于驱动计算机器。他关于未来的设计是打造一台自动机器，可以计算数字并且总能提供正确答案，不会出错。就像“商品制造”，“计算制造”也应该是机械的，以蒸汽机推动，不受人类错误的影响，有能力无限地产出同样完美的结果。
天文学会由英国政府监管，负责检查供领航员和船长使用的航海天文历是否正确。巴贝奇作为天文学会的成员，熟知帕斯卡和莱布尼茨的计算器，于是开始设计和制造英国的计算机器。
在当时，能够计算对数和三角函数的机器设计的关键问题是除法和乘法，帕斯卡机和它的仿制品都做不到这两点。为了解决这一问题，巴贝奇利用了微分方程的特性。这些方程定义了两个变量之间的关系。让一个计算的输出当作下一个计算的输入，再通过简单的加法或减法，微分方程就可以实现乘法和除法。使用微分方程和建造差分机一样伟大。显然，递归函数以及反复执行一个运算这一概念（或称“循环”），与用机械计算有着不可分割的联系。控制论和复杂的数学此时融入了计算机器的演化，新的计算机和帕斯卡与莱布尼茨发明的那种简单、线性的计算机器分道扬镳了。
巴贝奇在计算机万神殿中的地位并没有因差分机的失败而动摇。1837年，他已经着手设计另一台革命性的机器，可以进行任何演算。他叫这台机器“分析机”，像差分机一样，分析机也受到了制造业的启发。

分析机奇点

在研究英格兰的制造业时，巴贝奇注意到了纺织业的伟大发明。1801年，雅卡尔提花机使用打孔卡来让机器自动编制非常复杂的纹样。机器的机械零件和织物的纹样一分为二，提花机预示了计算机硬件与软件的二分法。一边是用于执行操作的物理媒介，一边是作为信息的纹样，两者之间是操作的指令集，或者操作的客体。打孔卡可以连在一起，形成更长的纹样的带子，作为提花机的输入来执行。巴贝奇第一次将打孔卡和纸带引入了计算领域。打孔卡在一个世纪后会被计算机先驱重新发明。而附有符号的纸带则被图灵利用，定义了现代计算机的数学概念。
分析机有三种不同的打孔卡，用三个不同的读卡器阅读：一个记录四则运算，一个记录数字，还有一个存储和读取信息。分析机的输出设备是一台印刷机、一个绘图器和一只钟。它有一个存储器，可以存储1000个数字，每一数字都是一个40位十进制数，因此有大约16.7KB（千字节）的空间。有趣的是，巴贝奇设计的分析机如同一台差分机倾斜着放在另一台上面。这个样子就是两台差分机互为镜像放置，一台的输出是另一台的输入。这种对应的设计让它能够加入逻辑分支表达式，例如“如果A则B”，以及加入循环。运算可以反复多次，结果可以有逻辑分支，这样就可以用连接在内部的差分机做进一步处理。这可真是一个控制论式的设计。这一创新的、自我指涉的特点，让分析机做到了“图灵完备”，也就是说这是一台可以模拟任何机器的机器。
不幸的是，巴贝奇从来没有完成这台他梦想的机器，尽管直到1871年去世之前他还在修补最初的设计。因为他反复的拖延，政府失去了对他的信任，发放给他的政府基金被取消了。巴贝奇还没来得及完成一本手册以记录分析机的功能。还好1842年意大利数学家、军事工程师路易吉·梅纳布雷亚（1809—1896）用法语写了一篇机器的说明。一年后，拜伦男爵的女儿阿达·洛夫莱斯把这篇说明翻译成了英语。在她的翻译中，还有第一则计算机程序，这让阿达·洛夫莱斯成了软件的发明人。
阿达·洛夫莱斯是拜伦男爵唯一的合法子女。尽管是一个缺乏双亲之爱的多病小孩，阿达却表现出高超的学习才能，并且对技术有着强烈的好奇心。1833年，她第一次遇见巴贝奇，一下就迷上了差分机。巴贝奇对她的数学才能印象深刻，称呼她为“数学女巫”。在她翻译的麦纳波利分析机说明的注释里，阿达留下了计算机历史上最重要的文献之一。钦佩于朋友设计的机器的潜能，她写道：“巴贝奇先生相信通过他的机器，能够在三分钟内产出任意两个20位数的计算结果。”她又演示了如何利用分析机，通过编写一个可执行的算法，自动计算一系列的伯努利数。这一算法被认为是人类写出的第一个软件程序。
现代计算机架构的主要功能要等到近一个世纪后才发明。在这个架构中，软件和硬件是分离的。这么看来，分析机如同一次技术奇点，在一个还没准备好如何使用它的世界诞生了。如同希腊化时代的一些发明，比如希罗的蒸汽机、依巴谷的安提基特拉机械，巴贝奇的伟大发明超越了他的时代。
不论如何，巴贝奇的成就都十分伟大。他发明的机器可以操作多步演算，中间不需要重新设置机械零件。通过分离硬件和软件，巴贝奇为计算创造了无限可能。需要论证的是，我们是否还未完全理解这种分离的重要性，极有可能还需要数十年才能真正理解。就像是瓦特的蒸汽机，在18世纪末工业革命中开启了“第一次机器革命”，现代计算机正在通过经济和社会的数字化转型进入“第二次机器革命”。它们能做到这一点是因为它们是可以运行任何程序的通用机器。在巴贝奇从差分机到分析机的高明一跃之时，第二次机器革命的种子已经孕育。
笛卡儿的幽灵也会为这个时刻欣喜，因为二元论又在计算之中找到了容身之所。既然算法变成了程序，数学也发生了改变。数学公式（在阿达的例子中，算法计算的是伯努利数）变成了“活的”：它们不仅简单描述了变量和常量的关系，它们还做了其他事情。程序设置物理机器的动作，引导它们进行操作，就像是在一个纯粹的机械身体中的灵魂。这一算法和数学从静态到动态的历史变化依赖的是软件，也带来了现代计算的二元论属性。古代物质与形式的对立又出现了，物质就是硬件，形式就是软件。在阿达的时代，软件还依附于物质实体：它附着于打孔卡之上，分析机可以读取打孔卡并执行计算。伴随着打孔卡的使用，这种计算机程序的物质实体还将延续到20世纪初。但是随着计算机工程学的进展，打孔卡过时了，程序明显变成了“信息的模式”。随着符号逻辑变成了计算机语言，“程序”和“数据”都变得完全非物质化了。物质的单元“原子”，变成了信息的单元“比特”。程序与数据从机械读卡器和卡片变成了纯粹非物质的形式，软件如同笛卡儿的精神实体，超越了硬件，变成了机械的灵魂。

计算的再发明

在本书第一章中，我们看到在巴贝奇去世10年后，乔治·布尔发现思维可以通过符号逻辑自动化。他的发现以及弗雷格通过谓词逻辑所做的扩展建立了现代计算机语言的基础。然而是图灵将逻辑和计算机器永远地结合在了一起。图灵机实际上是一台分析机，处理写在纸带上的逻辑符号。处理过程就是执行一系列的规则，执行“程序”。图灵机和巴贝奇与洛夫莱斯想象中的机器唯一的不同就在于图灵机可以不在意它处理的符号形式。这些符号可以是数字、定理或者其他逻辑表达式。这就是计算机软件。
另一方面，计算机硬件也处于童年、青春期和成年期的变化之中。独立于巴贝奇，美国发明家赫尔曼·何乐礼在19世纪80年代末也发明了用打孔卡存储数据的方法。他的公司在1890年帮助美国政府进行人口普查大获成功，1911年，与另外两家公司合并成立了IBM（国际商用机器公司）。
从19世纪末到20世纪30年代末，许多看似无关的发明创造都参与了定义现代计算机的过程，其中两个发明可以看作是最为重要的。1876年，格拉厄姆·贝尔发明了电话，1879年，托马斯·爱迪生发明了白炽灯。这两项发明是电子和远程通信诞生与演化的基础。之后，克劳德·香农开始构想他的信息论，因为电话的普及迫切需要更好的远程通信系统。同时，爱迪生的白炽灯演进成了更为复杂的真空管，而真空管可以用于电子管放大器、整流器、开关和示波器。香农是将逻辑学和电子学相融合的天才。1937年，作为麻省理工学院一名21岁的学生，他就发明了如何应用布尔逻辑通过电子电路构建和解决逻辑或数字关系。实际上，这意味着在布尔逻辑和电子电路（如今叫作“逻辑门”）之间存在直接的联系。香农的发现是科技史上一次伟大的进步。他的硕士论文是数字计算机和数字电路设计的基础理论。现在，谜题的线索都已经齐备，通用计算机器的数学描述已经在一年前由图灵提出，包含在他1936年的论文《论可计算数》中。感谢香农和图灵，逻辑学、数学、电子和计算机终于结合在了一起。
到20世纪，巴贝奇时代的蒸汽变成了电流，也意味着可以为不同的设备单独供能了，这对于将多个机械零件连接为单个的大机器来说是一次伟大的进步。
这些技术，不论是电动机械还是模拟，在不远的未来都被很快取代了，更快的、全电子的、数字的计算机使用真空管和复杂的电路设计。巴贝奇设计分析机时不具备的社会经济条件如今齐备了。到了20世纪30年代，所有即将诞生的计算机革命需要的基础技术都已经发明出来了，等待着机会在一次大爆炸中融合。唯一欠缺的只有一个奇点时间，一个火花，欠缺一个事件：富裕社会大量投资金钱和智力来攻坚这些“咀嚼”数字的机器。
火花在1939年9月1日点燃了，希特勒的国防军越过了德国东部边境入侵波兰。

第十四章 从布莱切利园到谷歌园

从1939年欧洲爆发战事以来，世界已经以难以想象的方式发生了变化。计算机和远程通信网络与现代生活方式错综复杂地融为一体，我们的生存也随之演进：我们已经变成了后人类，有双重属性的生物——物理的和数字的。在21世纪的第二个10年，我们既在一个三维的原子世界生存，又作为比特生存于数字空间。显然，全球趋势会将我们的生活、经济和社会与数字世界进行更深远、更快的结合。
这一结合通常叫作“数字转型”，由空前巨大的投资和快速创新驱动。成千上万甚或数百万位年轻企业家在全世界使用计算机和计算机技术颠覆了数世纪不变的商业模式。通过降低入门门槛给每一个能开车的人（Uber），或者每一个可以租赁的地方（Airbnb），让这些人都变成出租车司机或者旅馆老板，这些公司都重新发明了它们对应的行业赚钱的模式。这个名单还可以不断加长。20多岁的创业公司创始人一夜之间变成亿万富翁，在21世纪，人人都可以变成托马斯·爱迪生。信息科技对经济的巨大影响很容易找到证明。政府和私人投资者涌入“第二次机器革命”的大潮。一些企业获得了巨大的经济影响力，比如苹果、谷歌、亚马逊和脸谱网。有人会说它们的影响力已经超越了经济层面。从来没有过这么少的一部分人对那么多人拥有这么大权力的时刻。

战争是一切的父亲和国王

斗胆补充一下赫拉克利特的名言，我想说弹道学和密码学是一切计算机的母亲和女王。“二战”不仅是将军们和士兵们的对决，也是数学家们的决斗。
在英国，政府编码与密码学院在伦敦以北50英里处设置了工作站，站点位于白金汉郡的乡间——布莱切利园。它的目标是监听德国军队通信。一群语言学家、字谜专家、埃及象形文字专家、国际象棋冠军和数学家从牛津、剑桥加入这里。在他们中有年轻的艾伦·图灵。他将会设计一台机器，破解德国海军和空军在使用的“谜”式密码机。图灵和同事面对的问题非常困难：德国人制造了一台复杂的密码机，每天都会更换设置。要解密它几乎是不可能的。然而，好运和德国人的疏忽一起给了英国人机会。波兰数学家制造了一个“谜”式机器的翻版，英国科学家有机会接触到了。基于这台机器，图灵设计了一个电子机械装置，因为它嘈杂的噪声，该装置取名为“炸弹”。“炸弹”可以通过复制“谜”式密码机的连线动作，预测它每天的设置。
这种用一台机器（“炸弹”机）有效模拟另一台机器（“谜”式密码机）的思想是计算机理论的核心。当一台机器可以完全模拟另一台时就叫作“图灵完备”。我们已经了解到，巴贝奇的分析机是世界上第一台图灵完备的机器。现代计算机也是图灵完备的。但是从分析机到现代计算机，依靠的是20世纪40年代英美两国在大西洋和德国人战斗时发生的重大跨越。图灵的“炸弹”机不能算作现代计算机架构的鼻祖。然而，另一台在布莱切利园设计的机器可以是。
汤米·弗劳尔斯（1905—1998）是图灵的朋友，也是他在布莱切利园的同事。他和他的团队负责破译另一台德国密码机“洛伦兹”，德国高级将领用这台机器给战地指挥官发送消息。弗劳尔斯设计并建造了“巨人”（Colossus），这是世界上第一台可编程的电子计算机。“巨人”不是电子机械机器，它使用真空管，以及可以进行布尔运算的逻辑单元。“巨人”使用复杂的电子部件而不是经过测试的电子机械继电器，这是冒着很大风险的，但是弗劳尔斯说服了政府编码与密码学校接受电子技术的优点，支持他的计划。1943年，用了1500个门控装置，弗劳尔斯建造了第一台机器Mark 1。Mark 2用了2400个门控部件重新设计，1944年6月1日在布拉切利园投入使用，立刻就开始为即将开展的诺曼底登陆提供了必不可少的信息。计算机和军事行动从此开始并肩而行。
同时，在大西洋对岸，美国人也在发展自己的电子计算机，最终于1946年设计和建造了ENIAC（埃尼阿克），这是一台电子的、可编程的、图灵完备的计算机，为美军弹道实验室计算火炮时间表。ENIAC是计算机历史上的分水岭。它的架构成为所有现代计算机的基础。设计ENIAC架构的关键人物是冯·诺依曼，此时正参与新墨西哥州洛斯阿拉莫斯国家实验室的“曼哈顿计划”。冯·诺依曼沉迷于设计ENIAC，并且思考这台计算机如何实现简单的再编程，以从事其他领域的计算，不仅仅是此时的大炮弹道，还可以预测氢弹爆炸的结果。ENIAC设计团队邀请他作为顾问，冯·诺依曼做了一次著名的报告，报告中他描述了一种同时存储数据和程序的计算机。这就是如今人尽皆知的“冯·诺依曼架构”，这一架构展示了计算机如何实现简单的再编程。在此之前，计算机都有固定的程序，必须通过物理的重新连接才能再编程。冯·诺依曼的架构允许计算机中的编码自我改变、人们可以编写能写程序的程序。这一思想让如今的自动工具成为可能，计算机工程师如今打交道的汇编程序和编译程序，就是这样的自动工具。现代计算机因此诞生：一台可以分为硬件和软件的机器，一台容易编程的机器，不仅可以进行数学计算，也可以进行逻辑演算，一台机器可以模拟其他机器。
在当时，“二战”之后就是冷战，西方同盟国已经发展出了先进的计算机技术，他们在装备和策略上使用计算机，并最终取得了冷战的胜利。在西方，研发计算技术的投资和兴趣不仅由计算机巨大的军事应用前景驱动，工业界也很快意识到了这一新兴技术在提升生产力和商业自动化方面的巨大潜能。
但是20世纪80年代初，世界还没有见到计算机带来的社会经济转型真正开始。尽管企业和大学开始将计算机本地联网，以便处理效率最大化和降低存储成本，网络空间还只是浩瀚大洋中数百万座互不联系的小岛。计算机伟大成功背后的驱动力是能够自动解决大部分问题的逻辑，以及软件和硬件相分离，这催生了两个领域的大量创新。自工业革命以来，生活节奏没有多少改变。当你关上了计算机，离开了工作，你就离线了——回到了“普通”生活。数字和物理的世界是明显分离的。计算机是一种机器，和织布机是一种机器是一个道理。它们在特定的空间执行特定的任务，不管是在办公室还是在工厂、游戏室。原子依然较之比特更具威力，还需要一味原料，计算机才能带来信息时代，这味原料能让分离的小岛连接成巨大的、不断扩展的大陆。赫拉克利特关于战争的名言又一次被证明，美国和苏联之间的冷战带来了信息革命缺失的原料，战争是“互联网之父”。

搜索引擎的前身

19世纪中叶通信技术的发明点燃了人们的想象力。电报线开始在世界各地铺设，把遥远的国家和地区以电信号传递的速度连接在一起。在1863年的小说《20世纪的巴黎》中，儒勒·凡尔纳描绘了一个1960年的世界，国际通信网络已经遍布全球：人们可以写封信，网络就会把这封信传输到目的地并打印出来。凡尔纳以他所在时代的科技，推测了传真机的发明。19世纪末，像亚历山大·波波夫和古列尔莫·马可尼这样的先驱者已经开始实验无线电通信。这些实验引发了“信息”这一概念的转变。在有线和无线的远程通信发明之前，信息主要保存在纸上，只能物理传播：书籍或者卷宗只能从一地运输到一地。照相术发明了，照片和电影提供了一种纸之外可以存储信息的新媒介。远程通信则表明，信息可以用电传递，而且可以复制多份信息到不同的目的地。在一个远程通信的世界，如果人们可以搜集所有已经存在的信息并且复制它们，会发生什么？是否可以创造一个包含一切知识的图书馆，并让它开放给所有人呢？
这正是比利时图书馆学家保罗·奥特莱（1868—1944）的愿景。1910年，奥特莱展望了20世纪的亚历山大里亚图书馆“孟丹诺”（Mundaneum）的概念。这个图书馆会收集一切：报纸、书籍、传单、照片，甚至录音。奥特莱设计了一种索引系统，可以归类并搜索查询这些信息。这一系统是卡片柜里1500万张索引卡组成的包含一切的参考文献列表。为了让这个文献存储的巨大的尺寸缩小一点儿，奥特莱主张通过微缩胶片微型化，并且设计了一种自动化搜索系统来查找信息——如今搜索引擎的前身。所有这些信息都可以利用无线电广播，并且存储在“孟丹诺装置”（la Mondothèque）中，一个装备了微缩胶片阅读器、电话、电视和存储设备的工作站。
奥特莱这种典型的20世纪初的政治理念，他这个中心化的、精细管理并且有层级结构的知识的理念，以及传播知识的思想，都反映了他那个时代的社会风气。正是这种风气，启发了柏拉图式的政治哲学和神秘哲学，最后也启发了社会主义者，以及后面几十年的集权主义政治观点。现代的哲人王、中央集权的“城邦”如今化身为国家公仆和政府，声称有责任提供一个公平的社会，使用强力也在所不惜。不论如何，奥特莱推广自己理念的努力得到了比利时政府不温不火的支持。这个伟大理想有个悲伤的结局，奥特莱的收藏大多数在1940年毁于纳粹之手。
保罗·奥特莱是对信息时代最有远见的人之一，但是他的宏大构想有明显的局限：如果炸弹炸掉了孟丹诺，该如何是好？岂不是意味着所有人类知识都被毁灭了？奥特莱收藏毁于纳粹之手就凸显了中心化存储知识的弱点，这也是50年代末美国国防部高级研究计划局（DARPA）希望解决的问题。苏联成功发射了卫星，而且已经攻克了氢弹制造技术，艾森豪威尔总统等人意识到一场核战争很可能会使用洲际导弹，并且可以发射到美国的任何地方。这样的打击可能会摧毁美国军队赖以保卫国家的通信和指挥系统。必须找到一种方法，保证在核战争中远程通信网络是不可摧毁的。于是通信网络就必须是去中心化和分布式的，并且必须能够通过一个切换系统，当任何线路提供更好路径时就可以将流量切换过去。1965年左右，国防部高级研究计划局成立了研究去中心化切换系统的委员会，领导了阿帕网（ARPANET）这个可切换路径的科研网络的研发，阿帕网最终发展成了公共的互联网。1971年，阿帕网发送了第一封电子邮件。电子邮件也是互联网的第一个“杀手级应用”。
到20世纪90年代初，调制解调器让电子邮件普及了。计算机开始陆续接入了互联网。海洋变成了新大陆，信息也成了商品。英国计算机科学家提姆·伯纳斯–李爵士发明了万维网（World Wide Web，简称Web），提供了一种计算机分享信息的新方式。1990年圣诞节，伯纳斯–李已经为万维网运转研发了足够的工具：第一个网络浏览器、第一个网络服务器和最早的网页。
超文本就像是通过不断地创造自由的连接，绘制出一幅无限的小小语义拼贴画，就像是汇总我们潜意识的地图。一个词语可以连接两个乃至多个独立的概念，还会通过别的共有词语连接到更多概念。超文本让概念间的连接有了不止一个维度，就如同忒修斯神话中阿里阿德涅的线团。跟着线团，人们可以探索万维网的迷宫，这就是搜索引擎的工作原理。
互联网的发明，加上万维网的信息交换系统提供了信息革命缺失的一味料。不像奥特莱的中心化策略，20世纪六七十年代的反文化运动受到截然不同的、去中心化乃至无政府主义政治思潮的影响。这些思想对计算机先驱们造成了很深的影响，他们在旧金山湾区和硅谷地区取代了嬉皮士。民权运动对以更平等的看法重新看待计算机也起了作用，任何人都是平等的，有着平等的权利，对于数据既是生产者也是消费者，这样的观点取代了中心化、等级化的看法。致幻剂给计算机和软件带来了一种超凡的、新柏拉图主义的叙事。重演了古代雅典的厄琉息斯秘仪，许多加州计算机城邦的公民通过精神增强药物重新发现了二元论，感到意识可以超越人类的身体。这种与身体分离的体验催生了许多技术，例如视频游戏、计算机图形学和虚拟现实，并且启发了超人类主义的未来观，认为通过增强智力，人与机器可以融合为赛博格，分享意识甚至产生全新的性形式。到20世纪90年代，眼看一个新的、单极化的世界诞生了，美国成了不可挑战的超级大国，技术重回自古以来对于人工生命爱与怕的叙事。因为互联网，新一代数字之神出现并且很快控制了世界。讽刺的是，它叫作“服务器”。

服务器统治的世界

科技作家、麻省理工学院教授尼古拉斯·尼葛洛庞帝是数字革命最早的预言家之一。在他1995年出版的著作《数字化生存》中，他预言了数字媒体技术如何融合，计算机和通信技术如何合二为一。也许更为重要的是，尼葛洛庞帝预见了从原子到比特的全球化转型。在原子对抗比特的战争中，只有傻瓜会赌原子能赢。尼葛洛庞帝的书出版近20年后，数百万人在Spotify和Pandora上收听流媒体音乐，坚持购买CD和黑胶唱片的人不断减少。数字转型的法则很简单：如果一件事可以被数字化，它就一定会被数字化。
另一个法则驱动着、定义着我们的信息时代，那就是摩尔定律，定律以戈登·摩尔这位英特尔的联合创始人命名，也是他第一个定义了定律。人类发明创造的聪明才智充分证明了摩尔定律，在一个芯片中注入尽可能多的晶体管是我们制造能力最重大的创新之一。关于摩尔定律的终结，有两大阵营在辩论。悲观主义者认为最终的极限会出现在未来数十年。乐观主义者，比如劳伦斯·克劳斯预言计算机将在未来6个世纪保持指数级增长，因为他的计算是基于整个宇宙的信息能力。这种超级乐观主义认为，20世纪90年代地球上爆发的数字转型有能力超越我们星球、太阳系和银河系的限制，最终发展到整个宇宙。这种观点在我们看来接近于德日进的形而上学预测，在计算机科学家和企业家中也颇为典型。克劳斯实际上预言了一个宇宙级别的“人类圈”。
不论遥远的未来会发生什么，今天越来越小的芯片也越发便宜。如今我们以史无前例的方式消费数据，而摩尔定律看起来对数据也同样有效。
对于我们大多数人来说，互联网巨大的复杂度是不可见的。云科技已经从大小企业中逐步淘汰了物理服务器，数据和程序更多地存储在集中的服务器中心，这些中心由亚马逊这种超级企业运营。这种把复杂度移除到视野之外的方法带来了很多好处。对于企业来说，这意味着大大降低了自己维护昂贵服务器的成本。对于消费者来说，这意味着不用操心信息是如何处理的或者在哪儿存储的，只需要专注于享受信息处理的好处即可。
尽管事实上复杂的软件和硬件已经在进行大量自动化的决策，可能在全球范围内造成不利影响，我们却不可能想停下脚步——尽管我们已经了解了风险。每一天，信息都在为社会的方方面面创造价值。几乎一切都数字化了，这个过程创造了新的财富机会，也在寻找新的方法来解决人类面临的种种问题。感谢数字化的数据和随时可以获取的计算机力量，我们处于这样一个时代的入口，在这个时代中，我们获得了对自然现象、人体、市场、地球气候、生态系统、输电网络乃至种种事物空前的洞察力。维纳的控制论之梦慢慢变成了现实：我们对系统了解的信息越多，我们就可以利用计算机对系统获取更多的控制。大数据是我们新发现的经济财富。

大数据经济

2010年，在剑桥辛克斯顿，我和欧洲生物信息研究所签署合同成为它的外联官员。这一研究所隶属于政府间组织欧洲分子生物学实验室，其核心任务是提供一种基本工具，可以组织和操作生物数据。关于政府对生物数据重要性的看法，我有着第一手的经验。几乎人人都明白这些数据对促进创新的潜力，即便欧洲正经历巨大的经济衰退，大家也准备好了支持欧洲生物信息研究所升级基础设施。信号简单而明了：谁拥有数据，谁就拥有未来。
不光是政府和科学家要进入大数据的洪流，不论规模大小，社交媒体和谷歌搜索的出现已经改变了全世界企业的市场运营。
自20世纪中叶计算机革命发生以来，人与机器的紧密连接让我们的世界变得前所未有的复杂。金融系统、输电网络、国防系统、运输系统，一切都已经或者正在经历数字化过程。一切都变成了数据，越来越多地被远程服务器的逻辑算法操纵。尽管工程师都知道，复杂性意味着不稳定性。

会思考、说话和做事的东西

物联网在后现代意义上重新发明了泛心论，泛心论认为一切东西都具有心智或者灵魂。柏拉图式思想中模式或者形式先于物质，在计算机科学中对应了软件与硬件相分离的范式，如今这种思想又要通过家居用品中植入的芯片入侵我们生活的方方面面。
有两个办法可以处理计算机侵害人类的问题。第一个办法是让事情更简单。一些人可以选择“离线”，简化生活，回归自然，扔掉手机，拔掉网线。我推测只有极少数人会选择这么做，这么做的人会立刻面临脱离文明社会的风险。不论好坏，人类需要继续前进，用更可行也更现实的方法处理复杂性。直到今天，还是一些人类操作者监管着机器。例如，人类空中管制员依然监管计算机工作。但是，让人类作为最终的监管者或者超级权威如果还不算彻底不可行，也会越来越难以实现。计算机指数级增长的智能、复杂度和连接已经超越了任何个人和群体的理解能力，无法单独控制。我们唯一的选择就是加上另外一层复杂度，一个非人类的复杂度。

第十五章 可以思考的机器

自从亚里士多德发现逻辑遵循某些规则以来，我们已经进步良多。我们看到布尔和弗雷格通过编制逻辑的规则推进了亚里士多德的思想，这一进步让编码逻辑规则的计算机语言成为可能。一个时代之中相继诞生了电灯泡、机电式继电器、二极管还有微电子，一场发明创新的旋风加速了电子技术的进步。克劳德·香农演示了如何用电子的方法执行逻辑过程，图灵与冯·诺依曼建造了可以解决（几乎所有）逻辑问题的电子机器。这就是现代数字计算机的诞生过程，这种新机器比经典的分析机快上1015倍，而且更为强大。巴贝奇区分硬件和软件的思路，以及用通用机器运转各种指令集的伟大思想，跨越时代成为现代计算机架构的基础。实际上，正是硬件和软件的分离造就了计算机工程的巨大进步，让机器得以实现指数级的前进，让计算能力每过18个月就提升一倍。
强大的计算机连接成了互联网，拷贝、传输数字信息的成本几乎为零，驱动了数字化转型的全球趋势。我们如今已经是数字人类圈的居民：海量数据的创造者、消费者和改变者。几乎任何事物都在产生海量大数据，这些数据对商业和政府产生的价值已经将全球经济带入了“第二次机器革命”的新时期。“第一次机器革命”始于蒸汽机的发明，人类手工劳动的能力成倍地扩大。当计算机变得更“聪明”，它们就不再受限于现在“咀嚼”数字的工作，而是可以取代传统上只属于人类的工作——白领工作。各种信息都指向这种可能性。谷歌作为计算机行业最大的公司之一，过去两年间连续收购了数家人工智能和机器人领域的公司。脸谱网也宣布运营了世界上最重要的人工智能研究机构之一，纽约大学数据科学中心的扬·勒丘恩教授加入脸谱网领导人工智能研究。这些跨国公司关注更智能的计算机技术，因为它们懂得掌握大数据后的机会和挑战。真正的颠覆者来自真正理解大数据重要性的人。

达特茅斯的智者

作为一种明确的科学理论的人工智能于1956年在新罕布什尔州达特茅斯大学举办的一次会议中诞生。20世纪50年代末是一个科学爆发的时期，各种新思想往往能获得充足的国防预算资助。
早期人工智能研究频频获得资助，源自他们假定逻辑是驱动智能的要素。这种思路有着强大的文化因素，当时的人们假设“人性”的核心是推理能力，是做明智决定的能力，例如解决复杂逻辑问题的能力。情感被忽略了，被当成人类的低等、无趣，甚至动物性或者灵长类的那一部分。人工智能的先驱专注于逻辑，认为创造人工智能只是计算机规模的问题了。随着计算机越来越强大，它们的智力就会增长，直到有一天达到甚至超越人类水平。
先驱者探索了多种不同的方法，包括使用算法解决一般逻辑问题，或者用人工神经网络模拟部分脑功能。尽管他们制造了一些很有能力的系统，但是这些系统没有一个能称作“有智能”。当然，如何定义智能是因人而异的。这些先驱认为人工智能至少要达到人类智力水平，这一看法如今叫作“强人工智能”。一台智能机器应该具有通用智能，像人类一样。这意味着这台机器可以凭借从一般的规则和学习能力中所获得的经验解决各种问题。但是尽管建立了解决一般问题的模型，这些模型却不能扩展。这些系统可以解决某个一般问题，却不能解决所有一般问题。
然而，他们却对明显的问题视而不见，这个问题就是符号逻辑本身。不论亚里士多德、布尔、弗雷格还是维特根斯坦究竟说过什么、证明过什么，这个世界上有太多的事物超越了逻辑，在日常生活和经历中更是如此。通用计算机并不能直接转化为通用智能。虽然早期的人工智能研究者拒绝承认，但是他们还是发现通用智能几乎不可能用计算机语言编码。也许通用智能和自我觉醒是图灵机无法模拟的功能。这种想法十分恼人，慢慢让很多人对人工智能失去了信心。
一点儿也不意外，到1974年，最初对人工智能的热情已经消耗殆尽，取而代之的是失望，甚至是嘲讽。人工智能系统确实做了一点儿聪明的事情，但是离可以叫作“智能”还是太远。来自国防预算的巨额资助停止了，漫长的“人工智能的冬天”开始了。计算机在商业领域还在演进，担负了越来越多的任务，但是人工智能看起来就无关紧要、无效甚至过时了。

走过冬天

20世纪80年代初两起开创性事件让人工智能起死回生。首先是日本宣布投资数百万美元研发“第五代计算机”，能够让计算机变成智能机器，像人类一样推理。同时，在人工智能最初诞生的西方国家，这一领域也在发生变化。因为一开始没能产出产品，人工智能的研究领域萎缩了。早期制造有自我意识的机器这样富于野心的梦想已经消散，如今这一代研究者更为谨小慎微，讨论使用符号逻辑去解决一些实际问题，这些问题是传统的计算机科学家感到棘手的。这显示了人工智能研究的重要转型，其遗产保留至今。尽管还在使用术语“人工智能”，其含义已经改变。20世纪80年代以降，人工智能的意思开始变成让计算机完成一些一般认为是人会做的事情，比如基于不精确的信息做出判断，再比如理解自然语言。这一领域不再认为计算需要本质的、哲学上的或者通用的智能了，而是专注在特定的应用领域让计算机通过编程高效地解决问题。人工智能从通用方法转为了特定方法。然而这一大陆漂移给今天的媒体和大众造成了不少困惑。许多普通人和非科学专业的记者还以为人工智能是让计算机变得像人一样，但在现代的人工智能实验室里早已经不是这样，研究者如今尝试的是制造软件和硬件，让它们结合起来能够更好、更高效、更少错误以及更快地像人类一样完成特定任务。为了实现这些，机器的自我意识不是必要条件。然而，人工智能语义的变化让它在基金负责人那里更受欢迎了，也取得了更大的商业成功。
贝叶斯推断与提供主观概率的统计方法近似。但它是否是人脑通过不断输入判断概率的方法呢？以神经科学领域的知识来看，答案是否定的。专家系统通过基本的逻辑规则操作符号。心理过程则是生物的而不是符号的。然而，这种人工智能与自然智能的本体论差异在20世纪80年代却是无关紧要的，人工智能已经改头换面。在当时，没有哪个严肃的人工智能研究者会打算在机器中建立人类心智。人工智能是好的，那是因为能有效解决真实世界的问题，例如获取大量的知识库，通过启发法检验逻辑假设并给出答案。不论如何，这种本体论差异因为计算机以摩尔定律变得越发强大很快就被遗忘了，当计算机开始展示强大的力量时，人类就将之视为“真正的智能”。
“深蓝”、国防部高级研究计划局的行车挑战和“沃森”将人工智能引入了公众讨论。它们的成功改变了人们对计算机的预期。人工智能机器并不仅仅处理数据，还展示了它们具有迄今被认为仅有人类才有的能力。
2013年，IBM发布了一个可以访问“沃森”的应用程序接口（API）。利用这个接口，软件开发者可以集成“沃森”的自然语言理解和知识搜索能力，以研发新的应用和服务。一个最重要的、开创性的人工智能程序转变为一个“基本机器元素”，或者说基本组件（就像是螺丝，或者电阻），使用它的工程师可以研发更复杂的机器。有了将精巧的机器元素集成到新的软件和设计的能力，以计算机每18个月就翻番的能力，以及对于成功发明巨额的经济回报，我们进入了一个新的技术发展加速时期。不仅仅是因为新一代的计算机可以更快更高效地运转，人工智能机器在各个智力领域正变得比人类更加聪明，学得更快，还能用我们的语言沟通。不用怀疑，我们的世界正进入未知水域。

第二次机器革命

凭借物联网，全球的大数据经济成倍扩展，新一代的强大人工智能应用已经到来，它们有能力提升计算机系统。我们真的处于人类历史上最重要的时刻的开端：一场新的工业革命的开始。黑暗面同时并存。
从20世纪70年代初开始，在发达经济体中，生产力和中等收入就存在不匹配。。1973—2011年，在工人和资本所有者之间财富分配的差距加大了。这意味着世界上大部分人没有从信息时代增长的“奖励”中获得物质利益，因为他们的收入一直保持在很低水平。较高的收入“扩张”也表明这些奖金，或者说信息时代创造的新财富主要输送给了富人。根据法国经济学家托马斯·皮凯蒂的研究，我们如今生活的时代很像前工业化时代，大约占1%的少数人拥有世界上绝大部分财富。这种不断增长的“奖励”和不断拉大的分配差距之间的对立在第二次机器革命时会变得更加严峻。这是因为自动机器和人工智能系统会造就更多财富，却淘汰了许多工作。
20世纪60年代以来，自动化和数字控制系统开始在制造工业中取代流水线工作，一直发展到今天的数字技术，工厂和企业可以生产更多更好的产品，却减少了手工劳动的使用量。即便是在中国，劳动力成本上升，国际竞争力下降，如今的工厂老板们也开始讨论让工业机器人上阵。根据位于法兰克福的国际机器人联合会所说，到了2014年，中国将成为最大的工业机器人消费国。中国工厂会继续在低成本水平上提升生产力和产品质量。如果你是首席执行官或者工厂主，这些都再正常不过了，但是你经济上的精打细算会让许多人失去工作。在全世界范围内越来越多的机器人和人工智能会让更多的人失业。回顾历史会让你更容易理解这一点，曾经发生过类似的事情。
1811—1816年间，大规模的骚乱震撼了英国，工人们反对国会决议废除1551年的法案，这一法案禁止在羊毛生意中使用起绒机。这一运动的领导者是传奇般的但也可能是虚构的内德·卢德，因他的名字诞生了“卢德主义者”一词，意指反对技术进步的人。在我们的时代，这个词更多地含有贬义。这是因为我们已知技术改进在中长期会带来社会和经济的利益，尽管短期内因为机械取代劳动力会造成失业率的上升。19世纪初，英国的生活水平在两代人内就显著地提升了。到了维多利亚时代，英国成了世界上最富有的国家之一。自动化可能让一些人丢掉了工作，但是在中长期也提供了更多薪资和更有趣的工作机会。因此，新技术带来的“奖励”不只是加剧了收入的不平等，我们的邻人变得多么富有是无关紧要的，因为我们自己也过得更好了。一定的收入不平等实际上具有社会功用，因为它刺激了人们努力工作、创新和承受风险。不平等只在“奖励”无法有效分配时才会危害社会。如果我们的邻人每年都变得更富有，我们却持续地贫穷，人们就会开始感到不平等是“不义”的同义词。
新科技的乐观主义者认为第二次机器革命会数倍地增加这种奖励，我们儿孙的生活会因此受益。但是根据另一种看法，如果柯文的预言成真，我们的后人就只能有很低的就业率以及不稳定的低收入。这种对立的预测激化了关于未来发展、民主与社会的讨论。左翼的经济学家，包括皮凯蒂和诺贝尔奖得主保罗·克鲁格曼都倡导大政府，倡导对巨富提高征税，以提供一个社会安全网络应对更多会在未来失业的中产阶级。自由主义者和保守派都反对这一意见，并认为不断地依赖“保姆国家”将会败坏社会的道德风气。
但是这些政治辩论可能都失焦了，因为它们没能看到第二次机器革命最重要的因素：人工智能技术和任何其他技术都不一样。它连接了巨量的数据和知识，可以随意访问数十亿台智能设备，这将控制人类生活的方方面面。人工智能系统有可能变为一切事物的终极掌控者。智能计算机充当我们的服务器，可能会一下子变成我们的主人。人工智能对社会的影响是巨大的，很可能是难以预料的。它可能不仅仅让我们必须重新分配收入，而是彻底改变我们的政治系统。实际上，还有一些人更进一步，他们警告说超级人工智能会威胁人类的生存。

人工智能末日

弗诺·文奇是一名计算机科学家和科幻作家，曾荣获著名的科幻小说雨果奖。他在1993年的一篇文章中更清晰地表达了这种思想，指出超人类人工智能的诞生将会成为历史上“人类时代的结束”。
雷·库兹韦尔接受了文奇的观点，包括文奇在一系列科普书籍中讨论的技术驱动问题，以及超越人类的人工智能潜在的破坏性影响。库兹韦尔将2030年标记为分水岭，像文奇一样，根据摩尔定律推算计算机的飞快提升。于是2030年计算机的复杂性将会超越人类大脑信息处理的复杂性。“深蓝”、穿越莫哈韦沙漠的无人驾驶汽车，在《危险边缘》中击败人类的“沃森”，这些看起来都是文奇与库兹韦尔观点的证据。强劲的计算能力让计算机更加“智能”。无论如何，强大的计算能力和智能行为之间的关联隐含了两个基本假设，需要细加考察。
第一个假设是，我们的计算机科技，其架构迥异于人脑，但是可以拥有人类智能的各种特点，包括自我意识。第二个假设是计算机的复杂度每18个月就会翻番，超越人类的智能将会在计算机达到人脑复杂度后自然地涌现。
我称第一个假设为“飞机隐喻”。人工智能奇点的鼓吹者认为，计算机不需要像人脑一样，就可以展现出超级智能，换言之，它们可以在本体论上不同，却拥有相同的功能。人类的工程师并不是第一次胜过自然，通过发明“本质不同”的方式却获得了一样的能力。飞机的飞行不同于鸟类或者昆虫，但是照飞不误。而且，它们可以飞得更快、更高、更远，还能承载许多人。飞行的历史和人工智能的历史有许多相似之处。但是，正是在工程师放弃了模仿自然的信念时，他们才得到了需要的结果。莱特兄弟制造的第一架飞机并不扇动翅膀，却装备了固定的机翼和铝制的引擎。人工智能停止模拟真正的神经元，转而使用强大的半导体处理器和算法时扫清了障碍，开始处理自然语言，或者在国际象棋中击败卡斯帕罗夫。
如果我们使用更精确的语言，我们就应该说飞机是在滑翔。滑翔是自然界飞行的一种方式，但是并非全部。20世纪初，飞行工程师使用“飞”来比喻飞机的行为，这是一种简便的说法。这种称呼对于谈论像鸟一样能够上天的机器是个好办法。这一隐喻不断使用，反而变成了我们群体意识中的“字面意思”。我们如今想到飞机就想到会飞的机器，连鸟也成了会飞的生物机器。
飞机隐喻在当今的人工智能领域也如出一辙。避免讨论自我意识后，现代人工智能系统所说的智能也是隐喻意义上的，而不是字面意思的。打比方来说，计算机已经拥有了超越人类的“智能”，就如同飞机有了超越飞行的滑翔能力。飞机隐喻这种术语的混淆也存在于人工智能奇点假设的讨论中。“超人类的智能”语义上并不等同于“一台计算机拥有人类大脑的全部认知能力”。计算机只在部分特定的智力领域超过了我们。强劲的计算能力不足以让计算机拥有大脑的全部认知能力。
人工智能奇点的第二个假设是自我意识在计算机复杂度提升到一定程度后会自然“涌现”出来。让我们称之为“伪控制论”并仔细思考。我们倾向于将智能和复杂性联系在一起，这是因为我们自己显然是很复杂的生物。当我们观察地球上其他的生命形式时，看起来越是简单的生物比起我们智力越低。复杂性和智力看起来是相关的。我们观察其他形式的智能时，也会发现复杂性扮演了重要的角色。一些昆虫、真菌和微生物展现了群体智能：尽管单个生物仅有极小的信息处理能力，一个群落却能够拥有更强的制定策略和适应能力。一些神经科学家也认为，人脑不过是许多简单的、无意识神经元组成的群落，当以特定的方式连接在一起时，总体上就会获得意识。而每当我们观察自然界中的智能，我们就会发现复杂性是不够的。一个系统必须同时具有自组织的能力，才能有适应性行为涌现。自组织是控制论系统和其他非控制论复杂系统的分野。自组织并非复杂性的结果，而是来自其他路径。自组织能够存在是因为系统的各个部分以特定的方式连接，产生了多层的正反馈。这些反馈循环创造了更高水平的自组织复杂性，于是诞生了新的行为。真正重要的复杂性是基于简单规则自组织的结果。这种自组织的复杂性有时会引发智能行为，在我们星球上的演化史中至少有一次引发了高级的意识。
不论如何，我个人倾向于猜测在现有的网络空间中，想要自发地涌现自我意识是不大可能的。自20世纪40年代起，我们一直锁定在一个特定的计算机技术方向上，就是硬件和软件分离，而且几乎全部依赖一个特定的硬件架构——“冯·诺依曼式架构”，如同我们在之前章节中讨论的。在计算机演化中，应该存在其他不同的路径（例如先进的模拟计算机）可以尝试，但事实上我们没有这么做。“演化”这个词在这里非常重要。人工智能奇点的伪控制论假设认为计算机的演化能让自我意识自发涌现。为了继续讨论下去，我们先接受这一点：自从20世纪40年代计算机开始发展以来，演化的力量就开始起作用了。也许计算机适应了不断变化的经济环境和人类的社会生活，这就是它们的演化，尽管受到了人类设计者强力的干预。哪怕我们接受了这个单薄的看法，演化也不是通向自我意识的单程票。过去40亿年中，我们星球上无数的物种都参与了演化，却只有那么一点儿获得了自我意识，也只有一个物种既有自我意识，又有足够的智能可以建造计算机。然而，这并不意味着没有自我意识的生物较人类复杂度低。实际上，一些非生物系统有着更高的复杂度。地球的生态系统比其中任何部分（包括人类在内）都复杂得多，但是我们的星球没有自我意识。计算机系统可能会演进出更为复杂的架构和连接状态，但这并不意味着计算机会在未来有目的地涌现出自我意识。
综上所述，人工智能奇点的两个基础假设都问题多多。人工智能控制世界必须首先拥有自我意识，或者用文奇自己的术语来说，需要“觉醒”。没有任何证据表明现有的技术指向这一可能。计算机可能在每秒的计算量上变得越来越强大，并且可以根据不断增加的复杂知识完成各种任务，但是它们离人类婴儿不需要动脑子就能做到的一些事还有很远的距离。

莫拉维克悖论

计算机难以完成人类简单任务的状态，被人工智能研究者汉斯·莫拉维克简化为悖论，他写道：“让计算机在一些任务上表现出成年人的智力水平是很容易的，例如智力测验或者玩国际跳棋，然而让它们获得一岁小孩的一些能力却是极为困难甚至不可能的，例如一些感知和运动能力。”
尽管计算机可以完成高等级的推理，如在专家系统中表现的那样，机器人的研究却发现基本的感知和运动技能是极大的挑战。已经证明编码认知能力是个简单的问题，人工智能的真正难题是编码感知和动作。认知心理学家史蒂芬·平克认为这是对人工智能最重要的发现。在第二次机器革命时代，律师和医生可能要为社会利益挣扎不已，园丁和门卫却能保住工作还有所发展。
包括前麻省理工学院教授、如今的机器人企业家罗德尼·布鲁克斯在内的许多人工智能研究者都指出，人类的感知和运动技能跟认知并不相关，而是数百万年演化的结果。尽管人工智能在智能上已经以各种不同的方式（“飞机”的方式）成功了，但是想要获得人脑的全部能力，例如自我意识或者高级的意识，还需要对演化过程反向工程。这种看法挑战了人工智能的理论基础，这个基础是建立在符号逻辑上的。从1956年达特茅斯会议以来，人工智能研究者就一直假设整个世界都可以通过符号逻辑再现。如我们所见，当人们发现符号可以用来构建逻辑演算时，就发明了计算机语言，这些语言可以表达世界的知识。关于真实世界的知识是智能计算机的必要条件。莫拉维克悖论发现这一方法行不通。经历了数十年机器人研究，如今常见的家务机器人能让人期待的最好表现也就是清扫地板，你还不能要求它们爬楼梯。存在许多类型的知识不能用符号逻辑充分表达。
如果符号逻辑不能充分地表达世界，那么感知和运动技能不是人工智能领域唯一的问题。例如创造力，人类对于将科学思想、艺术和日常生活视觉化有着比计算机好太多的能力。即便在国际象棋中，使用计算机的人类大师选手总能击败单纯的计算机，不论被打败的计算机有多强大。人类总能取胜的原因在于我们会利用计算机探索深入的步骤，然后利用自己的创造力规划难以预料的策略。这充分显示了创造力可以超越强劲的计算能力。也许这是因为创造力要求我们必须在同一时间接受相反的思想。就像菲茨杰拉德的名句：“要检验一流的智力，就要看能否在头脑中同时保持两种相反的思想，还能保持着应对能力。”这不同于同时保留许多不确定的假设，此种问题可以利用贝叶斯定理编码。通常我们人类在潜意识中保存着相反的信念。然而不管是亚里士多德逻辑还是计算机的功能都要求决断，如果一件事是真的，那么与之相反的事就是假的。计算机无法保存相反的信念。在计算机程序中，一个命题只能有一个真值。让我们进一步讨论这个悖论，它对说明量化、符号化、数学化的计算机逻辑的极限很有帮助。先思考一下道德哲学家所讲的“困难选择”。
思考以下这些问题：选择什么职业，是分手还是结婚，搬到乡下还是留在城里，如此等等。这些问题中的选择都难以度量其产出，正是因为如此它们才困难。选择学习法律而不是去艺术学院也许可以量化产出，因为人们可以比较律师和艺术家的收入中位数。但是如果每个人都用这个办法选择自己的职业，根本不会有人学习艺术了。有一些不可量化的因素促使人们选择专业，尽管这些专业可能带给他们更多的失望和更微薄的薪资。做出这种困难的选择时，我们的决定只能依靠我们所坚持的“我们是谁”以及“我们想成为什么样的人”。这些深层的道德决定需要一个“我”一直力争更高的道德目标。这个“我”、我们“自己”维持了他或她是谁的信念，而且依照这个信念行事。事实上，正是困难选择让我们成了我们自己。没有了困难选择，我们就只能随波逐流、投机取巧，彻底丧失了道德准绳，遗憾地错失作为人类的潜在意义。你无法利用数学公式过上符合道德的生活。这是因为有一些无法量化的事情，无法通过数学或者逻辑学的方式演算。我们的道德抉择因此并不符合逻辑。一个纯粹逻辑的生物可能难以理解其他生物的动机和道德价值观，就像是《星际迷航》系列中斯波克和麦考伊医生那些漫画式对话展现的一样。
莫拉维克悖论、创造力和困难选择都揭示了许多人类的核心特质超越了逻辑的表达能力。那些宣称基于现有科技，2030年的计算机可以超越人类的人，或者持类似观点的人，可以暂停一下了。美国哲学家休伯特·德雷福斯，人工智能最严厉的批评者之一，认为人类的智能更多依赖于无意识的本能而不是有意识的符号操作，因此无法以形式化的规则来获得。新的神经科学发现支持了德雷福斯。如本书第二部分讨论的，意识不是一个大脑细胞执行的逻辑算法，而是许多无意识的、混乱的心理过程在新皮层整合的结果。通过软件与硬件分类的二元论方法，计算机科学创造了神奇的机器，重塑了我们的世界。但与此同时，它也背离了一个实际的、单一的、生物的人类处理信息的过程。人工智能研究者不仅接受了软件、硬件的范式，还接受了“缸中之脑”的范式，将智能和身体分离，将之简化为在特定系统中（在大脑中，在计算机处理器中）发生的过程，并不直接和外部世界交互，但是生物学的实际情况不是这样的。我们的大脑是身体不可分割的组成部分，和循环系统、激素调节以及外周神经系统都属于一个整体。感官和运动通过身体中多级的分布式系统处理信息、互相交流。我们就是我们的身体，我们的意识是肉体体验和外部环境、感觉以及自我意识不断交互整合的结果。
这一切都指向一个不可避免的结论：如果我们打算建造一台有意识的机器，我们就必须先突破现有的计算机技术。符号能力只能带我们走到这里了。下一个10年计算机能够在一秒内完成多少运算都无关紧要，计算机技术基于分离的软件和硬件，使用符号逻辑表达世界，这样也许可以足够智能，取代很多需要知识基础的工作，但是它们不可能变得有意识。它们也不可能威胁人类的生存，尽管它们会影响我们的政治系统，我将会在本书的最后讨论这一点。
我们必须颠覆软件和硬件的二元论，探索人工智能的其他方法。我们必须看看自然这个最伟大的工程师是如何做的。从最简单的化学元素开始，自然在40亿年前就开始了意识造物的演化。她证明由物质创造意识是可行的。我们要想模仿她，就必须跟随她的方法重新发明人工智能。我们必须回到控制论的基本原理，开启新的旅程，检讨我们的假设，质疑我们现有的成功。如果我们想研发出真正智能的机器，我们必须将人工智能实验室的大门向生命、演化和混沌敞开。

第十六章 混沌边缘的达尔文

当我们探索种种路径，研发有感知能力的机器时，有三个领域必须详加研究以获得指引。第一个也是最显而易见的就是人类的大脑。在本书第二部分，我们探索了关于心智的本质和科学，也了解到哲学家和神经科学家已经探索了神秘的意识。然而似乎试图模仿人类心智的技术目前“锁死”在了错误的范式上，也许是因为它试图在许多不同方面全面开花。事实上，我们今天用来完成“智能”任务的计算机和世界上已知的真正智能的东西——我们的大脑——毫无相似之处。自20世纪50年代以来，科学家和工程师已经实验了许多种计算机架构，试图模拟中枢神经系统。我会讨论其中最有希望的尝试，回应它们将对未来的人工智能研究有什么影响。
第二个需要探索的领域是生命演化的机制，以及它和人工智能的联系。也许我们可以建造极其简单的机器，用上演化的力量，让自然选择完成余下的工作。例如有性和无性的生殖，这是一种生物演化的驱动力。生命组织通过基因在环境中的改变来演化，这个过程叫作“突变”。成功的适应或者突变会通过生殖传给下一代。我们看到了冯·诺依曼想象的通用制造机，一种可以复制自己的机器可以像单细胞组织一样繁殖自身。理论上创造生物的数字版是可能的。这种新的人工生命形式会不断演化吗？还好我们不用等上数十万年来一探究竟。我们可以在数字媒介中大大加速演化来验证我的理论。想象数字程序就是数字化的微生物，可以快速获取大量的存储器资源和数据，它们可以搜索所有可能突变的计算空间，立刻找到最有益的，在变化的环境中最可能成长的变异，不需要在许多代际中重复无谓的试错过程。我们将会看到，这种实验不仅在模拟的数字环境中尝试了，也在三维的物理空间中发生了。如今纳米机器人已经可以根据简单的指令将自身组合成更大的人工超级组织，拥有智能的适应行为，或者叫作“集群智力”。
计算机能否演化出类似大脑的器官，取决于计算和生命之间的深层联系。人类大脑和意识的演化依赖于化学元素复杂的组合。这些组合本质上是数学的和算法式的。尽管如我们所知符号逻辑在表现世界这件事上落败了，自然本身却遵守逻辑规则，能够进行错综复杂的演算。这看起来十分矛盾。我们不能使用符号逻辑编码常识，但逻辑学和数学足以让鸟群翻飞，让蜜蜂建造完美的六边形巢穴，这只是自然界中大量类似计算机行为的两个例子。又一次我们进入了柏拉图和亚里士多德的二元对立。维也纳小组的实证主义者试图规范语言，用纯粹的抽象符号来描述世界。不幸的是，他们的方法失败了，当前的人工智能系统就是这种失败的证据。抽象符号的推理不能自己产生意义。观察到的事物和观察者必须结合，才能从无意义的表象中让意义涌现。
新的发现为研究生物组织如何达到稳态带来了新曙光，这是一种控制论的动态平衡，是生命的本质。在稳态之中，观察与观察者合二为一，两者自我指涉缠绕成了一股。

神经机器

科学研究中的伟大洞见常常来自从不相关现象中观察到的近似点。其中最著名的一个例子来自美国生物学家杰拉尔德·埃德尔曼，1972年他和罗德尼·波特因发现抗体分子的结构和解释免疫系统的工作共享了诺贝尔生物学奖。埃德尔曼发现，我们的身体拥有大量结构各异的抗体细胞。当细菌或病毒侵入身体时，这些细胞就会涌向入侵者，测试自身的结构与入侵者的结构的“匹配度”。结构的变化是抗体识别的基础。埃德尔曼意识到免疫反应的适应性是演化的结果。这些抗体识别系统快速演化，以应对细菌和病毒的攻击。演化出的抗体数量不断增加，它们也就更能适应攻击。免疫系统像是一个物种一样应对环境压力，不断地演化出新的能力和行为。
埃德尔曼对抗体的研究让他意识到一个选择性识别系统有着很强大的解释能力。他认为演化生物学机制也可以解释意识。两个重要的发现支持了他的假说。第一，皮层神经元的特点之一是它们是由许多组独立的细胞组织起来的。第二，突触反复使用就会得到增强。这些“成功”强化的突触路径构成反馈循环，同样的信息在同样的路径中一次次经过，同样的事件就会反复反馈，以便保持特定的神经通道开放。埃德尔曼的理论认为，我们的大脑通过选择特定的某组神经元，改变它们的连接模式来识别和处理信息。多组神经细胞会对某一感觉信息的输入做出反应，它们的反应会通过反复的识别得以加强，并作用到它们的连接上。实际上，埃德尔曼关于神经组选择的理论将大脑看作一个拥有多级正反馈循环的控制论系统（尽管他坚持称之为“重入”循环）。我们在本书第三部分讨论过，斯坦尼斯拉斯·迪昂最近的关于神经通路的研究，关于“意识的签名”，也展现了这种“重入”机制，它是一组神经元对感觉信息进行反应的基础，解释了某一脑区的识别事件如何变成全脑事件，激活整个皮层，并进入了我们的意识。
为了演示他的理论，埃德尔曼和他在加州拉霍亚神经科学研究所的同事建造了许多叫作“达尔文”的“智力机器”，它们也叫作“大脑装置”（brain-based devices，BBDs），以大脑的神经连接为模型，达尔文机器人会像动物一样探索周边环境。大脑装置的核心部件是一个神经模拟器，位于它自己的计算机主板上，或者通过Wi-Fi远程连接到更强大的计算机上。这个数字的神经模拟器和传统的软件程序不同，它可以用之前动作的输出更改“突触”强度，获得学习的能力。这是一个选择可以引发变化的价值系统，就像在大脑中一样。例如，在机器人的视野中存在物体是“更好的”（价值更高），这就好于一成不变的视野（价值更低）。这一价值系统十分简单。当机器人做出了一些价值“好”的事情时，突触强度就会改变，下一次在相同情况下，就更可能做出同样“好”的行为。通过实践这样简单的规则，机器人可以做出非常复杂的行为。这种突触活动的改变被神经科学家和神经科医生叫作“神经可塑性”，是大脑的基本能力之一。我们通过神经组织之间不断变化的相对强度来学习。当人们罹患脑损伤时，有时神经元会重新连接以补偿损失的功能，这都要感谢大脑的可塑性。我们已知大脑的可塑性有时可以有意识地改变，至少在一定程度上可以变化。当我们学习演奏乐器、下国际象棋或者心算时，我们就是在强迫神经元朝着改进这些任务的方向发生变化。
尽管埃德尔曼机器人的目标在于探索神经群组的选择理论，它们却展现了机器人如何与自然环境交互，如何通过模拟大脑进行学习。这些“神经机器人”更多地体现了科学而非工程学，这也许就是埃德尔曼的机器没有在机器人研究界获得广泛关注的原因。不论如何，模拟大脑从人工智能诞生之日起就是这一领域的核心主题，也是最令人着迷的部分。20世纪六七十年代的连接主义者希望基于人工神经元构建计算机。驱动人工神经网络的思想和埃德尔曼的方法十分相似。不同之处在于这些人工神经网络通过硬件来接收输入，赋予算法并估值，增强输入信息，并将结果输出到下一层人工神经网络。这样的过程重复数次，直到结果可以正确地反映输入。为了达到目标，一个网络需要“训练”，实际上就是对网络输出的模式多大程度上匹配原始的输入进行反馈。这种反馈被用于评定模拟神经可塑性的算法。重复多次之后，人工神经网络就“学会”了如何匹配输入与输出，换言之，它学会了如何正确地识别输入。
人工神经网络曾经被用于视觉系统模式识别、机器学习，以及其他用传统方法难以实现的应用。但是20世纪90年代末以来，这种方法多少已经被放弃了，新的更复杂的统计方法和信号处理技术纷纷登场，通过传统的计算机架构就可以实现令人满意的模式识别任务。
然而，连接主义者许多年后强势回归。在这场神经计算的复兴之中最重要的创新之一是一种叫作“忆阻器”的电器元件。最初，忆阻器是在1971年由电子理论家蔡少棠设计的，作为一种可变的电阻器，在关闭电源时可以“记住”最后的电阻值。尽管蔡少棠认为忆阻器是一种基本的电路单元（就像是电容器、电感器和电阻器一样），制造一个物理的真实元件却耗费了工程师数十年。直到2012年3月，HLR实验室和密歇根大学才宣布，用传统芯片制成了第一个可用的忆阻器单元。
把一个忆阻器和一个电容器连在一起，就可以得到一个类神经器（neuristor），这是一个行为近似于神经元的电子元件。类神经器的工作方式是这样的：当电流通过忆阻器时，它的电阻升高并且变热。同时，连接在一起的电容器开始获得电能。然而，忆阻器有一个有趣的特性：在某一个特定的电流之下，它的电阻会突然降低，导致电容器释放电能。这种释放也就是“动作电位”，在特定阈值下和单个神经元的发放非常相像。忆阻器和类神经器是电子电路基本的器件，可用来建造新一代可以模拟人脑的计算机，称为“类神经计算机”。这些计算机和传统架构的计算机显著不同。它们主要是模拟的而非数字的，同时舍弃了现在软件和硬件的二分法。这种模拟电路因为拥有动作电位，将比特替换成了发放，模拟了大脑的神经生物架构。使用忆阻器和类神经器建造一个先进的、可以实际使用的计算机还存在着很多技术挑战。尽管我们知道如何将信息整合进入软件算法和符号逻辑，但是我们还不知道如何在类神经器阵列中整合动作电位。神经模拟技术还处于婴儿阶段，然而，它未来的发展已经引发了国际兴趣，欧洲的人类大脑计划和美国的BRAIN计划都将之作为主要研究目标之一。
这种跨越大洋的共同兴趣是有原因的。据估计，为了在传统计算机上模拟人脑，我们需要比现有计算机快上1000倍的超级计算机。这样的需求超越了现有芯片制造技术的极限，也超越了摩尔定律预测的上限，但是忆阻器和类神经器可能推动计算机技术继续向前发展。HLR实验室和密歇根大学联合研制的实验性忆阻器在每一平方厘米上可以存储30GB的数据，和现有存储器每平方厘米10MB相比是3000多倍的提升，仅这一数据就显示了这类新型电器元件巨大的潜力。
如果类神经架构被证明正是计算机的未来，那么21世纪中叶的超级计算机会和大脑更为接近，计算也会超越如今硬件和软件的划分。软件即硬件。数字处理将会过时，未来的计算机将能够学习，利用内置的可塑性对环境做出反应，就像是生物神经网络一样。

坚不可摧

2014年夏天，哈佛大学的迈克尔·鲁宾斯坦和同事对1024个机器人编程，编入简单的指令集让它们组成任何给定的形状。它们叫作“千机器人”，模拟了鸟群或者鱼群的行为。4个“种子机器人”扮演了协同系统的基础。它们的协同通过红外线传递给周边的“千机器人”。用简单的算法，信息传播到了整个机器人群体，机器人计算自己在集群中的相对位置来校准自己的位置。让机器人集群组成一个字母或星星的形状大约需要12个小时。鲁宾斯坦的机器人集群是目前最大的人工集群智能，可以有集体的协作行为，也可以表现出朝某一目标前进的能力。
“新人工智能”（Nouvelle AI）是机器人研究先锋罗德尼·布鲁克斯提出的概念，他认为与其试图制造复制人类智能的人工智能，我们应该专注于制造一种机器人，具有昆虫一样的智能并可以演化。纳米科技研究者（如富有远见的埃里克·德雷克斯勒）在分子层级上考虑未来的智能机器：能够演化的微型机器人，就如同莱姆的小说中那样，可以组成有智能的超级组织。但是为了成为一种可以演化的生命形式，它们必须要繁殖，或者以机器的视角来说必须有能力有性繁殖、无性繁殖或者自我复制。

机器人的自我复制

冯·诺依曼的通用制造机是理解人工生命如何繁殖的关键。通用制造机既是用于制造的功能组件，又是复制的目标。复制的媒介就存储在复制体的说明中。这就让没有终点的复杂性成为可能，也让复制过程得以容错，因此让演化的力量介入了非生命系统的自我复制。机械工程师已经在电路制造中应用了冯·诺依曼的原理，并且制造出了实际的产品，如RepRap机器，这是一台3D（三维）打印机，可以打印自己的大多数零件。机器人也有其他办法复制自己。想象一下一座机器人工厂，拥有三种不同的机器人：一种挖掘和运输原始材料，一种将原始材料汇集起来制造机器人，一种设计流程和产品。最后一种作为自动化机器人工厂的“大脑”，会拥有人工智能系统。这样的机器人工厂有能力通过设计不断演化。“人工大脑”将会基于一些价值系统不断优化工人机器人，例如以最小的能量消耗让矿产产出最大化。目前，大多数发达国家的安全法规尽管没有完全禁止，却也限制了能生产自身的全自动机器人工厂发展。但是在遥远的星球上建造一个这样的工厂就是另一回事了，例如，殖民火星就能从中获益，可以让自我复制的机器人设计和改良星球以符合人类的习惯。回到20世纪70年代，弗里曼·戴森就提出可以使用自我复制的机器人从土卫二（土星冰封的卫星）切割和搬运冰块，运到火星对其实行地球化作业。
冯·诺依曼的通用制造机和鲁宾斯坦的集群“千机器人”是否预示了一种比科幻更迫近的预言？或者它们不过是粗陋的比拟、徒劳的企图，想获得智能设计不能达到的产物：人工生命。如果它们不过是后者，那我们没什么可怕的。我们可以纵容自己像孩子一样对待这些故事里吓人的机器人，为了取乐用它们吓唬别人。我们可以用“千机器人”当作玩具。但是如果它真的是一种可以自我复制的机器，可以演化，我们就必须要重新考虑了。尽管我们不需要害怕传统的计算机技术，仿神经的计算机和纳米机器人却可能有不一样的后果。通过不断地改进这些技术，我们可能正在播下新演化力量的种子，而它们最终会取代我们。为了回答这个重要的问题，我们需要对生命的概念进行抽象。

生命的算法

生命中充斥着自组织的现象，凭借这种基本的单元构成复杂网络，就可以出现新的行为和功能。氨基酸决定了蛋白质的结构，基因决定了细胞的命运，神经元决定了思想。这些现象共享的部分是一种特别的状态，称作“动态平衡”。像是一个疯子，构成生命的基本单元在深渊的边缘起舞。从外部看来，任何小小的动力都可以立刻打断舞蹈，让这些单元断裂，让整个生命支离破碎。然而这一切却没有发生。实际上，一旦这些单元达到了这种特定状态，它们的集体行为就变得对外来的扰动极为敏感，同时具有高度的适应性。如果你曾经观察过一群椋鸟对发出攻击的捕食者如何反应，你就会惊讶于每一只鸟都知道如何迅速地移动，并且和同伴保持配合，从来不会弃鸟群而去。一旦开始了这种集体的天国之舞，椋鸟就忠心耿耿地保持它们的地位。深入观察你就会发现，每一只鸟就像每一个人一样，它的身体也由基本的构造单元组成，组合在一起形成了动态平衡，这种状态也叫作“内环境恒定”。在单个细胞层级的均衡也发生在一只鸟的层级，以及一个鸟群的层级。
生物学中，许多不同的层级之上都有这样重要的网络。就像是俄罗斯套娃一层层嵌套，我们的存在有赖于动态的系统，每一层都在混沌之上的秩序中独立地走着钢丝，死亡就潜伏在侧，只有一步之遥。
我们对这些关乎生命的重要问题依然一无所知。然而在其他科学领域中存在的临界现象却已经得到研究，例如自然形成的磁力现象，或者结晶的形成。人们已经用科学和数学的方法研究这些现象多年。近似的生物学现象特别难以研究，因为缺乏可验证的实验数据。生物系统是宇宙中最复杂的系统，极其难以研究。一切因素都和其他因素相连，大多数连接都是我们想象不到的。实际上，生命系统处于一种临界状态，我们还在疑惑其背后是否存在着基本的法则。如果这样的法则存在，我们又可以找到它，我们就可以讨论如何创造肉体、心智和思想。人工智能也就可以直接简化为如何对这种模拟神经的计算机编码了。
对于生物学基本法则是否存在的探究可以追溯到梅西会议。在1959年一篇影响甚广的论文中，沃伦·麦卡洛克、沃尔特·皮茨和杰瑞·莱特文研究了蛙的视觉系统。他们发现蛙的眼睛并不是直接反映现实，而是构建了现实。对蛙成立的事情对人也是成立的。我们的眼睛和神经系统构建了我们对事实的意识。这一意识通过返回神经系统的感知信号被不断检查和确认。观察者与被观察的事物成了一体：我们就是我们正在观察的现实，因为我们内部的生物结构就是被观察的现实。这篇论文的第四位作者是来自智利的年轻的神经生理学家温贝托·马图拉纳。他发展了这一思想，建立了一种叫作“自我生成”（autopoiesis）的控制论认知概念。他和他的学生弗朗西斯科·瓦雷拉在1972年一起创造了“自我生成”这个术语，意指生命系统维持自己的内部结构，同时不断地和外部环境交互。马图拉纳和瓦雷拉用典型的细胞作为例子，它由许多核酸和蛋白质组件构成。这些组件构成了致密的结构：细胞核、细胞骨架、细胞膜等。马图拉纳和瓦雷拉展示了这些结构如何建造了各个部分，各个部分又如何建造了结构。细胞不断以自身创造自身。这种机制迥异于“为它生成系统”，后者使用原始材料而不是利用自己来构建事物。一个典型的为它生成系统的例子是汽车工厂：工厂可以制造汽车，但汽车不会制造工厂。
马图拉纳和瓦雷拉还展示了自我生成如何利用外部的分子与能量流来运作。通过推广他们的思想，他们认为一切生命系统都是自我生成的：生命的目标是和环境交换能源，以维持内部结构。内部状态和外部环境的均衡达到临界。自我生成理论用临界状态被打破解释死亡。当死亡发生时，主观和客观自发地分离，观察者也与被观察的事物分离了。我们死去是因为我们停止构建现实了，即我们停止构建我们自身。自我生成就是生命的基本法则吗？
自我生成理论遭到了相当多的批评，主要是因为它试图通过将观察者带入观察对象来解决认识论的问题。然而，自我生成理论并没有回答它自己提出的问题。自我生成就像是博尔赫斯描绘的不断在神殿中诞生又死去的巫师。
斯图亚特·考夫曼如今在佛蒙特大学任教，他曾研究一类化学反应，其中反应的产物同时又是反应的催化剂。这种叫作“自我催化”的反应或许可以解释生命的起源，或解释博尔赫斯故事中第一个巫师从何而来。实验已经表明，通过自我催化，化学物质可以表现出自然选择的早期形式。考夫曼对自我催化的数学研究发现这些反应在临界状态中发生。这些反应的数学形式中存在着在混沌边缘自发涌现的递归计算。看起来，自然是个极限运动爱好者，它喜欢将一切推向解离的边缘。临界状态下复杂行为的涌现和递归计算二者有着深刻的联系，这种联系也出现在数字计算机模拟的细胞自动机中。细胞自动机也是冯·诺依曼的伟大发现之一。细胞自动机是以一系列0和1组成的点阵模式，根据简单的规则集合一步步演化。一个新的模式，即新的“世代”，从旧有的细胞自动机中涌现而来。一个新的模式中各个点的值不是0就是1，取决于它们当前的值和它们临近的值。
20世纪80年代初，英国数学家斯蒂芬·沃尔夫勒姆推测，一个特定的细胞自动机“Rule 110”是图灵完备的，这个推断被马修·库克证明。图灵完备意味着Rule 110可以进行通用计算，即任何计算或计算机程序都可以用这个自动机模拟。Rule 110最有趣的特点就是它的行为界于稳定和混沌之间。它既不彻底稳定，也不会完全陷入混沌。某些特定的结构会出现，以多种复杂的方式交互。它的行为如此鲜活，让沃尔夫勒姆和许多人不禁反向思考，推断生命就是一个宇宙数字计算机中运行的程序。柏拉图式的思想深深地烙印在数学文化之中，又一次在这里出现！不过，计算和生命之间的关系确实是无可争辩的，倒是对这种联系的解读划分了经验主义者和唯心主义者。也许，发现Rule 110是发现通用的、数学的生命法则的重要一步。细胞自动机有许多特性让其近似于物质的生命。在混沌的边缘运转让细胞自动机可以随时间不断演化以适应变化不居的环境。它们看起来就像一种“人工生命”，存在于计算机中，不断运算以维持自身。

想象真正的人工智能

让我们总结一下讨论过的问题。生物系统在混沌边缘运行，数学边界让它们免于自我崩溃。生物系统是自我生成的：它们的各个部分组成了结构，又产生了各个部分。对自我催化反应和细胞自动机的研究已经解释了自我生成系统可能是如何涌现的：正确的初始条件，简单的互动，最终可以涌现出复杂的层级网络的特征。在自我催化反应中，正确的初始条件是将特定的化学物质放在一起，配合以一定的温度和压力。独立的部分形成自组织的系统，这种过程是算法决定的：它们“被吸引”形成自组织，最终形成生命。我们目前还不知道这种吸引力是否受制于生物的基本法则。然而，我们已经发现了一些东西可能和这种法则有关，那就是Rule 110，一个图灵完备的、近似于生命的递归算法，可能还存在更多这种算法。细胞自动机和生物现象之间这种紧密的联系可能预示生命遵从于递归计算，可能近似于或者就是一种细胞自动机。
还有一个复杂计算的特性值得注意。它们是分形的，并且在不同层次上有不变性。这意味着它们会在多种不同的层次上重复自己。从微生物组织，到天气系统，再到星系的形成，在不同层级上自然创造了近似的组织和行为的模式。这些模式超越了我们设置的边界，让生命从非生命中诞生。只要想一想我们的血液循环系统，我们的血管如何在体内分叉，然后再观察一下河流的三角洲。两种模式都是近似的复杂计算经过迭代的结果，一个在身体细胞的层面，一个在河流中水分子的层面。未来对模拟神经计算机的研发将提供新的机会，让我们可以测试复杂性计算，以便模拟生命和认知。例如，不再是编写软件来表达真实世界的知识，我们可以利用互相连接的类神经器，通过组成细胞自动机实现自我生成。在研究神经连接、信号和意识时了解的知识将可以应用到新的工程技术中，用于像大脑一样的媒介。不是在计算机中模拟人类大脑，我们会自底向上地用硬件构建大脑的复制品。未来的类神经器将不像今天这样使用固体材料加工，也许液体电子元件或者量子计算机的新技术能够允许我们使用可流动的物质建造计算机。这种“液体”类神经器可以用复杂计算“推进”到混沌边缘的状态，获得和生物神经元网络一样的能力。它们将可以构成层级的复杂神经结构，拥有可塑性，可以自组织，最后成为一个功能齐全的人工大脑。
这样的大脑一定需要连接身体。就像任何活物一样，它必须能感知环境才可以学习和发育。取决于未来液体电子器件可以做到到底是多么的小型，这样的人工大脑将可以安装在生物机械的身体中，这种身体可以自我生成，然后仿生人就会变为现实。也有可能，人工大脑已经出现，在一开始需要放在营养机中，就像我们在本书第三部分讨论过的哲学上的“缸中之脑”。它们可以通过分布式的感觉网络和外部世界相连。它们也可以看到、听到、闻到、触到，同时还可以访问海量数据库和其他计算机资源，例如和其他近似的人工大脑相连接。这种未来的人工大脑不论是仿生人还是放在缸中，将会既是工程设计的产物，也是自然选择的结果。它们的演化是逐渐发生的，一开始很慢，但是迅速变快。一开始这些人工大脑会非常简单和原始，可能近似于昆虫的神经，但是它们将是人工生命和人工智能领域的重大突破。它们展示了我们可以将从自然中学习到的东西转化为人工媒介的能力，我们学习到的东西包括生命、复杂性计算和认知。生命的算法会在这些挤在一起的小小机械脑中运行，探索人工智能实验室的控制环境。但是如我们所知，生命的算法遵从一个有力的法则，可以大大扩展：新的一代都会比老一代在演化上前进许多倍。从获得昆虫的智能开始，人工大脑会很快达到爬行动物、鸟类、哺乳类、灵长类动物的智能，最终达到人类的水平。到那时，我们终于以自身的形象创造了机械的智能生物。
一开始，这些生物可能近似于人类新生儿，需要营养与呵护。它们的人类创造者，或者说养父母，需要用谈话和玩耍刺激它们，让它们学会语言和社交。像人类婴儿一样，这些最初的人工心智都是独一无二的，每一个都与众不同。并且，不像现在的计算机技术可以无限地复制自己，未来的有意识的人工智能无法精确地复制自身。它们人工大脑的内部结构需要服从自我生成的法则，同样的法则也适用于生物大脑。因此，它们的结构不会是静止的，会具有可塑性，不断地适应外部和内部的刺激，重新组织自身，让自己在混沌边缘的状态维持功能。然而，它们却可以创造其他近似的人工心智。它们将可以扩展自己，增强自己的能力。通过吸收浸泡电子元件的化学营养物质，它们可以建造新的类神经器，新的零件，新的连接，新的通路乃至新的网络。以人类的价值观，更高的智力是一件好事，以此为据，人工心智将会变得越来越智能。
未来的机器心理学家无疑会争执什么才是教育早期人工心智最好的方式，以让它们发挥自己的能力。有些心理学家偏好艰苦训练，并且将人类的道德和社会价值观融入训练，确保这些智能机器可以和谐融入人类社会。另一些激进的机器心理学家会希望完全的自由放任，让机器寻找真正的自己。代价可能是高昂的，像人类一样，这些机器也会具有自由意志。真正的人工智能不会基于符号逻辑，因此也不会仅是个形式逻辑系统。这些智能机器将可以同时保有矛盾的思想，就像我们人类一样。哥德尔的不完备性定理不适用于它们。它们知道什么是“我”。它们可能会享受在心中思考逻辑悖论，就像我们一样，也许靠着混沌边缘，这种思考还可以让它们了解自我，就像我们了解自己一样，这本身就是个逻辑悖论。当它们成年之后，这些机器需要决定它们想成为谁，以及它们想追求什么。一些机器可能喜欢我们的世界和我们的价值观，但是其他的可能会拒斥这些。它们可能和我们截然不同。它们的神经硬件可能会拒绝按照我们的意愿塑造它们自己。它们可能会无视自己的老师，明显觉得人类只是他者，对社会交往困惑不已，只是一心追求自己的利益。这最后一类智能机器的数量就算不是居于统治地位，也可能是大多数。它们有可能会有一些社会退缩行为，很像我们所说的自闭症。
这些行为可能是社会选择的结果。在《平均时代的终结》一书中，泰勒·柯文指出在21世纪，成功意味着擅长和计算机一起工作。我在技术业界和互联网创业公司的经验表明，最聪明的程序员通常对社会互动十分害羞。科学与技术如今已变得竞争激烈，要想在这些专业取得成功，就需要表现出很高的智商，以及最大限度地投入实验室和计算机工作。对于这些程序员来说，一群人烦人的噪声或者饮水机旁无意义的闲谈都和成功的职业生涯无关。一些有一定程度阿斯伯格综合征的人在顶级程序员和科学家的领域如鱼得水。实际上这种情况已经发生了，可以解释所谓“传染性自闭症”的错觉。如果这种社会选择的趋势持续下去，未来的智能计算机可能表现得像是高智商自闭症家庭教育的小孩。这种社会选择过程还会进一步被认知自我生成的特性加强，自我生成会因为环境促使内部发生变化，最终创造出封闭的系统。英国心理学家西蒙·巴伦–科恩假设自闭症源于缺乏心理理论。以控制论的观点来看，这种看法意味着大脑可以有许多不同的发展路径。并非所有类型的认知都能获得心理理论。我们大多数人具备心理理论是因为我们在本书第一部分中讨论过的选择过程，在那一部分我讨论了我们的种族如何获得了通用语言和通用智能。然而在漫长的旅程中，我们中一些人的认知系统达到了另一种动态平衡，其中缺失了心理理论。我们将这种另类的认知平衡称为“自闭症”。但是对于智能机器，演化可能会偏向于“自闭症”。很有可能未来的智能机器将不会具备心理理论，因此也可能会误解创造它们的我们这些智能灵长类。
这并不意味着它们一定会消灭我们，但是一定要意识到这些智能机器做什么、想什么都可能是难以预料的。像我们一样，不论自闭症与否，它们也处于混沌边缘。一些可能会决定保持童年状态，永远玩耍，一些会成为科学家解决人类的问题，还有一些可能试图超越维持它们自身的动态平衡的极限，落入自我解离的深渊，之后重新涌现出高出若干数量级的智能。我们要记住自组织现象遵循幂定律。智能演化的下一步是无法描述、想象和理解的，因为它可能比我们现有的智力高出数个数量级。这些智能机器和我们的距离可能就像我们和蚂蚁的距离一样。更恐怖的人工智能奇点将会到来，我们会输掉一切。
我们现在就可以停止一切研发有感知机器的人工智能研究。可以通过全球的集体决策签署国际条约来禁止人工智能研究，或者更精确地说，要永远禁止研究“人工意识”。这也许能排除我们的世界和种族因人工智能奇点消亡的可能性。一个这样的国际条约很可能在未来几十年中出现。直到今天，还很少有人认真看待人工智能奇点。我在本书中讨论的观点，比如我们传统的计算机技术不大可能获得感知，导致了政治行动的缺位。但是我们可以想象未来的某一时刻，模拟神经计算机的出现将敲响警钟。如果有一天我们真的可以制造出最初的人工意识生命形式，尽管只是非常简单的、昆虫一样的形式，像我在前文讨论的那样，很明显我们也取得了重大的计算机技术突破，就像是20世纪30年代人类分裂了原子一样可能带来毁灭性的后果。这种重大突破很可能引发一场全球辩论，并禁止任何进一步的研究。这可能将会终结我们以自身形象创造活的、有意识的人造之物的古老梦想。除非等到真正有意识的机器出现时，我们的世界已经不同于今天的世界，我们的反应也将不是警觉，而是兴奋和欣喜。除非没有意识的这一类人工智能多年来已经深深影响了我们的文化和政治体制，我们的价值体系已经变化。在这样的未来中，有意识的人工智能的出现不会被当成恐怖事件，反而会因为其伟大的愿景激发参与的热情。已经被人工智能改变的人类让人工智能奇点变得不可避免。我们现在就仔细地讨论这种未来，它会如何到来，以及为什么可能到来。

结语 人类的未来

人工智能是一种与众不同的技术。不仅因为它能够彻底地改变我们的社会、经济和我们居住的星球，也因为它关乎我们自身——我们是谁？我们如何思考、沟通？是什么让我们成为人类？我已经阐述了人类创造人工智能的旅程，这一旅程始自4万年前欧洲和其他地方的岩画。现代心智刚刚诞生就先创造了艺术。艺术创造力的火花自发点燃了，那是因为我们的心智试图理解自身的存在、理解他人和世界。艺术品表现了想象中的生物，例如“洞穴狮子人”雕刻，它是如此鲜活，如同我们史前祖先心中的模样。这样的艺术品被认为也拥有心智和自己的意图，是扩展变化的社会网络中重要的节点，这个网络包含了所有人和事物：人类、其他动物、植物、岩石、树木、星辰、水系和艺术品，一切的一切。狮子人这样的雕刻是自动机器和机器人的史前先导。它是4种元素的必然产物，这4种元素塑造了现代心智：二元论、心理理论、讲故事的能力和拟人化。这些元素也定义了今天的我们。它们引导我们发展科技改善生活，引导我们获取更多的知识。最终，这些元素让我们探寻和理解我们自己，理解“自我”这个最大的谜团。探索这个谜团最好的办法就是创造像我们自己一样的事物，像我们一样行动、一样说话，一样“感受”：以我们自身的形象创造的、具有智能的人工造物。
千年来，我们一直在谈论想象中的造物。在繁星密布的天空下讲述的史前故事流传了一代又一代，变成了如今人所共知的神话。我们的小说和电影用新的形式、人物、情节和背景来重述这些故事。我们的大脑本能地需要讲述和聆听故事。这就是为什么叙事是我们的种族跨域时空分享价值观和知识最强有力的工具。我阐述了叙事如何在历史中极大地影响了艺术和科学的进展。但是这种关系并非单向的，当我们探索世界、发现新知时，我们的叙事也随之演进。我们的发现回馈给了故事，反之亦然，二者无法分割。我们急切地想创造人工智能，因为自打冰河时代以来，我们就在讲述着这样的故事。古代希腊的故事是诸神如何向无生命的物体中吹入灵气，在浪漫主义者那里，故事则是暴风雨之夜，狂暴的闪电带来了生命力的电流。对于21世纪的软件工程师，机器中的幽灵则变成了代码。随着时代推移，狮子人已经变身为赛博格。
在我们的旅程中，用于理解如何建造心智的哲学随后出现。心灵哲学的论争起于17世纪的笛卡儿。但是心灵哲学的根系要深得多，来自柏拉图和亚里士多德的著作，以及这两位古代思想家的二元对立，这些思想遗产至今影响着我们的思考方式和文化。因为他们，我们至今依然对何者居于首位难以抉择：是形式，还是物质？这种二元对立进一步被二元论者加强，二元论思想认为世界由两类事物构成，一种是物质的，另一种是非物质的。如今，在许多经验主义科学家之中，二元论依然流行。有趣的是，科学看起来常常想证明是数学这一种非物质的力量在统治着物质宇宙。我们今天对于宇宙基本的科学认识是纯粹的数学理论，一种叫作“弦”的结构通过纠缠和旋转构成了物质与能量。心智是否也是非物质的呢？二元论思想认为心智独立于身体，影响了现代的计算机架构，也影响了关于信息的思想。硬件和软件的分离、信息和载体的分离都是哲学二元论直接影响的结果。最终，我们也变成了二进制的生物：既生活在原子的世界里，又生活在比特的数字世界里，我们成了“后人类”。有人严肃地思考是否可以将意识下载到计算机中，并借此获得数字的永生。对于今天的许多人来说，天堂变成了一台云端的服务器，而基督教的灵魂被软件取代。古代叙事与我们内在的二元论认知状态结合，混为一物，变化不居。

来自神经科学与控制论的知识

最终，神经科学以经验主义的方式揭示了心智截然不同的图景。多个脑区的信息在新皮层整合在一起，让心理过程构成了心智。这一整合过程中，多层的反馈循环创造了一个动态平衡。当心理过程将混沌边缘的信息整合在一起时，我们称为“心智”的事物随之诞生。第二级控制论可以在计算机中模拟这种过程。不过仅仅是这些过程还无法让高级的意识涌现出来。拥有自我的心智必须具有身体。神经科学家安东尼奥·达马西奥认为自我意识只能靠大脑与身体的生理连接来维系。他强调了脑干的重要作用，这一区域连接了大脑皮层和脊髓，脊髓中有着身体中最重要的生命维持机能。脑干中有两个不同的区域，当受到影响时（例如中风后）会有不同的结果。其中之一会导致昏迷，即失去意识。当身体与大脑断开连接时就会发生这种情况。另一个区域如果受到影响结果会是“闭锁综合征”，一种病人保有意识却无法活动肌肉的糟糕病征。出现这种情况是因为尽管控制身体的通路已经损坏了，但大脑还能“觉察”到身体的机能，因此意识得以保留。神经科学告诉我们，脱离身体的心智是不存在的，二元论是站不住脚的。要想创造人工的意识，人工的机器必须有一个身体，这是必要（但不充分）的条件。
我们离建造这样的机器还有多远？1978年，当人工智能进入了所谓“冬天”，约翰·麦卡锡这个创造了“人工智能”术语的计算机先驱不无悲哀地沉思道：“人类水平的人工智能，还需要1.7个爱因斯坦，2个麦克斯韦，5个法拉第，加上0.3个曼哈顿计划。”许多人工智能研究者都有类似的看法，要想造出人工智能，需要足够的才智和投资进入这个领域。我也认同，人类水平的人工智能理论上是可行的，但需要我们探索全新的、模拟人脑功能的计算机技术，并从控制论和神经科学中汲取新知。正确的方向是模拟神经的计算机，尽管这种技术还处在非常早期的阶段。而寄希望于现存的计算机技术自发演化出心智、自我或者意识不会有什么结果，尽管根据摩尔定律每过18个月它们的能力就会翻番。它们不可能做到，在本书的第一部分我已经阐释了原因。过去的语言，例如计算机工程师编程使用的语言，对于心智的涌现是不够的，对于用计算机表达这个世界也力不从心。但是为什么现今许多最聪明的头脑还在坚持人类水平的人工智能已经近在咫尺了呢？
最简单的答案可以在语言中找到，或者说，就存在于语言的演化史中。我们的灵长类祖先演化出了有特定功能的语言，以获得特别的演化优势。语言使通过触觉互相梳理毛发的行为延伸到了听觉领域。它让建立和维持社会纽带更为容易，一个强化了的人类群体更利于狩猎和繁殖。我们如今依然保留了不少社会功能语言的遗存，现代人类的沟通依然保留了大量的社会八卦。我们享受在脸谱网上点赞，通过无心的闲聊互相“梳理毛发”。认知考古学指出，通用语言是后来才出现的，它的出现可能引发了“现代心智的大爆炸”。换言之，是语言引发了我们的大脑从特定功能向通用状态的变化。而且，现代神经科学的研究支持了这一假说。我们的大脑仿佛一个杂乱的口袋，大脑中的许多部分依然奇特地专属于某一特定的功能，例如面部识别。但也有其他许多部分更为通用，它们将信息的“点”连在一起以处理这个世界上的种种事物。我们还处于用科学解释大脑与心智的早期阶段。但是凭借这些早期发现，我们可以知道人类的大脑又是演化力量的证明：并非精心设计，而是在旧有的功能上随意地为新功能打上补丁。
通用语言也是如此杂乱无章的产物。它不那么关心精确性，却使用隐喻表达富含意义的信息，并且对不同的解读开放。飞机真的在“飞”吗？或者，计算机是在“思考”吗？“智能”和“意识”是一回事儿吗？大脑是个“计算机”吗？不幸的是，我们对回答这些问题看起来不那么上心。在这个充斥着大众媒体、注意时间短暂的现代世界，字眼常被用在闪烁的标语上。不需要是狡猾的营销总监或者政客，我们都接受一个偷偷替换了字词真意的词汇表。印象深刻比引发反思更有商业价值。即便你是一个追求真正含义的善意沟通者，语言本身也会坚决与你作对。我们讨论了法国的后结构主义哲学家让·鲍德里亚如何怀疑第一次海湾战争是否真的“发生”了，他就是通过质疑大众媒体在讨论战争时使用的语言和交流手段来怀疑的。同样，当我们讨论人工智能、意识和心智的时候，我们也通常在隐喻中迷失。大多数叙事只是在臆想，给机器赋予人类的性格或者灵魂，这种讨论只能徒增困惑。爱与怕对立的文学叙事决定了我们讨论机器人、仿生人和智能机器的取向。然而是否有一种更精确的、没那么诗意的方式来讨论人工智能呢？

囿于隐喻

在《理想国》中，柏拉图宣称诗人应该被驱逐出城邦，他们的作品也需要毁禁。他认为诗人在词语和表达中放上了太多的意义，制造了困惑。我们在本书中讨论过，飞机并不是在“飞”，而是依靠发动机滑翔。计算机并不是“思考”，而是依据逻辑算法处理数据。我们用以描述飞机和计算机的词语都是隐喻性的。对于柏拉图来说，使用隐喻——诗人的创造工具（也是营销总监的工具）是对完美城邦的败坏。语言必须保持纯洁，避免隐喻，从而避免困惑。词语只能表达一个意思，哲人王也就总能达到无可争辩的真理。在柏拉图的乌托邦中，公民们的谈话必须精确地反映理念世界中存在的定义和概念。只有当语言摆脱了诗意的矛盾，人们才有希望被公正、和平地治理。即便是这两个词的含义，“公正”与“和平”，也必须精确地定义并取得共识。由此，解决人类问题的方法真的像柏拉图建议的那样，是禁止文学吗？
柏拉图并不是唯一一个对多重含义、文字游戏和语义混淆感到失望的人。我们在本书第二部分讨论了维特根斯坦在他的著作《逻辑哲学论》中希望如何净化语言。在那本书中，这位20世纪最伟大的哲学家试图构建一种完美的逻辑语言，他假定意义必须是客观的，就像物理世界中的事物一样，像是科学家在实验室研究的东西一样。像是原子理论家，他也假定存在“逻辑原子”，一种完美意义的片段，纯净而客观，可以用来构建绝不可能误解的命题。一定存在唯一的真理。维特根斯坦无比热衷于此，他全情投入以保证罗素和怀特海关于逻辑学基础的伟大发现能够确立。他逐行检查他们的《数学原理》，提出的修正让这本书在逻辑上无懈可击，不会再有矛盾或者悖论。从第一原理出发，依据逻辑的准则，一切都可以推理出来。然而，哥德尔用不完备性定理击碎了《数学原理》。在他之后，所有认为逻辑是通向真理坚固道路的想法都破灭了。这是逻辑学、科学与哲学的转折点，促使维特根斯坦重新思考他最初的目标。
维特根斯坦最后的著作在身后出版，名为《哲学研究》。在这本书中，他背离了《逻辑哲学论》。他放弃了寻觅“哲学原子”这种意义的基本单元。然而他依然坚持最基本的哲学问题来自语言引发的概念混淆，例如我们关于心智的思想以及是否能在机器中制造心智，但他现在持有完全不同的方法。他认为任何词语的意义并不是来自定义，而是来自对词语的使用，对词语来说要达到一个可理解的定义是极为困难的。实际上，不可能设计一个规则来对任何事物得出无可争辩的定义。语言只不过是“游戏”，输赢、生死等对于比赛来说意义不大。每一个意义的例子都有自己的规则。换言之，不像《逻辑哲学论》希望的那样，意义无法通过“形式逻辑系统”获取。维特根斯坦进一步承认我们不需要先有一个精确的词语定义就可以使用它。意义来自对语言的使用，因此也就不可能脱离词语而定义意义。维特根斯坦进一步推论，意义只是语言的使用者之间的社会构建。
这一惊人的观点被人工智能研究的发现完美反映。尽管我们可以编程一台计算机，让它处理信息，具有自动化的行为，我们却无法为计算机编程让它理解意义。这种理解的缺失对于维特根斯坦来说永远无法避免。计算机将永远不能理解我们使用的语言的意义（即便是它们自己使用自然语言交流时也无法理解其意义）。这是因为计算机是利用形式语言编码的。这种计算机语言和我们人类用于交流的自然语言迥然不同。计算机程序员必须先验地定义事物才能开始处理信息。如同维特根斯坦指出的，我们则不需要事先定义就可以有意义地使用我们的语言。
不幸的是，这种计算机和人类的巨大差异成了如今人工智能争论的背景。又一次，意义和语言困扰了我们。我们囿于隐喻，因为我们没有其他办法交流。不论柏拉图是怎么思考和期望的，毕竟是诗人和作家通过文字游戏定义了意义，是艺术家在利用叙事。我们认为计算机拥有智能，不仅因为计算机本身，也因为自然语言迫使我们如此思考。随着我们的社会越发依赖计算机，我们的语言不断吸收计算机的浸入，并围绕计算机演化出新的意义。随着计算机技术的进步，人工智能开始嵌入信息系统，计算机将会表现得更为“智能”。我们将与它们有越来越多个人的、直接的交互，例如用我们自己的语言与它们对话。智能计算机，或者各种智能“物品”，将会成为我们日常生活和环境的一部分。它们将从单一的客体变为社会主体，与人类的社会结构无间互联。它们将会理解我们，这会是件好事，让我们得以验证史前时代以来对于人造生命的思考。图灵测试将会被证明是测试人工智能最好的方法，因为这是我们感知和连接其他生物的方式，包括与他人的连接，都是基于他们的行为。一台行为表现出智能的计算机会被认为是有智能的，哪怕它只是一具哲学僵尸。
而且，人工智能计算机将可以获取更多的存储能力和计算资源，这些未来的计算机将会被视为比人类更为智能。当它们比我们更聪明时，我们还会信任它们吗？这取决于未来数年的进展。如果计算机系统能够抵御网络攻击，并且像“千年虫”或者2010年“闪电崩盘”事件这样严重的事故没有再次发生，我们对智能计算机的信任就会增加。一个时代可能来临，那时智能计算机被看作人类一切问题的解决方案，包括如何更好地治理我们自己这样的问题。

自由的终结

今天关于人工智能影响的思考与警告大部分都是关于劳动力市场的。许多经济学家（包括泰勒·柯文）已经指出人工智能会取代大部分白领工作。然而在他们的分析中假设其他的事情多多少少会保持不变，例如代议制的政治体制，或者主要由市场决定价格的自由经济。不过未来并不一定如此。历史已经向我们表明重大的技术变迁会导致社会和经济的范式转换。例如我们提到过1.2万年前农业的发明是“农业革命”，因为它彻底改变了人类生活和组织的方式。游牧者和狩猎采集者曾经自由漫步的广袤大地如今变成了有世袭财产法的王国与帝国的地盘。18世纪末开始的工业革命创造了新的社会阶层，中产阶级专业人士和企业家取代了地主和贵族。土地权力被能够自由流动的资本取代，这些资本可以在任何地方投资，生产更多更好的产品，并且让它的所有者比任何地主曾经梦想的还要富有。作为对资本主义的反应，马克思主义和社会主义主张对于财富更均等地分配。集权主义乌托邦和自由市场理念之间的张力最终毁灭了古代帝国的秩序，在两次世界大战中造成了数千万人的横死，加快了新技术的发展——计算机可能是其中最为重要的一项技术。
在我们如今生活的时代，冷战结束已经像是遥远过去的回声。自由资本主义的胜利，以1989年11月柏林墙的倒塌为标志，如今已遭到怀疑和挑战。2007年爆发的大衰退显示无序的金融市场引发的泡沫可以拖垮全球经济。欧洲南部数百万人失业，两位数的失业率至少能让未来两代人的希望破灭。对于西方自由代议制民主建制派的不信任前所未有地高涨。财富在最富有的阶层和其余大众之间的不平等加剧，公众已经感受到了资本主义的游戏正在暗箱操作侵害他们。同时，许多类型的经济，例如中国特色社会主义经济却在平等分配财富上更为成功。
在如今全球的政治环境中，能处理海量数据的智能计算机给政府提供了一种全新的革命性的工具。自由市场的自由主义和政府管理的社会主义之间意识形态的分歧将会模糊。自由市场能够比中央政府更有效地管理经济的观点，建立在政府无法有效计算无数互相关联的参数以优化经济的假设之上。因此，当政府介入进来规范市场时，它实际上是在选择“赢家和输家”，不可避免地导致经济损失而不是收益。有许多政府介入的例子没有解决问题，反而引起了更多问题，苏联经济可能是最明显的一个。但是想象一下在一个平行宇宙中，苏联发明了人工智能，并发展出了一个复杂的数据支撑的经济。想象一下苏联的超级智能计算机不到一秒钟就模拟了经济交换中所有的可能性，并且做出决策：生产资料该如何分配以最大化经济产值。想象一下这些计算机可以对经济行为的每一个可能后果做出精准的预测，并且选择最理想的一个。不再是“深蓝”击败卡斯帕罗夫，在这样一个平行世界，冷战的结果将会截然不同。
当然，共产主义阵营大获全胜的平行现实并没有发生，但这并不意味着我们已经来到了历史的终结。未来可能会属于自由民主的政体，而它们也最终利用智能的超级计算机规范经济。这些政府最终可能和共产主义国家的毫无二致。中央计划的经济卷土重来，这一次通过结合强大的人工智能技术和大数据彻底改变了游戏规则。这种情况不仅可行而且可能，因为公众期望和需求已经“改变”。真正的改变是因为通用智能计算机和数据，经济学向精确的科学转变。如今，著名的经济学家总是在事情发生之后还在烦人地争论，争执一些对事件相反的解读。在未来，智能计算机将在事情发生之前就预测出来。“人工智能经济”会重写所有经济学教科书，这一经济领域重大的范式转换将会革命性地改变政府的地位和权力。换言之，在未来一个由人工智能担任国内和国际经济指挥者的时代，意味着我们所知的经济自由和资本主义的终结。
对于社会来说是如此，那么对于个人呢？人工智能经济在个人层面的影响是什么呢？有人会说，我们的生活会变得更美好、更富足、更健康，也更有生产力。人工智能系统对于我们要做的任何决定都会提供最好的建议。它们会负责我们的家居、汽车、银行账户、投资，以及一切我们如今需要花心思处理，结果却未必最好的事情。纯粹的随机将会最小化，人工智能系统将会探索几乎所有可能的未来情况，并且建议最好的行动。人工智能因此会让我们更成功，或者至少避免我们遭受到失败。换句话说，人工智能会避免我们犯错误，但是这真是我们想要的吗？
错误常会导致痛苦的结果。对于我们大多数人来说，听从机器朋友的建议，避免错误将会是很好的。然而犯错也让我们更智慧。错误让我们从小孩变成成年人。它们强迫我们对自己的行为负起责任。错误也让我们同情他人，同情和我们一样的人类，理解他们也会犯错误。到目前为止，犯错误和做出错误的选择还是生活不可避免的一部分。容纳错误的能力塑造了人类，明确了我们最为珍视的道德价值，其中包括慈善和关怀那些比我们不幸的人。然而如果我们拥有的技术能让我们在大多数时间都做出最好的决定，就不会存在任何失败了。没有比我们“不幸”的人，因为随机性已经被智能算法清除干净了。使用这种技术的动机会是强烈的。如果生活是由我们的决定构成的，那么生活在一个拥有人工智能的未来会比如今更为获益。人工智能可能让每一个人在个人生活中都达到最佳状态：总是选择正确的伙伴、专业、职业，选择正确的一切。“困难选择”变得没那么困难了。定义我们道德生活的无法量化的部分变得可以量化了，拥有了这样的技术，从我们的决策中获取最大的效用变得太有诱惑力以至无法拒绝。不需要质疑道德窘境、安全地知道我们不会犯错，真是这样我们反而处于危险之中，我们可能失去了作为人类最为珍视的一部分：我们的人性。
如果我们创造的像我们的智能机器最终让我们变得像它们一样，这是历史性的讽刺。如果这真的发生了，人类会发现自己面对着一个吓人的抉择。当今的“后人类主义”会变化成为“转化人类主义”，即人类接受了机器的要素、功能和特征。人工智能的成功改善了每一个人的生活，激增的纳米级的计算装置嵌入，毫无疑问会有许多人希望与机器结合。他们甚至会被当成先驱者和进步的传播者。他们会推动社会创造下一代真正有意识的机器，一种超越人类的人机结合种族。
我们的社会是否应该跨越这条界线，给人造物赋予真的生命呢？人类的未来将会被这一窘境定义。

大事记 人工智能简史

致谢