无意识的智能终将取代人类——《未来简史》读书笔记（十）

《未来简史》——尤瓦尔•赫拉利

人类将会失去在经济和军事上的用途，因此经济和政治制度将不再继续认同人类有太多价值。

人工智能逐渐替代人类在经济和军事上的作用，并非耸人听闻。

《看门狗》系列游戏所描绘的黑客世界，尽管有很多科幻的要素，但距离其发生在我们身边已经不在遥远。但是，即使在这样的世界里，多数人的社会价值依然存在。当《看门狗》的世界加上成熟的人工智能后，人类社会价值的弱化将不再难以想象。

未来的战争，可能只会发生在黑客、无人机和蠕虫病毒之间，而在战略和战术层面，究竟还能有多少人类指挥官发挥作用的空间，也值得我们深思。同样，在经济领域，究竟还有多少分析工作需要由人来完成，还有哪些决策不得不由人来制定。

人工智能距离“自主意识”依旧遥远，但无意识的智能取代多数人的工作已近在咫尺。

机器学习的可怕之处在于，它并不是一项门槛很高的尖端技术，它不需要特殊的材料、特殊的工艺和巨额资本投入。本质上作为一个算法，机器学习的能力进化，需要的仅是时间和数据。

因而，在可以预见的未来，机器学习必将渗透进社会生活的方方面面，同时这个渗透的过程却可能很难被察觉到。也许真的到面临失业的那一刻，才会惊觉原来人工智能已经被运用到了如此地步。

（节选内容）
到了21世纪，不论男女，大多数人都可能不再具有军事和经济上的价值。

两次世界大战投入大量人力的时代已经过去，21世纪最先进的军队主要靠的是尖端科技。现在的战争需要的不再是人数无上限的炮灰，而是而是精挑细选少数训练精良的士兵，甚至人数更少的特种部队超级战士，加上几个知道如何生产和使用先进科技的专家。

由无人机和蠕虫病毒组成的高科技部队正在取代二十世纪的人海战队，而只会作战的将军也将越来越多关键决定交给算法处理。

有血有肉的战士除了形势难以预测，还容易受到恐惧、饥饿和疲劳的影响，思考及行动的速度也越来越无法赶上现代战争的步调。从古巴比伦的尼布甲尼撒二世到现代伊拉克的萨达姆•侯赛因，虽然科技有各式进展，但战争仍然处于人类的步调。讨论得花上几小时，一场战役得花上几天，战争得拖上几年。

但网络战一场战争的时间可能只有几分钟。在网络指挥中心执勤的中尉发现有异常情况后，就算立刻致电上级，上级再立刻上报白宫，最后还是只能一声哀叹。因为等到总统接到消息，这场战争早已一败涂地。只要短短几秒，计划精密的网络攻击就能够让全美电网断电，破坏航空管制中心，造成核电站和化学工厂大量事故，干扰警察、军队和情报通信网络，甚至是抹除所有金融记录，让数万亿美元就这样消失于无形，没人知道究竟哪些钱归谁所有。这种时候唯一让民众还不会歇斯底里的原因就是网络、电视和广播也全面断线，所以大家连情况有多惨都不知道。

如果是比较小的规模，假设空中有两架无人机正在交战。其中一架需要先接收到远方地堡内操作人员的命令才能开火，另一架则能完全自主开火。你觉得哪一家胜算大？假设到了2093年，已经老旧迂腐的欧盟决定派出无人机和机器人来对抗新时期的法国大革命，新的巴黎公社可能会招募所有的黑客、计算机和智能手机参战，但大多数人大概已经都派不上用场，顶多只能当人肉盾牌。这是事实：在今天的许多不对称冲突中，大多数公民只能作为各式先进武器的人肉盾牌。此外，就算不管胜败问题，单单为了正义，也该支持用机器人和无人机取代士兵和飞行员。人类士兵可能犯下谋杀、强奸、劫掠等罪行，而且就算他们守规矩，误杀平民仍然在所难免。相较之下，如果是搭载伦理算法的计算机士兵，遵守国际刑事法院最新规约的可能性就高多了。

经济领域也有相同情形，能够举起锤子或按下按钮的能力已经不如以往有价值，这也就危害了自由主义和资本主义之间重要的合作关系。

在20世纪自由主义认为伦理和经济能够兼得，保护人权和自由既是伦理道德的必要之举，也是经济发展的关键因素。自由主义认为，英美法等国正是因为开放经济和社会而繁荣，而如果土耳其、巴西或中国也想达到同样程度的繁荣，就该起而效法。许多甚至是绝大多数的专制君主或军人政府，也是出于经济而非道德因素才才最终愿意走向开放。

到了21世纪自由主义的影响力将会大不如前。随着大众在经济上不再重要，紧靠伦理道德是否足以保护人权和自由？无法从中获得经济利益后，精英阶层和政府还会认定每个人都有价值吗？过去有许多事情只有人类才能做得到，但现在机器人与计算机正迎头赶上，可能很快就会在多数任务上超越人类。确实，计算机的运作方式与人类的行为方式非常不同，而且看来短期内计算机也不会变得更像人类，特别是应该并不会获得意识或是具备情感和知觉。过去半个世纪，计算机智能已经有了巨大进展，但在计算机意识方面却仍在原地踏步。据我们所知，2016年的计算机并不比20世纪50年代的计算机原型意识更强。

然而，一场重大革命一触即发，智能即将开始与“意识”脱钩，人类因此面临失去经济价值的危险。

高度的智能与发达的意识一向是两个形影不离的概念，必须是具有意识的个体才能执行需要高度智能的任务，例如下棋、开车、诊疗，或是辨认出恐怖分子。然而我们正在开发新型的无意识智能做起这些事来比人类更快、更好。原因在于这些任务是基于模式识别，而无意识的算法很快就能在这一点上超越人类。

科幻电影通常假设计算机如果想赶上甚至超越人类的智能，就必须发展出意识。但真正的科学却有另一种看法。想达到超级智能可能有多种方式，并不是每一种都需要通过意识。数百万年来生物进化一直顺着意识这条道路缓缓缓前进，但非生物的计算机却可能完全不走这条窄路，而是走向另一条通往超级智能的捷径。

这就产生了一个新问题，智能和意识究竟哪个才真正重要？在两者仍然携手同行时，讨论两者的价值孰高孰低，大概只会是哲学家的有趣消遣。但在21世纪，这正成为一个急迫的政治和经济问题。至少对军队和企业来说答案再简单不过：智能是必要的，但意识可有可无。

军队和企业需要具有智能的代理人才有办法运作，但这样的代理人却不见得需要有意识和主观体验。举例来说，如果是有血肉之躯的出租车司机，个人有意识的体验绝对比毫无感觉的自动驾驶汽车丰富。出租车司机可以一边在首尔繁忙的街道上开车，一边享受音乐。他抬头望见星空，思考着宇宙的奥秘，内心因敬畏豁然开朗。而看到自己的小宝宝跨出第一步，他的眼睛也可能充满喜悦的泪水。只不过这一切都不是社会系统需要出租车司机具备的特质。社会系统需要的只是把人从A点运动B点，而且要最快、最安全、成本最低。就这一点而言，自动驾驶汽车很快就能做得比人类司机更好，就算他不能享受音乐，也不会因为存在的奥秘而深感敬畏，又有什么关系呢？

事实上，如果规定所有车辆都不得由人驾驶，并将整个交通控制权交给计算机算法，就能将所有车辆连接成单一网络，大大降低车祸发生率。2015年8月，谷歌实验中的无人驾驶汽车发生了车祸。当时这辆车正接近一个十字路口，发现有位行人想过马路，于是刹了车。但接着这辆车就遭到后方车辆追尾，后面那辆车的人类司机心不在焉，可能正思索着宇宙的奥秘，结果就忘了看路。如果两辆车都是由互相连接的计算机来指挥，这种事就不可能发生。控制驾驶的算法，能够清楚掌握每辆车在路上的位置和行动方向，绝不可能允许自己操纵的两辆车就这样相撞，如果能有这样的系统，就能大幅节省时间和金钱，并且拯救人的生命；只不过这也会剥夺人类开车的体验，砍掉几千万人的工作机会。