霍金对于人工智能的十点深刻的思考

2018-03-14 本文已影响4人 Daniel小家伙

本文由【近善兴通】整理了霍金对于人工智能的十点深刻的思考，被誉为“宇宙之王”的他认为人类迄今为止最为深刻的影响就是人工智能的崛起。

在我的一生中，我见证了很多社会深刻的变化。其中最深刻，同时也是对人类影响与日俱增的变化就是人工智能的崛起。人工智能可能是人类文明史上最伟大的事件，它要么是人类历史上最好的事，要么是最糟的。如果我们不能学会如何避免风险，那么我们会把自己置于绝境。

如果有人设计计算机病毒，那么就有人设计不断自我完善、直到最终超越人类的人工智能，其结果将是一种新的生命形式。

人工智能的真正风险不是它的恶意，而是它的能力。一个超智能的人工智能在完成目标方面非常出色，如果这些目标与我们的目标不一致，我们就会陷入困境。”

人工智能对人类的影响，可以从短期、长期两方面来分别讨论。

短期担忧——智能自主武器、隐私

人工智能的全方位发展可能招致人类的灭亡。比如最大化使用智能性自主武器。

目前，世界上九个核大国可以控制大约一万四千个核武器，它们中的任何一个国家都可以将城市夷为平地，放射性废物会大面积污染农田，最可怕的危害是诱发核冬天，火和烟雾会导致全球的小冰河期。

这一结果使全球粮食体系崩塌，末日般动荡，很可能导致大部分人死亡。我们作为科学家，对核武器承担着特殊的责任。正是科学家发明了核武器，并发现它们的影响比最初预想的更加可怕。

除此之外就是隐私的担忧。由于人工智能逐渐开始解读大量监控数据，这些都会被机器人洞察的一览无余。

长期担忧——人工智能系统失控的潜在风险

人工智能遵循的一个逻辑是，“计算机在理论上可以模仿人类智能，然后超越”。这一天很快会到来。

未来，人工智能可以发展出自我意志，一个与我们冲突的意志。

我们无法知道我们将无限地得到人工智能的帮助，还是被藐视并被边缘化，或者很可能被它毁灭。但事实就是：聪明的机器将能够代替人类正在从事的工作，并迅速地消灭数以百万计的工作岗位。

人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。这将给我们的经济带来极大的破坏。

在过去二百年中，人口增长率是指数级的，目前这一数值约为1.9%。这听起来可能不是很多，但它意味着，每四十年世界人口就会翻一番。 2022年，我将庆祝自己80岁的生日，而在我人生的这段历程中，世界人口比我出生时膨胀了四倍。

这样的指数增长不能持续到下个千年。到2600年，世界将拥挤得“摩肩擦踵”，电力消耗将让地球变成“炽热”的火球。这是岌岌可危的。

我相信我们可以避免这样的世界末日，而最好的方法就是移民到太空，探索人类在其他星球上生活的可能。人类作为独立的物种，已经存在了大约二百万年。我们的文明始于约一万年前，其发展一直在稳步加速。如果人类想要延续下一个一百万年，我们就必须大胆前行，涉足无前人所及之处！

在某种程度上，今天的情况就如同1492年前的欧洲。当时的人们很可能坚信，哥伦布的探险注定是徒劳无功。然而，新世界的发现，对旧世界带来了深远的影响。对于那些被剥夺权利地位、走投无路的人来说，新世界成为了他们的乌托邦。

人类向太空的拓展，甚至将会产生更深远的影响，这将彻底改变人类的未来，甚至会决定我们是否还有未来。它不会解决地球上任何迫在眉睫的问题，但它将提供解决这些问题的全新视角，让我们着眼于更广的空间，而不是拘泥眼下。

当我们进入太空时，会有怎样的发现呢？会找到外星生命，还是发现我们终将在宇宙中踽踽独行？我们相信，生命在地球上是自然而生的，是在漫长的进化后，实现了与地球资源的高度契合。因此，在其他条件适宜的星球上，生命的存在也必定是可能的。

去年，我们推出了长期研发计划——“突破摄星”，目标是让星际旅行变成现实。“突破摄星”是人类初步迈向外太空的真正机会，为了探索和考量移居太空的可能性。

这项创新背后的想法，是以光束来驱动纳米飞行器的前进。这样产生的速度虽然不及光速，但也能达到其五分之一，约合每小时1亿英里。这样的系统可以在一小时内抵达火星，几天内到达冥王星，一周内就可以追上并超过旅行者号探测器，并在仅二十年后到达半人马座阿尔法星系。

人工智能的成功有可能是人类文明史上最大的事件。但人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。

我相信我们团结在一起，来呼吁国际条约的支持或者签署呈交给各国政府的公开信，科技领袖和科学家正极尽所能避免不可控的人工智能的崛起。所以，监管和立法在AI的发展过程中十分重要。

通过达尔文式的演化过程，侵略性深深根植于我们的基因之中。然而，如今的技术发展已经加快到了某种程度，使这种侵略性可能会以核战争或生物战争的形式毁灭人类。我们需要用逻辑和理性来控制这种与生俱来的本能。

你可能并不是一个讨厌蚂蚁的人，但也会无意中踩死蚂蚁，而如果你负责一个水力发电的绿色能源项目，项目所在的区域内也可能会有许多蚂蚁巢穴被水淹没，对蚂蚁来说就非常不幸。我们要避免人类处于这些蚂蚁的境地。

人类面临的最大威胁是我们自身的弱点，即贪婪和愚蠢。这些人性的基本属性，将使在人工智能时代的境况将变的更加糟糕，因为当机器被设定程序后就知道适可而止，知道就流勇退，但是人类很难，除非是那些极高修为的人，才能突破人性的弱点，但是机器人可以轻而易举的回避这些弱点。

我们还应该扮演一个角色，确保下一代不仅仅有机会还要有决心，在早期阶段充分参与科学研究，以便他们继续发挥潜力，帮助人类创造一个更加美好的的世界。