人工智能

《失控》一书的作者凯文·凯利同样对人工智能的发展充满期待并做出一系列大胆预言。在他看来，未来10-20年人工智能将对世界带来颠覆性的变化，一切都将变得智能化。专注于信息技术研究和分析的Gartner公司的报告则认为未来10年，人工智能将变得无处不在。

与此同时，担忧、不安乃至惶恐的情绪开始在人群中蔓延，来自未知的力量让人坐立不安但又无所适从，人们不知道人工智能究竟是装满了灾难的潘多拉魔盒，还是一部通往更高级人类文明的电梯。唯一可确定的是，盒子已经打开，电梯的按钮已经按下，已经没有人可以让这一切停下来。

作为在世界上著名的物理学家，霍金一直在担忧“人工智能一旦脱离束缚，就会以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代，这将给我们的经济带来极大的破坏。”

未来，人工智能可以发展出自我意志，一个与我们冲突的意志。

此外，霍金在会上表示，人工智能的威胁分短期和长期两种。短期威胁包括自动驾驶、智能性自主武器，以及隐私问题；长期担忧主要是人工智能系统失控带来的风险，如人工智能系统可能不听人类指挥。

创造比自己更聪明的东西，很危险！