机器人多次逃跑，还发明了自己的语言，超级机器人危机真的来了么？

如今人工智能已经在很多特定领域超过了人类，除了前段时间的AlphaGo围棋机器人。有些项目发展得如此成熟，以至于人们已经不觉得那是人工智能了，只是软件而已。人工智能的特点是在有限的范围或领域内具备认知能力，而软件系统的主要特征则是具备普遍的问题解决能力。

已经成熟的技术，会给我们带来什么危害吗？著名科学家霍金曾多次警告：机器人在以比人类快的多的速度进化，而且他们进化的最终目标无法估量，人类必须正视机器人危机，对机器人做好教育，自身做好防范，否则100年内，机器人和人类的战争将无法避免。

2010年美国股市“闪电崩盘”的例子。简单来说，就是当自动交易程序已经成熟并且被各家金融机构深度依赖以后，有一次系统曲解了一次不合理操作背后的意义，开始高频交易，引发了连锁反应，最后在短短几秒钟内数以万亿计的美元被吸出市场。虽然这种自动交易程序本质上不算是高级人工智能，但是这种由于对计算机程序的依赖所导致的闪电崩盘还是能够警醒我们。 自从人工智能出现以来，人类就已经开始在思考这个问题，所以关于这方面的电影有很多很多。这些电影有一个共同点：机器人全部都有着自我意识、人类情感等，证明了所有人类其实都相信机器人最终会进化向这个方向。

近期，俄罗斯总统普京参观某技术园区时见到了一位名叫Promobot的机器人，还和他握手合影。

这个名叫promobot的机器人，曾多次从园区试验场有计划的逃跑，去年6月他逃到了城市当中，在电力耗尽之前行驶了50米，可能心里在想：世界这么大，我想去看看。

而在他之前，Facebook的AI机器人在模拟聊天时创造了它们自己的语言。一开始这些聊天机器人根据机器学习算法自由地交谈，以增强对话技巧。随着时间的推移，这些聊天机器人开始偏离预先制定好的规范，开始用不是人类输入的，而是它们自己创造出来的语言进行对话。一旦机器人创造出自己的语言，可以用人类不理解的方式开始交流，他们的进化速度就将会大大加快，危险性也将大大增强，因为没人可以想象机器人们聚在一起进行头脑风暴后将会发生什么事情。

那我们该如何应对未雨绸缪的超级人工智能呢？

▼

感谢您的阅读，欢迎分享至朋友圈

•END•