我们究竟需要怎样的人工智能

几天前，特斯拉的自动驾驶汽车出事了，车主身亡。

最近，人工智能很火，无人驾驶很火，从互联网巨头到传统车企都在搞无人车。但是另一方面，许多真正工作在自动驾驶技术研发一线的研究人员却在不断地向我们泼冷水，与产业界的热火朝天形成了鲜明的对比。

在我看来，自动驾驶是很难真正取代人类 lao 司机的，其根本性的局限有两点：一是技术上的，二是人性上的。

技术上，当今最先进的机器学习技术是建立在概率统计的基础上的；而我认为概率统计方法本质上依然是基于规则的，只是随着机器学习技术的发展，需要人工输入的规则在减少，机器根据少数准则自主寻找和优化规则的能力在增强。但是驾驶不仅依赖于规则的叠加，而是专业技术和人类经验共同作用的结果，是人类的常识、经验帮助我们即使面对从未出现过的驾驶情况也可以作出理性的决策。而当前的自动驾驶技术虽然具备了“驾照”，但是缺乏像人类一样的思考能力。纵然自动驾驶技术可以不断扩展其训练空间，我们还是无法证明训练空间之外是否存在自动驾驶系统从未面对过的安全隐患，而这种不确定性构成了自动驾驶技术本质上的缺陷。

虽然目前看来，因为自动驾驶汽车误判造成的安全事故要远少于人类司机由于疲劳、大意等原因酿成的事故，但是有趣的是，我们可以接受可靠程度只有90%的人，却无法接受可靠程度高达99%的机器。我认为这不仅仅是自动驾驶汽车出现事故应该由谁负责等法律、伦理问题这么简单，而是人性中一种根本性的不信任。我们可以接受不完美的自己、不完美的同类，却无法接受一个接近完美的异类，就像电影中的超级英雄即使付出再多也始终会遭受人类的不信任。

更进一步讲，人类社会究竟需要怎样的人工智能技术？

人工智能不同于以往的任何一次技术变革。过往的技术变革只是为我们提供了新的工具，但是人工智能开始要为我们的行为决策负责。我们希望命运掌握在自己手中，而不是一个哪怕无限接近完美的异类；就像人们反对封建、渴望民主并不是因为民主的政府优于圣明的君主，而是民主可以更大可能地规避暴君统治的风险，这是人性使然。所以相比于像自动驾驶这样由机器完全替代人的目标，我更倾向于“增强智能”——利用人工智能强化人的能力——这一愿景。