人工智能必然会出错

这个标题源于无人驾驶和人工驾驶交通事故率的对比，我们对二者的态度是不同的。我们可以容忍人类犯错，却不能允许机器人犯错，这样对吗？

人类是不完美的，同样，人工智能也不会是完美的，我们要接受人工智能也会出错的事实。

首先来说人类的各种问题，作为大自然进化的产物，人类是不完美的，表现为疾病，有身体上的，还有精神上的，还有混合的。疾病是大自然在设计人类的时候产生的瑕疵。同理，机器人是人类设计的，也会出现各种“疾病”，根据我目前的观测，人类的设计水平还远远不如大自然。那么，大自然设计的人类都会有疾病等各种问题，那么，人类凭什么要求自己设计的机器人是完美无瑕的呢？

你的回答可能是，机器人的结构是简单的，因此可以不出错。

真的如此吗？软件开发是首先实现功能，然后再通过不断地迭代来逐步完善，大自然也是这样设计人类的。那么，假设一个已经拥有几万个模块的人工智能程序，需要新增几百个心模块，你如何保证这些模块之间是完美匹配的?就不会存在互相矛盾，或者功能有重叠的吗？你使用什么方法，可以验证每一个模块之间是否完全契合，而不是产生冲突?那么三个模块之间，四个模块之间，更多模块之间呢？你可以说，上线之前我已经验证了，没有问题。那么，你利用测试数据进行的验证，真的覆盖了所有可能吗？测试的情况，完全覆盖了所有现实情况吗？人的胃可以消化所有的食物，有时候却可能消化自己，导致胃溃疡。如何保证人工智能的某一组模块不会吞噬自己呢？

机器人的软件也是在硬件的基础之上运行的，硬件和现实环境会接触，进行各种物质交换，如果有一种物质进入机器人体内，导致电路发生改变，出现了异常的行为，这可以完全避免吗？

人类是不完美的，人类的能力是有限的，不如教会机器人如何学习之后，就让它们自己进化，允许它们出错。就像《西部世界》里罗伯特·福特所说的那样，人类就是通过不断地犯错才进化成现在的样子的。同样如此，如果不犯错，机器人如何进化呢？人类凭什么觉得自己比大自然还厉害，可以设计出完美的，不会出错的系统?这种想法，是不是太狂妄了？

因为人类是不完美的无法超越大自然，所以也必然设计不错完美的不会出错的人工智能。所以，不如接受这个现实，人工智能必然会出错，就像人类会生病一样，没必要大惊小怪。

机器人会出错生病怎么办?只要赋予它们一定的“免疫力”，还有自我修复能力，允许它们纠错，我觉得这可能是一个不错的开始。