170.自动化的风险

《玻璃笼子》一书中提到了2个故事。

1、很多国家做电子病历，然后有算法根据病人的症状自动推荐了很多检查，但其中有不少其实是没有意义的。这样的结果是增加了病人很多的成本。

2、有一些飞行事故，是因为飞行员过于依赖自动化的驾驶操作，当飞行出现异常的时候，缺少手动的办法来帮助飞机度过危险时刻。数据显示，美国过去10年的空难事故，有2/3是和飞行员的操作失误有关。

去年4月份，马斯克在twitter上承认：“特斯拉工厂的过度自动化是个错误。确切地说，是我的错误。人类被低估了。” 实际的情况是，model 3 尝试大规模使用工业机器人，然后效果并不好，导致产能不及预期，最终影响到了股价。

所以，在自动化、智能化的趋势中，虽然我们收获了效率的红利，但是也要认识到自动化的算法有可能犯错，而过度自动化会带来自身技能的退化。这2点值得警惕！