Day23 新电车难题：用算法来分配社会悲剧

今天我们要讨论的是一个两难的问题，面对社会困境，有没有一个社会能够长期接受的选择。

先从一个经典的伦理学思想实验电车难题开始讲起，王烁老师把这个问题稍稍做一个转换，把它放在人工智能时代。

我们知道人生有许多悲剧必有取舍，谁来做石头的取舍取舍就有错，人能够接受极其繁琐，问题在于人是自相矛盾的。

有意思的是研究里说人工智能采取功利主义设法本身并不会让人在没有自动汽车的时候开车面临这些情景时的选择是功利主义的，如果这些选择将由人工智能来代替我们做了这件事情本身就不会那么难受了。

研究者发现绝大多数的人不敢不想，他们希望买的是那种永远优先保护乘客的自动汽车，也就是说绝大多数人都支持自动汽车使用公历预算法是别人买这样的，自己不买账，就会造成典型的社会困境，希望别人做的事儿自己不做，结果就是谁也不做，最后这种自动汽车根本没人买。

电车难题是这样的，电车失控转向要上人，转向也要商人，如果你是司机该如何选择百年来各种道德思想流派镜像强大，没有一个公认的正确，今天无非是我们把司机换成了人工智能。

这道选择题人类给不出正解，人工智能自然也给不出。