25/70 20170103 小控班 机器人伦理

这两天刚开始看西部世界，一个讲述在人类设置的场景中人类和机器人互动又如何相互制约的故事。这让我想起来去年我一直在追的小说，机器人三部曲。

在这个三部曲中，作者第一次提出了机器人三定律：

第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危害而对手不管

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律或者第零定律冲突时例外

第三定律：机器人在不违反第零、第一和第二定律的情况下要尽可能保护自己的生存

在西部世界中 一开始也是延续着这个设定的，人类可以作为观光者交入园费进入这个由机器人组成的西部世界，世界里有各种场景，游客可以根据自己的喜好选择各种场景，甚至在场景中感受到“杀人”即杀死看着和真人一样的机器人。这些机器人“死”后会被回炉重造，清洗记忆，然后重新投入到场景中。但出乎意料的是，经过千万次的场景反复冲来后，一部分机器人渐渐有了自己的感受和思想，甚至会要挟或者反抗人类，要求走出西部世界。