【2/30】什么是思考？怎样更好的思考

本章介绍了图灵测试、中文屋子和亿年机器人三个思想实验。

亿年机器人很有意思。和大家分享。

如果你想亲身看到一亿年后的地球，现在能想象的惟一办法是休眠。你爬进休眠舱，然后在一亿年后醒来。

可是，问题没这么简单。休眠舱需要经受一亿年考验，要保证能源供给不断，要能经得起环境灾变，万一受损还得自我修复，数不清的考验它都得能应付，否则你就再也醒不来了。

你找个最理想的位置，有维系休眠舱所需的所有资源，然后固定在那里。行不行？

这不算好办法，一亿年间，地震、海啸、陨石撞地球，这么长时段中，想想就知道没法靠谱地预测风险如何降临。千年一遇的事情每天都在发生。不然，福岛核电站怎么会出事故？天津港怎么会发生大爆炸？更别说一亿年。

未来无从预测，那怎么办？

制造一个能感知环境、回避风险、寻找资源的机器人，把休眠舱放进去。

说到这里，你应该明白点了。不动，能动，是从自然界复制而来的两个策略，前者是植物策略，后者是动物策略。

要求机器择机而动，你从一开始给它下达了指令，“让我活着”，然后便沉睡一亿年，不再给它临场指导。你的机器人必须能够自己制定策略，“知道”如何去寻找资源，如何转移到安全地带，如何预判和回避危险。

这些你既不可能都提前想到，就算想到一部分你也不能事事都提前准备，你准备不起：所需资源太多，太笨重，更不能适应环境变化。

挑战不止于此。未来一亿年不会只有你的那个机器人，可能有许多机器人，彼此竞争、合作。你的机器人得具备合纵连横的能力，需求层层嵌套。

如果你的机器人最终不辱使命，将你保存到一亿年之后，那么它多半发展出了自运行的能力。你在休眠中，不能实时控制，机器人在保存你生命的最终目标之下，根据环境变迁，会自己衍生出许多次生目标。这是天大的事：衍生就意味着脱离，脱离于当初的目标。

不忘初心，何其之难。允许机器有相机决策自主权，那么自主决策的进程一定会超越你的预想范围，这就叫失控。

人类和基因的关系跟类似于这种情况。

自己在做决策思考的时候，可以想一下，这是我自己的想法还是基因或者是造物主的想法，去做自己该做的事情。