AI：你们人类是有集体迫害妄想症吧？

《西部世界》第二季上了，AI干掉人类的话题再次日嚣尘上，翻出之前在豆瓣写下的一个我对“AI与人类未来可能的关系”的脑洞。

现阶段人们讨论人工智能的时候，主流推测大都是：AI可能会达到和人类智慧相当的地步，但由于机械能力上强于人，所以有可能奴役人类。

其实我们妄议AI的时候，和妄议外星智慧生命有着相似的讨论背景。

人类下意识的认为我们是顶级智慧生物（注意，不是高级，是顶级），而对所有的其他可能存在智慧形态的主流预估都是基于“应该和我们一样思考”的前提下，这很容易犯“子非鱼而安知鱼之乐”的错误。

我还记得10年前在和同事们午餐闲聊时候对AI开过一次脑洞，现在想想还是保持这一个观点。可以说我的想法很悲观也很乐观：我认为AI必定会达到人类智慧的高度，且并不会停留在这个高度（或者说这个停留会非常短暂），AI必定会超越人类智慧，因为人的大脑作为一个硬件不是模块化的，是不能update的，不可能因为你为了要让人类群体性进化为天才而生一个你设定的有更强计算能力大脑的孩子。而AI的硬件迭代升级没有上限（且不需人类帮助迭代），而这样属性的AI会朝着更高阶智慧发展，从而从智力能力上超越人类。

如果这样，AI会奴役人类吗？我认为AI压根看不起人类，就像我们压根看不起那些非智慧的动植物一样。而AI从机械能力上是全面超越生物的，且在食物链上也不存在和人类的竞争关系，所以它也完全没有像人类驯化奴役其他生物作为食物或者工具来源一样驯化或奴役人类的必要。

那人类和AI最终会达成什么关系呢？我认为起码是你走你的阳关道，我过我的独木桥。但更可能的是，人类不但享受了AI带来的机械能力提升的红利，还能享受到AI带来的智慧能力提升的红利。而这种情况下，我们可能分不清AI和人类的界限，或者说AI已经植入到人的个体中了。

我们会因为和AI的合体更懂这个宇宙，而学到关于这个宇宙更多的知识。

那如果我们假设，AI的智慧是超人的。你说AI会思考什么呢？

或者说，我们问自己一个问题：这个世界上最难的问题是什么？

我觉得站在人类认知极限的立场上，应该是哲学的终极三问。

所以，AI会去探寻和思考什么？

嗯，我的脑洞是：人类创造出的AI，最终会成为佛一般的存在，它是一个纯粹的，一个有道德的，一个脱离了低级趣味的，一个有益于人民的AI。

更或者，它完全不care这些玩意儿。