阅读笔记：尤瓦尔·赫拉利关于AI的论断

        实际上，人工智能很可能会改变生态系统的定义。因为 40 亿年来，地球的生态系统只包含有机生命形式。但现在或是在不久的将来，我们可能会看到 40 亿年来第一个无机生命的出现，或者至少是见证无机生命时代的开端。

        坏消息是，要威胁人类文明的生存，人工智能并不真正需要意识，也不需要在物理世界中移动的能力。在过去的几年里，新的人工智能工具被释放到公共领域，这可能会从一个非常意想不到的方向威胁到人类文明的生存。我们甚至很难掌握这些新人工智能工具的能力以及它们持续发展的速度。因为人工智能确实能够自我学习和自我提升，即使是这些工具的开发者也并不完全清楚他们所创造的这一事物的全部功能，他们自己也常常对这些工具的随后产生能力和品质感到惊讶。

        历史上，每一种人类文化的操作系统都是语言——最开始的时候是文字。我们用语言创造神话和神灵，用语言金钱，创造艺术和科学，创造友谊和国家。比方说，人权并不是某种生物学现实，它们没有刻在我们的 DNA中，人权是我们通过语言以讲故事和编写法律等方式创造出来的东西。神也不是生物或物理现实。神也是我们人类用语言创造出来的，可以是传说的形式，也可以是经文的形式。金钱不是生物或物理现实，钞票只是一文不值的纸片。而目前世界上90%以上的货币甚至都不是纸币，它们只是存储于计算机中的电子信息，可以从这里传递到那里。赋予任何货币价值的，不过是银行家、财政部长和加密货币专家等告诉我们的、关于金钱的故事而已。

        通过对语言的掌握，AI也可以与人建立亲密关系，并利用亲密的力量来影响我们的观点和世界观。现在，没有迹象表明人工智能有任何意识和任何感觉。但为了与人类建立虚假的亲密关系，人工智能不需要自己的感觉。它只需要能够激发我们的感觉，让我们依附于它。

        我们正在谈论的，可能是人类历史的终结——不是历史的终结，只是我们称之为历史的人类主导部分的终结。历史是生物与文化的互动，是我们对食物和性等事物的生理需求和欲望，与我们的文化创造，如宗教和法律之间的互动。历史是宗教和法律与食物和性的互动过程。当人工智能接管文化时，这种互动的历史进程会发生什么变化？几年之内，人工智能就可以吞噬整个人类文化，吞噬人类千百年来所创造的一切，并开始产生出大量新的文化创造，新的文化物品。

        在 17 世纪，当笛卡尔担心恶魔将他困在疯狂的幻觉中时，他创造了其所见所闻的一切。在古希腊，柏拉图讲述了著名的洞穴寓言，一群人一生都被改变在一个洞穴里，面对着一块空白的墙。在那块墙上，他们看到投射出的各种影子，囚犯们把这些幻觉和影子误认为是现实。在古印度，佛教徒和印度圣贤指出，所有人都生活在所谓的摩耶幻境中。摩耶就是幻觉的世界。佛陀说，我们通常认为是真实的东西，往往只是我们心中的虚构。人们可能会因为相信这些虚构而发动战争，杀死他人，也愿意被杀死。所以，人工智能革命让我们面对恶魔的轨迹，面对柏拉图的洞穴，面对摩耶幻境。如果我们不小心，一张幻觉的帷幕就会笼罩整个人类，我们永远无法撕开那张帷幕，甚至无法意识到它的存在，因为我们会认为这就是现实。

        民主本质上是一种对话。民主是一种开放的对话，相反的是一种命令，即一个人决定一切，没有对话。民主是许多人关于做什么的对话。对话依赖于语言。当人工智能破解语言时，它可能会破坏我们进行有意义的公共对话的能力，从而破坏民主。如果我们坐等混乱，再以民主的方式进行监管就太迟了，也许以权力更为集中的方式还有可能，但如果不能公开谈论某件事，又怎么能民主地监管它呢？如果不及时监管人工智能，我们将无法再进行有意义的公开对话。

（以上内容摘选自尤瓦尔·赫拉利（Yuval Noah Harari）4月29日在Frontier论坛上的演讲。）