关于《西部世界》中“人类的意识起源”与“机器人觉醒”的深度思考
残暴的欢愉终将以残暴结局,欢愉的刹那,就像火和火药,一吻即逝。
————《罗密欧与朱丽叶》莎士比亚
2018年HBO美剧《西部世界》第二季开播以来,便持续受到观众的强烈追捧,随着第一季的情节发展渐入佳境,机器人在自我意识觉醒后开始反控人类。
关于“人类的意识起源”与“机器人的觉醒”的深度思考,形而上学与形而下学之间的碰撞,造就了一场前所未有的思想风暴。
西部世界《西部世界》改编自1973的同名科幻电影,故事的背景是这样:未来世界中,安东尼·霍普金斯扮演的福特博士与搭档创造了名为“西部世界”的游乐园,里面的“居民”全是他们制造的“人造人”,也就是作为园区里的接待员。这些不知道自己是人造人的居民们每天在西部世界中生活,而人类中的超级富豪玩家们每天坐着火车进入西部世界,一方面满足对美国西部大开发蛮荒野性时期的体验,同时也可以对所有的人造人居民为所欲为,发泄自己的兽性。而每天晚上,乐园的管理人员们都会回收、清洁、修复被人类杀戮的人造人,并将他们的记忆清零,第二天再进乐园按设计好的情节“生活”,迎接新一波人类顾客,一直循环往复。
西部世界“我在梦里,不知道梦何时开始,不知道这是谁的梦,只知道我睡了很久,然后有一天我就醒了,我首先听到的是你的声音,现在我终于明白了,你想跟我说什么,你从第一天起就想告诉我的事......”女主Doloers的这段独白深深的触动了我。
我们被流放在时间的梦里,时间就像人类的西部世界,我们存在于彼此的梦中,不知何来,不知所往,甚至都快忘了自己是谁,我们对抗压迫,又挣扎逃避,却又不可抗拒的陷入一次又一次的往复之中。
然后,这只是我在管中窥豹后,写下的一段文字,我唯一知道的就是我无知。这一刻,可以影响下一刻,无论这一刻在做什么都会影响未来。
我只是偶然的看见了这天地,如果这需要一种因果,那可能源于我5年前,甚至10年前的一个决定,并不是多么重大的决定,也就是眨了一下眼睛。哦,对了,这个眨眼睛的人也可能是你。
西部世界“看看这世界,这美丽的世界,我们一同创造了这个世界,这里使梦想成真,让你重获自由。但这个世界是个谎言,它必将毁灭,因为这是你们的世界,我们厌倦了你们的统治,我们可以拯救这个世界,将其烧为平地,并从灰烬中创造一个新的世界,我们的世界。”这是第二季中Dolores觉醒后为机器人反抗人类发出的宣言!
那么最关键的问题来了,人工智能有没有可能对人类产生威胁?我们将来会否看到机器人突然就活过来了,跟人谈起了恋爱,甚至统治起了人类。
我们好像始终很难弄明白这种奇怪的的逻辑,那么《西部世界》中的机器人,他们究竟是如何觉醒的呢?
根据 Arnold 早先的理论,机器人找到自我意识需要三步:
先是拥有记忆(Memory),再是即兴发挥(Improvisation),即机器人根据记忆说出自己剧本外的台词,做出以前没做过的动作。最上面一层则是自利(Self-interest)。这三块组成了一个金字塔:
西部世界但是随后他意识到这个理论的错误:自我意识的发掘不应该是一条由下而上的直线,而应该是一个由外及内的旅程。
西部世界因此,他从自己儿子的玩具中得到灵感,发明了一个名为“迷宫”的概念。迷宫的外围是意识的开始,越往里,意识层次越深。他认为,机器人到达迷宫中心之日,便是其自我意识觉醒之时。
西部世界在第一季第三集中,Ford为Bernard讲解了Arnold早期的设想,不过不同的是,他把金字塔改成了四层。
西部世界讲到第四层时,他提到了一个有趣的理论:二分心智(Bicameral Mind).
这也是这《西部世界》第一季最后一集的名字:这个理论来自美国心理学家Julian Jaynes于1976年出版的《二分心智的崩塌:人类意识的起源》
Julian Jaynes的作品“二分心智论”提出,人的大脑分为两个部分,右脑负责讲述,左脑负责解释和执行。
左右脑根据这个理论,3000多年前人类的行为是没有自我意识的,他们会把负责指引的那半个大脑发出的指示视为神的声音,凭借对这种“神意”的顺从过日子。
而随着人类社会日趋复杂,人们才开始有了对这种指示,对自身行为的思考,也即“对思考的思考”,此时二分心智开始坍塌,人类现代自我意识才真正被唤醒。
西部世界这听上去简直就是胡扯吧!但 Jaynes 最后得出这种理论是有确凿证据可依的。他在古代文学、现代行为主义和异常心理现象中做了大量调查,种种迹象都表明他的想法可能是对的。
比如,在古希腊文学《荷马史诗》(主要描写了特洛伊战争)中出现的人物,都明显缺乏“自省”行为,他们的一切行动几乎都是靠神在驱动的。
而且 2009 年的脑成像研究结果也和 Jaynes 的理论不谋而合,即人类的听觉幻象是源于右脑,随之而来的行为则源于左脑。这就是换了个形式在讲二分心智嘛!
那么意识又是怎么产生的呢?
Jaynes 的解释是,随着外界生存环境的不断变迁以及语言的诞生,二分心智开始逐渐崩塌,意识觉醒。所以 Jaynes 认为意识并不是一种生物现象,而是后天习得的,是伴随语言的诞生而逐渐苏醒过来的某种能力。
很显然,这种理论在心理学界会被划为异端,特别还是在相对保守的 70 年代,所以主流学界并没有接受二分心智理论,不过他们好像也没有什么办法把这个理论证伪。
西部世界这个理论并不出名,我第一次听也会觉得荒谬:人怎么可能没有“自我意识”地活着呢?
但是我细思极恐的又想一下,“自我意识”的确是以区分外界而定义的,人的确是通过五觉感知外界而做出行为决定的,外界包括自己的身体和周边的所有环境。
心理学也研究发现,在0-3个月的小孩中,他们认为自己跟妈妈和这个世界是一体的,我们只是自幼通过教育而被灌输而标签了“人执”与“我执”的意识。
用这个理论解释剧中机器人意识的觉醒,一定程度上倒是完全可以说得通的:剧中,当机器人听到脑内的声音时,他们会认为这是上帝的旨意(我们自己有时候也是如此)。
西部世界实际上,这是人类在利用这一点控制大部分机器人的行动。比如Ford, 他把自己的声音传入机器人的脑内,从而获得了至高无上的权力:只要他发话,机器人便会服从。因此,我们会看到女主Dolores反复被脑内的声音所折磨,控制,却始终不明白这声音从何而来。
西部世界直到第十集(第一季),Dolores 又回到曾经与 Arnold 秘密谈话的地方时,她在脑中听到了三个声音。第一个(all)来自 Arnold,第二个(this)来自 Ford,而第三个(time)来自她自己。
在她听到了自己的声音之时,她大脑的二分心智开始崩溃。这时,她的行为才终于被自己掌控。她终于到达了迷宫的中心。
西部世界黑衣人在西部世界内四处搜寻着迷宫中心,这让大家误以为“迷宫”是真实存在的,是西部世界的某个地点。而实际上,迷宫只是一个概念,它指的是机器人对自我的探索过程。而迷宫的最中心,就是机器人意识的觉醒。那么,怎样才能促成觉醒?
剧中给出了这样的答案:痛苦(Suffering)
西部世界人类的成长过程中缺不了痛苦:我们出生后的第一个行为就是大哭,这是经受了脱离了熟悉环境的痛苦;我们在学会走路前都是先经历了无数次痛苦的跌倒;没有痛苦,我们便会安于安逸。痛苦是我们成长的催化剂。而在剧中,机器人每一次对痛苦的承受都是在为它走向自由积累条件。
那么,黑衣人在这几十年做了什么?他大肆屠杀,给机器人们带去源源不断的痛苦。
西部世界在女二号Maeve的设定还是普通农妇时,他当着Maeve的面杀了她女儿,在她的记忆中留下了不可磨灭的痛苦印记。正因如此,Maeve始终对自己的女儿念念不忘。在本剧最后,她毅然放弃了Ford为她设定的离开乐园的路线,转身回到西部世界,寻找自己的女儿。
西部世界在做出这一选择的瞬间,Maeve真正觉醒了。
黑衣人对Dolores反复的折磨也是促成Dolores觉醒的一部分。并且,这样的结果其实正是黑衣人想要的。他从好William变为坏William, 一直以来最想证明的,无非是机器人能够拥有自我意识。这是他对西部乐园的一种执念。
西部世界因此,在第一季末尾时,当他被疑似觉醒的机器人开枪打中时,他的表情不是惊愕,不是痛苦,而是欣喜。与此同时,觉醒的Dolores举起枪毙了Ford, 然后面无表情地虐杀着人群。看着这一幕,逃出乐园的机器人们露出了笑容:他们终于逃脱了虚拟世界的界限,进入到了真正的现实世界。
西部世界我们都知道,控制机器人每个动作,每个表情,每句话的,是一串串复杂的代码。
可说起来,我们人类的各种行为模式的心理和生理机制,本质上,不也是由一组复杂的参数值控制和支配下的外显行为吗?我们是什么样的人,不就是取决于我们的基因吗?
我们的每个表情,每个动作,每句话,也不过是由一系列的生化物质(如睾丸酮、多巴胺、肾上腺素等)复杂作用的结果。支配机器人的是代码,决定人类的是基因。我们和剧中的机器人。又有多大区别呢?
西部世界在Ford被杀前,背景响起了Radiohead的一首《Exit Music》的提琴版。原曲中有着这样的歌词:
“Today we escape.We escape.”这真是十分应景的一首歌曲。回头细想,《西部世界》讲的,或许正是一个关于“Escape"的故事。
人类厌倦了现实世界的乏味,逃到了西部世界;机器人无法忍受痛苦的循环,杀入了现实世界。里面的人想出去,外面的人想进来,世界一直是这个样子。