三个思想试验(来源于网络)
三个思想试验:
图灵测试 --测测计算机智能
中文屋子 --大数据 算法,公式
亿年机器人 -- 人工智能
图灵测试(The Turing test)指测试者与被测试者(一个人和一台机器)隔开的情况下,通过一些装置(如键盘)向被测试者随意提问。进行多次测试后,如果有超过30%的测试者不能确定出被测试者是人还是机器,那么这台机器就通过了测试,并被认为具有人类智能。
“中文房间”想象一位只说会英语的人身处一个只有一个小窗口的封闭房间之中,他随身带着一本写有中文翻泽的书。房间里还有足够的稿纸、铅笔和橱柜。写着中文问题的纸片通过小窗口被送入房间中。房间里的人可以可以使用他的书来翻译这些文字并用中文回复。让任何房间外的人以为他会说流利的中文。
亿年机器人
如果你想看看一亿年的地球,而现在能想到唯一的方法就是休眠,你爬进休眠舱,在一亿年之后醒来。
那么,问题来了。休眠舱需要经受一亿年的考验,要保证能源供给不断,要经得住环境的灾变,如果不小心受损还要有自我修复能力,否则,你就再也醒不过来了。
你还要找一个理想的位置,固定在一个安全的位置行不行?固定位置并不是一个好办法。要知道,你要经历一亿年,地震、海啸、地壳变迁、陨石撞地球,这么长的时间里,万年一遇的灾难你也遇见了一万次。未来无法预测,那该怎么办?
你要制造一个能感知环境、回避风险、寻找资源的机器人,把休眠舱放进去。说到这里你可能明白一些了,动和不动是自然界生物的两种策略,前者是植物的,原地不动,后者是动物的,可以移动。
你给这个机器人下达的最核心的命令是“让我活着”,然后便去沉睡一亿年,不再给机器人任何临场指导。但是,因为你无法提前想到所有可能发生的事,不能提前准备所有措施,也准备不起,这需要太多的资源,太笨重,无法适应环境变化。所以,你必须放权,让机器人自己制定策略,让它自己去寻找资源,让它自己学会寻找安全地带,自己预判和回避危险。
挑战不止这些。未来的一亿年,不止会有你的那个机器人,还会有更多的机器人,成千上万,彼此竞争、合作。你的机器人要学会合纵连横,能力要不断变化,来适应环境。
最后,如果你的机器人不辱使命,将你保存到了一亿年之后,那么它多半已经发展出自己运行的能力。你在休眠时,不能进行实时控制,机器人在保存你的生命的最终目标之下,根据环境变迁,会自己衍生出很多次级目标。允许机器人有决策的自主权,它的决策进程就一定会超出你的预想范围,这就是失控。
讲到这里,也许你明白了。这个故事中的机器人就是人类自己,休眠舱就是细胞,我们的使命就是保护基因。在演化中,基因创造出人做她的机器人,以保护它们在人身体深处慢慢休眠。同时给了人自主决策的空间,于是,人演化出了自由意志,这些自由意志和基因的最初目的并不是永远统一的。这就是为什么我们在做决定时,经常会产生矛盾,当然,这是另一个话题了。