人工智能？有什么好怕的！

姓名：王小涵

学号：16020199013

转载自：https://www.guokr.com/article/64726/

【嵌牛导读】：人工智能发展日趋迅速，我们是否应该担心？

【嵌牛鼻子】：人工智能

【嵌牛提问】：有没有必要担心人工智能？

【嵌牛正文】：

下文是哥伦比亚大学神经科学系的 Greg Wayne 及 Alex Pasternack 对这场讨论会的评论，原文刊于《自然》杂志2011年9月2日一期的“计算机科学评论"版。

人类，你们的机会不多了！2011年6月初，在纽约举办的“世界科学节”上那场“人造大脑大讨论”（Man-Made Minds）之前，局势已经非常清楚了——展会上最抢眼的不会是顶尖的人工智能（AI）研究专家，也不是海报上那有着邪恶眼神的机器人“Kismet”（见文章列表小图）。大家的目光都聚集在展台角落里那台纯平电视上，它显然按预期产生动画。

“沃森”（Watson）, 那个在“危机边缘－智力抢答挑战赛”（Jeopardy！）中击败人类的IBM问答系统，其实是一组占据了10个冷藏柜空间，功率为80千瓦电力的计算机。（※此处已更正，原为“每小时消耗80千瓦电力”，该表述有误）按照“Jeopardy”首席调查员大卫·费卢奇的看法，除非能精简一下这机器的尺寸，否则它在任何领域都很难派上用场。但是，当调查组成员在挑战赛的拾物比赛中被沃森的蜂鸣器抓住后，所有对这台计算机能力的质疑声音都消失了。康奈尔大学机器人技术专家荷德·利普森（Hod Lipson）表示道：“这是我第一次对人工智能感到恐惧。”

有什么好怕的——尤其是你们这些制造具有“自我意识”的机器人的科学家？这个问题和少数长期存在的哲学问题一起，萦绕在记者费斯·萨利（Faith Salie）主持的讨论节目中——如果一个机器人模仿人类行为，它是否有感情？机器人应该具有人权吗？人工智能能够知道其自身的智力限制吗？科技大爆炸将带来人类的终结吗？机器能够获得知觉吗，如果能，那么人类的意义是否会变得无足轻重？为什么有些机器人很可爱，有些却异常诡异？

人工智能其实随处可见

自从人工智能这一学科于1956年诞生以来，已经发展出了多个方法学来解决两个基本问题：计算机怎样接近智能？接近到什么程度？

专家组在讨论会中提到了这个学科正在出现的分化：符号人工智能，这是一种关于自然语言和逻辑表达式进行推理的人工智能；机器学习，它利用统计推理在海量数据中挖掘范式；还有仿生学AI，它创建模仿简单动物行为的反应性机器人。以上这些差异是仅寻求智能机器（弱AI）与相信机器能与人类感觉性相抗衡（强AI）之间的一个较大对立。

有一项研究计划叫“综合AI”，旨在组装更有说服力的“类人助理”，它将机器视觉、机器学习，自然语言处理组合，以制造能够与人类密切工作的系统。我们可以将这些助理看作微软那个办公软件Office助理“Clippy”（就是那个长得像回形别针的提示——编注）的后代，我们的新版Clippy能够读取你的电子邮件，接你的电话，或在机场问候你。

微软Office办公软件助理回形别针小助手“Clippy”，用户点击帮助后会出现相应操作提示。（它那怀旧的曲线勾起果壳科技名博编辑的不少遐思，尤其是点击“关闭”后它缩回屏幕的背影……）（来源：微软官网）

对于微软研究员艾瑞克·霍尔威兹（Eric Horvitz）来说，这类综合AI每天都在为他服务。他屏幕上的女性化身替他解决访问者的问题，向他报告关于他的预约，并且记住他的行为和需要优先处理的事务。“她甚至能预知我不会去哪些会议，”他非常快活地说。

不仅如此，类似的程序在重量级的应用场景中也在发挥作用：一个类似系统已经用作医疗保健上的分级助理，能够询问病人他们的症状，起草诊断，并安排预约。人脑能够最终计算机化的信念驱使他创建更强大的AI。霍尔威兹说，“它有着令人震惊和不可思议的东西。”

人工智能：仍是只是展望而已

霍尔威兹已经创造了像人类的机器，利普森已经制造出能够自己思考的机器。借助於分析二链钟摆，已经有机器能够“发现”牛顿定律“F＝ma”。另一种仿生学的机器人则展示了初步的自我意识。

这种海星形爬行物通过对不同形式的自发运动实验，使用与人脑可能的相同的方法学到了如何用三维坐标表示它的身体，并且从它的传感器中推断怎么样的身体结构将产生这样的数据。利用这个心理模型，该机器人设法学会了走路的步法，甚至当它的一条腿被移除之后适应了蹒跚地跛行。“它太菜了，”利普森遗憾地说，“我们本来指望它能够发展出一种邪恶的、蜘蛛式行走方式。”

罗德尼·布鲁克斯（右）向主持人萨利展示他制作的一个人偶形机器人。布鲁克斯指出，这种机器人外表与人极为类似，但内在却无法实现人的预期，在面对这种机器人的时候，人类容易产生心理落差“uncanny valley”。

与此同时，其他研究员正在尝试减少机器人行为的诡异程度。美国麻省理工大学的退休教授，“iRobot”的发明人罗德尼·布鲁克斯（Rodney Brooks）表示，一个社交机器人可以追踪眼睛的运动，做鬼脸，或（在婴孩玩偶的情况中）打嗝。他还指出，某些机器人引发心理上的不适，原因是“机器人看起来太像人类但却无法实现”。

人类希望创造创建一个感同身受的人形生物，但还有很长的路要走。目前我们只能让机器人转动眼球，充其量理解简单语句。“我想我们给予机器灵魂，”布鲁克斯说，同时还不断朝着霍尔威兹比划，“他是一包皮囊，但我与他互动并且将他人格化。”

人工智能：人类应该思考些什么？

理解人造思维的努力不仅象征着AI研究的不同分支之间的隔阂能有多大，象征着我们关于人工智能的公众对话如何趋向于正当地保持人造本身。如果科幻电影“星际迷航”（Star Track）的计算机用作公众印象中的基准，那么那场让“沃森”扬名天下的比赛会是另一情况——机器并不和我们一起工作，反而与我们对抗。

这是一个反面乌托邦的未来。虽然有“沃森”的爆笑失误（这让人类观众感到很欢乐），但“Jeopardy!”的赢家预示两种未来：人类制造和我们一样进行“思考”的计算机，另一种是慢慢对我们施加恐惧的计算机。

虽然“沃森”在语言处理和推理猜测上的成功的确令人印象深刻，但计算机本身并不是对大脑逆向工程，人工智能并不能够以人脑方式进行信号处理的产物。因此，对于AI而言，完全重建人类智能并没有必要。相反，费卢奇建议，“沃森”的最伟大的应用场景可能是内科医师助理（能够导航日益增长的医学知识）或作为一个敏捷的处理器，以应对现代人类加速度生产的信息。“我们被数据淹没了，”利普森补充说，“计算机能够帮助我们。”

费卢奇表示，IBM原本希望“沃森”不露面，那么人们将仅仅对于其软件上的价值来评价它。在高度公开的事件中，通过将机器与人类竞争，或者让它们展示在光天化日下，我们会有低价抛售我们的计算机和头脑的风险。目前，我们对AI的关注大多来自于科幻小说，这使得我们忽视了其他方面的潜在威胁，比如AI在劳动力上、金融市场和数字安全性上的影响。

从原子爆炸到粒子加速器，再到合成生物学，许多技术都引发了许多种类的公众忧虑。AI的进步发展需要与科学研究一样多的公众理解。就如“沃森”的思考程序，我们自身依赖于从失败中学习。在这领域中的进步不仅将取决于制造能够更好解决问题的机器，而且还取决于思考它们对我们提出的许多深奥的问题。

讨论会成员相关信息

上文中提到的讨论会名为“人工智能：与会思考机器生活在一起”（Man-Made Minds: Living with Thinking Machines”，由哥伦比亚广播公司（CBS）主持人费斯·萨利（Faith Salie）担任主持，参与讨论的专家成员包括：

大卫·费卢奇（David Ferrucci）： “Jeopardy” 首席调查员，任职于IBM沃森研究院的自然语言语义分析及综合部门，主要从事语言的机器识别及机器决策的研究。

荷德·利普森（Hod Lipson）：美国康奈尔大学机械与航空航天工程以及计算机与信息科学学院“创意机器实验室”负责人，主要从事进化机器人的研究。利普森制造的机器人侧重于应用工程领域，如自我复制和可编程的自组装机等。

罗德尼·布鲁克斯（Rodney Brooks）： 退休前担任麻省理工学院的“松下机器人”教授，现创办“华伦机器人”（Heartland Robotics）公司，致力于新型机器人研发。

及

艾瑞克·霍尔威兹（Eric Horvitz）：微软研究员，从事感知计算系统理论和实践的研究。

作者：lylafinal

链接：https://www.guokr.com/article/64726/

来源：果壳

本文版权属于果壳网（guokr.com），禁止转载。如有需要，请联系sns@guokr.com