查看原文
其他

【科技观察】我们对人工智能的10大误解

2016-03-18 战略前沿技术


本文由大数据文摘()授权转载

选文:凉亮,摘自:http://gizmodo.com

翻译:丁一,孙强,王婧,肥毛毛虫,Mona,焦剑,汪霞


自从20年前深蓝(Deep Blue)在国际象棋中击败卡斯帕罗夫(Garry Kasparov),该事件就被人们誉为机器智能最权威的证明。谷歌的AlphaGo已经在围棋比赛中以四胜一负(译者注:原文是三场中获胜两局)赢得了韩国棋手李世石,更表明了这些年来人工智能的迅猛进步。机器终会比人类更聪明的预言即将到来,但我们似乎并没有真正理解这个具有划时代意义的事件的影响。

 

事实上,我们执着于对人工智能的一些严重的、甚至是危险的误解。去年年底,SpaceX公司的联合创始人伊隆·马斯克(Elon Musk)警告说,人工智能会统治世界。此话一出,引发了对人工智能或谴责或支持的激烈争论。对于这样一个重大的未来事件,关于它是否会发生,或是以何种形式发生,各方持巨大的分歧。而当我们考虑到人工智能会带来巨大的利益的同时,也可能出现风险,这一点尤其令人担忧。不同于其他任何的人类发明,人工智能具有重塑人类的潜力,但它也可能摧毁我们。

 

很难知道该相信什么。但借助于计算科学家,神经科学家,和人工智能理论家的创举,我们可以逐渐了解关于人工智能更清晰的图景。下面是关于人工智能最常见的误解和虚传。

 

◆ ◆ ◆

误解一:“我们永远不会创造出类似人类智慧的人工智能。”



现实:我们已经在一些游戏领域,如象棋与围棋、股市交易和谈话等创造出可以与人类智慧匹敌、甚至超过人类的计算机。 而背后驱动的计算机和算法只会越来越好;因此,计算机赶超其他人类活动,将只是个时间问题。

 

纽约大学的心理学家加里·马库斯(Gary Marcus)说,在人工智能领域工作的“几乎每个人”都认为,机器将最终会替代我们自己。支持者和怀疑论者之间的唯一真正的区别只是时间框架问题。像Ray Kurzweil等未来学家认为机器替代人类可能会在几十年发生,也有人说,它可能需要几个世纪。

 

当怀疑论者说这是一个无法解决的技术问题,或是生物大脑有一些内在的独特之处时,是不能令人信服的。我们的大脑是生物机器,但归根到底它们仍然是机器;他们在现实世界中存在,按照物理学的基本规律运行。没有什么是不可知的。

 

◆ ◆ ◆

误解二:“人工智能将有自觉意识”



现实:关于机器智能的一个共同的假设是,它是自觉的有意识的,也就是说,它会像人类一样思考。更重要的是,像微软联合创始人保罗·艾伦的批评者认为,我们还没有实现人工普遍智能(Artificial General Intelligence, AGI),即能够执行任何一项人类能够进行的智能任务,因为我们缺乏关于意识的完整科学理论知识体系。但伦敦帝国大学认知机器人专家默里·沙纳汉(Murray Shanahan)指出,我们应该避免混淆这两个概念。

 

意识无疑是一个有趣和重要的主题,但我不相信意识是匹敌人类水平的人工智能必要的部分,”他告诉Gizmodo。 “或者,更准确地说,我们用意识这个词,是为了表明一些心理和认知的属性,而这在人类中是紧密相连互有重合的”。

 

我们完全可以想像一个非常聪明的机器,缺乏一个或多个这种属性。最后,我们可以建立一个非常聪明的,但没有自我意识的,不能主观或有意识地体验世界的人工智能。沙纳汉说,将智慧和意识同时融合在一台机器里也是有可能的,但是,我们不应该忽视这样一个事实,即智慧和意识是两个不同的概念。

 

只是因为一台机器通过图灵测试从而证实计算机和人类在智能上无区别,并不意味着它是有意识的。对我们来说,先进的人工智能可能会导致机器看起来是意识的假象,但是在自我自觉方面,它并不比一块岩石或计算器更能感知自我意识。


◆ ◆ ◆

误解三:"我们不应该害怕人工智能。“


事实:今年一月,facebook创始人Mark Zuckerberg说我们不应害怕人工智能,他说这将会为世界创造很多令人惊异的好东西。他只对了一半。我们安然享受人工智能所能创造的巨大的好处:从无人驾驶汽车到新药的制造, 然而我们却无法保证所有通过人工智能所实现的将会是良性的。

 

一个高度智慧的系统也许能了解完成一个特定任务所需要的所有知识,例如解决一个让人头痛的财务问题,或者侵入一个敌人的系统。但除开这些它所专长的特定的领域外,它很可能非常无知和愚昧。Google的DeepMind系统精通于围棋,然而除了围棋,它对于其他领域却没有任何推理和逻辑能力。

 

许多类似的系统也可能缺乏深入的安全考虑。一个很好的例子就是由美国和以色列军方共同开发的一份非常强大而复杂的武器级病毒系统Stuxnet Virus,其原本的作用是为了潜入和攻击伊朗核武器动力装置。此病毒系统却不慎(至于是有人故意而为之还是纯属意外则不得而知)感染了俄罗斯核武器动力装置。



攻击网络间谍的Flame病毒


类似的例子还有在中东用于攻击网络间谍的程序:Flame。可以想象,未来类似Stuxnet或者Flame这样的系统如若广泛散布,可能对一些含有有敏感信息的基础设施产生一系列不可估量的破坏。(作者注:在此澄清,这些病毒并非人工智能,但在将来他们可以轻易加入人工智能,因此也将会带来以上的一些顾虑。)


◆ ◆ ◆

误解四:“人工智能由于其极高智能,将不会犯任何错误。”



电影《The Invisible Boy》中的超级计算机


事实:Surfing Samurai机器人人工智能研究者和开发者,Richard Loosemore认为大多数假设的人工智能将毁灭世界的情景都非常不符合逻辑。大多数类似的假设总是认为人工智能将会说:“我知道毁灭人类文明是由于设计引起的故障,但无论如何我还是很想去做。”Loosemore指出如果人工智能在打算毁灭人类时,其思路是如此自相矛盾的话,它将在其一生中面临无数自相矛盾的逻辑推理,也因此会干扰了其认知从而变得非常愚蠢,而同时根本不足以对我们造成伤害。他同时也断言,那些认为“人工智能只会做程序设定的任务”的人,将会像在电脑刚刚发明时那些说电脑将永远不会具备应变能力的谬论的人一样。

 

牛津大学人类未来研究所(Future of Humanity Institute)的Peter Mcintyre和Stuart Armstrong对此有不同看法。他们认为人工智能将很大程度上依赖其程序锁定。他们不相信人工智能不会犯错误,或者反过来他们没有聪明到可以理解我们希望他们能做什么。

 

McIntyre告诉作者:“从定义上讲,人工智能就是一个在方方面面都比最聪明的人脑要更为聪明的智慧载体”。“它将会完全知道我们设计他们来做什么”。McIntyre和Armstrong相信人工智能将只会做其程序编写的任务,但如果它足够聪明的话,它会最终理解法律的精髓和人文的意义。


McIntyre将人类将来可能面临的困境和老鼠所面临的困境做了比较。老鼠将会不停寻求食物和住所,但它们的目标跟人类不想与老鼠共栖一室的目标始终是相互冲突的。他说“正如我们完全能理解老鼠为什么要钻进我们的屋子里、但仍然不能忍受与老鼠一起生活一样,即使人工智能系统理解我们的目标和我们想要什么,他们仍然会觉得我们的目标无关紧要”。

 

◆ ◆ ◆

误解五:“一个简单的修补程序将解决人工智能的控制问题。”



正如电影《机械姬》所描述,比我们聪明的机器人并不是那么简单就能控制的


现实:假设我们创造出强于人类的人工智能,我们将要面对一个严重的“控制问题”。未来主义者和人工智能理论家完全不知如何限制和制约一个ASI(超强人工智能),一旦它被创造出来,也不知道如何保证它将对人类友好。最近,佐治亚理工的研究人员天真地认为人工智能可以通过阅读简单的故事和社会习俗来学习人类价值观。而问题很可能会远远比这复杂。


“人们已经提出很多简单的技巧来解决整个人工智能的控制问题,”阿姆斯特朗说。具体例子包括将ASI程序编辑成让它希望取悦人类,或者仅仅作为人类的工具。换个角度说,我们可以集成一个概念,比如爱和尊重,把这些写入它的源代码。并且为了防止它采用超简单的、单色的观点来认识世界,它可以被编程来欣赏知识、文化和社会多样性。

 


Isaac Asimov的“机器人控制三定律”只能是科幻元素,要解决人工智能控制问题,我们不能只靠理论或幻想。

 

但是,这些解决方案要么太简单,(比如尝试将人类喜好的整个的复杂性用精巧的语言来定义),要么包罗人类所有的复杂到简单的单词、词组或思想。举个例子来说,试图给出一个连贯的、可操作的定义“尊重”一次,是非常困难的。


“这并不是说,这种简单的技巧是无用的,许多此类建议揭示了好的研究途径,而且有助于解决最终的问题,”阿姆斯特朗说。 “但是,在没有大量工作来发展和探索这些技巧之前,我们不能完全信赖它们。”


◆ ◆ ◆

误解六:"我们将被超人工智能毁灭。"



现实:现在还没有证据保证人工智能会毁灭我们,或者我们将来一定没有办法来控制它。正如人工智能理论家Eliezer Yudkowsky所说:“人工智能不恨你,也不爱你,但你是由可以用做别的东西的原子组成的”。

 

他的书《超级智能》中写道:路径,危险,策略,牛津大学哲学家Nick Bostrom写道,真正的超级智能人工一旦实现,可能会造成比以往人类任何发明更大的风险。著名思想家Elon Musk,比尔·盖茨和斯蒂芬·霍金(霍金警告说,人工智能可能是我们“历史上最严重的错误”)也同样警告这一点。

 

Mclntyre说,对于超级人工智能可以实现的大多数目标,有很好的理由让人类退出这些过程。

 

“一个人工智能或许能够非常准确地预测,我们不希望牺牲消费者、环境和非人类动物的利益为代价,来给某个公司带来最大化的利润,”McIntyre说。 “因此,它会有强烈的动机以确保自己不被中断或干扰,包括被关闭,或其目标被改变,因为这样这些目标将无法实现。”

 

除非ASI的目标精确地反映我们自己的目标,McIntyre表示,它将有很好的理由不让我们停止它的操作。并且由于它的智力水平大大超过了我们自己的,我们并不能做些什么(来阻止它)。

 

但万事无绝对,也没有人可以肯定人工智能会采取何种形式,以及它如何可能危及人类。Musk指出,人工智能实际上可以用于控制、调节和监控其他人工智能。或者,它可能被灌输人类价值,以及强制要求友好对待人类。

 

◆ ◆ ◆

误解七:“超人工智能会很友好。”



现实:哲学家Immanuel Kant相信智能与道德密切相关。神经学家David Chalmers也在他自己的论文“The Singularity: A Philosophical Analysis(奇点:从哲学角度分析)”中采用了Kant这一著名的观点,并将其用在了解释超人工智能的崛起之中。

 

如果这是正确的,那我们可以预测“智能爆炸”将会同时引发一场“道德爆炸”。我们还可以预测由此产生的超人工智能系统将会在超智能的同时也是超道德的,因此我们大概可以推测这是良性的。

 

但是认为先进的人工智能会是开明并且天生就好的观点是站不住脚的。正如Armstrong所指出的,有许多战犯都是很聪明的。智力与道德之间的联系好像并不存在于人类身上,因此他对这一联系存在于其他智能形式的假设提出了质疑。

 

他说:“行为不道德的聪明人可能会给他愚蠢的同胞们带来更大规模的伤害。智力恰好赋予了他们更聪明地做坏事的能力,而并不会使他们变好。”

正如McIntyre所解释的,一个代理达成目标的能力并不取决于这个目标一开始是否聪明。他说:“如果我们的人工智能具有独一无二的在变聪明的同时会变得更加道德的能力,那我们是非常幸运的。但是,单纯依靠运气面对某些可能会决定我们未来的东西,并不是很好的策略。”

◆ ◆ ◆

误解八:“来自人工智能的危险和机器人是一回事。”



现实:这是一个特别常见的错误,一个被不加批判的媒体和《终结者》这类好莱坞电影延续的错误。

 

如果像天网(Skynet)那样的超级人工智能真的想毁灭人类,它不会使用挥舞机关枪的机器人。它会使用更有效的手段,比如:释放生物瘟疫,或发动基于纳米技术的灰蛊灾难。或者,它可以直接破坏掉大气层。人工智能是潜在的危险,并不因为它意味着机器人的未来,而是它将如何对世界展现它的存在。

 

◆ ◆ ◆

误解九:“科幻小说是对未来人工智能的精神描述。”



人类思想如此丰富,所以各种科幻中的人工智能也是多种多样的


现实:当然,很多年以来作家和未来学家都利用科幻来作梦幻般的预言,而是由ASI带来的视界是一个不同颜色的马。更重要的是,人工智能是非常“不人道的”,因此我们很难了解和预测其准确性质和形式。


要想让科幻来娱乐弱小而可怜的人类,我们需要将“人工智能”描述成类似我们自己。“人类的思想也是千差万别的;即使在人类内部,你可能和你的邻居完全不同,而这种差别和所有可能存在的头脑相比是微不足道的。“麦金太尔(McIntyre)说。


大多数科幻是为了讲述一个引人入胜的故事,并不需要在科学上准确无误。因此,在科幻中即使是对等的实体之间也往往存在冲突。 “想象一下,的是,”阿姆斯特朗说,“如果人工智能没有意识、喜悦、爱恨,根除了一切人类的痕迹,以实现一个无趣的目标,那将是一个多么无聊的故事。”

 

◆ ◆ ◆

误解十:“人工智能将接手我们所有的工作,这太可怕了。”



现实:人工智能自动完成人类工作的能力与它摧毁人类的潜能是两回事。但《机器人的崛起》一书的作者马丁 · 福特却认为:技术的进步和未来的失业往往是密不可分的。思考人工智能在未来可能扮演的角色无可厚非,但是我们更应该关注的是后面几十年的问题。人工智能主要完成的还是大规模自动化的工作。

 

毫无疑问,人工智能将彻底接管包括从工厂做工到上层的白领工作在内的许多现有的工作岗位。有专家预测,在美国有一半的工作岗位可能在不久的将来实现自动化。

 

但这并不意味着我们不能适应这种巨变。通过人工智能将自己从纷杂的体力和脑力劳动中解放出来,不也是人类的美好愿景吗?


“在接下来的几十年中,人工智能会摧毁许多工作,但是这是一件好事,”米勒告诉Gizmodo。例如,自动驾驶汽车可以取代卡车司机,这将减少运输成本,从而降低它的商品购买价格。 “如果你是一名卡车司机,那你可能输了,但其他人会得到有效加薪,他们的薪水可以买更多的东西,”米勒说。 “而这些人将钱节省下来可以购买其他商品和服务,因而会创造新的工作。”

 

所以最终的结果可能是,人工智能会产生创造财富的新途径,而人类可以腾出来做其他事情。而在人工智能的进步将带动其他领域,尤其是制造业的发展。在未来,满足人类需求会变得更加容易,而不是更难。


请点击以下链接查阅:

【前沿展望】人的智能与人工智能的现在和未来

【防务观察】智能战场——DARPA通过人工智能支撑新“抵消战略”

【科技评论】是“人工智能”还是“人工低能”?

【专家视点】王曦:人工智能再强大,能强过乔布斯吗?|关于乔布斯最深刻的文章

【专家视点】顾险峰:奇点降临 - 人工智能对决人类

【科技评论】人机大战给军队改革带来的启示

【科技评论】谭铁牛:人工智能,天使还是魔鬼

【科技专论】互联网终结,人机智能崛起

【科技评论】人工智能赢了棋,人类赢了未来

【前沿评论】科大讯飞刘庆峰:人工智能全球决战未来十年

【科技评论】人工智能关键技术决定机器人未来

【科技评论】人工智能的崛起 开启万物感知新时代

【防务资讯】DARPA局长谈人工智能

【科技观察】人工智能全球投资脉络

【科技评论】人工智能:下一个互联网革命

【科技评论】人工智能:人类走向加速灭亡之路

【前沿动态】人工智能的崛起:智商测试得分超过四岁儿童

【专家观点】谭铁牛:智能化时代生物识别的机遇与挑战(附报告全文)

【科技评论】人民日报:迎接机器人时代的到来

【科技评论】吴甘沙:大数据的六大人工智能变现方式

【科技评论】科大讯飞徐景明:人工智能的波浪式创新

【特邀专栏】刘言锋语:人工智能6个智能分级

【科技评论】人工智能≠类人智能:超越图灵测试的世界观

【刘言锋语】开展AI智商测试应首先建立统一人和机器的标准智能模型

【前沿动态】新人工智能系统 | 涌现计算 | 脑机接口 | 无人驾驶船 | 无人潜航器

【专家观点】王喜文:工业4.0与智能机器人

【科技观察】人工智能发展到了哪一步?

👀六大技术定义2016年 人工智能和机器人领衔

【科技评论】智能服务机器人前瞻,红海派对决蓝海派(2万字实录)

【科技评论】图灵测试先天不足?解决人工智能威胁论争论的四个困难--AI 智商测试2015

【特邀专栏】"刘"言"锋"语:,互联网大脑计划系列四——互联网+脑科学,21世纪带给中国重大理论创新机遇

【科技评论】2016年十大趋势:人工智能终结屏幕时代/虚拟成真

【防务资讯】俄罗斯为军队研发人工智能,组建战斗机器人部队

【特邀专栏】"刘"言"锋"语:冯•诺依曼架构在新人工智能时代的进化

【好书推荐】《与机器人共舞》:一篇文看全人工智能发展史

【前沿观察】雅虎预测2016年十大科技变化: 虚拟现实到来、人工智能崛起

【科技评论】徐伟:视觉、语言以及人工智能展望

【前沿预测】未来15年科技趋势预测:人工智能、无人、大数据、3D打印等前沿技术获得广泛应用

【科技评论】徐伟:视觉、语言以及人工智能展望

【科技评论】刘锋:警惕人工智能程序员 ,而不是恐惧人工智能毁灭人类

【科技评论】2015年六大科技趋势:机器人和人工智能爆发

【科技资讯】人工智能或将取代人类直觉:数据背后隐藏规律

【科技评论】《TIME》: 2016年关于人工智能的5大预测

【科技评论】征服未知海底的利器 ——详解智能水下机器人

【讲座预告】《互联网进化论》作者刘锋:互联网、人工智能和脑科学的关系(12月5日,北京信息科技大学)

【科技观察】2015 全球人工智能 76 件大事(国际篇+国内篇)

【科技评论】人工智能的未来,想象与现实的冲突

【前沿动态】美科技公司研制复活术:用人工智能让死者起死回生

【科技动态】科技界十大上升和下降的趋势名词:人工智能上升,大数据下降

【科技评论】第七次信息革命,人工智能人将取代人类

【特别推荐】人工智能产业深度研究报告

【防务资讯】美军在六项技术上下赌注:含机器人和人工智能

【科技评论】人工智能威胁论,著名企业家与人工智能学家的激烈对抗

【科技评论】人工智能的未来,想象与现实的冲突

【特别推荐】人工智能产业深度研究报告

【科技评论】未来的某一天人工智能会超越人类,机器人会统治世界?

【科技评论】高度重视发展感知信息技术产业 抢占智能时代制高点

【专家观点】胡郁:人工智能需要一场认知革命么?(31页PPT加报告全文)

【专家观点】沈晓卫:认知计算引领产业智能化(PPT精选及报告全文)

【专家观点】谭铁牛:智能化时代生物识别的机遇与挑战(附报告全文)

【专家观点】应行仁:智能的进化与博弈

【科技评论】“863计划”智能机器人专家组组长赵杰:对下一代工业机器人的思考

【科技动态】精准医疗背后的人工智能技术

【科技动态】人工智能时代即将来临:机遇与挑战并存

【科技评论】搜索引擎到人工智能的终极演进

【科技评论】人工智能的产业“迷思”

【科技评论】人工智能成为现实必须实现三大突破

【科技评论】云端仿人智能机器人是唯一超车路径(附李彦宏“中国大脑”提案解析)

【科技评论】科技公司的"军备竞赛":人工智能迎来大爆发

【特别推荐】对硅谷和硅谷科技公司的十四问,全程干货

【特邀专栏】人工智能大跃进——看看物理学家怎么说:懂了你就不怕了

【科技资讯】微软Adam挑战Google Brain:我的机器学习比你快

【科技评论】人工智能是人类的“终结者”吗?

【科技评论】新技术炒作周期图:大数据顶峰滑落,人工智能、神经技术崛起

【科技评论】可穿戴计算开启新科技革命:人工智能

【科技评论】十大超越人类极限的未来技术

【科技资讯】德勤报告:“人工智能”的系统概述

【科技评论】人工智能未来的担忧

【科技评论】我们将永生还是灭绝?人工智能很快会给出答案(下)

【科技评论】重塑格局,制造业的未来在美国而非中国

【科技评论】人工智能+物联网=?

【科技评论】人工智能,一个新的夏天

【科技资讯】牛津描绘12种末日情景:从生态崩溃到人工智能

【科技资讯】谷歌两创始人同台受访:人工智能是未来

【原创文章】人工智能不是未来,谷歌百度面临重大挑战

【科技评论】王飞跃: 人工智能九问九答

【科技评论】人工智能需要有大数据支撑

【科技评论】人工智能时代的孤独

【科技资讯】硅谷新军备竞赛:人工智能

【科技评论】当3D打印遇上工业4.0  智能时尚成时代趋势

【科技评论】谭铁牛院士:人工智能的七大现状与发展展望

【科技评论】我们将永生还是灭绝?人工智能很快会给出答案(上)

【科技评论】发展人工智能要慎之又慎

【科技评论】潜伏的强大暗流:终极智能的群组进化路径

【科技资讯】人工智能的黎明

【科技评论】人工智能:我们是否过度狂热?

【科技评论】互联网,脑科学与人类的未来

【科技资讯】马斯克和霍金签名倡议禁止人工智能武器

【科技评论】人工智能发展史:由“机器人”到“人机器”

【科技资讯】Google Brain:Google X 诞生的人工智能项目

【科技评论】人工智能将成为人类终结者?

【科技动态】人工智能:当第二次机器革命时代来临

【科技评论】人工智能与人类智慧的交锋

【科技动态】人工智能领域新突破 百度发布基于深度学习的在线翻译系统

【科技评论】人工智能:让机器拥有学习能力

【科技评论】智能机器人将成为新科技主角

【科技评论】人工智能如何重新定义人类的意义

【科技评论】霍金:人工智能未来或超越人类 成为危险

【科技动态】谷歌牛津合作研制类人机器人:像人一样思考

【科技评论】人工智能的未来

【科技评论】人工智能:拿什么向奇点迫近

【科技评论】李德毅:机器人革命真的要来了 ——大数据时代的跨界创新

【科技资讯】重振人工智能雄心壮志的时刻已经到了!


前沿君微信:tech9999

投稿邮箱:13355524@qq.com


【重磅推荐】“战略前沿技术”2015年全部历史文章已整理完毕,请回复“2015”或点击自定义菜单中的历史文章“2015文章全收录”查阅!

【战略前沿技术】一网打尽系列文章,请回复以下关键词查看:【习/xi】【预见2016】【物联网/Iot】【马斯克/Musk】【采办/acquisition】【抵消/offset】【水下/undersea】【轰炸机/bomber】【能源/energy】【电池/cell】【凯文/kevin】【战争/war】【云/cloud】【排名/rank】【博士/doctor】【王喜文/xiwen】【黄志澄/zhicheng】【贺飞/hefei】【李萍/liping】【纳米/nano】【基金/fund】【机器人/robot】【俄/Russia】【加/plus】【量子/Quantum】【数据/data】【无人/UAV】【革命/revolution】【转化/transfer】【谷歌/google】【工业4.0/industry】【神盾/DARPA】【颠覆/disruptive】【3D/4D】【硅谷/silicon】【石墨烯/graphene】【智能制造/inte manu】【智能/AI】】【军民/integration】【激光/laser】【智库/tank】其他主题系列陆续整理中,敬请期待……

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存