强大的计算机将重塑人类的未来。而人类又该如何确保科技的发展能够超越其潜在的危险呢？

“人工智能的彻底发展可能将招致人类的终结，”斯蒂芬·霍金如此警告道。埃隆·马斯克担忧AI，即人工智能的发展可能将成为全人类面临的最大生存威胁。比尔·盖茨也强调人们应该提防这项技术的发展。

人们害怕自己所创造的可憎之物可能成为自己的主人或侩子手，这种想法早已不是什么新鲜事。但这些声音若是出自一个享负盛名的宇宙学家、一个硅谷的企业家和微软的创建人（这些人都说不上是路德派），同时这些人还表示抵制对有如谷歌和微软等大公司研究的AI项目进行大规模投资，这样的担忧便有了新的影响。然而在人人口袋里都揣着超级电脑，无数机器人俯视着每一块战场的今天，仅仅如同科幻小说一般将其冷藏似乎也显得有些自欺欺人。关键问题是，如何明智地思考这种担忧。

你教会我语言，而我……

首先需要做的便是认识到计算机现在能做到什么，它们在未来又有可能做到什么。数据处理能力的提升与日益丰富的可用虚拟数据，AI在其功能上享受到了猛烈的发展。如今，通过“深度学习”系统，即对某个人类大脑表层的神经元进行复制并吸收大量数据，AI已经能自学完成包括从模式识别到翻译等在内的任务，这些任务几乎已经能代替人类完成了。于是，以前曾经还需要人脑完成的事情——如解释图片或玩一盘电子游戏《青蛙过河》，现在已经成为了电脑程序的一部分。2014年在Facebook上公布的DeepFace算法，已经能对不同的人脸以97%的概率准确识别。

最重要的是，这样的能力是集中而具体的。当今的AI技术是通过无理性的数据处理来制造出接近智能的形态，本身并无意愿估计出人的心智是如何使人类拥有意志自由、个人兴趣与欲望。计算机如今还不具备广阔、流畅的能力自主推算、判断与决定，它们距离传统人类理性层面上的智能还有一段距离。

然而AI技术已经拥有足够的能力对人类生活产生令人瞩目的影响。它已经能够通过弥补人类的能力极限来推进人类的开拓进程。比如国旗象棋，如今计算机能比随便某个人玩得还要好。然而世界上最优秀的玩家并不是机器，而是一群被国际象棋大师加里·卡斯帕罗夫（Garry Kasparov）称之为“半人马”的组合：一群由人类与计算机演算法配合组成的团队。这样的人机组合可能将在未来成为各种工作与活动中的常规：在AI的辅助下，医生们在医疗图像中发现癌细胞的能力将大大增强；智能手机里的语音识别算法将使第三世界数百万不识字的人们也能够进入互联网的世界；数字助理将能够为学术研究提出更靠谱的假设；图片分类算法将使得便携式计算机能够帮助人们对现实世界的事物分类出更实用的信息。

然而即便在短期内，也并不是所有影响都是积极的。比如AI技术被引用到政府的安保设备中。无论是独裁政府还是民主政府，AI技术所拥有的监听数十亿个对话并能通过不同人的声音与面部动作从人群中分辨出每一个市民的能力，都将为个人自由引来极大的威胁。

此外，即便社会可能从AI技术中获得广泛的利益，还是会有很多人因此而蒙受损失。最原始的“计算者”其实是那些做单调乏味工作的员工，通常还都是女性，他们常常需要为自己的上级完成无休止的计算。之后晶体管代替了他们的工作，而未来AI也很有可能将代替所有白领大军的工作。在教育与培训的帮助下，借助AI所创造的财富将被用在新的事业中，新的岗位也将因此而产生。然而工人们注定要离开他们的岗位。

不过，监视与下岗显然不是霍金、莫斯克和盖茨这三位先生所担忧的问题，也不是近些年激发好莱坞将众多未来式的AI电影搬上大屏幕的源泉。他们的担忧显得更为遥远，也更具有毁灭性：拥有超人的认知能力的自主机器人与智人（Homo sapiens）之间的利益冲突所招致的威胁。

这样的人工智能机器人的诞生还有很漫长的一段路要走；当然，这样的机器人也可能永远无法被创造出来。尽管近一个世纪以来人们对人脑东搜西罗般的探索，心理学家、神经专家、社会学家与哲学家要理解人类心智的组成，甚至是弄清楚人的心智是什么，都还有相当长一段路要走。更别说那些拥有独立兴趣与意志自由的智能机器，就算它们能力有限，将它们运用在商业领域的结果会是如何，这就更说不清楚了。一辆车自己能开得比车主好，这似乎是件很有价值的事情；然而如果一辆车拥有意志知道自己的目的地是哪儿，这就没那么好说了。

……我便知道如何咒骂

然而即便霍金先生口中预测的“彻底”发展的AI仍旧遥远，谨慎而言整个社会还是需要做好应对的计划。做法其实没看起来那么难，尤其是因为人类创造出具有超越人类能力与独立利益的自治体早已有一段时间。政府机关、市场与军队，它们全都能够完成那些缺乏援助、无组织的人们所无法实现的事情；它们都需要自治性来实现其运作；都能够自行发展成长并且也都能够造成强大的危害，除非建立一套公正的制度并受到法律与制度的管理。

想到这些同类者的存在，对AI深感恐惧的人应该能感到一丝安心；此外，他们还借此为社会提出安全发展AI技术的具体方法。就好比军队需要受到百姓的监督，市场需要受到法规的管理，而政府的行动必须透明、负责，AI系统也必须公开接受公众的详细监查。由于系统的设计者并不能遇见每一种后果，设置一个中断系统的途径也是必须的。这些约束可以在不影响发展发展的情况下落实实施。从核导弹到交通法规，人类已经使用科学的独创思维与法律的严格制约来控制AI技术以外的重大创新。

创造一个独立自主的非人类智能体的前景就犹如鬼魅一般非同寻常，人们甚至不惜掩盖由此引来的各种争议。不错，这当中确实存在风险。然而人们更不应该忽视AI技术的黎明为人类所带来的巨大利益。

（来源：译言网，译者：阿moyz）

2015年4月十篇精华文章（按阅读量排名）

请关注后【战略前沿技术】后，点击历史信息或回复201504查看。

日期	标题
20150409	美国高端产业：定义、布局及重要性
20150410	科研必备的软件神器，果断收藏！
20150406	学者能否从科研经费中获利?
20150416	“十三五”规划思路的十大转变
20150404	科研经费见物不见人，“最大受益者”是设备商
20150408	科研岗位怎么成了“风险岗位”
20150410	颠覆未来作战的前沿技术系列——微系统技术
20150406	中国制造2025》：是什么？为什么？干什么？怎么干？
20150423	国务院：支持高校和科研院所专业技术人员在职和离岗创业
20150424	NATURE发表“科研评价十原则莱顿宣言”

2015年3月十篇精华文章（按阅读量排名）

请关注后【战略前沿技术】后，点击历史信息或回复201503查看。

日期	标题
20150314	美国国防部瞄准未来六大颠覆性基础研究领域
20150315	人类未来十大最顶尖科学技术
20150301	《MIT科技评论》评选出2015年10大新兴技术
20150319	国防科技大学2015年招生简介（附招生专业、各省市招生联系人和历年录取分数线）
20150304	如何“正确”打开谷歌学术？
20150307	2020，中国基础研究走向何方？
20150314	科研经费报销“逼良为娼”，怎么破？
20150319	关于无人机，你需要知道的都在这里了
20150307	达沃斯发布2015十大新兴技术：飞行机器人、仿人脑芯片等技术入选
20150317	博士：学术塔尖上的“悬浮族”

2015年2月十篇精华文章（按阅读量排名）

请关注后【战略前沿技术】后，点击历史信息或回复201502查看。

20150205	美国DARPA十大尖端科学技术 领先当代20年
20150207	2014年度十大国防材料技术突破
20150211	如何撰写2015版国家自然基金标书（附全攻略）
20150213	院士爹对女儿的科研忠告
20150217	科技部关于开展“十三五”国家重点研发计划优先启动重点研发任务建议征集工作的通知
20150227	做科研的11条军规
20150207	智库建设急需高端人才
20150201	两院院士评选2014年中国和世界十大科技进展新闻揭晓
20150227	30个部委局办2015年工作部署汇总
20150227	45个全球免费开放的电子图书馆

2015年1月十篇精华文章（按阅读量排名）

请关注后【战略前沿技术】后，点击历史信息或回复201501查看。

日期	标题
20150102	2015 年度国家自然科学基金申请政策有重大调整
20150110	2014年度国家科学技术奖获奖名单
20150109	中国科研经费分配新办法出炉 "863""973"退出历史舞台
20150114	“透明计算”，凭啥摘得自然科学一等奖？
20150115	科技改变未来：预言300年后的人类
20150131	科研：新常态下的新规则
20150131	国外高效毁伤技术发展及趋势
20150116	全球百强创新机构排行榜出炉 大陆仅华为上榜
20150104	高校病了：教学之殇
20150104	科学研究方面的一些问题

查阅历史相关文章，请点击左下角“阅读原文”