上周，在日内瓦举办的联合国特定常规武器公约会议上，一段可怕的视频公诸于众：视频中，一群神似《黑镜III》中机器杀人蜂的小型机器人，通过人脸定位瞬间杀死了正在上课的一众学生，场面血腥。

伯克利大学教授、资深AI研究者Stuart Russell在视频的最后提醒人们，想象一下，这些致命的自动武器一旦落入恐怖分子之手，可能造成怎样的后果。

先来看看视频里几个可怕的画面：

一个体型类似蜜蜂的小型机器人飞入会场并轻易躲过演讲人抓捕，其拥有 anti-sniper 技术，完全基于 AI。

这个小东西蕴含可怕的黑科技：广角摄像头、传感器、面部识别，且在其中部，还有3克炸药。

来看看它的攻击效果，一击而中，极端致命。

看到这个武器，小编立马想起了《三体》里一种终极形态的武器——“水滴”，它形状与普通水滴相似，由被强互作用力紧密锁死的质子与中子构成，密度巨大，无坚不摧，仅一个水滴就能接连摧毁人类的一千多艘飞船，打击方式也是直接、精准穿透关键部位，和这段视频里一样。

视频最后还演示了一段飞行机器人集体攻击人类的画面，通过面部识别定位，轻易杀死了正在上课的一班学生。

在视频结尾，Russell发出警告，尽管这段视频和其中的杀人机器人并非真实，但视频中的科技目前已经存在。要避免视频中的悲剧发生，我们需要尽快行动。

https://v.qq.com/txp/iframe/player.html?vid=h0507tadzfo&width=500&height=375&auto=0
这段视频发布在本月13-17日的联合国特定常规武器公约会议上，这一会议由“杀手机器人禁令运动”（Campaign to Stop Killer Robots）组织，超过七十个国家的代表出席

今年8月20日，在墨尔本举行的2017国际人工智能联合大会上，包括美国特斯拉电动汽车公司CEO伊隆·马斯克、DeepMind联合创始人穆斯塔法·苏莱曼在内的116位机器人和人工智能公司创始人发表公开信，呼吁联合国在国际范围内禁止“致命性自主武器系统”的使用。

公开信指出，致命性自主武器系统足以构成第三次武器革命的威胁——前两次革命分别是火药和核武器。这种技术一旦开发成功，将有可能把战争冲突升级至从未有过的规模，而且会达到人类难以控制的速度。公开信的签署者们认为，致命性自主武器可能成为独裁者和恐怖分子残害无辜的手段，或者被黑客挟持。

致命性自主武器系统实际上是一种军用机器人，它可以不经过人类干预，自主选择和攻击包括人员和装备在内的军事目标，所以也被叫做“杀手机器人”。目前，拥有“人格”的智能技术尚未被从科幻电影搬到现实中，但是与此有关的技术的确正在朝着这个方向发展。

有人认为，在未来，致命性自主武器系统如果应用于战争，在军事方面会起到许多正面作用。例如，降低己方士兵的风险，降低人与人之间近距离战争的代价。此外，自主武器系统也省去了军人的薪水、住房、养老、医疗等开销，又在速度、准确性上高于人类，而且不用休息。有别于人类战斗员会在战场上出现心理和情绪波动的特点，人工智能武器更稳定，并且能够抵达人类不可及之处，完成搜救和保护任务。