原标题：人工智能“军备竞赛”的真正危险是什么

　　【环球科技】

作者：保罗·斯查瑞（新美国安全中心高级研究员兼技术与国家安全项目主任，专著《无人军团：自动武器与战争的未来》作者）编译者：杜珩（四川省社会科学院管理学所副研究员）

　　俄罗斯总统弗拉基米尔·普京早在2017年时就宣称，领导人工智能发展的国家将“成为世界的统治者”。这种观点显然在全球全面铺开，因为截至目前，已经有十几个国家宣布了本国的人工智能计划。2017年，中国发布《新一代人工智能发展规划》，制订了“到2030年人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心，智能经济、智能社会取得明显成效，为跻身创新型国家前列和经济强国奠定重要基础”的目标。2019年早些时候，美国白宫发布了《美国人工智能计划》，美国国防部推出了人工智能战略。

　　科技发力，创新进步固然是好事，然而近期，关于“人工智能军备竞赛”的新说法则反映了一种对其危险性的错误认识，这有可能引发重大的新风险。其实，对于每个国家来说，真正的危险并非在人工智能的竞争方面落后于对手，而是企图“竞赛”的这种高压态势，反而会促使各国急于部署并不安全的人工智能系统。想要先发制人并赢得胜利的各国，实际上面临着与对手国家一样多的危险。

1.一场没有人会获胜的比赛

人工智能带来从卫生保健到交通等全方位巨大的好处，还有巨大的风险。这些风险并不像科幻大片里演的那样是机器人的崛起，真正的威胁来自于人类自己。

目前，人工智能系统虽然功能强大但并不可靠。很多人工智能系统不仅在受到复杂的攻击时会变得脆弱，而且在受训的环境之外使用时常会失灵。政府确实是希望系统能平稳运行，但是“军备竞赛”的大环境却让一些人只顾得了眼前却管不了将来。即使其他国家实际上并没有实现人工智能系统的重大突破，但是认为他们的技术正在突飞猛进的猜测，却足以促使另外一些国家投身“竞赛”。如果某国政府部署了未经测试的人工智能武器系统或依靠有故障的人工智能系统来发起网络攻击，可能会对所有参与其中的人与国家造成灾难性的后果。

各国政治家们应该从计算机网络发展的历史中进行学习，从一开始就将安全性作为人工智能设计的主要因素；还应该减少有关人工智能军备竞赛的言论，并寻求机会与其他国家合作研究降低人工智能风险。归根结底，人工智能军备竞赛是一场没有人会获胜的比赛。

最简单的人工智能系统通过遵循人类预先设置的一系列规则来执行任务。虽然我们很难把飞机自动驾驶仪或报税软件背后的技术视为人工智能，但这些众所周知的“专家系统”已经存在了几十年，而且现在它们无处不在。过去的几年中，数据收集、计算机处理能力和算法设计的飞速发展，研究人员通过更灵活的方法在人工智能方面取得了重大进展：机器学习。

机器学习是指程序员无须编写规则，机器通过分析给定的数据来拾取它们。给算法提供数千张带有对象标签的照片，它将学习识别图像中的图案并与对象名称建立关联。人工智能的繁荣始于2012年，研究人员依靠人工深度神经网络，在机器学习技术的“深度学习”方面取得了重要突破。人工神经网络是受生物神经元启发的一种智能技术，模拟生物神经元通过发送和接收电脉冲与其他细胞进行交流。人工神经网络最初就像是一片空白一无所知的领域，然后系统通过调整神经元之间的连接强度，增强正确答案的路径连接以及减弱错误答案路径连接来进行学习。深度神经网络——深度学习，是一个在输入层和输出层之间具有多层人工神经元的神经网络，额外的神经元层次允许不同路径的强度具有更多可变性，从而帮助人工智能在更大范围内应对各种情况。

2.几乎无所不能的人工智能

系统如何精确学习取决于开发人员选取哪种机器学习算法以及提供哪些数据。许多机器学习方法使用已标记的数据（称为“监督学习”），但是机器也可以从未标记的数据（“无监督学习”）或直接从环境中学习（“强化学习”），机器还可以根据计算机合成的数据进行学习。Waymo是一家研发自动驾驶汽车的公司，其研发的自动驾驶汽车已经在公共道路上行驶超过一千万英里，而该公司每天在计算机上模拟记录行驶一千万英里，从而能够利用数十亿英里的合成数据来测试自动驾驶汽车的算法。