人工智能|人工智能“军备竞赛”的真正危险是什么国际

【人工智能|人工智能“军备竞赛”的真正危险是什么】

【人工智能|人工智能“军备竞赛”的真正危险是什么】本版图片均为资料图片
【环球科技】
俄罗斯总统弗拉基米尔·普京早在2017年时就宣称，领导人工智能发展的国家将“成为世界的统治者” 。这种观点显然在全球全面铺开，因为截至目前，已经有十几个国家宣布了本国的人工智能计划。 2017年，中国发布《新一代人工智能发展规划》，制订了“到2030年人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心，智能经济、智能社会取得明显成效，为跻身创新型国家前列和经济强国奠定重要基础”的目标。 2019年早些时候，美国白宫发布了《美国人工智能计划》，美国国防部推出了人工智能战略。
科技发力，创新进步固然是好事，然而近期，关于“人工智能军备竞赛”的新说法则反映了一种对其危险性的错误认识，这有可能引发重大的新风险。其实，对于每个国家来说，真正的危险并非在人工智能的竞争方面落后于对手，而是企图“竞赛”的这种高压态势，反而会促使各国急于部署并不安全的人工智能系统。想要先发制人并赢得胜利的各国，实际上面临着与对手国家一样多的危险。
1.一场没有人会获胜的比赛
人工智能带来从卫生保健到交通等全方位巨大的好处，还有巨大的风险。这些风险并不像科幻大片里演的那样是机器人的崛起，真正的威胁来自于人类自己。
目前，人工智能系统虽然功能强大但并不可靠。很多人工智能系统不仅在受到复杂的攻击时会变得脆弱，而且在受训的环境之外使用时常会失灵。政府确实是希望系统能平稳运行，但是“军备竞赛”的大环境却让一些人只顾得了眼前却管不了将来。即使其他国家实际上并没有实现人工智能系统的重大突破，但是认为他们的技术正在突飞猛进的猜测，却足以促使另外一些国家投身“竞赛” 。如果某国政府部署了未经测试的人工智能武器系统或依靠有故障的人工智能系统来发起网络攻击，可能会对所有参与其中的人与国家造成灾难性的后果。
各国政治家们应该从计算机网络发展的历史中进行学习，从一开始就将安全性作为人工智能设计的主要因素；还应该减少有关人工智能军备竞赛的言论，并寻求机会与其他国家合作研究降低人工智能风险。归根结底，人工智能军备竞赛是一场没有人会获胜的比赛。
最简单的人工智能系统通过遵循人类预先设置的一系列规则来执行任务。虽然我们很难把飞机自动驾驶仪或报税软件背后的技术视为人工智能，但这些众所周知的“专家系统”已经存在了几十年，而且现在它们无处不在。过去的几年中，数据收集、计算机处理能力和算法设计的飞速发展，研究人员通过更灵活的方法在人工智能方面取得了重大进展：机器学习。
机器学习是指程序员无须编写规则，机器通过分析给定的数据来拾取它们。给算法提供数千张带有对象标签的照片，它将学习识别图像中的图案并与对象名称建立关联。人工智能的繁荣始于2012年，研究人员依靠人工深度神经网络，在机器学习技术的“深度学习”方面取得了重要突破。人工神经网络是受生物神经元启发的一种智能技术，模拟生物神经元通过发送和接收电脉冲与其他细胞进行交流。人工神经网络最初就像是一片空白一无所知的领域，然后系统通过调整神经元之间的连接强度，增强正确答案的路径连接以及减弱错误答案路径连接来进行学习。深度神经网络——深度学习，是一个在输入层和输出层之间具有多层人工神经元的神经网络，额外的神经元层次允许不同路径的强度具有更多可变性，从而帮助人工智能在更大范围内应对各种情况。