人工智能|人工智能“军备竞赛”的真正危险是什么( 三 ) 国际

中国已经是人工智能方面的全球强国，这也是华盛顿不甘落后急于开发人工智能的原因。全球领先的人工智能公司排名，中国的科技巨头阿里巴巴、百度和腾讯紧随亚马逊、谷歌与微软其后。 2018年注资最多的10家人工智能初创企业中有5家是中国企业。几年前，中国提出到2030年成为全球人工智能领导者的目标似乎还是纸上谈兵，现在则完全可能成为现实。
美国的现实情况是华盛顿和硅谷之间在军事使用人工智能方面存在巨大分歧。谷歌与微软的员工反对他们与五角大楼签订的公司合同，导致谷歌停止使用人工智能分析视频素材的项目。由于政府与民间的分歧，哪怕美国在人工智能研发方面保持领先地位，也会失去军事优势。政府合理的反应是将自己在人工智能上的投资加倍，然而问题在于，人工智能技术是把双刃剑，不仅会给输掉比赛的一方带来风险，同样也会给赢得比赛的一方带来风险。
4.未可知的风险与挑战
当今的人工智能技术功能虽然强大但并不完全可靠。基于规则的系统无法处理程序员未曾预见到的情况，学习系统也受到训练数据的限制，人工智能的失败已经导致了一些悲剧发生。自动驾驶汽车的先进功能虽然在某些情况下表现良好，但无预警地将汽车撞向卡车、水泥路障以及停放着的汽车的情况也时有发生。当出现与训练场景不一样的突发状况，人工智能系统会瞬间从超级智能变为超级白痴。当敌人试图操纵和入侵人工智能系统时，导致的风险将更大。
虽然有时不会完全崩溃，但学习系统也会以错误的方式实现目标。去年的一篇研究论文中，有52位研究人员对人工智能系统表现出几十次异常的行为进行了阐述：学习在模拟环境中行走的算法发现，通过反复摔倒可以更快地移动；一个玩俄罗斯方块的机器人学会了在最后一块积木掉下来之前暂停游戏，这样它就永远不会输掉；一个程序自动删除了不能让自己得到高分的评估文件。正如研究人员写道：“从功能实现角度来讲，人工智能在迭代过程中寻找设计上的漏洞比实现人类为其设定的预期目标要容易得多。 ”给人类带来惊喜或是惊吓似乎是人工智能学习系统的标准特色。
机器学习系统的性能优劣与其拾取的训练数据密切相关，如果数据不能很好地反映系统的运行环境，则该系统在现实世界中就会发生故障。麻省理工学院媒体实验室的研究人员2018年发现，三个主流的面部识别系统，在识别深色皮肤方面比识别浅肤色要差很多。
当机器学习系统出现失误时，也会像人类一样沮丧并变得阴晴不定。即使研究人员并不一定每一次都能预测到机器的行为，对于基于规则的人工智能系统，研发者大体还是可以解释机器的行为。然而对于深度学习系统，研究人员往往无法理解机器为什么要这样做。谷歌公司的人工智能研究人员阿里·拉希米（Ali Rahimi）认为，中世纪的炼金术士虽然发现了现代玻璃制造技术，但并不了解这一突破背后的化学或物理原理，与此相似，现代正在研发机器学习的工程师们也能在人工智能上取得重大突破，但相应的基础科学还没有发展到能对此进行解释的程度，是技术走到了科学的前头。
人工智能系统的每一次故障都会成为一个可以利用的漏洞。在某些情形下，攻击者可以使训练数据中毒。微软公司在2016年创建了一个名为泰（Tay）的聊天机器人，并为其开设了推特账户。当一些用户对泰发布攻击性的推文后，不到24小时泰就开始鹦鹉学舌地模仿他们的种族主义和反犹太言论。这就是一个显而易见的数据中毒的例子，但不是所有的数据中毒攻击都如此明显，有些潜伏在训练数据中人类无法检测到，却在暗中操纵机器的运作。
深度学习系统的创建者即使保护了数据源，攻击者也可以通过提供精心定制的输入—对抗性样本—来欺骗系统让机器犯错误。正常图像的轻度变形，人类可以一眼就看穿却能够糊弄人工智能。对卫星图像分类的神经网络系统会被对抗性样本欺骗，把稍加变形的医院图片识别为军事机场，反之亦可能。对抗性样本甚至可以就是具体的物体。一个案例中，物体识别系统把龟壳上嵌有细微旋涡的塑料乌龟识别为步枪；另一项研究中，研究人员在停车标志前放置了几个白色和黑色的小正方形，这些干扰让神经网络系统将其辨识成每小时45英里的限速标志。更糟糕的是，入侵者根本无须访问训练数据或他们试图打败的系统底层算法，就可以开发出这类欺骗性图像和物体，因此研究人员也一直在努力寻找有效的防御手段来抵御这种威胁。此类威胁与网络安全漏洞不同，后者通常可以在发现漏洞后通过打补丁进行修补，前者还没有办法可以针对攻击对算法提前打预防针。