IPP评论|英国智库RUSI报告：人工智能与国家安全( 五 ) 近日

四、恶意人工智能的潜在风险
人工智能可以带来好处，但它也有其黑暗面，黑客利用人工智能制作恶意软件攻击的做法早已屡见不鲜。更让人不安的是，一些不受同等法律框架约束的敌对国家正在大力开发恶意人工智能。网络犯罪集团在未来也会通过科技的高速发展，使用更高级的恶意人工智能进行犯罪活动。
1.数字安全
人工智能恶意软件给英国国家安全造成的威胁在未来将成为常态。具体地说，许多传统的恶意软件防御措施几乎无法检测到使用无限数量的加密算法的多态恶意软件。这些软件可主动确定攻击目标，对攻击目标进行优先排序，环境适应力强，可在无人为操控的情况下传播。另一个值得关注的问题是域生成算法的恶意使用。域生成算法在恶意软件中用于生成大量的域名，这些域名可用于与恶意软件的命令和控制服务器的通信，例如，受感染的计算机可创建数千个域名，这无疑加大了反制僵尸网络的难度。
近年来，更多的黑客转向利用人的弱点即社会工程学法来实施网络攻击，这通常被认为是一种欺诈他人以收集信息、行骗和入侵计算机系统的行为。社会工程学攻击以不同形式，通过多样的攻击向量进行传播，例如，在大多数情况下，攻击者利用受害者账户发送电子邮件，由于人们通常更容易相信来自熟人的邮件附件或链接，从而让攻击者轻松得手。
人工智能在商业领域的应用也存在着不小的风险，而这些风险很可能会被黑客利用。针对训练数据的供应链攻击可能会导致人工智能系统无法正常运行。攻击者还可通过训练算法将恶意软件伪装成合法软件在人工智能系统中安装后门程序。
2.政治安全
随着人工智能的发展，造假技术也越来越高级。深度伪造技术是人工智能的另一种形式，可用于歪曲事实，甚至可对政治秩序构成威胁。这项技术利用生成对抗网络（GAN）的机器学习技术，将现有的图像和影片添加到目标图像或影片上，例如换脸、像傀儡般的同步动作、伪造声带、唇形同步等。 2019年5月，三星电子（Samsung）的研究人员展示了一个人工智能系统，该系统可根据照片生成“会说话”的视频。英国2019年大选前夕，一位名叫比尔·波斯特（BillPosters）的艺术家公布了一段以深度伪造技术制作的视频。在该视频中，首相候选人鲍里斯·约翰逊（BorisJohnson）和杰里米·科尔宾（JeremyCorbyn）相互支持对方竞选首相。他想以此告诫公众：人工智能是一把“双刃剑” ，既能助力社会发展，也能对社会带来危害。
假视频很容易被识破，但由于数字内容在网上传播的速度很快，决策者有可能会被虚假信息误导，给国家带来灾难性的后果。
3.实体安全
尽管目前人工智能武器化的案例很少，但恐怖分子可利用商业人工智能系统进行犯罪活动，例如，使用无人机或自动驾驶车进行恐怖袭击。可以肯定，这些风险会随着人工智能的高速发展而进一步加大。据预测，到2035年，自动驾驶车在欧洲的销量将达到世界汽车总销量的31% 。此外，人类还可借助人工智能轻而易举地完成需要专业技术的任务，例如军事无人机的“集群攻击” ，即利用分布式人工智能网络，使无人机具备持续监视、大区域预警、对特定目标执行快速协调攻击等能力。
物联网、“智慧城市”和基础设施互联互通暴露出的问题让黑客找到了可乘之机。虽然这些威胁尚未明确，但威胁仍无处不在。因此，英国政府需要制定积极、主动的政策应对人工智能对国家安全的威胁。