“算法战争”的概念、特点与影响本文转载自安全观作者：龙坤

本文转载自安全观

作者：龙坤，国防科技大学文理学院硕士研究生

朱启超，国防科技大学国家安全与军事战略研究中心主任、研究员

来源：《国防科技》2017年第六期、战略前沿技术

党的十九大报告明确提出“加快军事智能化发展”，而人工智能算法正是驱动智能化战争的引擎。近年来，美国智库学者提出“算法战争”的概念，美军已认可这一概念，并在“算法战争”的准备上展开了相关筹划。目前，国内学术界对人工智能的军事应用有了越来越多的关注，但是对于“算法战争”这一概念的研究尚不多。笔者认为，“算法战争”是理解智能化战争的重要概念，正确理解其内涵和影响对于推动我国军事领域智能化发展具有重要意义。

一、“算法战争”的概念

算法（algorithm）是计算机科学领域的一个专业术语，指的是“一种有限、确定、有效并适合用计算机程序来实现的解决问题的方法，是计算机科学的基础。”通俗来讲，算法就是解决问题的一系列清晰指令，是用系统的方法来求解问题的一种策略机制。构建算法的核心内涵则是创建基于问题的抽象模型，并根据目标问题选择不同的方法完成算法的设计。

“算法战争”（algorithmic warfare）这一概念较早见于2013年4月一篇题为《“震网”病毒与“算法战争”的曙光》（Stuxnet and the Dawn of Algorithmic Warfare）的博文。该博文的作者是美国智库“大西洋理事会”网络治理倡议研究项目（Cyber StatecraftInitiative at the Atlantic Council）主任詹森·希利（Jason Healey）。他认为，尽管具有破坏性的自主机器人是一种早就存在于科幻小说中的陈旧情节，但是近期以来这种新型战争模式的科幻色彩逐渐褪去。带来这种战争模式的既不是挂载导弹的无人机，也不是“终结者”机器战士，而是一个软件。“震网”病毒成为首个用算法取代人手来扣动扳机的自主武器。虽然文中没有给出“算法战争”概念的明确定义，但是这个概念日益受到美国学术界和军方的重视。2016年9月，哈佛大学法学院发布了一份题为《战争算法问责》（War-Algorithm Accountability）的研究报告，该报告将“战争算法”定义为“通过电脑代码表达（expressed by computer code）、利用构建系统实现（constructed system）以及能在与战争相关的行动中运作的算法。”2017年4月26日，美国国防部副部长罗伯特·沃克签署了一份关于“专家项目”（Project Maven）的备忘录，明确要建立“算法战跨职能小组”，标志着美国军方对“算法战争”概念的正式认可。

分析来看，“算法战争”的内涵可以总结为以下几点：第一，“算法战争”的主体既可包括国家行为体，也可以包括非国家行为体。例如，美军利用人工智能算法分析“伊斯兰国”的相关行动数据，试图找出其发动袭击的规律，破解其袭击策略，以便更有效地击败“伊斯兰国”。而“伊斯兰国”等恐怖组织的技术人员也可利用算法分析情报，应对美国等国家的军事打击；第二，“算法战争”的客体（即攻击对象）非常广泛，既可以包括与人工智能算法应用相关的交通、电力等网络基础设施，也可以通过算法支撑的武器装备系统直接攻击对方人员；第三，“算法战争”的作战手段主要是以人工智能算法为主要技术支撑的武器装备、作战平台、后勤保障系统等，这也是“算法战争”与其它战争模式的主要区别所在。比如，在波斯湾战争中，美军配备了一个基于算法的动态分析和重规划工具DART，用于自动化的后勤规划和运输调度，极大地提升了后勤保障效率，可以看做是美军将算法用于战争的一个早期缩影。第四，“算法战争”的目的是国家或非国家行为体利用算法工具，或通过实施物理打击最大限度地保存自己和消灭敌人，或进行威慑以达到“不战而屈人之兵”的效果，从而为自身的政治目的服务。概括来看，“算法战争”是将算法运用于战争领域，通过挖掘人工智能算法在态势感知、情报分析、指挥决策、打击行动等方面拥有的巨大潜力，用算法方式破解战争攻防问题，从而达到在战争中致胜、为政治服务的目的。

二、美军筹划“算法战争”的主要举措

虽然“算法战争”是一个较新的概念，但是美军对“算法战争”的筹划却早已展开，通过制定相关战略并推出作战概念和技术项目，牵引“算法战争”能力的准备。

（一）将筹划“算法战争”作为第三次“抵消战略”的重要内容

为了保持技术领先优势，美军自上个世纪以来先后制定了三次“抵消战略”。第一次“抵消战略”是在二十世纪五十年代，当时美国依靠在核技术方面拥有的先发优势，构建起庞大的核武库，以威慑和抵消苏联强大的常规力量；到了二十世纪七十年代，美军又启动“长期研究与规划”项目，拉开了第二次“抵消战略”的序幕。该战略立足当时美苏核平衡条件下，利用新技术发展以精确制导武器为主的常规武器以应对美苏有限战争，为赢得对苏优势奠定了基础。

最近的一次“抵消战略”肇始于2014年9月3日，时任美国国防部长查克·哈格尔在演讲中称“美国在陆、海、空及网络空间占主导地位的时代已经不能再被视为理所当然”。哈格尔直言中国和俄罗斯等国正在利用精确制导技术发展“反介入与区域拒止”（A2/AD）能力,这严重威胁了美军在全球的自由介入和军事存在。为了应对和消除这种威胁，哈格尔授命时任美国国防部常务副部长罗伯特·沃克利用美国在大数据、隐身等技术方面的优势发展“改变游戏规则的抵消战略”。2014年11月15日，美国国防部发布《国防创新倡议》（Defense Innovation Initiative,简称DII），以期利用科学技术维持美军在21世纪的优势地位，第三次“抵消战略”正式成型。

此次抵消战略重点发展以人工智能为核心的五大技术领域：机器自主学习、人机协作、机器辅助人工作业、有人-无人作战编队以及联网化网空加固的半自主化作战能力。在人工智能的研究上，美国政府给与了高度重视，仅2015年度对人工智能相关技术研发的公开投入就达到了11亿美元，主要依托网络与信息技术研发（Networking and Information Technology Research andDevelopment,简称NITRD）项目进行管理。具体由国防部高级研究计划局（DARPA）、国家科学基金（NSF）、海军研究办公室（ONR）、情报高级研究计划署（IARPA）和国家卫生研究院（NIH）等机构支持。算法是人工智能的核心内容，不难看出，第三次“抵消战略”着眼于筹划面向未来的“算法战争”。

（二）成立以“算法战跨职能小组”为代表的协调机构

2017年4月26日，美国国防部副部长罗伯特·沃克签署备忘录，授权建立“算法战跨职能小组”（Algorithmic Warfare Cross-Functional Team，简称AWCFT），旨在“将国防部拥有的海量数据迅速转变为可用情报，有效促进人工智能、大数据、机器学习等技术在军事情报领域的应用。”

作为一个协调机构，“算法战跨职能小组”主要由国防情报局局长负责指导运行，由负责情报的国防部副部长(USD(I))进行监督。该小组的具体执行指导小组成员由USD(I)、参谋长联席会议、国防部总顾问办公室以及其他由USD(I)批准的国防部各部门的人员组成，并拥有直接向国防部副部长提交报告的特殊职权。

目前，该小组的首要任务是利用人工智能算法来提高战术无人航空系统（UAS）和中程全动态视频（FMV）的处理、利用和传播能力(PED)，减轻情报分析人员负担，提升军事决策能力，为打击“伊斯兰国”行动提供有力技术支撑。具体而言，该小组将首先运用机器视觉算法进行中程全动态视频的目标探测、识别和预警，进而集成更先进的计算机视觉技术。在有效支撑情报、监视和侦察（ISR）的基础上，该小组将优先考虑整合相似技术用于其他情报任务领域。除此之外，“算法战跨职能小组”还将集成现有与国防情报任务领域相关的基于算法的技术倡议，这些倡议包括发展、使用以及开发人工智能、自动化、机器学习、深度学习以及机器视觉领域新的算法。

（三）推进“算法战争”相关技术研发项目

为了筹划“算法战争”，美国国防部高级研究计划局（DARPA）推出了一系列与人工智能算法相关的项目，涉及数量多，涵盖范围广，军事背景明确。美军在筹划“算法战争”方面所推出的相关项目既涉及机器学习等基础技术领域，也注重利用人工智能算法提升分布式作战、人机交互、辅助指挥决策等相关能力。

总的来看，美军在第三次“抵消战略”的大框架下积极筹划“算法战争”，通过成立以“算法战跨职能小组”为代表的协调机构，发展一大批与自主学习、人工智能、人机协作等相关的项目，推动人工智能算法在分布式作战能力、辅助指挥决策等方面的应用，旨在抢占未来军事竞争主动权。

三、美军提出“算法战争”的影响

美军在提出“网络中心战”、“空海一体战”等作战概念后，又提出“算法战争”概念，并采取了系列举措，将会对新一轮军事革命产生不可忽视的影响。

（一）牵引军事智能化发展方向

大体来讲，世界历次军事变革经历了从冷兵器时代、热兵器时代、机械化时代到信息化时代的发展历程。当前，新一轮科技革命和产业变革正在孕育兴起，军事领域也在发生广泛而深刻的变革，其速度之快、范围之广、程度之深、影响之大，为二战以来所罕见。基于算法的人工智能是促进此次军事变革的重要推手，有望催生新的作战样式，改变战争的制胜机理，成为“改变战争游戏规则”、塑造颠覆性军事能力的重要手段。美军此次提出“算法战争”概念并在此领域展开了积极布局，体现了其对此次科技革命和军事变革方向的研判，牵引人工智能算法在军事领域的运用，促进武器装备无人化、指挥决策智能化，推动世界范围内军事变革由信息化向智能化方向转型。

（二）形成新的抵消能力和不对称优势

美军向来重视基于科技进步的战争设计，即先着眼前沿技术提出战争概念，再依据战争需求进行相应的作战机构设置和武器装备研发，促进和维持美国军事霸权地位。从“空海一体战”到后来的“全球公域介入与机动联合”，从“亚太再平衡”到第三次“抵消战略”，无不体现这一特点。历史上，美国的第一次“抵消战略”利用其在核技术方面的先发优势迅速构建起强大的核威慑体系，抵消了前苏联在常规武器方面的优势；美国的第二次“抵消战略”通过重点支持相关部门发展微电子技术和信息技术，研发精确制导武器系统，以抵消前苏联在常规兵力上的数量优势。同样地，作为第三次“抵消战略”的重要组成部分，“算法战争”概念的提出和筹划也很大程度上遵循着这一逻辑。美军通过加大在人工智能算法上的研究投入和军事应用力度，试图抢占先机布局前沿技术，形成针对对手新的抵消能力和不对称优势，从而继续维持美国的军事霸权地位。通过前文所述不难看出，此次美军意在形成的不对称优势主要体现在以下几个方面：第一，通过推动人工智能算法在国防情报领域的应用，更有效地分析处理情报数据，以期建立信息优势；第二，通过挖掘人工智能算法在提升作战能力上的巨大潜力（如分布式作战能力），使得武器装备系统日益智能化，着力形成作战手段的不对称优势；第三，通过促进算法在辅助指挥决策上的应用，提升决策效率和作战可靠性，形成指挥决策的不对称优势。

（三）推动不同领域的跨职能协作

信息化条件下，制信息权成为夺取战场主动权和控制权的核心，一体化联合作战成为基本作战样式。信息技术的渗透性和信息的流动性使战略战役战术的边界不再清晰，军民之间的界限也日益模糊。在此背景下，不同领域、不同作战单元的跨部门、跨职能协作就显得尤为重要。作为美军“算法战争”筹备的协调机构，“算法战跨职能小组”的成立体现了其在推动不同领域、不同部门跨职能协作上的努力。“算法战跨职能小组”的执行、监督牵涉到美军国防情报局、参谋长联席会议、国防部总顾问办公室以及其他诸多国防部相关部门的跨部门、跨职能协作。可见，这种跨职能协作是信息化战争时代的必然要求，有利于统筹需求，整合资源，促进“算法战争”概念指导下军事行动效率的提升。

四、“算法战争”的局限性

当前，人工智能越来越多地走向军事领域，基于算法的指挥控制系统、无人作战平台、仿生机器人等正不断投入应用，推动着智能化战争时代的到来。美军提出“算法战争”概念，其意图是利用大数据、云计算、人工智能等领域的技术优势，塑造新的情报信息能力，以及洞察战争中快速变化的风险与机遇。笔者认为，在认识“算法”具有减少人力、提升效率等优势的同时，也要分析“算法战争”概念的局限性。

（一） “算法战争”有其脆弱性

算法的本质是由人设计出来的一串指令，而这指令又有赖于控制系统的软件进行控制。一旦控制系统的软件出了问题，算法便会陷入混乱甚至瘫痪。例如，美军的F-35战机对于控制系统的软件就有着严重依赖，曾经暴露出的两百余项各类问题几乎都与其软件系统高度关联。一旦软件系统出现一点问题，战机将无法有效运转，甚至连最起码的安全起降都成问题。由此可见，算法对软件系统的内在依赖性也为对手破解算法提供了可能。

网络空间已经成为继陆、海、空、天之外的“第五维空间”，是国家利益拓展的新边疆、国家战略博弈和军事竞争的新领域，而网络攻击由于其成本低、溯源难等特点受到各大军事强国的高度重视。在“算法战争”领域，针对算法系统存在的漏洞进行网络攻击（如篡改指令、木马植入等）可使算法失效或者陷入紊乱，从而给被攻击的一方带来战术失利甚至灾难性后果。比如，在战争环境下，一方通过网络攻击成功侵入对方的算法所在系统，可以以几乎为零的成本窃取（拷贝）重要算法，也可以通过篡改指令使得基于算法的机器人平台“化敌为友”，甚至“临阵倒戈”转向攻击原来的“主人”。与此同时，承载算法的系统由于人为或自然因素有可能陷入故障，失去战斗效力，这些都是“算法战争”中可能存在的隐患。

（二）人工智能算法的军事应用难以驱散“战争迷雾”

克劳塞维茨在《战争论》中提到：“战争是充满不确定性的领域，战争中所依据的情况有四分之三像隐藏在迷雾中一样。”信息化时代各类数据呈“指数爆炸”式增长，情报获取的渠道也随之拓展，但这并不意味着“战争迷雾”就不复存在了。战争虽然摆脱了之前“信息匮乏”的困境，但是也带了新的问题——虚假的信息也增多了，从瀚如烟海的信息中捕捉到真实和有用信息变得如“大海捞针”般困难，也为战争蒙上了另一层“迷雾”。据统计，地球上存储的数据总量每两年就会翻一倍，这意味着未来24个月所创造的数据将比人类之前所有历史积累的都要多。依托大数据、模式识别、神经网络等技术，人工智能算法在情报搜集和分析上能够发挥巨大的效力，使得信息优势向技术优势方倾斜，但是军事对抗系统复杂性的提高必然带来新的不确定性，系统复杂性和系统不确定性相生相克的客观规律仍然适用于这一领域。研究表明，目前人工智能算法不仅能够用于搜集和分析数据，也能用于制造包括自动生成的图像、视频以及文本等虚假信息。因此，人工智能算法的军事应用仍不能消除“战争迷雾”。

（三）基于算法的人工智能无法取代人类智能

基于算法的人工智能尽管能够在规则确定、信息完备的系统中展现出强于人类的极大优越性，但是在解决可编程范围外的战争问题时仍旧需要人类的理性分析能力、灵活应变能力、道德分辨能力等人类智能，在这一方面人工智能无法取代和超越人类智能。此外，利用算法所得出的结论未必可靠，而如果在情报分析和指挥决策领域出现关键性错误，可能带来灾难性后果。与此同时，尽管以“阿尔法狗”击败棋王柯洁为代表的人工智能技术取得了突破性进展，但是目前的人工智能依然停留在“狭义人工智能”的阶段，即只是在机器人及其发展技术上取得了一些突出成就，而在用计算机模拟人类智能的理论、技术和方法上并没有突破性进展。换而言之，以人工智能算法为支撑的“算法战争”的真正到来仍需一定时日。

（四）人工智能算法的战场应用将产生新的战争伦理困境

外军筹划“算法战争”的一大重点就是将人工智能算法用于致命性自主武器系统（Lethal Autonomous Weapon Systems，简称LAWS）研制，制造诸如无人机、杀人机器人等自主武器，而这种本质上是暴力工具的自动化武器，若缺乏人的有效控制，将对人的生命安全构成极大威胁，由此也会带来相应的战争伦理问题。比如，美军在打击恐怖分子和极端势力的战场上所使用的无人机也误伤了不少平民。试想，随着人工智能算法逐步走向战场，在未来可能到来的全面“算法战争”中，天空是呼啸而来的无人机“蜂群”，地面是智能“杀人机器人”，海下是无人潜航器，在无法有效区分平民与敌军的前提下，处于技术劣势一方的平民遭受伤亡便在所难免。即使基于算法的识别技术进步到足以区分军民的程度，误伤的可能性也难以消除。在“杀人不眨眼”的致命性自主武器面前，人类奉为最高价值的生命和尊严可能受到漠视甚至践踏，而战争的指挥者却远离战场享受战争胜利的果实，战争或将成为搬上战场的“电子游戏”，这必将冲击人类的道德底线，给战争伦理带来新的难题。从这个意义上说，普京、霍金和马斯克的担忧不无道理。

“算法战争”的出现是技术驱动的必然产物，也是战争形态日益智能化的重要标志。面对以 “算法战争”等概念为代表的军事智能化浪潮，我们需要从现实国情和科技水平出发，审慎研判，提高在算法领域的技术认知力，避免掉入“概念陷阱”；贯彻军民融合战略，大力引进地方优秀算法人才，吸收应用地方的人工智能算法相关技术成果，加强算法储备；基于人工智能算法逐渐应用于战争领域可能带来的法律、安全和伦理问题，积极进行跨部门讨论和协作，制定符合国际关系准则和人类道德约束的国际规范或公约，努力维护人工智能时代的人类和平与福祉。

长按下方二维码免费订阅！

如何加入学会

学会近期活动：

1. 2018.1.20上午，召开"空天大数据与人工智能专委会成立大会“。

2. 2018.1.20下午，举办“空天大数据与军事智能化研讨会暨院士专家新春茶话会“。

注册学会会员：

个人会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“个人会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可在线进行支付宝缴纳会费。

单位会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“单位会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可缴纳会费。

长按下方学会二维码，关注学会微信

感谢关注