导读：当前，世界各国军队正在加速推动人工智能的研发和军事应用。本文分析了人工智能给军事领域带来的机遇与挑战，阐明了人工智能军事应用的潜力与障碍，指出人工智能是一种像电力一样的“使能技术”，在军事大数据分析、提升军事决策速度和催生新的作战样式等方面具有很大的应用前景和价值，但人工智能系统的军事应用也存在可靠性和安全性不足、可能遭受外部攻击等风险和挑战。从当前的发展态势来看，人工智能有望塑造军队和战争的未来，值得高度重视，对其安全隐患也需要未雨绸缪。
当前，人工智能正在深刻影响商贸、金融、医疗、交通等社会经济领域。同时，军事领域也不可避免地受到人工智能的冲击。尽管公众可能仍将军事领域的人工智能概念与《终结者》(Terminator)中的杀人机器人相提并论，但现实生活中关于人工智能对国家安全影响的讨论也正在变得越来越多。这些讨论跨越学术、商业和政府各界，从牛津大学哲学家尼克·博斯特罗姆（Nick Bostrom）担忧人工智能对人类带来生存风险，到特斯拉创始人埃隆·马斯克（Elon Musk)担心“各国在人工智能领域的军备竞赛可能引发第三次世界大战”，以及弗拉基米尔·普京(Vladimir Putin)声明“在人工智能领域占据领导地位的国家将主宰世界”。
▲普京认为人工智能领域的领导者将主宰世界
本文不想泛泛而谈人工智能的革命性变化，而是旨在阐明当前的人工智能技术在军事领域有哪些应用，又会对现实世界产生何种影响。人工智能不是一种单一的武器或技术，而是一种“使能技术”，就像电力和内燃机一样。因此，人工智能对军事力量和国际冲突的影响将取决于人工智能在军队和决策者中的具体应用。下面是思考人工智能军事应用所带来影响的几个关键问题，包括：人工智能究竟是一种什么样的技术？与过去的技术变革相比，它有哪些不同之处？军队可以在哪些领域运用人工智能？存在哪些潜在的局限性？人工智能军事应用会对国际政治带来哪些影响？
人工智能的潜在应用前景——包括提高从后勤到战场规划等军事领域的速度和准确性，以及帮助改善人类决策的能力——正在推动世界各地的军队加快对人工智能的研发和应用。对美军而言，人工智能提供了一条维持军事优势的新路径，同时可能降低美国士兵的成本和风险，因此在大力推进以人工智能为核心的“第三次抵消战略”。对于其他一些国家，人工智能也提供了显著提升军事能力的前景。人工智能研究的步伐和轨迹存在明显的不确定性，这意味着当今的“人工智能热”可能只是一种暂时的炒作而非未来的现实。此外，对于安全与可靠性方面的担忧可能会限制军方选择使用人工智能的方式。
01
人工智能是一种什么样的技术?
一般意义上而言，人工智能是指使机器完成通常需要人类智能才能完成的任务的技术和方法。当前，即便在人工智能研究界的专家看来，人工智能的未来发展前景也存在很大的不确定性。一些研究人员认为，通用人工智能(AGI)的实现只需要几年时间，但另一些人认为，这种突破可能需要几十年甚至更久。因此，本文主要关注在特定领域表现出超越人类能力的弱人工智能（例如击败人类顶级围棋手的人工智能系统AlphaGo），而不讨论通用人工智能和超人工智能相关问题。
从历史上来看，很明显，人工智能是一种影响范围十分广泛的技术。人工智能会对经济和社会各领域产生深刻影响，影响的范围和程度将取决于创新速度。它可以应用于多个领域，而不是一个单个设备（如火箭或飞机）。因此，在军事领域，我们可以将人工智能视为一个“使能技术”（enabler)。
02
人工智能在军事领域的主要应用
那么，人工智能对军队而言究竟意味着什么？军方可能会用人工智能做什么？为什么这对国际政治如此重要？换言之，人工智能可以帮助解决哪些现代战争面临的棘手问题？分析来看，以下人工智能的三个潜在军事应用领域是当前军方的主要兴趣所在。
首先，人工智能可以用于军事大数据分析。许多现代军队在数据方面所面临的挑战与公司或政府所面临的挑战大致相同——数据往往太多，很难足够快地处理。当前的狭义人工智能提供了加速数据分析和解释过程的潜力，从而使人类工作者转向更高级别的任务。例如，美军的Maven项目就试图使用算法来更快速地分析和解释无人机获取的图像。从图像识别到公共信息或机密信息数据库的处理，人工智能可以帮助军队更准确、更快地分析、处理和解释信息，从而有助于辅助人类指挥官更好地做出决策。
其次，人工智能可以加快战场决策速度。从高超音速武器到网络攻击，军队高层认为战争的速度正在加快。无论从OODA(观察、判断、决策、行动)回路理论的角度来考虑，还是仅仅是想在敌人发现你之前发动攻击，速度都可以在现代战争中提供巨大优势。然而，速度不仅仅是指飞机的飞行速度或军需品的运送速度，更重要的是决策速度。就像遥控系统一样，人工智能“驾驶”的飞机不受保护人类飞行员的限制，具有明显的速度和机动性优势。例如，在防空领域，以人工智能系统的机器速度运行防空系统，在面对来袭导弹的饱和攻击时可以比人来操控系统更有效地保护军事基地或城市，因为不管人的才能多么突出，都无法快过机器的响应速度。而目前，这已经是以色列“铁穹”（Iron Dome system）防御系统运作的原则。
▲以色列拉斐尔国防系统公司研发的全天候、机动型“铁穹”防空系统
第三，人工智能有望使一些新的军事作战概念成为现实。比如经常被讨论的“忠诚僚机”（Loyal Wingman）概念，它假设人类飞行员或坦克驾驶员也可以协调和控制一些无人设备。然而，对于那些“僚机”来说，战场环境越复杂，拥有帮助它们做出反应的算法就越有用。类似地，无人蜂群也需要人工智能来进行协调。
显然，军队希望通过挖掘人工智能的应用潜力，以提高军事训练和作战的效率。这种动力不仅是来自其他军队的竞争压力，也有促进各国发展自主武器系统的内部政治和官僚因素。对于美国来说，自主武器系统在理论上提供了以较低的成本和人力风险完成任务的可能性。例如，发布的《美国陆军机器人与自主系统战略》(US Army Robotics and Autonomous Systems Strategy)特别提到了自主系统能以更低的成本和风险提高效率的能力。此外，人工智能系统还可以帮助国家减少对兵员的依赖，从而推动军队的智能化发展和转型。
03
人工智能军事应用面临的挑战
人工智能在军事上的应用面临着诸多技术和组织方面的挑战，首当其冲的是对于安全性和可靠性的担忧，这也使得人工智能目前并没有推动军队实现真正的转型。这些技术挑战主要可分为两大类:内部的可靠性问题和外部的攻击利用问题（internal reliability and external exploitation）。
狭义人工智能系统的特点在于它们接受了非常专门的任务训练，例如下棋和识别图像。然而，在战争中，正如克劳塞维茨所描述的那样，由于一直存在的战争迷雾和阻力，战场环境会不断发生变化。如果给定人工智能系统的应用环境发生变化，人工智能系统可能无法适应。因此，这种人工智能存在的根本脆弱性（brittleness）会成为系统可靠性的风险。作战双方部署在战场上的人工智能系统进行交互，可能会产生复杂的环境，这种复杂性会超出一个或多个系统的理解能力，从而进一步加剧系统的脆弱性，增加发生事故和出错的概率。
此外，人工智能的本质是机器决定最佳策略并采取行动，这可能会使人工智能系统的行为难以预测。例如，在AlphaGo对战李世石(Lee Sedol)第二场比赛中，AlphaGo下出了一步非常不寻常的棋，以至于李世石不得不离开房间15分钟，思考这一步棋背后的用意。事实证明，这一步棋是人类精英玩家通常都难以想到的走法，但人工智能却发现了，这显示出人工智能在改善决策过程方面拥有巨大潜力。然而，军队的运行是基于可靠性和信任的——如果指挥中心或战场上人类操作员不知道人工智能在特定情况下会采取什么行动，它可能会使作战变得更加复杂化，采取行动变得更加困难，事故发生的可能性更大。
▲3月，AlphaGo击败人类顶尖围棋手李世石九段
在这一问题上，有人可能会想，为什么不打造一种能应对各种战场情景的人工智能系统呢？先不说打造这类系统的难度和成本，就算制造出了这样一个系统，也会存在破坏可靠性（reliability)的风险。举例来说，研究人员开发了一个玩俄罗斯方块游戏的人工智能系统，但发现人工智能训练算法在即将输掉游戏的时候总会暂停游戏，以执行在每一步中最大化获胜可能性的指令。人工智能的这种适应性调整反映了其行为的不确定性，超出了当前大多数军队所能接受的预期范围。可解释性(explainability)是人工智能系统面临的另一个挑战。对于一个系统来说，重要的不仅是可靠，而且要以一种能让人信任的方式对做出的行为进行解释。如果一个人工智能系统以某种方式对图像进行分类或避开敌方雷达，但无法解释它为什么做出这一特定选择，人类可能就不太可能信任它。
可靠性不仅仅是人工智能系统设计的问题。从古至今，战争一直是作战双方进行激烈对抗的有组织行动。就像军队和情报机构一直在试图攻击和破坏潜在对手的行动一样，在拥有人工智能系统的今天，也无法改变这一本质，不管这些系统是部署在后台还是战场。研究人员已证明，图像识别算法容易受到像素级“毒”数据的影响，从而导致分类问题。针对开源数据训练的算法尤其容易受到这一挑战，因为对手试图对训练数据进行“投毒”，而其他国家甚至可能将这些数据用于军事领域的算法训练。目前，对抗性数据（adversarial data）问题是一个非常严峻的挑战。此外，黑客攻击还可能导致在安全网络上训练的算法被利用。这表明在国家安全领域，网络安全和人工智能之间存在十分重要的相互作用。
▲人工智能将右侧的“欺骗图像”全部识别为“鸵鸟”
那么，军队什么时候才会运用人工智能呢？在有关人工智能和自主武器的探讨中，一个经常被忽视的关键问题是，除非军方在认识到人工智能在完成特定任务(如解读图像、轰炸目标、规划战斗等)时明显优于现有系统，否则他们一般不会想要使用基于人工智能的系统。考虑到这些安全性和可靠性的问题，在对手试图破坏彼此系统的对抗环境中，这些问题被进一步放大了。军方不太可能仅仅因为这些安全问题就停止研究人工智能应用。但这些安全和可靠性问题可能会影响发展人工智能系统的类型，以及其与“常规”军事作战规划的整合。
考虑军事技术集成到部队的三个层次——开发、部署和使用。在每一个阶段，军队都需要权衡技术在提高效能、降低人类士兵风险和降低成本的潜在前景，及其与影响军队行为的安全性和可靠性的挑战。人工智能的军事研究是在竞争环境中进行的。考虑到人工智能整合可能带来的好处，许多军队担心自身被其他行动者远远甩在后面。没有一个国家希望自己的战斗机、舰艇或坦克受到敌方无人蜂群的威胁，或者仅仅是敌方系统在战斗环境中反应和打击速度更快。
尽管如此，目前我们仍处于人工智能融入军事系统的初始阶段。杜克大学“人类与自主实验室”(Human and Autonomy Lab)主任米西·卡明斯(Missy Cummings)认为，尽管世界各地的军队都在推动自主系统的研发，但进展是“缓慢的”，各方“正在努力实现从开发到实际运用的跨越”。
在开发阶段，应当通过测试揭示人工智能系统潜在的安全和可靠性问题，并使其成为一个重点投资领域。现在，军方可能认为，在某些情况下，这些风险是可以接受的，因为存在落后的风险，而且他们相信自己可以随时修正程序方面存在的问题。本质上，军方将权衡人工智能领域的可靠性和能力，人工智能系统有望提供更大的能力，但存在可靠性的风险。
在部署和使用人工智能系统时，军方可能会考虑特定冲突的具体情况。随着冲突风险的上升，如果军方认为失败的可能性更大，它自然会在部署充满希望但也存在可靠性问题的技术时，变得更能接受风险。相比之下，随着风险的降低，以及军方相信自己可以在承担更少技术风险的情况下取胜，人工智能系统的部署将会有所滞后，直到军方认为人工智能系统与现有系统一样可靠或比其更可靠。
军事和商业技术发展的历史表明，我们需要谨慎行事，但同时也有理由相信，安全和可靠性问题不会导致人工智能在军事领域的整合会全面停止。从军方的角度来看，它们也不应该完全停止。卡尔·本茨（Karl Benz）在1886年生产了第一辆以汽油为燃料的内燃机驱动的汽车。这发生在煤气内燃机申请第一项专利的几十年后（1859年法国工程师勒努瓦发明），而在汽车出现几十年后，才逐渐取代马车，成为占主导地位的交通工具。为什么需要这么久的时间？答案是对于安全性和可靠性的考量。早期内燃机面临诸多挑战，包括可靠性、成本、缺乏标准化的机器、制造的不一致性，以及由于内燃机所驱动的汽车的复杂性而导致的持续故障等。
每当新技术被发明出来，这个熟悉的故事就会不断重复。新技术的应用面临着严重的安全性和可靠性问题。同时，相对于现存境况，它们有望获得更大的能力。有时候，这些问题能够得到解决，例如内燃机和飞机。但有些时候，就像飞艇或飞船用于军事领域一样，由于安全问题太过突出，使得该技术永远不会比其他替代技术更可靠和有效，只能被遗弃在历史的尘埃里。
04
人工智能与军队的未来
法国总统埃马纽埃尔·马克龙(Emmanuel Macron)曾宣称，人工智能将颠覆商业模式和就业现状，法国需要制定新的人工智能战略来迎接人工智能时代的来临。虽然马克龙对人工智能的一项潜在军事应用发出了警告，称自己“坚决反对”在战场上使用人工智能杀人。然而现实是，法国情报部门已经在运用人工智能提高数据处理的速度和可靠性，赋能军队。
▲法国总统马克龙反对在战场上使用“杀人机器人”
尽管存在对安全和可靠性方面的担忧，但人工智能的巨大应用潜力会使各军事大国看到止步不前的风险。从数据处理到蜂群概念再到战场管理，人工智能可以帮助军队更快、更准确地运作，同时减少人类面临的风险。但另一方面，当前机器学习和神经网络方法所特有的安全和可靠性问题意味着，对抗性数据等问题将对人工智能的诸多军事应用构成挑战。美军的高层很清楚美国在技术变革时代面临的风险，可能比一个世纪前的英国更有自知之明，知道更广泛的技术变革会以何种方式影响其军事优势，但仅仅有自知之明并不能保证成功。当人们考虑到任何技术的影响主要取决于人们和组织决定如何使用它时，这一点尤为正确。从长弓击溃骑士团，到海军航空兵结束了战列舰时代，历史上不乏自认为仍处于领先地位的强国——直到遭遇一次重大的战场溃败。
目前，我们无法确知人工智能对军队的影响是否会达到类似的程度。即便在人工智能研究学界，专家对人工智能的发展潜力和安全性及可靠性挑战这一问题，依然存在着诸多的争议和不确定性。或许在后，国家安全分析师会反思今天的“人工智能热”只不过是一场炒作罢了。但鉴于人工智能相对于特定技术（如定向能技术）的影响范围之广，以及当前各国在这一领域的巨大投资，人工智能（至少在某些方面）有望塑造军队的未来。
（原文链接：/ /04/the-promise-and-peril-of-military-applications-of-artificial-intelligence/）
原作者 | Michael C. Horowitz
编译 | 龙坤(国防科技大学,18874778237@)
编辑 | 陈雨淼
审阅 | Q、黄洋
