美退役上将：人工智能军事化带来“极速战”重大风险

参考消息网7月29日报道 美国消费者新闻与商业频道网站近日发表美国退役四星上将、布鲁金斯学会会长约翰·艾伦和布鲁金斯学会治理研究中心副主任达雷尔·韦斯特的文章称，部署基于人工智能的武器有重大机遇，但也存在日益增加的重大威胁。虽然人工智能可以放大军事能力，但它也可能在本质上破坏稳定。文章摘编如下：

美国最近派遣两个航母战斗群进入南海，以显示军事实力。这一举动是回应中国在南海水域举行军事演习。当中美这两个“超级大国”都在人工智能、远程成像和无人化武器系统方面发展先进技术能力之际，这场对峙加剧了全球紧张关系。重要的是，两国官员都应明白，新兴技术能够加快决策过程，但同时也会加大误判的风险。

战争形态将被重塑

随着人工智能和其他新兴技术的出现，那些对战争的经典定义可能会发生变化。在根本层面上，战斗、战争和冲突是在时间上竞争的过程。一直以来，人类都努力在战斗的终极较量中快过对手。在这方面，人工智能将大大改变战争速度。它不仅会强化人类在冲突中的作用，而且会前所未有地利用技术。

这是我们所面对的武装冲突的核心问题，能够在战争本质和战争特性之间创造、掌握和发挥平衡作用的一方将不可避免地在冲突中占据上风。在人工智能、数据分析和超级计算的新环境中尤其如此。在日益由新技术和新兴技术定义的地缘政治环境中，国防是21世纪最重要的发展领域之一。评估人工智能和其他新兴技术对国家安全和武装冲突几乎各个方面的革命性影响是重要的，这些方面包括战争速度的加快和持续人为控制的关键作用。

归根结底，部署基于人工智能的武器有重大机遇，但也存在日益增加的重大威胁。与许多其他人工智能应用一样，政策和操作上的改变对于促进这些新兴技术的适当整合与创新，并确保它们加强指挥能力、总体备战状态和实地表现是必要的。

从预测分析到闪电般的目标获取等，人工智能一旦在这些领域取得成功，就有可能成为人类历史上军事和安全部队最大的力量增倍器。

事实上，正如美国国会研究服务部的一份报告所指出的：“人工智能有可能在军事方面带来许多优势，（尽管）它也可能带来不同的挑战。例如，人工智能技术可以促进自主作战，推动更快更明智的军事决策，并提高军事行动的速度和规模。然而，它也可能是不可预测的，或容易受到独特形式的操纵。”

美国国家人工智能安全委员会的中期报告警告说：“人工智能的发展与正在发生的中美战略竞争和更广泛的地缘政治格局发展密不可分……我们知道，战略竞争对手正在致力于研究和应用人工智能。我们只能合理得出结论认为，人工智能带来的能力提升可以用来威胁我们的关键基础设施、强化假情报散播并发动战争。”

像X-47B舰载无人机这样的人工智能化武器装备有潜力改变未来战争形态。（资料图片）

资料图片：美空军QF-16无人战机试飞资料图。（美空军官网）

“先行一步”或存隐患

人工智能在军事和战场上的作用是一种好坏兼有的催化剂。然而，人工智能的力量并没有以炸弹或新武器平台的方式得以体现，其用途要广泛得多。正如美国布鲁金斯学会学者克里斯·梅塞罗尔所指出的，美国军方正在以各种方式部署人工智能：“人工智能不是独自构成一个单一的武器系统，而是被置入各种各样的武器系统和核心基础设施中。各个型号的坦克、火炮、军机和潜艇已经能够（在一定程度上）自动探测到目标，并采取相应行动。”

展望未来，人工智能还将通过“极速战”来定义未来的战争。在这种冲突中，人类决策几乎完全不存在于“观察-定向-决策-行动”（OODA）的循环过程之中。因此，与这一过程相关的时间将缩短到几乎是即时反应。

这些进展的意义很多，而且具有颠覆性。速度、效率和准确性以及人类控制人工智能军事能力的必要性是当前与人工智能相关的国家安全辩论的核心问题。

美国和中国军队在南海相对紧张的作战环境中机动调遣，反应时间已经很短了。随着更尖端的人工智能最终能够更快、更全面地收集和分析情报，迅速提供决策支持，甚至广域获取目标，我们会看到“先行一步”而不是冒着措手不及的风险所带来的好处。虽然人工智能可以放大军事能力，但它也可能在本质上破坏稳定。

现在是美中两国就人工智能带来的“极速战”环境下的行为准则展开艰难对话的时候了。由于双方都在迅速发展高超音速武器，行动和反应时间将越来越短，而且战争特性和本质的日益失衡将在危机发酵之时更易导致冲突而非和平。这一点现在是可以预见的。这也要求两个大国进行接触，理解、寻求并维护平衡，以防发生误判并迅速升级为灾难，因为这是所有人都不愿意看到的。

【延伸阅读】人工智能在未来战争中扮演什么角色？美陆军将领这样说——

参考消息网5月26日报道 美国“勇士专家”网站5月13日发布克里斯·奥斯本撰写的题为《人工智能与未来战争——存在极限吗？》的文章，介绍了美国陆军技术部门研究人工智能在未来战争中的应用的情况，现将文章编译如下：

人工智能可以通过分析和整理数据来处理信息并实现一系列越来越多的功能，但美国陆军技术研发人员一直强调，在指挥和控制方面，人类需要继续充当最终决策者。因此，当前的陆军研发人员解释说，人工智能可以通过分析数据，迅速给出选项，以及在几秒钟内执行原本过于复杂、耗时或不可能完成的任务，来为决策者提供协助或信息。

美国陆军研究实验室的资深科学家们说，从宏观上讲，许多人工智能系统的功能性结构在一定程度上依据的是哺乳动物的视觉：人们正对计算机系统进行设计，以便复制用于接收和组织信息的生物学过程和某种自然机制。

资料图片：美陆军研究人工智能应用场景示意图

资料图片：美陆军研究人工智能应用场景示意图

但哺乳动物的视觉系统只是人类大脑庞大且多半仍然神秘或未知的功能的一部分。那么人类认知中那些想象的部分呢？某些类型的创造力呢？或者人类感觉中的众多神经学范畴的东西呢？

也许这些问题就是美陆军未来司令部司令约翰·默里上将和陆军其他技术领导人强调“人类”必须最终作出重要决定并掌控“指挥和控制”系统的部分原因。

解析“高度活跃战场”

涉及人工智能的挑战和优势对于默里这样的美陆军高级武器研发人员而言是耳熟能详的。或许这些复杂的问题解释了为什么未来战争的特征将是默里所谓的“高度活跃的战场”——即在生命和胜利悬于一线之际，有各种的、快速变化的复杂变量存在，需要立即加以分析。

简而言之，未来战争的结果将很可能取决于做决定的“速度”。默里上将在接受“勇士专家”网站采访时解释了为何武器研发人员正把人工智能应用融入几乎所有重要的未来武器系统。

默里说：“我认为，在人工智能的快速应用方面，在未来高度活跃的战场上比敌人更为迅速地观察、理解、决定和行动的能力将是首要因素。”

虽然默里明确指出以人工智能为主的技术存在一些局限以及必需的指导原则，但他确实解释了快速演化的人工智能武器系统应用可以让陆军指挥人员……“率先看到、率先作出决定、率先采取行动”，当然由此能够更快地摧毁敌人。本质上，人工智能的数据处理能力会让人类的决策速度呈现指数级的提高。

进入敌方“OODA循环”

默里说：“美国空军曾有一个叫约翰·博伊德的人，他曾提出一个被称为‘OODA循环的概念，即观察（Observe）、定位（Orient）、决策（Decide）、行动（Act）……如果你能观察并进入到敌人的OODA循环中，这就意味着你能更快了解情况并采取行动。事实上，我认为这是研究我心目中军用人工智能最合理和最有价值用途的出色方式。”

快速浏览美国陆军目前列为高度优先的武器现代化计划的清单就会立即发现，从本质上讲，这些计划都考虑了人工智能将如何提高和影响性能表现：美陆军对未来战车、飞机、远程火力、步兵作战手段以及战争网络的研发，现在都将与人工智能相关技术进行整合。未来的装甲车辆将利用人工智能来操纵附近的小规模机器人平台集群，士兵穿戴的传感器将在几秒钟内搜集瞄准数据并在部队之间联网传送，空中节点将利用机器学习算法汇总、组织和分享相关的侦察视频。

（2020-05-26 10:26:00）

【延伸阅读】日防卫省研发费创新高 重视人工智能及无人机研发

参考消息网3月11日报道 日媒称，为提高人工智能（AI）和无人机等尖端技术水平，防卫省强化研发工作。日本2020年度预算案列出的相关研发费达1676亿日元（约合15.9亿美元，本网注），创历史新高。

据《日本经济新闻》3月7日报道，除防卫装备厅推进研究外，日本防卫省还将增加与大学和企业的合同，支持民间研发。将民间技术转用于防卫装备已成为世界潮流，日本政府也将深化与民间合作。

日本防卫大臣河野太郎3月6日在记者会上强调了研发的重要性。他说：“在被称为‘规则改变者的全新技术领域，（世界的）防卫思维已发生很大变化。日本也必须开发必要技术。”

报道称，日本防卫省研发费近年保持在1200亿至1400亿日元的水平。2020年度预算案中列出的研发费比2019年度增加12%，是2007年防卫省成立以来的最高水平。增加的主要是AI和无人机等尖端技术研发费用。

报道表示，2018年底制定的《防卫计划大纲》将太空、网络、电磁波等新领域定位为“事关生死的重要领域”。日本将重点强化相关领域技术研发。美国、中国和俄罗斯走在前面，日本起步较晚。

河野太郎在3月6日记者会上称“也有类似AI的军民两用技术，我们将排列出优先顺序切实推进研发”，体现出积极吸收民间技术的考虑。

资料图片：日本试飞“守护者”无人机资料图。（日本防卫省官网）

（2020-03-11 10:06:41）

【延伸阅读】美媒又“担忧”：美国将输掉人工智能军备竞赛？

参考消息网11月4日报道 美国外交学者网站10月30日发表了詹姆斯·约翰逊德题为《美国正在输掉人工智能军备竞赛吗？》的文章，具体内容编译如下：

长期以来一直支持为军事目的发展技术的美国政府认为，人工智能是下一代作战工具的关键。

最近的几笔投资和五角大楼的一些计划表明，美国军事领导人对赶上——并领先——潜在对手感到担忧，后者在开发人工智能系统方面取得了巨大进展。人工智能驱动的武器包括目标识别系统、人工智能制导武器以及在没有人类干预的情况下运行的网络攻击和网络防御软件。

美国防务界逐渐认识到，人工智能将大大改变——如果不是彻底重塑的话——世界军事力量对比。

五角大楼2018年的一份报告指出，技术发展可能会改变美国面临的威胁类型，其中可能包括太空天基武器、远程弹道导弹和网络武器。

资料图片：美军进行网络战演练资料图。（美国防部官网）

资料图片：美军网络战演练资料图。（美国防部官网）

2019年2月的一份分析报告警告说，潜在对手对军用人工智能系统——尤其是支持机器人、自动化、精准武器和网络战的人工智能系统——的投资可能超过美国。潜在对手正在与该国民用企业密切合作，以便在快速变化的技术发展领域保持领先。

此外，潜在对手的一些项目开发了专门针对美国技术弱点的军用人工智能系统。例如，一大群人工智能强化武装无人机可能会定位并袭击各国控制和发射核武器所依赖的安全计算机系统。

到目前为止，五角大楼的行动还主要是官僚主义的，而不是具体的。五角大楼发布了一份涵盖整个美国防部的战略文件，阐述了在未来战争中开发和使用人工智能的广泛原则。美军方已经建立了一个联合人工智能中心，其任务是加速人工智能的交付和采用。

但是，像“第三次抵消”战略、“梅文计划”和“人工智能下一次运动”等项目获得的资金很少。

许多专家认为，潜在对手有可能在人工智能的开发和使用方面超过美国。然而，潜在对手在一些方面仍落后于美国。美国拥有世界上最大的情报预算、最受欢迎的硬件、软件和技术公司，以及最先进的网络战能力。作者和其他专家预计，这些优势将维持美国的技术领先地位，至少目前如此——但也许不是永远。

（2019-11-04 14:01:30）