中国率先发起规范军用人工智能国际倡议

兰顺正

2021年12月13日，联合国《特定常规武器公约》第六次审议大会在日内瓦开幕。会上，中国裁军大使李松提交了中国《关于规范人工智能军事应用的立场文件》。该文件聚焦人工智能军事应用涉及的研发、部署、使用等重要环节，就如何在军事领域负责任地开发和利用人工智能技术提出解决思路。这是中国首次就规范人工智能军事应用问题提出国际倡议。

随着技术的进步，人工智能正得到越来越广泛的应用，对军事的影响也被各方所重视。有观点认为，未来人工智能有可能发展成为一种与核武器、飞机、计算机、生物技术齐名的变革性国家安全技术，将导致国家安全领域战略、组织、优先事项和资源分配的重大变化。鉴于军用人工智能的重要性，世界主要大国纷纷投入精力研究、发展之，并已取得不少成果。与此同时，国际上各种与人工智能技术研发和应用相关的争论与担忧随之而来，在军事领域的应用更是毁誉参半。不少人担心有朝一日人工智能通过不断的学习，萌生脱离人类控制、独立自主行事的倾向，进而与人类发生冲突，甚至走上滥杀、奴役、灭绝人类之路。

目前，军用人工智能的发展主要集中在三个方面。第一，自主情报分析。机器算法拥有快速、准确、无疲劳等特点，可以高速开展目标识别和数据分析，提取有效情报，将海量数据转换为有价值的信息。2017年以来，美军一直致力于在Maven项目框架下，将人工智能集成到现有目标侦察和识别系统中，这种目标探测和杀伤系统在伊拉克、阿富汗和叙利亚使用，积累了一定实战经验。

第二，自主指挥控制系统。人工智能可以依据战场情况和作战需求的变化发展，动态生成作战指挥命令，快速实现作战形态的自我聚合与分解，为作战指挥提供前所未有的自治性和灵活性。美军正在开发能够对从战术到战略级不同规模军事行动进行集中指挥和协调的人工智能多域指挥与控制系统（MDC），类似的基于人机共生智能的战役-战略级指挥系统也在研发之中。俄罗斯的指控基础设施建设也出现了人工智能元素，尤其是在规划和决策支持平台发展方面。

2021年11月7日，尼加拉瓜举行总统和议会选举，民众前往位于首都马那瓜的投票站投票。

第三，自主武器。根据美国国防部2012年作出的定义，自主武器系统是“一种激活后就无需操作人员进一步干预，可以自主选择和攻击目标的武器系统”。国际红十字委员会（ICRC）2014年将自主武器系统定义为“可以独立选择和攻击目标的武器，即在获取、跟踪、选择和攻击目标等关键功能方面具有自主权”。

在上述三个军用人工智能发展领域里，前两类虽然参与作战行动的策划与指挥，但毕竟没有“亲自动手”。而自主武器系统的最大特点是能在不依赖外界指令和设备支持的情况下，于复杂的作战环境中，依靠人工智能系统独立做出开火决定，让机器决定人的生死。因此，国际争论的焦点更多集中在自主武器研发领域。

现在争论的核心是“自主武器该不该被使用”。对于大规模应用自主武器的后果，国际上存在较大分歧。一种观点认为，智能化自主武器系统不仅能使人与武器实现实质性分离，使实际伤亡率无限趋近于零，而且自主武器系统无需考虑自身安全，不受主观情绪左右，具有“理性优势”，加上更快的信息处理速度，武器使用效率和不同武器之间的协作也将大大提升，可以最大限度地帮助军方获得战场主动权。

另一种观点则认为，摆脱人类控制的自主武器系统将使战争变得更加冷血，在战场上被授予“自由开火权”的人工智能可能会自作主张滥杀无辜，导致攻击范围、时间和毁伤程度等方面的诸多不确定性，进而加剧危机意外爆发和升级的风险。如果让机器来决定人类生死，也会使人类缺乏对杀戮行为的道德负担，其结果必然会使杀戮变得毫无人性。

中国人工智能技术研发起步较晚，但由于受到国家高度重视和支持，发展迅速。从国际上各种权威统计看，中国的人工智能相关专利申请数量从2011年开始逐步增长，2015年起呈现爆发式增长。目前，中国人工智能产业規模继续增长，应用范围持续扩大，人工智能产业市场的人力物力投资也在不断增加。与此同时，国家不断出台各类政策扶持人工智能产业发展，如2017年国务院印发《新一代人工智能发展规划》，2019年以来中国政府又先后发布《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等文件，明确了人工智能治理框架和行动指南。

中国积极参与联合国“致命性自主武器系统”问题讨论，推动各方达成11条指导原则。2021年5月中国担任联合国安理会轮值主席期间，主持召开“新兴科技对国际和平与安全的影响”阿里亚模式会议（联合国框架下一种新兴的非正式秘密会议模式），推动安理会首次聚焦人工智能等新兴科技问题，为国际社会探讨新兴科技全球治理问题提供了重要平台。在此次会议期间，李松指出，规范人工智能军事应用有利于增进国家间互信、维护全球战略稳定、防止军备竞赛、缓解人道主义关切，也有助于打造包容性和建设性的全球安全伙伴关系，在人工智能领域推动构建人类命运共同体。

中方在此次联合国《特定常规武器公约》审议大会上提交的《立场文件》主张：各国尤其是大国应本着慎重负责的态度在军事领域研发和使用人工智能技术，不谋求绝对军事优势;人工智能军事应用不应成为发动战争和谋求霸权的工具，不能利用人工智能技术优势危害他国主权和领土安全;应坚持以人为本、智能向善原则，确保相关武器及其作战手段符合国际人道主义法，避免误用恶用和滥杀滥伤;应确保相关武器系统不脱离人的控制，不断提升人工智能技术的安全性、可靠性和可控性;应加强对人工智能潜在风险的研判，降低扩散风险;应建立普遍参与的国际机制，推动形成具有广泛共识的人工智能治理框架和标准规范。

在自主武器应用方面，中国的态度与美国明显不同。2018年3月，美国在向联合国政府专家组会议提交的文件中曾强调，“致命性自主武器系统领域的新兴技术可以提高国家运用武力时降低平民伤亡风险的能力……较之压制或禁止致命性自主武器系统领域新兴技术的做法，美国选择鼓励相关领域技术创新”。很明显，中方的主张是从全人类福祉出发的，兼顾了发展和安全，体现了大国担当。相信未来会有更多“中国好声音”在人工智能发展规划领域发出。