美国国防部出台人工智能伦理准则

徐能武?龙坤

2021年8月2日，美国参联会主席马克·米利发表演讲称，人工智能、无人系统等技术是未来作战必须具备的新兴能力，将从根本上改变未来战争的作战样式。由于人工智能在美军中越来越受重视，因此制定和实施人工智能伦理规范就成为美军推进人工智能军事应用的重要一环。从2019年关于人工智能的五项原则和十二条建议，到2020年人工智能领域五项道德原则，再到今年6月“负责任地使用人工智能”六项原则，美国国防部接连出台和完善人工智能伦理准则，其主要考虑如下：

一是维持美军科技优势和军事霸权。美军认为只有制定了人工智能军事应用的伦理准则，才能以可靠和保证问责清晰的方式推进人工智能的军事应用，从而推进“第三次抵消战略”，维持美军的科技优势与军事霸权。而如果不尽快制定伦理准则，会面临两方面的重大风险。一方面是竞争对手进行“技术突袭”、损害美军技术优势和国家安全的风险;另一方面是人工智能应用中可能发生事故、危害美国国家安全的风险。具体而言，美国认为一些竞争对手正在利用人工智能和机器学习技术进行情报搜集和数据分析。而人工智能引发事故风险则主要包括算法偏见、不可解释性、复杂战场环境的不适应性、人工智能系统行为与意图不符、系统交互所带来的非预期事故等内部可靠性问题，以及人工智能系统容易遭受训练数据投毒、对抗性欺骗攻击、黑客攻击等外部风险。

二是弥合美国军方与科技企业间的理念分歧。美国国防部出台人工智能军事应用伦理准则的直接诱因是美军与科技企业的文化冲突。近年来，面对美军推动人工智能军事应用这一问题，美国内存在很多质疑的声音，尤其是一些科技企业不赞成将人工智能技术军事化、制造战争武器。这种理念冲突使得推进人工智能军事应用面临重大阻碍。据报道，2018年，由于担心人工智能技术被用于战争目的和可能侵犯用户隐私、有悖于公司“不作恶”的价值观，逾百名学者和科学家上书，要求谷歌承诺不参与也不支持自主武器的开发、制造、贸易或使用。2019年，又有数十名微软员工签署联名信，反对公司为军方提供增强现实技术支持，并要求立刻停止发展任何武器技术。在此背景下，美国国防部试图通过制定人工智能伦理准则的方式，向外界表明美军会以符合伦理和负责任的方式推动人工智能的军事应用。

三是抢占世界军事人工智能伦理准则制定的先机，以有利于美国利益的方式塑造国际规范。当前，人工智能的伦理问题成为世界上的热点议题，算法偏见、安全性、可靠性、责任缺失等问题使得制定人工智能伦理准则的必要性日益凸显。在此背景下，美国国防部意识到“引领军事人工智能伦理和安全标准制定”成为美军人工智能战略的五大支柱之一。美国国防部强调，“阐明以合法和合乎道德的方式使用人工智能的愿景和指导原则，以推广我们的价值观。”

四是借机强化与私营企业、学术界及盟友伙伴国的合作关系，抢抓国际上军事人工智能伦理规则制定权。美军出台人工智能军事伦理准则还有强化与私营企业、学术界、全球盟友以及伙伴国合作关系的考量。美军认为，国防部历史上与学术和商业部门保持着紧密联系，这对于促进科技创新和突破性技术应用于军事领域至关重要。然而，这种模式在过去30年里已经摇摇欲坠。为了解决这一问题，美军认为必须更新其研究、资金、获取、培训和参与策略，改革国防部采购模式，通过软件特种作战创新枢纽（SOFWERX）、空军创新枢纽（AFWERX）和国防创新单元等为不熟悉国防部的企业家提供接触和合作机会，并与学术界和私营部门就其目标和意图进行透明和持续的公开讨论。同时，希望通過制定符合美国理念和利益的军事人工智能伦理准则，塑造外界对于美国国防部在军事人工智能领域的信心和信任。