人工智能安全国际标准化进展研究

张琳琳 王腾

(中国信息通信研究院安全研究所，北京 100191)

0 引言

人工智能作为引领未来的战略性技术，日益成为驱动经济社会各领域从数字化、网络化向智能化加速跃升的重要引擎，对人类文明发展和社会进步产生广泛而深远的影响，但与此同时，人工智能技术的应用也带来了国家安全、社会伦理、网络安全、数据安全、隐私保护、人身安全等风险挑战。世界各主要发达国家纷纷布局人工智能发展战略规划，高度关注人工智能技术应用发展及安全风险防范。人工智能标准化工作有利于促进人工智能产业发展和技术创新，其中安全标准是人工智能标准体系的重要组成部分， ISO/IEC、ITU-T、ETSI、IEEE、NIST等国际标准组织积极推进人工智能安全标准制定，从不同角度逐步完善人工智能安全标准体系，为防范人工智能安全风险、鼓励良性人工智能应用、推动人工智能产业有序健康发展发挥基础性、规范性、指引性作用。

1 人工智能安全国际标准研究进展

1.1 ISO/IEC JTC1

国际标准组织/国际电工委员会的第一联合技术委员会(ISO/IEC JTC1)中开展人工智能安全标准化的研究组主要为SC42(人工智能)及SC27(信息安全)，工作涉及人工智能安全的标准项目见表1。

表1 ISO/IEC JTC1人工智能安全标准项目概况

SC42于 2017年10月成立，是ISO/IEC中负责人工智能标准的首要制定及管理单位，其下辖的WG3可信赖工作组负责人工智能安全标准制定[1]，由于传统信息安全“保密性、完整性、可用性”已难以适应新技术应用领域的安全需求，可信赖的概念在安全领域国际标准工作中日益受到关注和重视，人工智能可信赖的内涵包括可靠性、可用性、弹性、安全性、责任感、透明度、完整性等。……