联合国教科文组织通过首份AI 伦理全球协议

■文/王辉 青秀玲 董瑜（中国科学院文献情报中心）

一、价值观

（一）尊重、保护和促进人类的基本权利、自由与尊严

任何人的身体、经济、社会、政治、文化或精神层面都不应受到AI系统的伤害。各国政府、私营部门、国际组织、技术界和学术界在介入与AI相关过程时，必须尊重人权框架。在人与AI系统的互动过程中不应将人物化，新技术需要提供行使和捍卫人权的新方法，而非侵犯人权。

（二）促进环境与生态系统繁荣

遵守相关国际国内法规、标准和做法，保护和恢复环境和生态系统，促进可持续发展。减少AI系统对环境的影响，确保将气候变化和环境风险降到最低。

（三）确保多样性与包容性

依照国际法（包括人权法）尊重、保护和促进多样性和包容性，使所有个人和群体都能积极参与到AI系统的生命周期中。AI不应限制个人生活方式、信仰、观点、表达或体验的选择。通过国际合作等方式，努力解决不发达地区缺少必要技术基础设施、教育、技能以及法律框架的问题。

（四）和谐与和平共处

在AI系统生命周期中，促进和平、包容、公平与公正，确保建设人人受益的相互关联的未来。AI系统生命周期过程不得破坏自由和自主决策以及人类和社区的安全，使个人和群体相互分裂和对立，或威胁人类、其他生物和自然环境之间的和谐共处。

二、原则

（一）相称且无害

为实现特定合法目的而选择的AI解决方案应是适当的；选取的AI解决方案不应违反本建议书提出的基本价值观，尤其是不得侵犯或滥用人权；AI解决方案应契合具体情况，并建立在严谨的科学论证基础上；在涉及生死抉择的情况下，应由人类做出最终决定。

（二）安全与安保

在AI系统生命周期中，应避免意外伤害（安全风险），预防和消除系统受攻击的可能性（安保风险），确保人类、环境和生态系统的安全。开发可持续的、保护隐私的数据访问框架，利用优质数据更好地训练和验证AI模型，保障AI安全。

（三）公平与非歧视

既要确保地区、国家和国际层面都能获得AI技术带来的益处，又要考虑到不同群体（特别是少数群体和弱势群体）的具体需求。尽量减少和避免技术偏见，确保AI系统的公平性。提供有效的补救措施纠正歧视和有偏见的算法。解决国家内部和国家间的数字和知识鸿沟，使每个人都能公平获取技术和数据。

（四）可持续性

对AI技术的社会、文化、经济和环境影响进行评估时，应充分认识到AI技术对实现联合国可持续发展目标（多维的且不断变化的系列目标）的影响。

（1）完成消化道溃疡案例小测试：该小测试中，梗概性内容占60%，细节性内容占40%。小测验利用手机扫描二维码进入考试系统。考试时间为10分钟，时间到或者点击提交试验考试结束，系统自动为每一个学生评分和记录小测验用时。学生答题时间小于1分钟时为无效试卷。（2）教师对学生的评价：教师从5个方面评价学生①学习意愿和态度（20分）；②知识信息收集（10分）；③分析思考能力（40分）；④沟通表达能力（15分）；⑤团队合作（15分）。总分100分。

（五）隐私权与数据保护

AI系统数据的收集、使用、共享、存储和删除必须符合国际法以及本建议书规定的价值观和原则，同时尊重相关国家、区域和国际法律框架。监管机构应在国家或国际层面建立适当的数据保护框架和治理机制。算法系统应充分评估隐私影响，AI参与者要对AI系统的设计和实施负责。

（六）人类的监督与决定

应确保始终由自然人或法律实体承担AI伦理和法律责任，人类在决策和行动上可借助AI系统，但AI系统不能取代人类的责任和问责，不应交由AI系统做生死攸关的决定。

（七）透明度与可解释性

努力提高AI系统的透明度和可解释性，支持民主治理。根据AI算法做出决定时，人们有权知道并要求私营或公共机构提供解释性信息，确保借助AI获得的结果和过程可理解、可追溯。

（八）责任与问责

AI参与者应根据现行国际、国内法律承担法律和伦理责任，即AI参与者承担基于AI系统做出决策和行动的责任。应建立适当的监督、影响评估、审查和尽职调查机制，确保可以对AI系统及其整个生命周期的影响进行问责。技术和机制的设计应确保AI系统可审查、可追溯，特别是在应对人权冲突以及环境和生态系统威胁时。

（九）意识与素养

应通过开放获取的教育、数字技能和AI伦理培训以及媒体和信息素养培训，提升公众对AI技术和数据价值的认识和理解，确保公众的有效参与，让所有社会成员在使用AI系统时能够做出知情决定，免受不利影响。

（十）多利益相关者及适应性治理与协作

利益相关者的参与对于采用包容性AI治理措施，实现共同利益和促进可持续发展十分必要。应通过开放标准和互操作性促进协作，并兼顾技术的变化以及新的利益相关者的出现，允许边缘化群体、社区和个人参与AI治理。

三、政策行动领域

（一）伦理影响评估

主要包括：成员国应引入影响评估框架，确定并评估AI系统的益处、关注点、风险及预防、缓解和监测风险的措施；成员国和私营企业应建立调查和监督机制，确定、防止并减轻AI系统对人权、法治和包容性社会产生的影响；各国政府应制定监管框架开展针对AI系统的伦理影响评估。

（二）伦理治理

主要包括：成员国应确保所有AI治理机制均有包容性、透明性、多学科、多边和多利益相关者参与的特征，治理包括预测、保护、监测影响、执行和补救等方面；成员国应通过执法机制和补救行动，调查和纠正AI系统造成的伤害；鼓励成员国制定国家和区域AI战略，并考虑软治理形式（如AI系统认证机制）；成员国应对现有的、拟议的AI系统进行透明评估；成员国应鼓励不同利益相关者参与，并考虑增加AI伦理官员或其他机制监督伦理治理；成员国应促进数字生态系统的开发和访问，在国家层面实现AI系统的伦理和包容性发展；应建立合作机制，确保成员国积极参与AI治理的讨论；修订涉及AI系统的法规和制定新法必须遵守成员国的人权法；成员国应提高司法机构的能力，做出与AI系统有关的裁定；成员国应确保政府和多边组织在AI系统的安全保障方面发挥主导作用；成员国应确保AI参与者遵守国际人权法、标准和原则，同时充分考虑当地的文化和社会多样性；成员国应建立减少不平等、偏见和虚假错误的机制；成员国应促进和增加AI开发和数据训练中的多样性和包容性；成员国应酌情制定、审查和采用监管框架，实现对AI系统内容和结果的负责和问责；成员国应使所有AI参与者参与制定规范或采用现有法规，并鼓励利用监管沙盒等机制，加快法律、法规和政策的制定进程；成员国应对AI系统的透明度和可解释性提出明确要求。

（三）数据政策

主要包括：成员国应制定数据治理战略，确保持续评估AI系统训练数据的质量；成员国应根据国际法制定适当的保障措施保护隐私权；成员国应制定数据政策或框架，确保个人数据和敏感数据的安全；成员国应促进数据开放，支持安全、公平、合理合法地共享数据；成员国应监督数据的采集和使用，促进高质量、稳健数据集的利用，使其便于AI系统的训练、开发和应用；成员国应在联合国的支持下，考虑采用数据共享措施，提升工具和数据集的互操作性，并增加数据系统接口，鼓励私营企业与利益相关者共享数据以服务于研究、创新和公共利益。

（四）发展与国际合作

主要包括：成员国和跨国企业应在相关国际、政府间和多利益相关者论坛上讨论与AI有关伦理问题；成员国应确保在教育、科学、文化等领域使用A I，并遵守本建议书的价值观和原则；成员国应提供国际合作平台，促进利用AI来解决发展问题；成员国应努力促进AI研究和创新方面的国际合作；成员国应使国际组织、研究机构和跨国企业参与进来，共同推进AI伦理的研究。

（五）环境与生态系统

主要包括：成员国和企业应评估AI对环境的直接和间接影响，包括但不限于其碳足迹、能耗以及开采原材料对环境造成的影响，应确保所有AI参与者遵守环境法律、政策和惯例；成员国应采取激励措施，开发和利用基于人权和伦理的AI解决方案；考虑到AI的资源密集型和数据密集型特征及其对环境的影响，成员国应确保AI参与者根据相称原则，选择数据、资源和能源效率高的AI解决方案。

（六）性别

主要包括：成员国应确保在AI系统生命周期的任何阶段，女童和妇女的权利、基本自由和安全不受侵犯；成员国应从公共预算中划拨专项资金，用于资助与性别平等有关的计划，并制定相关政策，确保其不被排除在AI驱动的数字经济外；成员国应识别并积极纠正AI系统中的性别歧视和偏见问题；成员国应通过激励措施、支持制度和政策，鼓励女性创业并参与到AI系统生命周期的各个阶段中；成员国应通过激励措施鼓励女性参与AI研究。

（七）文化

主要包括：鼓励成员国在物质与非物质文化遗产保护、丰富、推广、管理等领域采用AI系统；鼓励成员国审查并应对AI系统产生的文化影响，特别是自动翻译和语音助手等应用程序给人类语言和表达带来的影响；成员国应促进针对艺术家和创意专家的AI教育和培训，评估AI技术在其专业的适用性，使AI技术应用于文化产品和服务；成员国应提高当地文化领域中小企业对AI工具的认识和应用；成员国应促进AI和知识产权的交叉研究，并评估AI技术对知识产权所有者权利和利益的影响；成员国应鼓励国家级的博物馆、画廊、图书馆和档案馆使用AI系统。

（八）教育与研究

主要包括：成员国应与国际组织、教育机构、私营和非政府实体合作，向公众提供AI素养教育；成员国应推进AI必备技能，以及批判性和创造性思维、团队合作、沟通、社会情感和AI伦理等技能的培养；成员国应推进通用计划，提高对AI的认识；成员国应鼓励在教学、教师培训和线上学习等活动中负责任地使用AI技术；成员国应促进少数和弱势群体参与和主导AI教育计划、监测并共享最佳实践；成员国应开发符合国家教育计划和惯例的AI伦理课程，促进AI技能教育与其他AI教育的合作；成员国应促进和支持AI研究，尤其是AI伦理研究，推广发展AI的最佳实践；成员国应确保AI研究人员接受研究伦理的培训；成员国应鼓励私营企业为科研群体提供数据访问的便利；成员国应确保任何未来AI技术的开发都建立在严格、独立的科学研究基础之上，促进跨学科AI研究。

（九）信息与通信

主要包括：成员国应使用AI系统改善信息和知识的获取，增强言论、学术和信息获取的自由，增加官方数据和信息的主动披露；成员国应确保AI参与者尊重并促进言论自由，以及与自动内容生成、审核有关的信息获取自由；成员国应投资并促进数字、媒体和信息素养技能，减少和打击虚假信息、错误信息和仇恨言论。

（十）经济与劳动力

主要包括：成员国应评估并应对AI系统对劳动力市场的冲击和对教育需求的影响；成员国应支持政府、学术机构、产业界、劳工组织和民间社会之间的合作，弥合技能需求的鸿沟；成员国应与利益相关者开展合作，确保面临职业风险的雇员能够平稳过渡，还应制定和实施研究和应对劳动力挑战的计划；成员国应鼓励和支持研究人员分析AI系统对当地劳动环境的影响，以预测未来趋势和挑战；成员国应采取适当措施保护竞争性市场和消费者，防止滥用市场主导地位。

（十一）健康与福祉

主要包括：成员国应努力运用AI系统改善人类健康并保护生命权；成员国应确保AI健康（特别是心理健康）系统的开发和部署受到监管，支持循证创新和医学进步，鼓励患者和及其代表参与系统开发；成员国应制定人机交互及其对人际关系影响的指南；成员国应确保用户能够轻松识别是在与人还是与AI系统交互，并能拒绝此类交互；成员国应鼓励和促进合作，研究人与AI系统长期交互的影响，还应鼓励研究AI技术对健康产生的影响，特别是对儿童和青年人员心理和认知产生的影响；成员国应建立机制，使儿童和青年人参与到AI系统对其生活和未来影响的对话、辩论和决策中。