孟 伟
人工智能伦理治理的理论与实践已上升为一项国家层面的战略规划。习近平总书记在2018年9月17日《致世界人工智能大会的贺信》中指出,要“处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题”①《习近平致2018世界人工智能大会的贺信》,2018-09-17,http://www.xinhuanet.com/politics/leaders/2018-09/17/c_1123441849.htm。;2018年10月31日,习总书记在主持中共中央政治局集体学习时再次强调,“要加强人工智能发展的潜在风险研判和防范”②《习近平:推动我国新一代人工智能健康发展》,2018-11-01,http://www.banyuetan.org/dyp/detail/20181101/1000200 033137441541034775479480661_1.html。;2019年7月24日,主持召开中央全面深化改革委员会第九次会议审议通过《国家科技伦理委员会组建方案》,提出不仅要明确科技活动必须遵守的价值准则,而且要通过构建“科技伦理治理体系”把这些准则落实在行动中③张霄:《发展科技伦理:从原则到行动》,《光明日报》2019年12月9日。。
人工智能不仅是一种为人类所设计、驱动和使用的一般性传统技术,随着人工智能设计和制造的飞速进步,作为模拟人类思维和智能的特殊技术,人工智能越来越可能成为一种具有高度“自主性”“能动性”并可能在未来颠覆和重塑传统人机关系的新型技术。因此,人工智能伦理治理的课题,不仅需要回答在经济、医疗、教育等各个领域如何合理使用人工智能,而且需要面对人工智能在技术层面上的伦理设计问题,即人工智能如何在技术上合理实现道德的生成与嵌入。国内外学术界越来越意识到,人工智能伦理治理不仅是一个涉及伦理监管和审查的实践课题,也是一个涉及道德认知与道德心灵的元哲学课题。……