人工智能自主决策系统的“透明度”伦理设计

2022-02-13 08:29:07王绍源任宇东
科学经济社会 2022年4期

王绍源 任宇东

人工智能(AI)的兴起与“机器学习”议题的勃兴在很大程度上促进了“自主决策系统”(automated-decision making,ADM)的产生。“自主决策系统”可以看作是人工智能的一个核心部分,凭借“机器学习”算法,利用基于数据集构建的预测模型实现自主决策系统在非人类的自动化过程做出决策。自主决策系统侧重体现算法的主体性以及“算法”在“决策过程”中的重要性。

“自主决策系统”不仅改变了机器学习模式,而且引发了人们对于“责任、尊严和人机关系”等问题的伦理思考。随着人工智能的发展,无监督学习方法在寻找数据集中的规律性方面展露优势,这种规律性并不以“分类”为前提,因此无监督学习比之监督学习方法适用性更广。也正是由于“自主决策系统”是在没有人类辅助的情况下做出决定的,这引发了诸多学者对“自主决策系统透明度”问题的探讨。欧盟委员会(European Commission)相继颁布了如《通用数据保护条例》《AI开发和使用的道德草案》等人工智能伦理准则,这充分展现了“透明度设计”相关研究的必要性和重要性①Heike Schmidt Felzmann,et al,“Towards Transparency by Design for Artificial Intelligence”,Science and Engineering Ethics,2020,Vol.26,No.6,pp.1-29.。

目前,“自主决策系统透明度”的研究表明,“透明度”只是一种理想,想要实现仍然任重道远。一方面,从“算法”角度来看,“算法”不应被视为信息技术的中立组成部分,或是与现实割裂的概念对象,而应当被看作是“异质和分散的社会技术系统”。设计者应当通过在各种技术中嵌入“算法”来实现“算法具现化”并赋予其社会意义,更好地支持、服务于设计应用,通过“算法”显示出技术社会优越性并降低技术潜在的社会负作用,最终实现技术和社会实践的彼此结合。……

登录APP查看全文