岳 平, 苗 越
(上海政法学院刑事司法学院,上海 201700)
算法的英文名称原为“algorism”,意指常见的加减乘除等数字运算法则,后因9 世纪波斯数学家al-Khwarizmi 在数学上提出了算法这个概念而在18 世纪演变成为“algorithm”。[1]41在经典的计算机科学教科书中,算法通常是指为了实现特定目标而通过设立一组有限、明确的操作步骤,将给定的命令输入进去来转化为所需要的结果。区别于传统的算法范式,人工智能先锋人物杰弗里·辛顿提出了深度学习算法的论点,而目前引起大家讨论和争议以及本文讨论的都是深度学习算法。
算法开启了新一代人工智能的先河,既是技术进步的产物,也是对现实需要的积极应对。算法广泛应用于我们生活的方方面面,给交通、医疗、就业、娱乐等领域带来了极大的便利,人们也逐渐习惯通过算法程序来获取信息、认识世界。但是,随着人工智能时代的不断演进,算法被不断地普及和运用,算法带来的偏见现象开始受到人们的关注,例如加纳裔科学家Joy Buolamwini偶然发现人脸识别无法识别她,除非戴上白色面具,此后她的研究发现,IBM、微软和旷视Face++三家产品均存在不同程度的女性和深色人种“歧视”。[2]由此,算法的问题日益暴露,算法偏见的概念及现象引起了人们的关注。对于该问题的现象与立场,不同学者有着不同的理解和解读。有学者认为,算法偏见是指一种预测相对于另一种预测的非预期算法偏好,导致法律或伦理上产生不恰当的影响;……