社会治理:人工智能时代算法偏见的问题与规制

2021-02-12 09:17:34岳平,苗越
上海大学学报(社会科学版) 2021年6期
关键词:人工智能

岳 平, 苗 越

(上海政法学院刑事司法学院,上海 201700)

一、算法问题现象:算法与算法偏见现象产生的环节

算法的英文名称原为“algorism”,意指常见的加减乘除等数字运算法则,后因9 世纪波斯数学家al-Khwarizmi 在数学上提出了算法这个概念而在18 世纪演变成为“algorithm”。[1]41在经典的计算机科学教科书中,算法通常是指为了实现特定目标而通过设立一组有限、明确的操作步骤,将给定的命令输入进去来转化为所需要的结果。区别于传统的算法范式,人工智能先锋人物杰弗里·辛顿提出了深度学习算法的论点,而目前引起大家讨论和争议以及本文讨论的都是深度学习算法。

算法开启了新一代人工智能的先河,既是技术进步的产物,也是对现实需要的积极应对。算法广泛应用于我们生活的方方面面,给交通、医疗、就业、娱乐等领域带来了极大的便利,人们也逐渐习惯通过算法程序来获取信息、认识世界。但是,随着人工智能时代的不断演进,算法被不断地普及和运用,算法带来的偏见现象开始受到人们的关注,例如加纳裔科学家Joy Buolamwini偶然发现人脸识别无法识别她,除非戴上白色面具,此后她的研究发现,IBM、微软和旷视Face++三家产品均存在不同程度的女性和深色人种“歧视”。[2]由此,算法的问题日益暴露,算法偏见的概念及现象引起了人们的关注。对于该问题的现象与立场,不同学者有着不同的理解和解读。有学者认为,算法偏见是指一种预测相对于另一种预测的非预期算法偏好,导致法律或伦理上产生不恰当的影响;……

登录APP查看全文

猜你喜欢
人工智能
我校新增“人工智能”本科专业
用“小AI”解决人工智能的“大”烦恼
汽车零部件(2020年3期)2020-03-27 05:30:20
当人工智能遇见再制造
AI人工智能解疑答问
人工智能与就业
IT经理世界(2018年20期)2018-10-24 02:38:24
基于人工智能的电力系统自动化控制
人工智能,来了
数读人工智能
小康(2017年16期)2017-06-07 09:00:59
人工智能来了
学与玩(2017年12期)2017-02-16 06:51:12
下一幕,人工智能!
南风窗(2016年19期)2016-09-21 16:51:29