人工智能下算法歧视审查机制的建立构想

徐承栋

（山东建筑大学，山东 济南 250000）

一、算法歧视的概念界定与基本类型

（一）算法歧视的概念

随着计算机和信息技术的广泛应用，人类已然步入了大数据时代，以算法（Algorithm）为核心的人工智能正深刻改变着人们的生活。算法是计算机程序运行的数学公式，如果将人工智能视为大数据的输入与数据分析结果的输出，那么算法就是将输入值（Inputs）转化为输出值（Outputs）的关键步骤。［1］

算法歧视（Algorithmic Discrimination）指由数据分析导致的对特定群体的系统性的、可重复的不公正对待。［1］不同于一般的歧视，一方面人与人工智能之间的交互联系并非依靠人类的惯有逻辑方式，导致算法歧视难以预测；另一方面，由于人工智能技术主要依靠专业的计算机技术，难以实施有效的安全保障，因此对于算法歧视的监管也更加困难。

（二）算法歧视的基本类型

目前，算法歧视的类型主要包括以下三种。

1.特征选择的歧视。这类算法歧视一般将敏感特征数据直接输入算法系统，系统进而强化这种固有偏见，这是传统歧视方式在人工智能中的一种体现。

2.关联歧视，又称偏见代理的算法歧视。这类歧视通常具有较强的隐蔽性，算法决策者并不一定具有发生歧视结果的主观目的，决策者有可能使用了客观中立的数据，但这些客观中立的数据相互组合最终却导致了歧视结果的产生。

3.算法杀熟，即人们熟知的大数据杀熟。这种歧视一般体现为特定推送和价格歧视，计算机通过对个人历史数据记录的记忆学习，从而较为隐蔽地对不同群体进行区别对待。……