平等权对算法歧视治理的宪法功能展开

刘玉绰

一、问题的提出

随着人工智能技术的快速发展，人类已经迈进了大数据时代，算法（Algorithm）作为一门新兴技术已被广泛运用于人类的工作及生活中，如公司招聘、学校招生、警察侦办案件、法官审判案件、银行信贷、公司商品交易等活动对算法愈加倚重①郑智航、徐昭曦：《大数据时代算法歧视的法律治理与司法审查——以美国法律实践为例》，《比较法研究》2019年第4期，第111-122页。。但是，任何事物均具有两面性，算法在便利人类工作及生活的同时，也为人类在工作及生活中受到不公平待遇（算法歧视）埋下了隐患。当下算法歧视涵盖性别歧视、种族歧视、信仰歧视、就业歧视、教育歧视、算法定价共谋、算法“杀熟”等类型，这表明算法歧视已侵蚀到个人基本权利、市场经济秩序以及个人经济利益等“肌体”①刘友华：《算法偏见及其规制路径研究》，《法学杂志》2019年第6期，第55-66页。，算法歧视问题俨然已成为亟须解决的社会问题。根植于资本内部的算法歧视已经危及到市场经济秩序的稳定，亟须予以规制，国家也开始了大力的监督工作。例如，国家市场监督管理总局于2021年4月16日对阿里巴巴以实施垄断行为为由罚款182亿元，2021年4月26日又对美团以涉嫌实施“二选一”②“二选一”是指平台利用优势地位和经营者对其的依赖性，采取不正当手段强迫经营者在平台间进行唯一选择。例如某电商平台为了垄断市场，要求商家只能在本平台经营，否则不再合作或对其进行打击。“二选一”是滥用市场支配地位的表现，降低了社会效益，损害消费者权益。等垄断行为为由宣布立案调查，唯品会、腾讯、百度等互联网企业皆曾因垄断问题受到了相应处罚。笔者单通过知网对“算法歧视”进行检索发现，学界已发表有关算法歧视的期刊论文总计216篇（截至2021年12月底），其中，2004年1篇，2014年1篇，2017年2篇，2018年5篇，2019年46篇，2020年76篇，2021年85篇。不难看出，有关算法歧视的较为广泛的研究从2019年才开始，并呈现逐年递增趋势。

从当前国家算法歧视治理现状来看，虽然学界对算法歧视问题已进行了一系列研究，但对国家算法歧视治理的理论导向作用整体来看仍成效甚微。因此，极有必要立足于学界现有理论研究成果，对平等权进行宪法规范层面的解读，并展开其宪法功能，为国家算法歧视治理体系与治理能力现代化提供宪法价值性指引，以增进算法歧视问题的治理实效。

二、算法歧视的基本问题

（一）算法歧视的概念界定

算法是计算机领域的专业术语，是指为了达到特定的目的，运用一定复合控制结构所设置的规则进行计算的方法。通俗地讲，人们可以基于特定目的，在计算机特定软件中输入特定的指令，通过软件的运行计算，得出决策。算法具有通用性、有效性、有穷性和确定性等特征，其中，通用性指算法能够被重复应用，有效性指算法能够被有效执行，有穷性指算法计算步骤有限，确定性指算法指示应明确③张铭、王腾蛟、赵海燕：《数据结构与算法》，北京：高等教育出版社2008年版，第11-12页。。以上特征为算法的可操作性及易操作性提供了保障，再加之算法能够突破人类计算能力的局限，帮助人类进行科学、高效决策，基于此颇受青睐，甚至有一部分人盲目认为算法可以“包治百病”，能为社会事务的决策提供最优方案。但可以肯定的是，算法是柄双刃剑，其在一定程度上可以放大人类的歧视，进而危及市场经济、民主政治、平权文化、和谐社会、绿色生态的协调发展。

歧视是道德与法律层面均明确禁止的范畴，算法歧视亦不例外。早在1996年，美国学者巴蒂亚·弗里德曼、海伦·尼森鲍姆就对算法歧视进行过相应研究，将计算机系统的偏见分为先行存在性偏见、技术性偏见和突发性偏差。国际顶尖刊物《自然》《科学》均刊载过相关研究成果，论证了计算机能够产生偏见，尤其是当计算机向人类学习时，类似情形则更为突出。例如，谷歌公司的照片软件曾将黑人照片标为大猩猩，其在线广告系统向男性推送高收入工作的频率要远远高于女性。非盈利新闻机构ProPublica于2016年公布的一项调查报告显示，通过计算机对犯罪进行预测，黑人的预测犯罪率要远高于白人①李本：《美国司法实践中的人工智能问题与挑战》，《中国法律评论》2018年第2期，第54-56页。。结合算法与歧视的意涵，算法歧视宜定义为：算法在运用复合控制结构所设置的规则进行计算的过程中，基于性别、种族、国家、信仰、年龄、受教育程度所产生的偏见现象。

（二）算法歧视的类型划分

综合分析算法歧视的诸多类型，从所侵害利益的主体与属性出发，可以将算法歧视划分为侵害公民基本权利的算法歧视、侵害竞争性利益的算法歧视、侵害个人民事权益的算法歧视等②刘友华：《算法偏见及其规制路径研究》，《法学杂志》2019年第6期，第55-66页。。其中，侵害公民基本权利的算法歧视主要表现在性别歧视、种族歧视、信仰歧视、教育歧视、劳动歧视等方面；常见的侵害竞争性利益的算法歧视主要指算法共谋，即经营者之间利用算法形成某种合谋，以实现操纵市场的垄断目的；侵害个人民事权益的算法歧视最常见的就是大数据“杀熟”，商家通过算法对消费者的身份、消费喜好、消费记录、消费能力等进行综合评判，并在此基础上做出不同的营销策略，打破了“同物同价”的传统销售模式。

再者，从运作特征或模式出发，可以将算法歧视划分为偏见代理型、特征选择型、大数据“杀熟”型等。其中，偏见代理型算法歧视呈现出“中立进—偏见出”的运行特征，即决策者在算法机器中输入了中立的数据，却得出了带有歧视性的结果。例如，在犯罪预测算法中对邮政编码过分强调，容易导致犯罪预测高发区与黑人居住区产生关联，进而构成种族歧视。特征选择型算法歧视采取了“偏见进—偏见出”的运行模式，即决策者在算法机器中直接输入诸如种族、性别等带有偏见的信息，以求得出带有偏见的计算结果。例如，当人们利用谷歌引擎搜索黑人名称时，页面弹出来的多是关于犯罪的信息。大数据“杀熟”型算法歧视主要表现为通过对计算机过往数据不断进行学习，然后采取价格歧视、特定推送等手段，实现“同物不同价”目的。

（三）算法的运行机理及其歧视的触发机制

1.算法运行机理的分解。传统意义上，人类在解决某种问题之前，大脑中会进行相应的思维活动，然后根据该思维活动的结果做出某种决策，以实现问题的解决。在当下人工智能时代，算法将人的抽象思维转换成计算机能够理解的源代码形式，以确保人的抽象思维能够被计算机所感知③胡小伟：《人工智能时代算法风险的法律治理》，《湖北大学学报（哲学社会科学版）》2021年第2期，第120-131页。。简而言之，人类将解决某种问题的思维通过代码编辑的形式予以固化，然后在基于该代码编辑所形成的计算机程序中输入相应数据并予以驱动，为问题的解决提供某种策略，此即算法运行的一般机理。

经过对算法运行机理分解可知，算法可划分为算法设计、算法开发、算法应用三个发展阶段（图1）。其中，算法设计是人的逻辑思维的语言描述，算法设计者想要运用算法解决某种问题，首先需要将解决该问题的逻辑思维通过语言形式予以描述，然后交由算法开发者运用诸如BASIC、C++、HTML、JAVA等计算机语言编辑代码的形式转化为源代码（又称源程序）。算法应用是驱动源代码进行算法决策的程序，一般呈现出“数据输入→计算→决策输出”（图1中A→B→C）的运行模式。但是，随着算法技术的演化，部分算法机器具备了学习功能，算法机器能够通过快速分析数据以实现模型“优”化，接下来便由“优”化后的机器对数据进行计算，以作出决策，该种应用呈现出“数据输入→计算→计算+→决策输出”（图1中A→B→B+→C）的运行模式。总而言之，算法横跨逻辑实现与代码实现两大领域，实现了人类世界与程序世界的无缝对接。

图1 算法运行机理图示

2.算法歧视的触发机制。受巴蒂亚·弗里德曼、海伦·尼森鲍姆对计算机偏见分类的启示，本文从先行性、技术性、突发性三个层面对算法歧视的触发机制进行探究。其中，先行性层面的触发机制主要由于算法被人为嵌入某种偏见或者某种文化体制、政治制度等参数。鉴于算法开发者是按照算法设计者的指示行事，因此，先行性层面的触发机制一般发生在算法设计阶段（图1）。技术性层面的触发机制主要是因技术瓶颈引发的程序运行受限所致，其根源在于算法开发阶段，结果产生于算法应用阶段（图1）。突发性层面的触发机制多是由于程序运行发生意外或者新知识的习得等原因所致，其发生于算法应用阶段（图1），尤其是随着算法学习能力的增强，这种突发性触发机制导致的算法歧视正不断增加，且其透明度较低，不易监管。

三、平等权的宪法规范内涵

（一）中国宪法关于平等权的规定

平等为宪法的发展奠定了基础，经历了从道德形态向权利形态演变的历史过程。平等最初是人的朴素情感及尊严感派生的道德准则。伴随着资产阶级革命的爆发，法国《人权宣言》以法律的形式明确规定了平等权，标志着平等开始由道德向基本权利过渡①阿部照哉、池田政章、初宿正典、中松秀曲：《宪法——基本权利篇（下册）》，周宗宪译，北京：中国政法大学出版社2006年版，第41页。。受社会历史条件的影响，平等权经历了由强调形式平等向实质平等的观念转变。法国大革命时期的平等权注重机会平等，直至1919年《魏玛宪法》问世，平等权才被赋予了实质平等的内涵，开始关注结果上的平等。目前来看，基本上所有的国家都以宪法或法律的形式对平等权作出了规定，一些国际公约及文件对平等权作出的规定更是推动平等权成为全球公认的基本权利。

除《宪法》第33条第2款（法律面前人人平等）之外，我国《宪法》第4条第1款（民族平等）、第5条第5款（反对特权）、第33条第4款（平等享有权利和履行义务）、第34条（选举平等）、第36条第2款（信仰平等）、第48条第1款（性别平等）等条款亦对平等作出了规定。平等已经完成了由道德形态向权利形态过渡，其作为基本权利已经被绝大多数国家通过宪法或法律确认，我国签署及加入的国际公约也均将其规定为基本权利，为了与国际接轨以及履行国际公约，有必要将平等视为基本权利。再者，《宪法》第33条第2款位于我国现行《宪法》“基本权利与义务”章节，说明国家也有意将其作为基本权利。至于论证平等是否为宪法原则，有必要从陈征教授就平等权的分类谈起，其将平等权分为一般平等权（法律面前一律平等）与特别平等权（民族平等、信仰平等、男女平等）①陈征：《我国宪法中的平等权》，《中共中央党校学报》2010年第5期，第87-90页。。然而，陈征教授就平等权的分类有待商榷。民族平等条款位于宪法总纲部分，盲目将其视为基本权利，可能会混淆总纲和基本权利与义务的边界。信仰平等是宗教信仰自由的组成部分，将其独立出来可能会割裂宗教信仰自由的完整性。男女平等条款的着力点在妇女权利上，该条款的最终目的是保护妇女权利，平等仅是噱头。笔者认为，与其作这种划分，我们不妨肯定平等之宪法原则属性，如此恰可以实现其对民族平等、信仰平等、男女平等的指引功能。也就是说，平等相对于民族平等、信仰平等、男女平等是一项宪法原则，为后者的践行提供了原则性指引。总而言之，平等兼具宪法原则与基本权利双重属性；只将平等权归为宪法原则，无视其基本权利属性，不利于平等权价值的实现；只将平等权归为基本权利，无视其宪法原则特性，将导致其功能不完整。

综合我国签署及加入的上述国际公约和现行宪法平等条款的有关规定，平等权的内容主要包括以下四个方面：（1）法律面前人人平等。即所有公民在法律执行、适用、遵守方面一律平等，强调的是法律范围内的平等。（2）禁止歧视。综合国际公约的规定，歧视可被定义为被法律所禁止的，以种族、性别、信仰、民族、财产等为理由，对特定主体实施的旨在限制或剥夺其权利的行为。当前歧视禁止已经成为全球共识。（3）反对特权。特权就是某人或群体基于其某种优势在经济、政治、社会等层面所享有的特殊权利或权力。文明社会不应有特权存在的空间，特权理应被禁止。（4）合理差别。合理性的差别是符合我国宪法精神实质的，无差别的绝对平等容易导致实质的不平等。因此，有必要采用合理差别原则，弥补某些人或群体因自然或其他正当原因造就的劣势，促成实质平等。

（二）宪法上平等权的性质与功能

德国宪法理论认为，基本权利具有“主观权利”与“客观法”双重性质，该理论为宪法上平等权性质与功能的探究具有重要的指引意义。

1.作为主观权利的平等权。作为主观权利，平等权是指公民基于宪法上的平等权要求公权力机关为或不为某种行为的权利。防御权功能是宪法平等权的首要功能，即防止公权力机关对平等权的行使不正当干预（图2）。防御权功能最早提出于德国联邦宪法法院的吕特案中，现已成为宪法学界较为流行的概念。我国宪法中的平等权也具有防御权功能，即公民个人可以与其他人平等地进行一系列活动，公权力机关不得非正当干涉。同时，平等权还具有受益权功能（图2）。受益权功能是指公民基于某种利益的享受要求公权力机关为某种行为的功能。那么，我国宪法中平等权的受益权功能表现为公民基于某种利益的平等享受而要求公权力机关为某种行为的功能。比如，妇女、身高矮的公民、有乙肝病史的公民要求公权力机关采取某种措施，保障其平等地获得就业机会。一般而言，宪法具有抽象性，无法为公民某种利益的平等享受提供具体的救济路径，这就需要国家通过立法予以保障。但是，当所依据的立法存在滞后或者缺失时，此时应对公民依据平等权请求公权力机关为某种行为的积极意义予以肯定。

2.作为客观法的平等权。作为客观法的平等权向公权力机关提供了相应的客观价值秩序行为准则，为平等权的实现奠定了物质性基础。平等权的客观秩序价值功能又可以进一步细分为以下功能（图2）：

图2 平等权的双重性质及其相应功能图示

（1）制度性保障功能。德国学者卡尔·施密特最早提出制度性保障的目的是界分“制度”与基本权利，彼时基本权利要么被视为一种纯粹的纲领，要么被置于法律保留之下，其对立法机关的约束力有限，后者甚至可以通过立法将其架空。施密特为了规避基本权利的这种困境，对一些重要事项提出了制度性保障，以求为其提供宪法层面的特殊保护①《魏玛宪法》第105条关于禁止设置例外法院的规定；第119条关于婚姻是家庭生活的基础的规定；第139条关于星期日为休息日的规定；第103条关于职业公务员队伍保障机制的规定；第142条对科学研究自由的宪法法律保障的规定等等。参见卡尔·施密特：《宪法学说》，刘锋译，上海：上海人民出版社2005年版，第182页。。但是，当下的制度性保障与施密特所提出的制度性保障完全不同，其依附于基本权利并成为基本权利客观价值秩序功能的一部分，强调立法机关就基本权利功能的实现进行积极立法。就平等权的制度性保障功能而言，基于平等权具有高度抽象性，为了确保其实现，立法机关应当积极开展相应立法工作，以明确平等权的具体内涵。

（2）组织和程序保障功能。组织和程序保障功能为基本权利的实现提供了便利条件，其与制度性保障功能的联系甚为紧密。可以说，二者之间高度重合，组织和程序保障功能在一定程度上可以划归于制度性保障功能范畴，只是前者规定得更为具体罢了①张翔：《基本权利的规范建构》，北京：法律出版社2017年版，第233页。。其中，组织保障强调国家在建立某种制度时应附带对实施该制度的组织（产生、运行等）作出规定，例如，国家建立科研自由、劳动保障等制度时，就应附带着对高校学术委员会、教授委员会以及工会等组织作出规定。程序保障是基本权利深受美国宪法“正当程序”原则影响下续造的结果，其强调立法机关应设计相应的程序以保证基本权利的实现，在此其还强调应避免繁琐的程序本身制约基本权利的实现。就平等权的组织和程序保障而言，国家在就平等权的实现建立某种制度时必须构建相应的组织，以及设计特定的运行程序。

（3）保护义务功能。广义的保护义务包括制度性保障、组织与程序保障以及其他保障义务；狭义的保护义务强调国家有义务保障公民免受第三人侵害。狭义的保护义务在当下占据主流地位，主要有刑法上的保护②陈新民：《宪法基本权利之基本理论（上）》，台北：元照出版公司1999年版，第3页。、警察法上的保护③李惠宗：《宪法要义》，台北：元照出版公司2002年版，第94页。、外交保护、基本权利第三人效力等类型，以上类型的保护义务均意在要求国家公权力机关保护公民免受公权力机关以外主体的侵犯。就平等权的保护义务功能而言，当公民平等权受到国家公权力机关以外的主体侵犯时，国家公权力机关应采取相应制裁措施，以保障平等权的实现。

四、算法歧视挑战下平等权面临的现实危机

（一）算法歧视固化了社会不平等

如图1所示，算法设计、开发、应用阶段均可能产生歧视。值得一提的是，除了算法设计阶段人工注入偏见、算法开发阶段遭遇技术瓶颈、算法应用阶段输入偏见数据以及算法通过自主学习产生偏见等因素导致算法歧视外，还存在着一种更为隐秘的因素，更是固化了社会的不平等：社会本身所内含的歧视可无形中借助算法决策得以外化，甚至算法设计者对此都难以察觉及把控。例如，《英国人工智能发展的计划、能力与指向》就曾指出，如果数据库本身对社会的不平等予以准确反映，可能同样会产生歧视。也就是说，社会运行过程中充斥着诸如对妇女、种族等歧视的成分，算法的设计原理莫过于社会运行方式的模型重塑，如此看来，产生算法歧视则不足为奇。再者，算法基于对其设计之时以及之前经验的归纳，但其面向的却是未来④洪丹娜：《算法歧视的宪法价值调适：基于人的尊严》，《政治与法律》2020年第8期，第27-37页。。我们应当清楚认识到，社会是不断进化的，靠基于历史经验的算法去预测未来，将无法完全跳出历史偏见的局限。那么，这种带有偏见成分的算法将帮助人们重复作出着一个个带有偏见的决策。此外，算法歧视对平等权的侵害具有范围广、持续时间长的特点。算法可以借助互联网渠道使其面向更多的应用者，随着算法应用者的不断增加，算法歧视的侵害范围将不断扩张。而且算法能够在网络系统中长久储存，何时想要使用，何时便可拿出来使用，这无疑间接延长了算法歧视的持续时间。

（二）算法歧视识别困难

平等强调人类社会的多元化发展，兼顾个人价值与群体价值。随着社会文明程度的不断提升，平等观念日渐深入人心，平等被广泛吸纳进多部国际公约以及世界各国宪法中，已衍化为一种全球共识。尤其近几十年来，各国几乎都在致力于消除国内的不平等现象，如美国在反性别歧视、种族歧视方面付出了诸多努力，我国通过少数民族加分政策维护教育平等，还通过立法规定男女平等享有继承权等。整体来看，当下社会中显性的不平等正逐渐改善，但隐性的不平等却呈现一种愈演愈烈的态势，其中以算法歧视最具代表性。随着算法的发展，我们的生活越来越被算法所形成的“拟态环境”包围，算法所产生的歧视正在无形中充斥着我们的生活。具而言之，算法为我们提供某种决策，其通过这种隐蔽的方式决定我们的行为，进而形成对某类群体的歧视。更可怕的是，随着人工智能技术的飞速发展，网络已经实现了去中心化，导致很难在算法空间中识别歧视因素的关键节点。再加之算法学习能力的不断增强，一来强化了其歧视的隐秘性，二来强化了其对歧视监管的反制能力①吴喜、梁阿敏：《新媒体视域下的平等权保护——对网络仇恨言论的反思》，《河北法学》2020年第7期，第24-38页。。

（三）算法歧视冲击平等权的法律保护模式

纵览当今世界各国政治体制，对立法、行政、司法等机关均作出相应的建构，与之相对应，就基本权利则形成了包含立法、行政、司法在内的法律保护模式，针对平等权同样如此。平等权保障原本是一个老生常谈的话题，我国对其已经形成了较为成熟的理论，且在相应理论指引下建构了对应的法律保护模式。平等权的法律保护模式本可以有序运行、“相安无事”，可惜因算法歧视的扩散导致这份“沉寂”被打破了并掀起了“惊涛骇浪”，具体表现在如下方面：

1.平等权保护立法凸显滞后性。法律的稳定性与滞后性是一对矛盾体。法律需要稳定，但这样会导致法律落后于社会发展；法律需要消除滞后，但这样会动摇法律的稳定。协调好法律稳定与法律滞后的关系，是确保法律发挥其调节社会关系价值的关键所在，在针对不同时机、不同事项等具体情况，应将适时调整维护法律稳定与消除法律滞后的优位。

法律滞后是人工智能时代平等权保护传统立法面临挑战的症结所在，消弭法律滞后相较维护法律稳定应被置于优先地位。随着算法科技的飞速发展，算法歧视在广度及深度上取得了迅速扩展，立法者应把握住时机，制定配套的立法策略，采取高效应时性的立法技术，以确保公民遭受算法歧视时得到及时的法律救济。值得强调的是，法律滞后性的人为因素相较天然因素更值得关注。我国传统立法往往倾向于法律纠纷的调节，进而忽视了风险的防控，尤其是算法技术的更迭比较频繁，算法歧视治理的立法时机难以把握。如果算法歧视治理立法忽视风险的防控，就会陷入“不成熟不立法，不立法更不成熟”的魔障。再者，根据我国全国人大常委会三次审议立法的相关规定来看，一部法律的立法周期需要2～5年，而根据“摩尔定律”，算法等人工智能技术的更新周期是一般为2年。也就是说，算法技术2年便可能更新换代，现有全国人大常委会的三次审议立法程序的规定或许不能够及时回应算法歧视治理的需要，很容易陷入“新的立法的生效意味着其实质意义上的过时”的困境。

2.平等权保护执法监管不力。随着国家治理体系与治理能力现代化的稳步推进，我国私力救济与公力救济相结合的权利救济模式整体上已日趋成熟，针对平等权的算法侵害同样应采取该种模式。但是，公民算法歧视识别能力的增强仍跟不上算法升级进化的节奏，算法黑箱的运作更促使算法以一种极为隐蔽的形式侵害公民的平等权，公民对此却可能毫无察觉，也毫无办法，因此，算法歧视的私力救济在当下尚不存在现实基础。其次，算法领域的行业自律机制尚未形成，主要是因为算法应用主体“重私利、轻公益”，缺乏动力驱使其自我治理。再次，司法机关具有谦抑性，仅能提供事后救济，无法就算法歧视予以事先预防。相较于以上三种保护路径，行政执法监管更能为算法侵害的平等权提供全方位、多层次、宽领域的保护。

但是，我国当下针对算法歧视执法监管不力。首先，监管目标带有严重的倾向性。我国就算法歧视的治理依据分散在单行法或部门法中，这些立法往往明确将公共利益置于优先保护的地位，公民个人平等权的保护则被置于从属地位，严重削弱了算法歧视监管的实效。例如，《消费者权益保护法》对社会经济秩序维护的价值预设要优于消费者合法权益的保护，针对大数据“杀熟”的执法监管，执法者最先考虑的是维护社会经济秩序，消费者合法权益的维护往往被置于从属地位，这必将影响算法歧视监管的实效。其次，缺乏专门性的监管机构。受条块结合行政体制的影响，我国分散执法、重复执法问题仍然较为突出。就算法歧视而言，国家网信、电信、公安、工商、文化、民政、征信、劳动等部门基于其单位性质均具有一定的监管职责，这要么导致以上部门在算法歧视监管中互相推诿，要么导致多头监管，造成行政资源的浪费。而且算法歧视监管的职责主要被下沉至基层，基层人员素质参差不齐、配置不合理、财政资源紧张等问题均制约着算法歧视执法监管的实效①邓辉：《我国个人信息保护行政监管的立法选择》，《交大法学》2020年第2期，第140-152页。。再次，技术监管的倾向性使然。技术监管倾向于效率、分权和自律，而法律治理倾向于权利、集权和他律，这样容易导致技术监管与法律治理脱耦与耦合的现象循环出现②郑智航：《网络社会法律治理与技术治理的二元共治》，《中国法学》2018年第2期，第108-130页。，严重制约着算法歧视执法监管的实效。最后，监管措施不够细致及合理。我国算法歧视的事前防范性立法仍不够成熟，相对应的监管机制尚未形成，事中监督采取大量行政约谈措施，事后采取处罚措施较轻，这些对算法歧视的震慑力度极为有限。

3.平等权保护的司法具有局限性。针对算法歧视对公民平等权的侵害，司法机关在权利救济上多少表现得有些力不从心。首先，法律的滞后为算法歧视形成了一定的法律真空地带，目前我国针对算法歧视的治理依据散见于民法、刑法、《网络安全法》《消费者权益保障法》《妇女权益保障法》等部门法或个别法中，司法机关在面对一些算法歧视无从找寻审判依据在所难免。其次，算法歧视责任的认定为司法机关带来了难题。算法设计者、应用者对算法歧视造成的平等权侵害应承担相应的责任，这是毋庸置疑的。但是，算法除了根据上述主体的指示实施侵害行为外，还可通过深度学习，对公民平等权产生连算法设计者、应用者都不可预测和不可控的侵害，该类责任如何认定，司法机关恐难定论。例如，微软曾推出的人工智能聊天机器人Tay通过深度学习，不到24小时便曝出大量反犹太人、性别歧视、种族歧视的言论。再次，倘若算法歧视对平等权的侵害已经严重至犯罪程度，司法机关通过法律解释予以定罪量刑，容易陷入有罪类推之嫌。再次，算法歧视对平等权侵害的司法管辖问题容易产生争议。算法以计算机为载体，计算机通过互联网为算法歧视对平等权的侵害突破了空间的限制，扩展了算法歧视的侵害面，此时应如何确定司法管辖，值得深思。再次，算法歧视所侵害平等权的主体一般不特定。男女歧视、种族歧视、竞争利益侵害、大数据“杀熟”等类型中平等权的侵害主体均不特定，如何启动司法救济程序，同样值得深思。再次，由于算法治理立法内容上整体呈现“重刑轻民”的现象，而日常生活中存在很多算法歧视并不能达到触犯刑法的程度，导致司法机关在处理此类平等权算法侵害案件中无法可依。最后，由于国别、地区、群体等因素的差异，不同国家、不同地区、不同群体对平等的认知可能存在差异，这些国家、地区、群体中的个体对算法歧视所导致平等权侵害的认知也就存在差异，司法机关在审判相应案件时还应将以上因素考量进去，这无形中增加了审判的难度。例如，算法设计者设计的某种算法在国人眼里并未侵害其平等权，但在来华留学的非洲留学生眼里就是内含种族歧视，司法机关对此应如何评判是个难题。

五、平等权对算法歧视治理的宪法功能实现

（一）国家消极义务的切实履行

平等权的防御权功能强调国家不得对平等权造成侵害。伴随着人工智能技术的飞速发展，“算力即权力”，平等权正不断遭受着算法权力的技术侵蚀，算法权力正从不同方面向公权力嵌入，并助推公权力形成权力滥用，导致平等权受到此迭加权力的严重侵害。因此，公权力机关对待算法技术应当擦亮“双眸”，并保持足够的克制，切勿被其所钳制，铸成对平等权造成侵害的大错。鉴于算法技术本身存在较高的歧视性风险，公权力机关的重大决策往往与社会公众的切身利益息息相关，当公权力机关利用算法作重大决策时，势必应对算法技术的应用保持高度谨慎的态度，这也是算法时代平等权防御功能的应有之义。例如，2019年5月14日，旧金山市政府通过了《停止秘密监视条例》，禁止警察、交管等部门使用人脸识别，因为该算法技术的运用往往会加剧种族不平等。

（二）国家积极义务的切实履行

1.制度性保障功能的实现。平等权的制度性保障功能要求国家立法机关就治理算法歧视建构系统的法律制度。在制度建构过程中，我们应积极推动算法歧视治理立法的智能化，利用算法及时发现歧视问题并提供最优立法方案；还应积极推动算法技术标准的法律化，从“代码即法律”转向“法律即代码”，解决算法技术标准的弊端，减少算法治理立法的滞后性①邢鸿飞、吕汉东：《智能互联网的法律风险及其立法应对》，《科技与法律（中英文）》2021年第1期，第10-18页。。在整体立法思路上，应该推动从过去的结果导向立法思路向以风险防范为特征的预防性立法思路逐步过渡。再者，应当在算法歧视治理立法中注重引入伦理规范与框架宣示性规范。伦理规范能够及时对已经或者可能产生变化的社会关系迅速予以回应；框架宣示性规范更富有弹性，这确保其能够将更多社会新情况囊括进治理范围。再者，在算法歧视治理立法中还应注重“数字福祉”的嵌入。受盲目逐利思想的迷惑，算法的设计与开发往往倾向于迎合算法使用者的偏好，容易忽略“数字福祉”①数字福祉主要包括以下两大内涵：一方面是人人都可享受到数字技术带来的红利，最大化地实现普惠和赋能；另一方面是促进个人对数字技术和网络服务的高质量使用，减小、防止数字技术对个人的负面影响。参见曹建峰：《人工智能伦理的深入研究迫在眉睫》，《互联网经济》2019年第4期，第36-41页。，这无疑与社会对算法的整体期待相背离，长此以往，算法必将遭受来自社会的口诛笔伐。此外，算法歧视治理立法目前呈现“重刑轻民”的现状，而社会中多数算法歧视往往够不到入刑程度，这容易形成算法歧视治理的法律真空问题，该问题亟待通过立法解决。

针对算法歧视治理法律制度的具体建构，应当涵盖以下内容：（1）强调依宪立法。算法歧视导致宪法中的平等权受到侵害，平等权的制度性保障功能要求立法机关予以立法治理，合乎宪法规定。（2）行政法基本原则的嵌入。算法歧视治理立法从整体上来看属于行政法范畴，行政法基本原则嵌入其中理所当然，此举能够确保算法治理立法兼顾公平与效率、公共利益与私人利益。（3）目的明确与限定原则的全面贯彻。即通过立法要求算法设计、开发与应用的目的应当特定、明确及正当，从根上抑制算法作出带有歧视的决策。（4）算法歧视的审查主体。我国就算法歧视尚未形成强有力的专门性审查部门，立法机关应当对专门性审查部门的建构及职能予以明确。（5）算法歧视的审查标准。法律既禁止不合理的区别对待措施，也认可基于合法目的的正当区别②韩铄：《算法如何平等：算法歧视审查机制的建立》，《南海法学》2020年第2期，第114-124页。。随着算法技术的不断升级，其对平等权进行侵害的手段愈发隐蔽，再加之算法学习功能还导致其产生不可测的歧视。因此，我们对算法歧视的审查可采双重审查标准，即审查目的歧视与效果歧视，先对算法设计目的进行审查，如果目的审查中未发现偏见，再进行算法应用效果审查。（6）算法的设计应向有关行政机关备案。之所以采备案审查方式而不采行政许可方式，主要是因为行政许可的审查期限可能较长，算法技术更新换代周期较短，采行政许可方式可能会耽误算法及时地投入使用。（7）算法解释权的规定。即当某算法决策对其相对人的权利义务产生实质性影响时，该相对人有权请求算法设计者或应用者就算法运行作出相应解释。（8）侵权责任的划分。算法设计者、开发者、应用者就算法歧视是否均应承担责任，应承担民事责任还是行政责任抑或刑事责任，各主体承担责任的比重如何划分，算法通过自主学习产生歧视的责任应由谁承担等，以上责任划分问题均应通过立法予以明确。再者，算法设计者、开发者、应用者基于算法的设计、开发、应用均在不同程度上获得一定利益，因此，笔者建议在算法歧视归责原则上采无过错原则，即不论对算法歧视是否具有过错，均应当承担连带责任，另对各主体间的追索权应予以明确。（9）建立算法歧视风险的保险机制。倘若让算法设计者、开发者、应用者承担无过错责任，可能会加大产品的生产成本，阻碍算法技术的发展③郑智航：《人工智能算法的伦理危机与法律治理》，《法律科学》2021年第1期，第14-26页。。因此，笔者主张建立算法歧视风险的保险机制，即由算法设计者、开发者、应用者购买一定份额的保险，以分担算法引发的歧视风险。

2.组织与程序保障功能的实现。算法歧视的有效治理应由行政机关与行业组织共同来实现。传统的以“公权力—私权利”为特征的二元结构已经被以“公权力—社会权力—私权利”为特征的三元结构所取代，三元结构中的政府权力不是专断性的权力，其在社会治理层面倾向于谋求与社会组织之间形成合作，在算法歧视治理层面同样应当如此。算法行业组织通过出台平台规范、协调平台争议、行使平台监督权等实际被赋予了“准行政权”①马长山：《智慧社会背景下的“第四代人权”及其保障》，《中国法学》2019年第5期，第5-24页。，其在算法歧视治理层面的作用不可小觑，政府加强与之在算法歧视治理层面的合作实为明智之举。

针对平等权算法侵害的治理，我们有必要建构专门的算法监管机关。伴随着算法应用领域的不断扩展，算法歧视的类型日趋多样化，如果将不同类型的算法歧视交由不同的执法机关予以监管，将出现效率低下、行政成本高、专业性不强等问题。在我国，“网信办”负责统筹有关部门强化互联网信息监管，可以赋予其算法监管职能，由其统筹民政、工信、公安、邮政、银行、市场监督等部门进行算法监管，并在“网信办”中设立算法审查委员会专门负责该项工作。该算法审查委员会人员配给上应由行政机关人员、专家、业界代表组成，共同行使备案、调查、调解、支持诉讼等职能，以确保实质解决算法歧视争议。另外，还需在地方设立与中央算法审查委员会相配套的下级机关，并为其提供充足的“人、财、物”保障，以形成中央与地方在算法歧视治理上的联动机制。此外，国家还应支持鼓励行业组织的建设，必要时为其提供一定的援助，还应尊重及适当吸纳行业组织的意见。算法监管机构应当协同行业组织审查企业的算法是否合规运行以及产生不良后果，并将审查结果向公众披露，提升行业协会审查结果的权威性。

在宪法理论上，国家程序保障已经从传统上的司法救济程序扩展至行政程序，并在德国、日本还与英国的“正当法律程序”交互运用②李震山：《程序基本权》，《月旦法学教室》2004年第19期，第32-36页。。根据德国基本权利之“主观权利客观法”理论，基本权利作为客观法具有制度性保障、组织和程序保障、保护义务等功能，其中，程序保障功能要求国家进行程序方面的建构，以保障公民基本权利。英国“正当法律程序”理论要求公权力机关应当履行公开、公正、参与等程序义务。两种理论交互运用，充实了基本权利程序保障的内涵，即国家先是应当围绕公开、公正、参与等程序义务进行相应程序性建构，然后是应当严格履行上述程序义务，以充分保障公民基本权利。针对平等权的算法侵害，程序保障的内涵包括以下方面：（1）国家利用算法作出决策对公民平等权产生侵害时，公民能够获得公平公正的程序保障。（2）非国家公权力主体利用算法作出决策对公民平等权产生侵害时，国家应当提供相应的程序保障。首先，公民的平等权受到算法侵害时，应当有诉讼途径可以要求侵害者停止侵害、消除影响、赔偿。其次，公民应当有途径委托相应组织提起集体诉讼。最后，公民应当有途径要求监管机关就平等权的算法侵害进行查处，当监管机关不作为时，应当有途径提起行政不作为诉讼。

3.保护义务功能的实现。单一部门法提供的法律责任保护机制无法满足对平等权全面保护的需要。平等权的基本权利地位确保其能够打破各部门法的壁垒，汇聚各部门法规定的法律责任保护机制，以形成协同性的多元法律责任保护机制。简而言之，民法、刑法、行政法、《消费者权益保障法》《妇女权益保障法》等法律均可对平等权提供相对应的法律责任保护机制，但每一种法律责任保护机制都局限于特定情形，因此，惟有根据具体情况有针对性地采取相应的法律责任保护机制，才能实现平等权的保护。首先，民事法律责任保护机制的运用。目前来看，公民个人针对算法歧视采取私力救济的情形少之又少，还面临着举证、诉讼成本等问题，笔者建议国家对公民应采取倾向保护原则。例如，在赔偿数额与范围的确定存在争议时，司法机关应尽可能作有利于公民个人的解释；在归责原则上尽可能让算法设计者、开发者、应用者承担无过错连带赔偿责任，以避免公民经历昂贵而漫长的诉讼；在举证责任上规定举证责任倒置；通过立法明确精神损害赔偿责任等。其次，行政法律责任保护机制的运用。算法监管部门可以采用责令停止侵害、消除影响、限期改正、赔礼道歉以及列入信用档案、罚款、吊销营业执照、行政约谈、行政拘留等多种措施，履行平等权保护义务。值得强调的是，监管机关在采取以上措施时应适机引入比例原则以及谋取与民事法律责任保护机制的协同，切勿因社会舆论压力、政治压力、执法能力不足等情形造成“治理过度”。最后，刑事法律责任保护机制的运用。值得强调的是，刑事法律责任保护机制的运用必须是为了保护平等权方面“重大且根本性的法益”免于受到侵害情形下，才可为之。

六、结语

算法正潜移默化地影响着人类的生活，但该项技术并非秉持完全的价值中立。尽管其为便利人类的生活功不可没，但还需要明确其对人类基本权利的侵犯以及提供宪法功能性的应对路径。我们应当对算法的应用时刻保持着警醒，同时对平等权的算法侵害予以反思。与传统的歧视相异，由算法产生的歧视造成了固化社会不平等、歧视识别困难和平等权法律保护模式滞后等危机，这增加了平等权的保护难度，也为平等权的宪法功能展开提供了“用武之地”。

论文在理论方面释明了宪法中平等权的内涵、属性、性质以及功能，并在此基础上证成了国家立法、行政、司法机关针对平等权具有相应的积极义务与消极义务。实践方面探明了算法歧视所引发的危机，并针对上述危机提出立法、行政、司法等层面的行权建议。虽笔者尽力对宪法平等权进行多角度研读，但仍不能使其摆脱抽象性样态，加之算法歧视类型多样以及所引发危机复杂，在铆合平等权与算法歧视方面仍难免有所遗漏，在此就教于方家。