智能算法推荐的社会风险及其法律规制

梅 帅

随着互联网技术的快速发展，智能算法推荐（intelligent algorithm recommendation）已渗透并融入生活的方方面面，包括购物、新闻、阅读等，人们在享受它带来的选择智慧化、便利化和个性化服务的同时，也开始对智能算法推荐背后的运行机制逐渐产生隐忧。但不管怎样，算法推荐的出现及其智能特征，使个性化需求与海量信息筛选之间的矛盾得以有效缓解，用户不断发展变化的需求逐步得到满足，社会生产生活发展空间也因此更加广阔。目前，世界许多国家在智能算法推荐相关领域出台立法，我国也在民法、经济法、行政法等领域出台相关规范，对此作出积极回应①我国《民法典》《反不正当竞争法》《电子商务法》《广告法》《网络安全法》《数据安全法》等法律均有涉及算法推荐侵害规制的内容，但算法推荐相关法律规范仍呈现原则性较强、系统性不足等问题，规制算法推荐的专门规范较为匮乏。。然而，现有对智能算法推荐的相关研究多集中于计算机技术、人工智能等自然科学领域，鲜有从社会风险角度尤其是从法治维度予以思考、回应，亦少有提出专门的法律规制方案。故而，对智能算法推荐进行风险防控并提出法治化路径，已迫在眉睫。为此，本文从智能算法推荐的技术特质入手，在厘清其主要类型的基础上，分析其引发的社会风险，并试图提出智能算法推荐风险法律规制的路径策略。

一、智能算法推荐的技术特质及主要类型

传统社会对信息的搜集获取主要依靠对纸媒内容的读取，但也存在检索复杂、效率低下、容易遗漏、不好保存等弊端。进入数字时代以后，海量数据、信息爆炸等现象的出现，使得有效信息的获取难度加大，而随着用户个性化多元需求的高涨以及互联网技术的快速发展，智能算法推荐技术应运而生。从解释语义学的视角看，算法推荐技术主要是借助解释机制，获得确定的指向性。算法推荐外在效果的体现，是外在的解释框架机制转换为算法内部的构架机制的结果。换言之，算法智能性的呈现是特定表征、外在情境和内在整体论因素的综合产物，这很大程度上取决于算法与远端事务投射感觉表层近端影子的联系①高新民、付东鹏：《意向性与人工智能》，北京：中国社会科学出版社2014年版，第157-163页。。算法的行为逻辑是建构事务发展过程的行为，根据情况的调整变化，沿着其认知的路线活动，判断在什么样的场景中运用是合理、适宜的②松尾丰、盐野诚：《大智能时代——智能科技如何改变人类的经济、社会与生活》，陆贝旎译，北京：机械工业出版社2016年版，第49-50页。。智能算法推荐即在大量数据的场景判断、信息反馈基础之上，通过对数据的整合加工，提取“特征性”的算法决策内容，为人们的决定提供选择参考。算法推荐为应用获取和整合用户数据提供技术支撑，其对数据的抽象、泛化和预测，进一步满足了用户的需求，提升了用户与海量数据之间的交互体验③玛若曼尼斯、巴宾寇：《智能Web算法》，阿稳、陈钢译，北京：电子工业出版社2011年版，第5页。。

智能算法推荐是通过数据模块对用户数据的分析反馈，实现对人们喜好的掌握，例如对于网页点击量，推荐软件可自动随机选择，并分析网上的信息反馈，以即时更新统计网页的点击率，预测人们对某网页的意愿喜好程度④伊恩·艾瑞斯：《大数据思维与决策》，宫相真译，北京：人民邮电出版社2014年版，第52-56页。。换言之，智能算法推荐是以用户数据为基础的技术，其主要通过模块或系统的分工处理，提供与用户需求相匹配的个性化服务。根据算法运行逻辑的差异，智能算法大致分为基于统计的机器学习算法与深度学习算法两类。基于统计的机器学习算法主要通过对用户历史浏览、关注、收藏、消费等痕迹数据的计算，分析用户的喜好，为用户推送算法决策参考。深度学习算法则是对用户数据的内在规律和行为层次进行深层分析，通过算法自我学习不断强化和模型建构，模拟人的思维网络，以达到挖掘解释数据、构建用户个性画像和估测用户偏好的效果。

（一）智能算法推荐的技术特质

对于智能算法推荐如何联系用户需求，有学者曾指出，智能算法推荐之所以向用户推荐相关内容，其主要原因在于被推荐的内容经由计算与用户的兴趣相符合⑤刘文杰：《算法推荐新闻的法律透视》，《新闻记者》2019年第2期，第22-29页。，那么，从技术目的来看，智能算法推荐技术的采用，主要是为了感知用户不断变化的多元需求，以精准高效地推送信息。如近年来风靡移动短视频平台的快手APP，其取得成功的关键点在于建立以社群经济为纽带的商业模式，而这一模式的基础正是基于社区用户间的大数据算法推荐①陈少峰、张立波、王建平主编：《中国文化企业报告（2018）》，杭州：浙江工商大学出版社2019年版，第220-221页。。从技术方式来看，人工智能算法通过对信息的自动化处理并作出相应决策，从而把合适的信息推荐给合适的人，在此背景下，智能平台仅充当它的流量发射器②潘红霞：《智媒时代智能信息推荐算法的缺陷及正向重构》，《未来传播》2020年第5期，第36-41页。。因而，算法推荐通过其内部设置的系统流转对离散的信息进行加工、编排，实现对信息与用户需求之间的高度匹配，这种对信息的筛选和传递是充分建立在技术的基础之上，并反映了算法推荐的技术特性。

不可否认的是，智能算法推荐具有智能化、便利化和个性化的特点。一方面，其以互联网、大数据分析等综合性技术为基础，提供了差异化的“订制服务”，另一方面，对于不同个体而言，有效降低了搜寻目标信息的成本，便利了多元用户主体，也满足了个体间的多样需求。从技术支撑来看，智能算法推荐的运行需要数据输入、数据收集、数据分析、数据处理、数据输出等多模块的链条衔接。在内部链接上，多模块的组合或多系统的串联，推动系统内部对数据的识别、分流，进而使用户的数据被层层加工和传递，这也为用户提供量身定做的算法输出结果。例如在新闻领域，算法推荐新闻的生成，乃是基于计算机和统计学的知识，通过数据、算法与人机的交互结合，建立用户与资源之间的个性关联，从而为用户提供信息决策支持。其基本思路是对信息、场景等进行综合判断，实现信息匹配③匡文波：《对个性化算法推荐技术的伦理反思》，《上海师范大学学报（哲学社会科学版）》2021年第5期，第14-23页。。因此，在本质上，智能算法推荐是以数据收集为基础，以决策运作为机理，通过数据运算，为用户提供决策参考的技术。从技术的影响来看，这种技术的生成深刻改变了传统人们获取数据的方式，推动了商业经营、运作等商业结构与模式的革新。在算法系统（algorithmic system）层面，也促进不同应用场景需求下算法运行结构的生成，形成了以用户数据为基础的智能化、个性化服务体系。

（二）智能算法推荐的主要类型

一般而言，机器学习通过建立模型解释已有数据和预测更多数据，这一技术的前提基础在于，存在消费者购买和浏览习惯的数据库，算法系统可以此为基础分析和建立行为的统计模型，从而根据消费者的历次记录和网页浏览情况预测偏好④默里·沙纳汉：《技术奇点》，霍斯亮译，北京：中信出版集团2016年版，第62页。。智能算法推荐主要有协同过滤推荐、基于内容的推荐和混合推荐三种主要类型⑤除以上三种外，还有基于图结构的推荐（graph-based recommendation）、基于效用推荐（utility-based recommendation）、关联规则推荐（association rule-based recommendation）、基于知识推荐（knowledge-based recommendation）、基于规则推荐（rule-based recommendation）、基于人口统计的推荐（demographic-based recommendation）等，有的因为在实践中使用频率较低未被纳入主要类型中考虑，有的是对用户背景的估测或相关统计函数的计算得以呈现，故不纳入本文的主要类型加以讨论。。

协同过滤推荐（collaborative filtering recommendation）是实践中应用广泛的算法推荐类型，指的是从用户的历史数据中挖掘和发现有用知识，自动地把用户可能最感兴趣的内容推荐出来，使得推送更加精准高效的技术⑥马宏伟、张光卫、李鹏：《协同过滤推荐算法综述》，《小型微型计算机系统》2009年第7期，第1282-1288页。。从技术层面来看，其是从过往数据出发，把用户消费行为作为分析特征，进行用户或物品的相似度计算，从而实现信息的有效匹配①喻国明、耿晓梦：《智能算法推荐：工具理性与价值适切——从技术逻辑的人文反思到价值适切的优化之道》，《全球传媒学刊》2018年第4期，第13-23页。。也即用相似兴趣的其他用户使用项目进行比对和推送。协同过滤推荐可分为基于用户的推荐（userbased recommendation）、基于物品的推荐（item-based recommendation）和基于模型的推荐（model-based recommendation）三个子类。基于用户推荐的基本原理是利用用户偏好程度的相似性来发现和推荐到可能感兴趣的用户，通过对历史记录与相似性函数的计算，发现与用户最相近的邻居集，计算每个邻居集对用户的推荐度，并进行由高到低的推荐匹配②邢春晓、高凤荣、战思南等：《适应用户兴趣变化的协同过滤推荐算法》，《计算机研究与发展》2007年第2期，第296-301页。。基于物品的推荐，又称基于项目的推荐，其基本理念是立足于物品相关性的评测，通过用户对物品的评分来预测未评分物品的评分，使得与物品最相近的邻居集来达到对未评物品评分预测的目的③邓爱林、左子叶、朱扬勇：《基于项目聚类的协同过滤推荐算法》，《小型微型计算机系统》2004年第9期，第1665-1670页。。进一步讲，其是在计算物品关系的基础上，基于用户对物品的偏好来找到相似的物品，然后利用相邻物品的加权来预测喜好程度④邓园园、吴美香、潘家辉：《基于物品的改进协同过滤算法及应用》，《计算机系统应用》2019年第1期，第182-187页。。基于模型的推荐则是在云模型相似度计算（likeness comparing method based on cloud model）的基础上，通过对知识的定性评测、定量转换，利用项目矩阵、评分特征向量和相似度矩阵，给出基于用户偏好的知识表示⑤张光卫、李德毅、李鹏等：《基于云模型的协同过滤推荐算法》，《软件学报》2007年第10期，第2403-2411页。。就技术的构成要素而言，协同过滤推荐技术主要分为协同和过滤两大部分。通过对用户间的协同作用与筛选过滤，来为用户推荐其所偏好的信息。当然，协同过滤推荐主要应用于音乐、视频等非结构化的产品，而对于数据稀疏（sparsity problem）、不易测量（poor scalability）等情况，并不能发挥其效果优势⑥李忠俊、周启海、帅青红：《一种基于内容和协同过滤同构化整合的推荐系统模型》，《计算机科学》2009年第12期，第142-145页。。

基于内容的推荐（content-based recommendation）主要通过对用户选取的内容特征进行综合分析，对用户可能感兴趣的内容进行预测，以获得个性化的推荐结果⑦曾春、邢春晓、周立柱：《基于内容过滤的个性化搜索算法》，《软件学报》2003年第5期，第999-1004页。。换言之，其主要提取的是用户喜欢的项目属性，然后捕捉用户喜欢的内容，通过类似私人定制的推送，对用户接收的内容进行加强⑧胡键：《算法治理及其伦理》，《行政论坛》2021年第4期，第41-49页。。与协同过滤推荐所不同，基于内容的推荐是以用户喜欢内容的自身特征为挖掘和发现对象，通过其与数据库整体的对照与相识度排序，来搜寻符合用户内容特点的兴趣文件。根据其构成要素，大致可分为相似计算和评分预测两部分。相似计算指的是通过构建用户浏览和购买等数据集合，查询某用户数据与整个集合相似的内容，并计算与之相关集合的相似度。所谓评分预测，指的是在相似计算基础上，对每个相关数据进行智能评分，并选取较高相似度的内容，对用户进行推荐⑨江周峰、杨俊、鄂海红：《结合社会化标签的基于内容的推荐算法》，《软件》2015年第1期，第1-5页。。当然，在具体化的场景中，基于内容的推荐多应用于内容读取方便的数据，比如新闻、网页、文档等，而对于音频、视频等受制于内容属性较多的物品，并不能有效地发挥作用。

混合推荐（hybrid recommendation）也被称为组合推荐，是一般单向算法推荐之外综合多种算法推荐要素的方法技术，具有复杂性、综合性、整合性等特征。混合推荐可以是协同过滤推荐、基于内容的推荐等算法推荐两者之间的互联，也可以是多者之间应用的协同。其主要为了解决不同算法推荐之间的缺点、而对两者或多者进行融合创新的推荐技术。由于数据的不同特征，每个算法在不同的数据集中性能不同，这些算法在单一准则评价的基础上有时可能误导算法候选列表中选择最佳算法的决策，进而体现单一算法框架和准则的局限性，而多准则混合型的推荐技术则巧妙回避这一点①Rahman Ali,Sungyoung Lee,Tae Choong Chung,“Accurate Multi-criteria Decision Making Methodology for Recommending Machine Learning Algorithm”,Expert Systems with Applications,2017,Vol.71,pp.257-278.。混合推荐因是两种或多种算法推荐的结合，能更好弥补各个算法推荐可能存在的问题，使得算法推荐结果更为符合实际需要。在适用范围上，混合推荐应用较为广泛，包括输电网规划、变压器诊断，乃至机器人路径计算等。

可以看出，在智能算法推荐的三种主要类型中，尽管协同过滤推荐、基于内容的推荐通过不同的算法推荐技术，得出不一样的分析推荐结果，但其均存在技术上适用的取舍以及适应场域上的优缺点，而混合推荐虽然具有两者或多者算法推荐结合的优势，但也同样面临推荐内容不突出、适用技术不可控等实践问题，这也在不同程度上影响混合推荐的实际效果与性能。混合算法推荐在具体化场景的应用中，更易引发诸多争议，包括采取哪些算法推荐、算法推荐如何融合、融合后如何达到最佳的适用效果等，这些均需要严格的实验数据支撑和风险评估。

二、智能算法推荐的社会风险

世界各国围绕智能算法推荐从自然科学领域的讨论到哲学社会科学领域的关注，反映了人们对智能算法推荐认识的转向与深化。诚然，智能算法推荐不仅涉及如何发挥其智能功能的技术运行，还关系道德、哲学、法律等多维度的深层考量。从法律维度来看，智能算法推荐不仅涉及用户隐私权、知情权、个人信息权等权益保护，还涉及秩序维护、技术界限、责任分担等法律机制的设置。智能推荐技术社会化的展开以及其对社会关系、安全秩序的影响，导致算法推荐可能引发一系列的法律、伦理上的社会风险。

（一）权益侵害

1.对隐私权益的侵害。算法的隐私权益问题一直备受关注。智能算法推荐实现了从复杂收集到简洁推荐的范式转变。智能算法推荐技术在充分获取用户数据基础上，满足了人们对商品的多元需求，提升了人们对智能推荐的期待，但也可能加深人们对智能算法推荐的依赖。在经济成本上，算法推荐也有着更小投入、更大产出的积极效用。

从技术的负面效应来看，算法推荐将用户数据与推荐结果相关联具有相当的风险。智能算法推荐以数据搜集为基础，软件平台可轻易获得用户数据的权限。算法推荐前对用户数据的充分收集，容易带来相对人隐私权益侵害的风险。事实上，用户在提供数据的同时，经营者很少对其提供充分必要的使用说明，而格式化的隐私保护协议使用户权利容易被遗漏，用户不能完全理解电子协议的授权内容。在简化的视角下，隐私权益容易被应用软件的格式流程所掩盖，用户多在不知情的情况下把隐私“让渡”给互联网经营者，从而可能带来隐私权益被侵害的社会风险。例如，在手机APP领域，2019年1月，中央网信办、工信部、公安部、市场监管总局四部门联合发布的专项报告《APP违法违规收集使用个人信息专项治理报告（2019）》指出，APP强制授权、过度索权、超范围收集个人信息的现象普遍存在，未制定并公开隐私政策等不规范行为屡见不鲜，这表明加强APP应用中的个人隐私保护势在必行①参见《APP违法违规收集使用个人信息专项治理报告（2019）》，2022-01-18，http://www.cac.gov.cn/2020-05/26/c_1592036763304447.htm，2022年1月18日.。

2.对知情权益的侵害。相较于个人信息获取的知情，知情权益指的是用户对算法推荐内部运作进行知晓、了解的权益。智能算法推荐对不同用户设置的个性化服务，其内设的差异化服务机制（differentiated service mechanism）非常隐蔽。当前，在算法推荐的具体应用中，基于逐利、信息不对称等原因，不当收集分析用户数据，并进行歧视性定价或差别化对待等现象相伴而生②胡小伟：《人工智能时代算法风险的法律规制论纲》，《湖北大学学报（哲学社会科学版）》2021年第2期，第120-131页。。而且，由于经营者未充分披露信息，使得用户对于算法推荐的结果并不知情，算法审查也可能隐藏误差、偏见和干预，导致用户陷入信息的洪流中，使其错过太多应知未知的信息，减损用户的知情权益③周建明、马璇：《个性化服务与圆形监狱：算法推荐的价值理念及伦理抗争》，《社会科学战线》2018年第10期，第168-173页。。

对知情权益的侵害必然涉及算法黑箱（algorithm black box）问题。这是因为对于算法运作的过程，用户无从了解，即便了解了算法运作的流程，也很难对每个数据背后的产生机理有效掌握。况且，法律制度上尽管设置经营者的自我披露义务、公开义务，但要做到对算法推荐的每个流程乃至数据的透明化，这自始至终离不开经营者对算法推荐公开的自觉④孙少晶、陈昌凤、李世刚等：《“算法推荐与人工智能”的发展与挑战》，《新闻大学》2019年第6期，第1-8页。。然而，出于算法披露的投入与收益不成比例，算法机构和技术公司在商业化的运营压力之下难以为继，而且，如若披露所采取的方式不当，其仍可能影响自身的技术竞争优势以及承担一定的诉讼纠纷风险⑤张淑玲：《破解黑箱：智媒时代的算法权力规制与透明实现机制》，《中国出版》2018年第7期，第49-53页。。因此，在仅有制度层面的规制时，出于商业利益等因素的考虑，经营者难以实现算法推荐的完全公开，那么，当算法推荐的过程无从充分公开时，这就可能产生用户受到知情权益侵害的法律问题。

3.对个人信息权益的侵害。在对个人信息收集分析时，与用户相关联的个人信息将用于描绘形成“用户画像”（users portrait），这是智能算法推荐引发的众多分歧之一。在算法推荐运用过程中，对个人信息的匿名或加密处理，是经营者经常采用的技术策略，但简易化、定型化的技术处理方式仍可能产生对个人信息库的组装或重建问题，进而产生对个人信息权益侵害的社会风险。算法推荐技术中的留存信息被经营者获取，而在数据整合过程中，“无关”信息可能被舍弃，而这些信息的去向以及如何对其妥善保存，涉及个人信息保护的安全保障。算法推荐对信息的自动化取舍，在给人们提供方便的同时，也可能带来个人信息取舍后的权益保障问题。

（二）秩序妨害

1.对监管秩序的妨害。秩序在法律体系中位居首位，安定的社会秩序是治理的首要目标。人们的生活必须在秩序之中，不能让无序、脱序和失序引发社会危机和灾难，让人们失去合理预期和安全感③张文显：《构建智能社会的法律秩序》，《东方法学》2020年第5期，第4-19页。。智能算法推荐不能脱离秩序而存在，应尽可能地优化算法设计，通过建立算法监管与外部问责制度，来确定算法主体的行为责任④崔聪聪、许智鑫：《机器学习算法的法律规制》，《上海交通大学学报（哲学社会科学版）》2020年第2期，第35-47页。。智能算法推荐的形成发展必须符合秩序的规制要求。安全作为秩序的核心内容，必须采取措施予以维护。法治作为以秩序为前提要求、以建立和维护社会秩序为目标的治理方式，有着维系人们对社会未来稳定预期的功能。算法推荐技术与秩序有着紧密的内在联系，它是人工智能领域对社会秩序有着深刻影响的重要技术。但算法推荐对算法结果的自动生成，不仅对相应的监管体系提出更高要求，也为智能算法推荐监管秩序的维护带来挑战。

监管秩序是秩序在监管领域的投射，包括监管部门对经营者收集、使用、储存数据等方面的监管。随着算法推荐的日益更新和升级，其对监管秩序的妨害正呈现扩大化趋势，算法推荐的隐蔽性使其运作的过程难以为监管者所知。当然，这也涉及对新业态领域包容审慎监管的问题，即对于新产业、新领域，国家应采取包容审慎的态度。但在目前情况下，亟需关注和解决的是算法推荐对监管秩序的妨害问题以及监管秩序的如何建构，而非放任算法推荐的“自由发展”，使其游离在监管之外。

2.对行业秩序的妨害。自由平等、公平竞争是市场经济的基本准则。工业革命以后，以市场为中心的工业社会法律秩序逐渐形成。而以算法为中心智能社会的快速发展，正给以市场为中心的社会秩序带来新的冲击。经营者可以将其市场价值定位与算法推荐连接起来，特别是通过定位排序，把要推出的产品放在突出位置，获得用户的频繁关注，扩大市场的影响力，但这可能会带来无序竞争的问题，严重影响其他经营者的自主权。经营者按照其想法定制出具有市场影响的产品，其他经营者的产品也可能不具备算法推荐的“竞争力”而失去竞争优势。发达国家实践表明，市场在资源配置中具有重要作用，而算法对历史数据的搜索，所形成的标准化在线行为，并给出基于哪些搜索购买产品或服务的建议，用户选择并没有转变为无限性。事实上，算法内设的一套狭义解释，将基于过去、无生命的对象组合成“类别—使用”的建议，实际上约束了用户的行为活动①Mike Ananny,“Toward an Ethics of Algorithms:Convening,Observation,Probability,and Timeliness”,Science,Technology,&Human Values,2016,Vol.41,No.1,pp.93-117.。与此同时，经营者产品与其推荐排位的不相匹配，也可能给用户带来价值与价格不相匹配的感受和体验。

现代的经营者竞争秩序是市场竞争的结果。而通过刷单、竞价排序等作出影响用户决定的算法推荐行为给市场竞争带来的消极影响是难以预知的。即便将用户对经营产品的合理期待有效量化，也不能为算法推荐逐利的正当性提供证成。因此，智能算法推荐给经营构想提供定制便利的同时，不可避免地引发经营者之间的恶性竞争，使得一个经营者的行为不断波及其他经营者，从而引发涟漪效应，进而侵害相应的行业秩序。例如，2016年魏则西事件反映出以竞价排名作为唯一标准的算法推荐系统是具有逐利性的。国家网信办联合调查组随后对百度展开调查，要求其调整竞价排名机制，更正以钱的多少作为排位唯一标准的技术系统，并严格规范其商业推广信息内容比例。此事件也体现出不当的算法推荐系统设计给某个行业带来的秩序妨害②国家网信办：《要求百度改变竞价排名机制》，2021-09-03，https://www.sohu.com/a/74403686_253468.。

（三）技术异化

1.技术的负面后果。智能算法推荐技术的发展在发挥积极作用的同时，容易带来负面后果。而技术对不同人群提供不同精准服务的同时，也可能带来对社会人群的分选效应（separation effect），例如在智能媒体的背景下，在单调的信息交互中，人们逐渐形成特定的兴趣习惯，进而使得人们受到“信息茧房”（information cocoon house）的束缚，对于社会而言，这可能造成不同社会群体的分离③Lili Ji,“How to Crack the Information Cocoon Room under the Background of Intelligent Media”,International Journal of Social Science and Education Research,2020,Vol.3,No.3,pp.169-173.。然而，技术发展的便利化、快捷化，使得人们渐渐淡忘乃至忽视这一点，而过分强调算法推荐技术的智能化，要求其在自动化输出的同时，避免对人的尊严和基本权利的疏漏，则具有一定的理想化成分。算法推荐技术基于精确测算和数据建模对用户作出区分对待，可能产生不同人群之间的不平等问题。

智能技术作为改变促进人的发展的观点曾广受认可。技术似乎可满足人们对高效服务的要求，也能满足人们对多样化服务选择的需求。但这并不能避免伴随着技术进步而带来的负面后果。一方面，技术容易引发信息安全、社会安全乃至国家安全等问题。算法的智能运算尽管带来便利，但如何确保技术使用的辅助性、适当性仍为实践难题，例如在法律适用层面，算法智能系统凭借超级推理，自动梳理法律关系，提出裁判建议和生成法律文书，这种微妙而有效的方式，容易给人造成“自动化偏见”，进而塑造和影响人的行为④张凌寒：《算法权力的兴起、异化及法律规制》，《法商研究》2019年第4期，第63-75页。。另一方面，智能技术作为促进和发展人的基本假设可能并不成立。在观念中，我们预设技术是中立的、不偏私的，事实上，算法推荐技术可能隐藏内在的导向性。例如，2020年9月引发热议的《外卖骑手，困在系统里》一文，揭示出外卖骑手在违反交规与准时送餐之间的矛盾困境，侧面反映了算法推荐技术应用的负面后果。因为在外卖送达程序中，系统推荐的最短时间路径和限时送到机制，这是以商业利益为导向的，外卖骑手尽管可以根据其决策结果作出是否以及何时送到的选择，但算法推荐的结果如若不被采纳，骑手就只能面临收入扣除、订单量减少的风险，而通过违反交规等作出符合算法系统推荐的“最优选择”（optimal choice），这并非算法推荐建议性特征的体现。

2.技术滥用。为了更好地发挥技术的决策参考作用，自动化决策机制被应用于诸多领域，在很多场景中，算法自主（algorithm autonomy）等现象频发，而从技术滥用的角度来看，这未必值得宣扬。这个场景中是否必须使用算法推荐，算法推荐在该领域的适用是否存在不正当联结？在未经充分论证的条件下，智能算法推荐技术就被应用到该领域，并由算法得出推荐结果，这是对算法应用场域的扩大，也会增加经营者对算法推荐的依赖。为了改善用户的体验，提升该领域的智能化，算法推荐被当作促进产业发展的“利器”，这显然是缺乏科学合理性的。社会整体利益应呈现均衡发展的状态，并结合技术的积极因素推动人们物质和精神文明水平的提升。如何在发挥技术积极功能的同时避免技术的滥用，如何平衡技术使用的限度，等等，这些问题对智能社会时代的法律秩序建构提出现实挑战。

(3)加强反滤排水措施。设置适当级配的砂反滤层，用以截留坝体中的细颗粒，保证不流出坝体，减少流土和管涌风险。当出现管涌时，具体措施有设置反滤围井、反滤层压盖、透水压渗平台、蓄水反压方式。

此外，算法推荐也可能面临落入犯罪分子手中而引发社会风险。技术尽管重要，但技术使用者往往影响乃至决定技术的适用领域。如若算法推荐被网络犯罪、木马软件等加以利用，也将带来民事侵权、行政违法乃至刑事犯罪的问题。再者，在跨国的网络犯罪中，由于国家间的交流局限以及司法合作的有待深入，算法推荐的滥用也可能为跨国犯罪活动提供温床，从而增加违法查处的难度，导致信息化跨国犯罪的频繁发生。

（四）责任模糊

算法推荐在内容分发市场的地位越来越重要，已成为资讯内容获取的主渠道之一。以“今日头条”为例，根据《2016移动资讯行业细分报告》数据统计，截至2016年12月，“今日头条”已累计用户7.1亿，文图资讯日均阅读量11.6亿次，视频资讯日均阅读量12.69亿次①《算法给社会治理带来哪些挑战?如何应对?》，2022-01-18，http://www.yidianzixun.com/article/0Imra9NQ?s=mochuang&%20appid=s3rd_mochuang&toolbar=&ad=.。算法推荐在带来便利的同时，也带来责任如何划定的风险。传统责任规则的承担一般按照过错责任来判定行为人的行为，而这一判断标准在算法推荐方面却无法识别不同主体是否有过错、存在何种过错、过错如何分担，由此产生算法推荐的责任模糊问题。换言之，一旦算法推荐出现严重的侵权损害或法律后果，那么，如何科学厘清相关主体的责任，过错原则在这里显然是不能完全解释和适用的。算法推荐内容主要通过算法语言得以实现，但这些算法语言容易受商业利益驱使和影响。更深层次的一般性问题是，算法经营者、算法设计者、算法用户、监管部门等责任如何划分，至今未有清晰的法律原则②苏宇：《算法规制的谱系》，《中国法学》2020年第3期，第165-184页。。对于经营者来说，其主要将需要达到的商业利益目标转化为算法语言予以实现，这存在商业导向、责任偏离的风险。设计者主要把商业利益目标写成不同的算法语言，设计不同的应用场景，为用户提供差别化的服务，这存在用户分选、责任分化的风险。对于用户来说，其主要按照经营者提供的算法推荐结果，参与到算法推荐系统的运行中活动，这存在黏性增强、责任削弱的风险。故而，从整体层面来看，对于智能推荐带来的消极影响乃至危害，容易存在商业利益驱动、设计自动延伸、用户意愿增强等现象，这里很难说清楚经营者、设计者和用户的责任究竟是如何划分的以及各自的责任逾越问题。另外，算法侵权多基于智能平台直接生成，数据在系统的运行过程中并无侵权痕迹，而用户的留意观察仅限于算法推荐的外围监督，这也就产生算法推荐责任难以取证、无从确定的问题。因此，在责任承担维度，算法推荐的多主体、利害性、自控性等元素的复杂交织以及用户的证明困难，就产生责任模糊、责任边界不清、责任难以证明等问题，从而可能引发一系列的社会风险。

三、智能算法推荐风险规制的理论分析及理论基础

（一）智能算法推荐风险规制的理论分析

智能算法推荐作为一项算法决策技术，要实现精准推送和高效分发信息，获得洞悉用户需求的能力，就必须推动智能算法推荐的创新和发展，不断优化智能算法推荐的决策运作，预防和控制该技术运行中可能引发的风险，满足用户多元化、多样化的诉求，发挥其专门优势和促进社会整体利益的均衡发展。对于智能算法推荐带来的可能风险，相应的规制理论应包括以下三个层面的内容：

一是人的基本权利的保护。这主要从算法推荐的理念遵循进行考量的。法治作为人类不懈追求的价值目标，人的基本权利是宪法和法律规定的必备内容。对于智能算法推荐技术而言，是否在算法推荐过程中考虑人的主体地位、保障人的基本权利，是判断该技术服务健全完善的重要标准，对于能否有效防止对人的侵害，避免算法决策中的法律风险意义重大。算法推荐技术是经营者提供特定的产品服务的重要体现，在算法推荐技术不断更新换代之际，应保护技术使用中公民的知情权、隐私权、发展权以及数字化权利等，以使得宪法和法律中人的尊严和自由条款真正落实与实现。

二是技术运用的理性审慎。这主要是从技术的发展历程进行切入的。技术是一个具有历史特征的概念，每一种技术都有其发展特征。每一阶段的技术都在演化、升级和调整中逐步形成完善，并通过信息载体、技术原理、社会规则等体现出来。从算法推荐的发展历程来看，对信息内容的获取，不仅是过去简单的对信息的单向接收，算法推荐还涉及对用户信息的收集、整合和加工。那么，技术发展本身对技术运用提出的科学合理、规范审慎要求，理应成为算法推荐技术遵守的“逻辑链条”。算法推荐技术产生于社会化组织体系之中，其发展必然受着科学的理性指引。因此，其理论构成中必然包含着技术的理性审慎。

三是风险预防控制的法律约束。这主要是从算法推荐风险的现实性与制度因应加以回应的。风险的现实性指的是该技术使用中诱发社会风险的客观存在。一种技术要有效发挥其功能，保持其实效性，就要求不断更新优化，预防和控制该技术的风险，算法推荐技术同样如此。法律作为调整社会秩序的重要手段，技术的使用，均应以相应的科技法制化的建立健全为前提条件①曾婧婧、钟书华：《论科技治理工具》，《科学学研究》2011年第6期，第801-807页。。这表明技术在一步步完善之前，要有相应的法律规则为支撑，从而实现技术应用的法律约束。算法推荐的适应性，有必要性、可行性、在先性等客观要求，在具体场景上，算法推荐技术的风险防控应包含技术使用的合法性、技术场景应用的适应性、技术对象选择的合规性以及具体技术法律规制的对应性等内容。

以上简要从理念、历史和现实等层面对智能算法推荐展开的理论分析，这些内容构筑了算法推荐风险规制的理论构架。理念遵循为算法推荐技术的运用提供方向指引。历史发展通过对该技术的回顾，把握其在现阶段的样态，有助于厘清其在技术发展过程中的价值。在技术的运用过程中，应厘定其风险产生的原理，发挥法律对秩序的调整功效，把该技术纳入法治轨道。因此，三个层面的理论逻辑是密切相关、互联互通的。算法推荐规制理论的三个层面，共同融汇于规制算法推荐的治理过程，为算法推荐法律规制提出了根本要求。

（二）智能算法推荐风险规制的理论基础

对技术进行风险规制的同时，也需平衡经营者与使用者、提供者、竞争者等主体之间的权益，用科学具体的原则指导实践。为此，应根据算法推荐的发展实际，把握其发展特征，规制其运行中的可能风险，实现技术运用的合法、有效和长效。理论基础是算法推荐风险规制的重要命题。理论基础内容的科学合理与否，直接关系到算法推荐技术的运用和发展。因此，科学合理的理论基础指引，是必要的、必需的。根据经营者与用户之间的协议内容，笔者认为，应按照《民法典》等法律要求，合理设置经营者与用户之间的权利义务分担，保障用户在算法推荐中的知情权益等，建立经营者之间有序竞争的行为准则，推动算法推荐社会利益的健康可持续发展。具体而言，算法推荐风险规制的理论基础表现在以下几个方面。

一是公平原则。我国《民法典》第6条规定：“民事主体从事民事活动，应当遵循公平原则，合理确定各方的权利和义务。”这指明了公平原则的价值要求。在智能算法推荐技术的应用上，经营者与用户之间签订的电子协议，同样受《民法典》公平原则价值的约束。特别是在格式化条款消减用户权利和增加义务的条件下，用户无从与经营者对每个条款内容达成合意，只能被动选择接受与选择程序是否继续进行，用户的自身权益更容易受到侵害。这时公平原则的“介入”，有利于保障用户在电子协议中的权益，使得经营者与用户之间权益分担达到实质平衡。此外，对于经营者为不同用户提供的差异服务，公平原则的应用有利于减少经营者对不同用户的歧视与差别对待，使得法律上的平等理念真正落实到算法推荐的实践之中。

二是公开原则。所谓公开原则，指的是经营者对算法推荐涉及公民权益重要事项的公开，包括使得用户信息、使用时间等内容为用户所知晓。公开原则具有两个方面的重要功能：一方面，由于经营者在技术设计、信息获取等方面占据优势，容易利用其优势地位，不公开或不完全公开特定信息。公开原则在算法推荐上的适用，有利于使经营者按照法律要求履行公开义务，保障用户的知情权益；另一方面，在算法推荐的设计理念上，公开原则的适用，也有助于提升算法程序设计的透明度。当然，公开原则在算法推荐的适用，也有其边界：当侵犯其他用户的合法权益，算法推荐对个人信息应以不公开为原则；当涉及第三方利益或公共利益时，应必要时进行利益衡量。

三是社会利益原则。社会利益原则指的是在强调对算法推荐风险进行规制的同时，在法治框架下考虑技术背后社会发展的均衡性，使算法推荐在可持续健康的轨道上发展。社会利益原则不仅关注算法推荐设计的价值理念，还关照算法推荐给社会整体利益带来的影响。当智能算法推荐可能带来社会风险时，仅强调经营者应用算法推荐的利益获得，就可能给用户及其他经营者带来利益损害，这对良性社会秩序的形成有着消极影响，长期也不利于算法推荐相关领域的繁荣稳定。为此，应从社会整体出发，考量算法推荐对社会整体的有益性以及使用者与避免算法推荐经营者的不合法、不正当利益，平衡用户及其他经营者等主体的利益，促进算法推荐行为科学规范与价值理性的实现。

四、智能算法推荐风险的法律规制路径

人工智能在带给人们便利的同时，法律必须对其技术风险作出回应和防范。在对智能推荐技术更新研发的同时，关注法律对算法推荐的规制作用，使其在法治框架下运行，这不仅是法治社会建设的应有之义，也是国家治理体系和治理能力现代化的必然要求。目前，世界多数国家对智能算法推荐进行立法，包括出台通用数据保护规范、规定规制算法的法律原则等，也有少部分国家采取了专门立法的模式①欧盟在《个人信息保护公约》《欧盟数据保护通用条例》等规范中确立了个人信息保护的原则和范围，其中《欧盟数据保护通用条例》作为最严格的数据保护立法，规定了算法技术中的个人信息保护。美国在《消费者隐私权法案》《信息去识别化技术指南》等立法中确立了规制算法推荐的一般法律原则，德国则通过出台《联邦信息保护法》等专门立法规范个性化推荐的使用。。我国对智能算法推荐的法律规制主要集中于信息保护、网络安全、电子商务等技术标准和指引规范中，但相关条款存在过于原则、操作性较弱等问题，对智能算法推荐的基本内涵、价值遵循、制度规范等未有明确的规定。与此同时，相关规范也未能从智能社会维度展开法治回应，一定程度上影响对智能算法推荐的规制作用。把智能算法推荐纳入法治轨道是世界法治实践的发展趋势，我国智能算法推荐也应在借鉴域外有益经验的基础上，对智能推荐的法律规制方式、未来路向等予以关注和回应，以助推智能算法推荐的制度化、规范化和法治化。

（一）加强对算法推荐合法性的前置审查

在机器学习中，预设观念必不可少②佩德罗·多明戈斯：《终极算法》，黄芳萍译，北京：中信出版集团2017年版，第82页。。智能算法推荐技术发展应以合法为基本前提，保证人们在享受智能社会红利的同时，避免技术异化等可能引发的社会风险，以维护智能社会法律秩序。智能算法推荐应坚持合法性原则，以算法推荐主体合法、程序合法、内容合法、目的合法、手段合法等法治内容为基本要求，将算法中人的尊严和基本权利放在首位，以社会公共利益的保护为价值目标，不断促进社会整体的均衡发展，提升社会的整体效益，降低算法技术可能引发的社会风险。为此，要健全审查机制，建立由新闻、法律和伦理等各方专家组成的机构来审核算法原理及决策过程①匡文波：《智能算法推荐技术的逻辑理路、伦理问题及规制方略》，《深圳大学学报（人文社会科学版）》2021年第1期，第144-151页。。就合法性的前置审查而言，笔者认为，可从形式合法性和实质合法性层面，在应用推出之前以及后续版本更新等阶段，审查算法推荐的必要性、正当性和适当性。

在形式合法性层面，应审查算法获取用户信息形式的合法性。尽管详尽的解释与简化的解释之间存在“透明度悖论”（transparency paradox）②所谓的“透明度悖论”，指的是平台对算法的详细解释造成用户可能的无法理解性与简化解释掩盖重要细节产生透明度不够的对立。参见Christina Blacklaws.,“Algorithms:Transparency and Accountability”,Philosophical Transactions of the Royal Society a Mathmatical,Physical and Engineering Sciences,2018,Vol.376,No.2128,pp.20170351-20170351.的争议，笔者认为，这并不能消解平台对算法数据信息获取的公开义务。换言之，算法推荐对用户数据的获取应按照知情同意的原则，采用电子“告知—承诺”（inform and commitment）的形式，以明确算法推荐使用数据的范围、权限和时间等，厘清算法推荐的信息框架。当然，这并不意味着所有信息均可采用“告知—承诺”的方式，从宪法层面来看，算法对用户信息的获取同样应受比例原则、平等原则、尊重和保障人权原则等的约束。算法推荐对用户的告知应避免一揽子授权的形式，而采用“基本信息+特殊信息”获取的告知形式似乎更为适宜。基本信息与特殊信息的划分乃基于人格尊严。基本信息主要指的是与人格无关的相关内容，包括无涉人格的昵称、用户名、密码等。特殊信息则包括与人格联系紧密的内容，包括面部特征、指纹信息等。对于基本信息可采用概括授权的方式，对于特殊信息应采取逐一授权的方式。在授权时效上，基本信息与特殊信息均应设置相应的时间节点，对特殊信息的授权应采取更为严格、审慎的方式。

在实质合法性层面，应审查算法推荐设置的必要、适当以及涉及实质理性的内容，例如对平台使用算法推荐的必要、算法推荐获取的界限、算法推荐的第三方传输、算法推荐中的保密事项、算法与其他程序的关联、算法模块之间的数据合作等问题进行前置审查，以厘清该平台是否在实质上符合法律规范的要求，符合法治的目的和精神。这里可借鉴欧盟GDPR的数据保护官制度，通过培养相应的复合型人才，对相关的信息数据进行审慎审查，以降低其存在的社会风险，确保数据信息使用上的合法合规性。

（二）建立健全具体化算法推荐场景规范

当前，智能算法推荐的应用领域不断扩大，一些原本不大可能使用算法的领域也开始应用该技术，这不仅拓宽算法推荐的实际应用场域，也可能引发人们对算法推荐适用的不适。与此同时，伴随着算法推荐技术的不断更新与多元交错，算法技术呈现多样化、复杂化的趋势，这在提升算法推荐场景适应性的同时，也带来规制手段跟不上、规制方式无法同步、规制效果不理想的监管挑战。因此，为防止技术的无序化、失序化，应结合相应的应用场域，通过具体化的场景设置，来设计与之对应的规范细则，以更好发挥法律对算法推荐的规制功能。

一方面，应在区分不同类别算法技术基础上，将智能算法推荐适用的场景具体化。人工智能时代风险防范，可采取技术和法律的综合治理机制③高奇琦：《智能革命与国家治理现代化初探》，《中国社会科学》2020年第7期，第81-102页。。从还原论的视角，智能算法推荐技术可按照一定运行机理，划分为若干的子元素。在此意义上，不同种类的算法推荐技术可被理解为若干类别基础部件的组合，例如在相似案例的搜寻领域，经由大量法律数据分析，基于法律要素创建引导不同向量生成的基本语词结构，将相似度最高的案例网络层作为推荐的案例集合，从而使得司法工作者乃至民众轻松获取法律数据库需要的信息①刘博阳、李尚、叶麟等：《基于法律要素引导的相似案例推荐算法》，《智能计算机与应用》2021年第6期，第1-4页。。在此技术原理的基础之上，按照算法推荐的主要分类，笔者认为可探索建立与此相对应的基本类别法律规制方式，作为智能算法推荐适用具体化的分类基础。再者，由于算法中因果关系的断裂与可制定技术造成的知识窄化以及推荐数据的同质化现象，应增加算法场景集合的多样性，以弥补算法本身设置的不足，提升算法推荐的合理性②郭哲：《反思算法权力》，《法学评论》2020年第6期，第33-41页。。正如学者所言，“当系统能有效解释为什么推荐时，人们会更信任推荐。当有新讯息的时候，人们希望能获得即时更新的信息。多样性是有价值的，而重复性是令人厌恶的”③CACM Staff.,“Recommendation Algorithms,Online Privacy,and More”,Communications of the Acm,2009,Vol.52,No.5,pp.10-11.。

另一方面，应围绕场景的具体特征，出台相应的规范细则。《法治社会建设实施纲要（2020-2025年）》明确提出，制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法④新华社：《中共中央印发〈法治社会建设实施纲要（2020-2025年）〉》，2022-01-18，http://www.gov.cn/xinwen/2020-12/07/content_5567791.htm.。那么，围绕智能算法推荐的典型特征，建立健全规范算法推荐的制度规范，包括算法的披露义务、规范流程、报备模型等⑤汪庆华：《人工智能的法律规制路径：一个框架性讨论》，《现代法学》2019年第2期，第54-63页。，有助于在厘定算法推荐种类基础上，实现对具体算法推荐的场景化规制，加强规范与算法之间的适应性。例如对于协同过滤算法推荐，设计规则时可更侧重算法对用户间协同连带与数据过滤保护；对于基于内容的算法推荐，设计规则时可更多关注内容读取与安全储存；对于混合算法推荐，设计规则可更多考虑两者或多者算法推荐的特征，以建构形成各有侧重的场景规范体系，实现对不同算法推荐场景的规制化。

（三）强化算法的行业监督与第三方评估

加强对算法推荐的监督是防范风险的内在要求。为有效预防技术可能引发的社会风险，不仅需要加强对算法的外在监管，更需强化算法行业的内部监督。换言之，要建立健全人工智能领域的行业监督机制，提升算法行业的自律水平。值得一提的是，行业监督与第三方评估是存在联系和区别的。内在联系在于算法行业监督的主体与第三方评估的主体都需要算法工作者的参与，而主要区别在于前者旨在促使行业建立符合法律规定和行业规范的行业规则，参与主体集中于算法从业人员，而后者则是为了准确把握算法推荐的实际情况，找出主要问题，提出对策建议，其参与主体更为多元，不仅包括算法从业人员，还包括其他相邻领域的专家、社会公众和监管人员。

其一，行业监督是推动算法推荐有序发展的重要力量。智能互联网时代的法律规制，需放弃传统的强行干预方式，而更多地采用技术路线，把法律规制转化为相应的法律技术规制①马长山：《智能互联网时代的法律变革》，《法学研究》2018年第4期，第20-38页。。算法推荐技术目前已运用于思政教育、广告新闻、图书阅读、电子商务、智能投顾等诸多领域。尽管其在各个领域的应用呈现出不同特点，但从起源论来看，算法推荐最初是由算法行业所构建和产生的，不同领域、不同行业、不同种类的算法推荐技术均反映算法推荐的价值理念。算法被设计为特定领域下的执行任务，设计师的“道德委托”影响其他主体的行为。在规制的视角下，应确定打开和关闭“门”的主体，授予行业的特定主体为“看门人”（gatekeepers）角色②Kirsten Martin.,“Ethical Implications and Accountability of Algorithms”,Journal of Business Ethics,2019,Vol.160,No.1,pp.835-850.。因此，应加强算法推荐的行业自律，构建科学有效的行业规则，注重行业规则对法律规定的有益补充，以弥补法律规制的不足。行业监督是行业主体基于行业准则对算法推荐作出内在监督的集中体现。应鼓励和引导成立算法推荐的行业协会，建立健全算法推荐行业监督准则，从技术、法律、伦理等整体层面，建构算法推荐的行业监督体系。

其二，第三方评估是算法推荐健康运行的评价手段。逻辑分析表明，经验并不在于对观察材料的机械积累，而在于严格的批判、严格的抽查和创造性的解释③董军：《人工智能哲学》，北京：科学出版社2011年版，第107页。。对于可能引发社会风险的算法推荐行为，应通过外在的专门评估，对其不合理乃至“臆造”的内容进行剥离和改进。为此，可建立由公众代表、专家代表、第三方代表等组成的算法审查委员会，按照一定流程，定期对算法推荐的安全系数、产品质量和风险层次等进行综合评定，并发布相应产品算法推荐的风险审查结果和评估报告，强化算法的第三方评估，建立智能推荐风险的专项评估机制。对于审查结果和评估报告中反映风险较高的算法推荐产品，算法审查委员会可提出纠正意见，有关部门也应在综合考虑评估结果的同时，依法作出反不正当竞争、虚假广告、数据泄露等的责任认定。此外，第三方评估应兼顾社会化的公共信息推送，要完善必要的人工干预机制，对不良信息等关键词进行甄别和筛查，以挖掘具有社会、经济、文化和专业价值的信息，发挥算法推荐的正向功能④雷霞：《搜索引擎智能推荐的权力控制与人的能动性》，《现代传播（中国传媒大学学报）》2021年第5期，第145-151页。。

（四）完善算法推荐的责任认定分担机制

如何在法律层面确立有效的分担机制，明确经营者、设计者、用户等相关主体的责任，已成为算法推荐亟待完善的重要课题。为此，应健全相应的责任认定以及责任承担机制，以厘清算法推荐的责任主体、责任类型和责任分配。笔者认为，可建立吸收新闻、算法、法律等专业人才的复合机构，从内部与外部两个维度，对责任认定分担机制作出审查认定。

算法推荐内部责任主要涉及经营者、设计者等主体的责任。考虑到算法的透明性及其自我深度学习的特征，对算法推荐责任的认定分担应覆盖到算法的内部运行之中，即算法推荐信息的收集、汇聚、融合、利用的全过程⑤丁晓东：《用户画像、个性化推荐与个人信息保护》，《环球法律评论》2019年第5期，第82-96页。。算法推荐内部责任的内容包括确保算法不存在侵害用户权益的可能；对于算法获取用户的数据信息遵循知情同意（informed consent）的原则以及法治精神；算法推荐引发的风险损害可查证和问责；算法推荐是否遵循相关行业的行为规则和伦理要求，由专门机构和人员认定；鼓励经营者、设计者通过加强算法透明化设置、规范算法推荐结果等承担社会责任；对于违反法律规范和行业规则的相关主体，应加强对违法违规行为的惩处，包括民事责任、行政责任乃至刑事责任的承担。

算法推荐外部责任关系到用户、监管者等主体的责任。为明确算法推荐行为的外部影响，在算法推荐外部主体承担责任之前，可建立举证责任倒置（inverted evidence-providing）的分担机制，由算法推荐的提供主体作为举证主体，以证明其行为的合法性及用户的过错。如其不能证明相应的主张，应承担举证不能的法律后果。对监管者不履行职责、干预算法推荐程序设置的行为，也可由算法推荐的提供主体予以证明。但为了社会公共利益，算法推荐的应用可能会给个人带来权益直接损失的，经由相关主管部门批准，可由用户提出补偿的请求，由主管机关或算法推荐提供主体承担补偿责任。对于需要法定许可但未经监管者审批的行为以及违反法律规范设置的算法推荐行为，应由算法推荐的提供主体承担警告、罚款或吊销营业执照或许可证等行政责任。

五、结语

“算法已经进入人们的日常生活，并应用于治理中。没有人参与的治理变得更加普遍。我们往往在强调其积极作用，而对风险和不利方面的关注却很少。”①Marijn Janssen,George Kuk,“The Challenges and Limits of Big Data Algorithms in Technocratic Governance”,智能算法推荐有着提供智慧化、便利化和个性化服务的技术特质，具有提升社会经济效益、推动人类文明不断进步等社会价值。与此同时，该技术可能引发一系列的法律、伦理等社会风险。在智能算法推荐的深度学习、自我革新的过程中，有必要深入考量其技术便利背后的算法侵权和伦理风险问题，从法治维度予以规制和完善。为此，在加强算法推荐技术研发更新的同时，应建立算法推荐的法律规制框架，平衡新型技术应用与技术的可能风险，确立算法推荐的法律规制规则，对智能算法的合法性、场景性、监管性和责任性作出回应，以厘清智能算法推荐的应用边界。2021年8月20日通过的《个人信息保护法》，在第四章“个人在个人信息处理活动中的权利”内容中规定了个人对信息的知情权、决定权、限制权、拒绝权，这为算法推荐划定了法律框架。2021年8月27日，国家网信办发布《互联网信息服务算法推荐管理规定（征求意见稿）》，就互联网涉及的信息服务算法推荐向社会征求意见。下一步，应在《个人信息保护法》等法律的指引下，尽快推出规范互联网等领域算法推荐管理的立法，同时明确算法推荐技术的概念、范围、目的、边界和责任，推动算法推荐的透明化、公开化，保障用户的知情权、隐私权和个人信息权，建立适应智能技术发展的法治秩序，以确保算法推荐体现人的尊严和基本权利，推动算法推荐技术的良性发展。