个性化推荐服务商合理注意义务之重构

初 萌

（北京大学法学院北京大学国际知识产权研究中心，北京100871）

一、技术视角下的网络服务商合理注意义务

在著作权侵权判定中，“技术中立”是被广泛引用乃至误用的概念。根据技术中立的理念，技术因不体现价值取向而不应为法律所规制。技术中立常被用于反对法律对技术的监管，或者为技术服务者免责[1]。在网络著作权侵权判定方面，技术中立集中体现为“避风港原则”。 该原则最早由美国1998 年《数字千年版权法》（Digital Millenium Copyright Act,以下简称DMCA）规定，旨在通过为网络服务商提供侵权豁免来促使其提供高效高质、多元化的网络服务，平衡著作权人与网络服务商的利益①S.Rep.No.105-190,105th Congress,2d Session,p.8.。然而，若以此为依据而形成“技术中立是网络著作权侵权领域最为核心的判定原则”的观念，便是大错特错了。

与技术的发明者不同，网络服务商还是技术的实际运用者，其主观能动性得以在具体的运用场景中发挥，这无疑警示我们对网络服务商技术中立的评判应当有所慎重。对技术中立弊端的有效回应，集中体现为以“合理注意义务”为核心的过错归责体系。事实上，“合理注意义务”及构成其核心内容的“明知”“应知”判断，恰恰是各国网络著作权立法与司法实践中最绕不开的话题，其构成了确定网络服务提供者侵权责任的基石。例如，根据DMCA 的规定，对平台活动具有管控权利和能力的存储空间服务商如从侵权行为中直接获取经济利益，则不能享受避风港豁免②17 U.S.Code§512(c).；我国2012 年《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》也从提供服务的性质、侵权可能性、信息管理能力、侵权信息的明显程度、是否采取合理预防措施等多个角度对网络服务商是否“应知”侵权行为进行考察③见《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》第九条。。上述规定从表面上看，似有对技术本身问责、违背技术中立之嫌，但细究之，其实质为立足于技术的实践维度，从网络服务商对技术的运用方式、运作效果及管控能力出发，考察技术对社会的影响及社会对技术的规制问题。

从本质上说，对技术的运用属于人的行为，是主体有目的、有意识活动的产物，体现着人的主观价值导向[2]。正因如此，基于“技术中立”的主张往往因忽视人的行为的意识导向性而不堪一击，乃至沦为网络服务商罔顾社会责任、追求商业利益最大化的借口。“合理注意义务”概念则注重技术运用行为所带来的危害后果及预防可能性，将关注点从“技术中立性”转移到“运用技术方式的可取性”，使技术运用者的社会责任成为决策的重要考量，这为我们审视技术运作问题提供了很好的切入点、为限制技术中立原则的滥用提供了强有力的依据，也有助于实现网络服务商、著作权人和网络用户的利益平衡。对技术视野下网络服务商合理注意义务的审视，需跳出技术中立的固有框架，考察技术运作的伦理问题，这正是本文为“个性化推荐”问题所选取的分析视角。

二、三位一体的“个性化推荐”

由于具有用户精准定位的优势，近来兴起的个性化推荐服务已成为网络服务商获取竞争优势的不二砝码。以算法取胜的“今日头条”通过个性化推荐，在本已陷入红海的网络资讯领域开辟出一片江山；风生水起的短视频平台借助个性化推荐，牢牢支配了用户的闲暇时间。通过个性化推荐传播侵权内容，不少网络服务商已经赚得盆满钵盈，却仍以技术中立作为免受侵权的保护伞，使作品创作者、投资者的利益受到极大损害，此中的利益平衡问题不得不重视。笔者将从个性化推荐的技术原理出发，从表象、实质与风险三个层面对这一技术进行分析，并在文章第三部分就该技术对网络服务商合理注意义务的判定的影响，提出自己的观点。

（一）个性化推荐的技术原理概览

总的来说，个性化推荐的实施机制主要有四种：一是基于内容的推荐；二是基于协同过滤的推荐；三是混合推荐；四是基于深度学习的推荐[3]。

基于内容的推荐，主要通过拆分、对比关键词并结合用户行为来进行。一方面，通过赋予关键词不同的权重，比较推送内容关键词重合度，有助于筛选出相近似的内容；另一方面，通过用户的浏览、评论、点赞、分享等行为判定用户对推送内容的喜好程度。通过结合上述两类数据，就能帮助网络服务商做出内容推送决策。值得注意的是，基于内容的推荐总是基于用户过往的经验推送同质的内容，可能会产生“信息茧房”④“信息茧房“概念由哈佛大学法学院教授凯斯·桑斯坦在其2006年出版的著作《信息乌托邦——众人如何生产知识》中提出，指的是人们在信息获取中往往只注意自己感兴趣的领域而忽略其他领域，从而将自己的生活束缚在像蚕茧一般的”茧房“之中的现象。的问题。

基于协同过滤的推荐建立在用户群体划分的基础上，其核心在于向用户推送同群体内其他用户感兴趣的信息。群体划分主要通过借用第三方社交平台上的用户好友信息、向用户发放调查问卷、考察不同用户过往浏览、评论、点赞、分享等行为的相似性来实现。网络服务商在获取上述信息后，便可基于群体划分实现定向推送。

混合推荐则主要结合了上述两种方法，酌情选择特定场景下更为可取的推荐方式，从而提高推荐的精确度。

近年来，伴随着人工智能适用场景的扩大化，基于深度学习的推荐开始备受重视。总的来说，传统推荐方法均采用浅层模型进行预测，依赖于人工特征提取，很难有效学习到深层次的用户和内容隐信息，通过利用深度学习模型融合广泛的多源异构数据，包括社会化关系、用户或内容属性、用户的评论和标签信息等，同时采用深层神经网络结构构建预测模型，能够更好地抓住用户和内容之间交互的非线性结构特征[4]。

（二）“技术中立”之表象难掩“追逐利益”之实质

诚然，个性化推荐本质上是由技术所驱动的，从用户行为信息的采集、推送信息的比对、用户的归类，到信息的推送，都在技术的引导之下按部就班地进行，无疑具有“技术中立”之表象。但如果仅凭这一点就豁免网络服务商本应对个性化推荐中的侵权内容承担的责任，就大错特错了。技术的使用行为应与技术本身相区分，与之相对应，对技术本身的工具理性判断与对技术运用行为的价值理性判断应当分别进行⑤根据马克斯·韦伯的分类，工具理性又被称为“目的理性”，目的理性式的行动是行为者本人所追求的理性计算目的的实现条件或手段，而价值理性式的行动则关注行为本身的伦理、审美、宗教或其他属性所隐含的价值。见[德]马克斯·韦伯著：《社会学的基本概念》，顾忠华译，桂林：广西师范大学出版社2011年版，第51页。。必要时，更应“以价值理性修正工具理性，以法治之堤圈住奔腾四溢的技术之水”[5]。

结合个性化推荐技术来分析，可以发现隐藏在技术中立表象背后的是网络服务商实现自身利益最大化的价值取向。这一价值的实现仰赖于对用户需求的满足。在“用户为王”的时代，迎合用户需求有助于提升网络服务的用户粘性。通过对需求的把握实现用户闲暇时间的锁定，网络服务商或得以收获高额广告收入，或通过吸引用户购买付费服务而盈利，最终将对用户的吸引力转化为实实在在的利润。此外，不少个性化推荐服务提供商建立了平台内容提供者的分成机制，进一步拓宽了利润来源渠道。可见，“技术中立”之表象并不能掩盖“追逐利益”之实质。

（三）助长侵权：个性化推荐之潜在风险

诚然，个性化推荐对用户需求的考量顺应了商业发展的潮流，提升了消费者福利，但这仅是事物的一面。当用户获取的内容存在侵犯著作权之嫌时，其阻碍创作、损害公共利益的一面便会逐渐显现。试以短视频平台为例进行说明。笔者曾在某短视频平台观看过此前热播的电视剧《如懿传》的两个片段，此后，当笔者再次访问该平台时，便被不断推送该电视剧的其他短视频片段，这些片段几乎囊括了剧情中所有具有高话题性的精彩内容，很难说不对享有《如懿传》独家信息网络传播权的视频网站构成实质性替代。虽然这些短视频多为用户上传，但侵权内容的推送却是由网络服务商主动为之，并非笔者主动搜索，似有主动推销侵权内容之嫌。从侵权内容的存储到对侵权市场的发掘，网络服务商在著作权侵权中扮演的角色已悄然发生了变化。此时，若仍坚持“存储空间”的定性，并适用“避风港原则”来对个性化服务提供商免责，版权人的权利将无处附着。

更有甚者，个性化推荐在提升潜在侵权风险的同时，也增加了侵权行为的隐蔽性，这是由“信息流”这一特殊的内容提供样态所决定的。具言之，在个性化推荐机制作用的场景中，信息以“流”的方式缓缓注入人们的视野，用户只能被动接收，一旦刷新页面，之前已阅的信息便不复存在，能否再次出现亦不得而知。此时，侵权可能是“转瞬而逝”的，类似于“阅后即焚”。侵权内容能否再次出现、何时出现、侵权主体为何人，均难以确定，这显然不利于版权人针对侵权内容开展证据保全工作[6]。

技术中立之表象、追逐利益之实质、助长侵权之风险，构成了我们审视个性化推荐的三个维度。其中，“表象”是需要刺破的面纱；同时，在“利益之所在及风险之所归属”这一风险负担原则的引导之下，“追逐利益之实质”与“助长侵权之风险”之间的冲突便显露无疑。然而，无论是以促进作品的生成与社会价值实现为目标的激励理论，还是以人的价值和存在[7]为核心的人本主义理念，均要求在版权人与使用者、未来创作者的权益保护之间寻求平衡，以实现社会整体福利的最大化。因此，如何重构个性化服务商的合理注意义务，实现利益的均衡化，便成为亟需研究的课题。

三、义务重构的三个维度

遗憾的是，司法实践尚未给予个性化推荐技术足够的重视。考虑到个性化推荐的内容主要来自用户上传、聚合链接，似乎并未对网络内容商与网络服务商划分的既有框架提出挑战，法院对个性化技术本身的忽略便不难理解了。但正如上文所述，技术并非中立，技术还具有赋权效应⑥“技术赋权”(technological empowerment)这一词由郑永年教授首先提出，旨在强调由网络技术所带来的政治话语权重新分配的现象。见郑永年：《技术赋权：中国的互联网、国家与社会》，邱道隆译，北京：东方出版社2013年版。本文主要在技术的经济效益层面使用“技术赋权”一词。，这一效应往往会消融既存分类标准的合理性，需要从建构主义的视角作出回应。笔者认为，摒弃被误读的“技术中立”，为“个性化推荐”服务商设置合理的注意义务，应从使用个性化推荐服务的网络服务商的行为属性、信息管控能力及侵害后果三个维度展开。

（一）行为的直接传播属性与审查义务的提升

在网络著作权侵权判定中，直接侵权与间接侵权的区分是关键。间接侵权存在两种表现形态：第一种是指某人的行为系他人侵权行为的继续，从而构成间接侵权；第二种是指某人须对他人的侵权行为负一定责任，而他自身并没有直接从事任何侵权活动。无论何种形态，间接侵权的成立均以存在直接侵权为前提[8]。通常认为，决定侵权内容发布⑦需要强调的是，在某些情况下，上传侵权作品的行为由用户完成，但网络服务商通过对作品的实质性审查决定是否发布作品，此时，网络服务商为内容提供者。参见北京舞风十雨广告有限责任公司与母碧芳侵犯信息网络传播权纠纷案二审民事判决书，（2005）一中民终字第10231号。的是直接侵权人，其需承担内容审查义务；而不决定侵权内容发布的网络服务商一般仅在应知或明知内容侵权时承担间接侵权责任。

一般来说，发布行为是内容得以通过网络传播的前提，而通过搜索引擎的设置，公众便得以获取作品，因此，将“传播”与“发布”等同并不会引发过多问题。但个性化推荐却并非如此。在这一机制之下，侵权内容往往以信息流形式推送，用户无法直接搜索，只能被动接收信息。如果说传统以搜索为支撑的网络传播具有“人找信息”的特点，那么个性化推荐更多体现出的特性是“信息找人”[9]，更确切地说，是经过个性化推荐算法计算得出的信息找到用户，这一传播过程已经与信息发布行为产生分离，为算法及支配算法的网络服务商所控制。上传侵权内容的用户即便实施了“发布”（“上传”）行为，也无法自行实现“向公众传播”的发布效果。更有甚者，如上文所述，网络服务商在个性化推送侵权内容时，扮演着发掘侵权内容的角色，使用户得以观看很多其本不欲观看的侵权内容。因此，从传播的实质含义入手，不难看出，此时上传信息的用户仅实施了将侵权内容存放于服务商所在服务器的“发布”行为，该内容发布的量是否满足“公众”的需求，完全由网络服务商的个性化推荐算法所决定。正因如此，个性化推荐服务商的行为属性十分接近于直接传播行为，其理应承担更高的注意义务乃至内容审查义务。

（二）权责一致原则与事前过滤机制、事中监控义务的引入

根据上述对个性化推荐技术原理的分析可以看出，无论是基于内容的推荐、基于用户的协同过滤，还是混合推荐、基于深度学习的推荐，都需要网络服务商一定程度的干预方能实现。对关键词的收集与比对、对用户行为的监控与分析、对算法的训练与优化，使信息服务商具有了很强的平台管控能力。此外，网络服务协议从强调侵权豁免到提倡互利共赢的转变⑧在网络平台发展的早期，其在与用户签订的服务协议中较为关注用户潜在的侵权行为，通常会要求用户保证上传的内容不侵犯第三方的知识产权，如不满足这一条件，用户需自行承担法律责任并赔偿平台的经济损失。随着用户原创内容的增多，平台开始转变角色，从“潜在的版权人”角度对服务协议作出调整，具体体现为要求用户将上传作品的知识产权转让或独家许可给平台、赋予平台广泛的使用权、规定平台与用户按一定分成比例共享作品传播收益等。，意味着服务商能够在更大程度上分享、控制平台作品所产生的收益。对于有不当得利之嫌[10]的内容搬运工式服务商而言，更是如此。基于权责一致的原则，牢牢掌握管控权与收益权的个性化推荐服务商理应提升注意义务的承担标准。

依笔者之见，存在侵权风险的个性化推荐服务商应负有事先过滤侵权内容的义务。一方面，应当建立关键词屏蔽信息库，囊括热度作品名称、权利人发出的合格通知中显示的作品名称等信息，并与从个性化推荐服务中收集的关键词信息进行比对，实现侵权信息的精准定位，以预防侵权行为的发生；另一方面，也可通过对用户行为的追溯识别出经常上传侵权作品的用户，视侵权情节的严重性，分别给予警告、限制上传、封锁账号、注销账号等处罚，以净化网络著作权环境。

在过滤机制的引入方面，由江苏高院二审宣判的现代快报诉今日头条案可谓开辟了先河。虽然在本案中，今日头条与“中国江苏网”达成了合作协议，但法院依旧基于被控侵权文章的署名部分有“现代快报记者”字样、而今日头条运营公司未通过设置关键词等方式对合作网站不享有信息网络传播权的作品进行筛选的事实，认定其应知侵权行为存在，并判令侵权成立⑨见北京字节跳动科技有限公司等与江苏现代快报传媒有限公司等侵犯著作权纠纷案二审民事判决书，(2018)苏民终588号。。可见，对信息管控能力强的平台施加事前过滤义务，已在司法层面得到了认可。无独有偶，在北京市互联网法院近期一审宣判的音著协诉斗鱼直播侵权案中，虽然播放音乐作品的是主播，但法院仍旧基于斗鱼通过用户协议获得所有直播成果知识产权的事实，认定斗鱼公司为网络内容提供者，应当对直播成果的合法性负有更高的注意义务和审核义务，海量的注册用户及直播的及时性和随意性也不能成为免责理由⑩见中国音乐著作权协会与武汉斗鱼网络科技有限公司侵犯著作权纠纷案一审民事判决书，(2018)京0491民初935号。。此类判决的出炉将推动提供海量用户上传内容的平台与版权方签订用户协议，或采取预防侵权的过滤机制。域外层面，欧盟《数字单一市场版权指令》于今年通过，其中第17 条规定了在线内容共享服务提供商对用户上传作品的过滤义务。上述做法对法院审理涉及个性化推荐技术的案件具有重要的参考价值。

此外，网络服务商也应当履行一定的事中监控义务。总的来说，对传播流量异常大的作品，更应审视其是否存在侵权行为，以免为著作权人带来过大的损失。这方面可以参考国家版权局2015 年发布的《关于规范网盘服务版权秩序的通知》的如下规定：“网盘服务商应当加强用户管理，要求用户对其账号异常登录、流量异常变化等可能涉嫌侵权的情况及时作出合理解释，对于拒绝解释或者不能给出合理解释的用户，可以暂停或者终止使用其账号。”

（三）侵害后果严重性与算法透明性、举证责任的重新配置

基于用户过往观看、浏览行为的个性化推荐容易引发信息茧房问题，信息茧房一旦与获取侵权内容的需求相结合，将引发灾难性的后果，这在上文已有所提及。试想一个极端的情形，如网络服务商基于用户使用网站的历史信息发现用户热衷于观看盗版美剧，于是源源不断地向用户推送盗版美剧片段，并以用户上传、技术中立为由享受避风港保护，岂不荒谬至极！毫不夸张地说，在个性化推荐的时代，真正的“王”不是内容，不是数据，而是算法[11]。对于掌控了个性化推送的算法、却不对此做出解释的个性化推荐服务商，我们何以能够确定其算法中未含有帮助侵权的主观故意呢？欧盟《一般数据保护条例》确立的算法解释权，是否能够适用于著作权领域呢？

诚然，一种较为激进的方案是引入以具体决策为中心的算法解释模式，要求服务商提供个性化推荐的基本原理、理由和个体情况，包括特征的权重、机器定义的决策规则、与用户相关的信息等[12]。但这种方案能否在我国落实，尚有所疑问。为此，笔者主张构建以举证责任的重新分配为核心的解决方案。一方面，考虑到个性化推荐内容的即时性、一定程度的不可复制性，应适当降低版权人的举证责任。如其提供的实时录像、网页截图、用户评论等信息能够体现出服务商曾向用户推送过侵犯其版权的作品，则可认定原告举证责任已经完成，此时，被告如不能提供相反证据，则应推定其实施了传播行为。被告应提供的证据包括服务器中作品存储的信息和传播次数等。如原告不认可被告提出的上述信息，可申请法院勘验，法院在有必要时也应可依职权自行勘验[13]。从过程控制到结果控制，将实体问题转为证据问题，这种更为缓和的解决思路更易被司法实践所接受。

四、面向技术的法律回应——代结论

关于个性化推荐技术本身是中立的论断，是基于技术理性出发得出的结论。技术理性使人们相信技术可以解决一切问题，而未能解决的问题是因为科技还不够发达,该问题的最终解决也只能依靠技术的发展[14]。该观点固然有一定道理，但存在将技术与技术运用者混为一谈的局限，并将技术运用者的价值取向置于社会生活中的至优地位，已然打破了著作权人、网络服务商与用户权益的平衡，亦与新时代倡导创新文化、为著作权人提供创作激励的大趋势无法相容。面对新技术的发展，法律理应做出有温度、负责任的回应。