算法分发的批判及其价值观思考

尹江滕

关键词 算法分发；价值观；歧视与偏见；道德责任

中图分类号 G2 文献标识码 A 文章编号 2096-0360（2021）05-0037-03

在算法当道的时代，传统的编辑分发逐渐被算法分发所取代，这无疑是一场深刻的信息变革。不可否认，算法分发能以极高的效率处理庞大的数据，理智且客观的利用必然会推动人类社会的进步。然而，人们对于技术的憧憬与乐观往往只是故事的开始。近年来，机器算法对受众、传媒行业甚至社会秩序的冲击力正不断加大。因此，我们需要辩证地看待算法分发的利害，以重新审视新时代背景下人类的价值。

1 从编辑分发到算法分发

编辑分发在媒介资源短缺的传统媒体时代最为普遍。彼时，只有极少数的媒体负责收集、整合信息资源，然后各编辑根据媒体的方针政策、个人旨趣等进行信息分发，最终将精心挑选过的内容呈现在读者面前，在这个过程中，编辑就扮演了“把关人”的角色。而由于大多数的媒体政策和制度方针都以“潜网”的形式烙印在编辑和记者身上，所以这种分发方式便以最终的传播节点——编辑命名，称作编辑分发①。这种信息分发形式出现的时间远比我们想象的要早。早在口传时代，由古希腊盲人诗人荷马收集、整理的“荷马史诗”就是编辑分发的典型范例。在彼时信息匮乏的年代，编辑分发模式发挥了重要的作用，在编辑们尚可以对有限的信息进行精心挑选和处理的情况下，没有直接获取渠道的人们可以得到必要且优质的新闻。

经过了仅仅短暂的几年，人类便来到了互联网时代，新的信息分发模式应运而生。互联网时代的信息分发模式适用了其信息过载的时代特征，从以Yahoo为代表的分类索引模式，到以Google为代表的搜索引擎模式，再到以Facebook、YouTube为代表的推荐算法模式，每一种模式都可以说代表了一个互联网发展的节点，以及由其背后的商业巨头主导的时代，而在这个过程中，真正起到变革性力量的，是时至今日风靡全球的推荐算法模式。

算法是一种“指导计算机完成特定命令的指令集”[1]。早在20世纪，就已经有很多来自科学和工程领域的学者探索算法的概念、运行机制、功能及其效果。直到Facebook经过不断发展创新，推出推荐算法-信息流（Feed）模式，才可以说真正开启了一个全新的推荐算法时代。在那之后，许多公司都应用了算法来进行产品的革新，以适应技术的发展与市场的扩大。例如，Google使用算法进行相关信息搜索，YouTube也使用算法进行主页视频推荐。2012年，今日头条客户端成立，其以算法技术作为技术框架为用户进行新闻推送，由此标志着算法正式进入了中国新闻领域。

算法可以对大数据进行有效的处理，算法把关则具有区别于编辑把关的数据化、程序化、自动化特征[2]，通过分析用户画像、文章画像和算法模型，达到千人千面、私人定制的效果[3]，毫無疑问，这对传统的编辑把关模式构成了巨大的威胁和挑战。早期，今日头条、一点资讯等软件将算法引入新闻终端，实现了“无编辑化”的新闻发布模式[4]。而后，微博将算法引入热搜榜使其成为网民获取热点新闻的主要来源、抖音将推荐算法应用到极致引领短视频新时代。在大数据时代代表着更高经济效益的推荐算法，开始从人们手中接手越来越多的工作，在此后的许多年里，算法文化持续影响着人类社会的方方面面。

2 算法分发的价值与批判

2.1 算法分发的价值

根据国际数据公司的预测，在2025年，全球每年产生的数据将从2018年的33ZB增长到175ZB，即相当于每天产生491EB的数据②。面对如此庞大的数据量，算法分发则有效地解决了大数据环境下的“信息爆炸”问题，同时也显著提升了新闻业的运作效率[5]，构建起了信息消费者与信息生产者之间有效沟通的桥梁，实现了二者的双赢。一方面，对于用户来说，算法分发可以使用户所需要的信息主动“找上门来”，从而节省用户的时间成本、提高阅读效率，是一个以低成本获取有价值信息的有效途径；另一方面，这也给互联网公司带来了经济效益，算法分发通过精准用户画像达到精准分发，提高用户黏性，其利用个性化推荐带来的“长尾阅读”激活了80%的沉淀价值，成为一条以技术优势为资本来获取用户“回头率”与忠诚度的捷径[6]。

2.2 算法分发的批判

算法技术使人们对它的发展前途寄予了希望与期待。但是近来，随着今日头条、微博热搜接连被要求整改，“信息茧房”“回音室效应”以及“过滤气泡”等问题深受各界争议。此外，算法价值观问题及算法偏见与歧视带来的不公平性也日益受到人们的重视。

2.2.1 算法分发加剧认知固化

凯斯？桑斯坦指出，公众对信息的需求并不是全面的，他们通常都追随自己的兴趣，如果不积极寻求和接受负面评论，随着时间的推移，他们会像茧一样被关在“茧房”中。在这样一个封闭的信息环境中，人们反复听到相似的观点，接触相对同质化的人和信息，趋于将其视为事实的整体，这就导致了“回音室效应”。此外，在社交媒体环境下，由伊莱？帕里泽提出的“过滤气泡”效应也愈发明显。基于大数据和算法推荐的搜索引擎可以在任何时候了解用户喜好、过滤出异类信息，但却造成了用户认知的隔离状态，使用户周围被由算法过滤的“气泡”所包裹。随着算法日益成为一个通行准则，用户的兴趣和价值观不断被算法强化，这使用户不易接收到与自己意见相左的信息，越来越被局限在同质化信息的一方天地之中，被自身喜好不断固化，从而造成群内同质化，加剧群体偏见。

值得注意的是，桑斯坦提出“信息茧房”和“回音室效应”时，算法还是个模糊的概念，它们一定程度上产生于人们的选择性理解以及个人差异，即它们是一直客观存在的，只简单地以为算法是导致一切的罪魁祸首，是对新技术负面影响的夸大。因此，从本质上看，新媒体环境下的“信息茧房”“回音室效应”“过滤气泡”反映的是人们认知固化的加剧。

2.2.2 算法分发显露公共价值缺失

近年来，算法背后的商业巨头如今日头条、快手、抖音等公共性的缺失也备受诟病。在越来越追求效率的情况下，算法分发的把关标准逐渐片面化，许多迎合用户猎奇心理的新闻不断被推送，如标题党、低俗内容等等，而优质内容却不断被边缘化，“劣币驱逐良币”效应愈发显著。无论是Facebook还是今日头条，都将自己标榜为科技、技术公司，极力与“媒体”撇清关系，否定价值观的输出，宣扬算法无价值观论，即当技术与价值观出现冲突时，公司主张的是“技术先行”，这实则是对社会伦理问题的回避，将不可避免的带来社会公共性的缺失。

在数据与价值之间，算法自然是以前者为主，这就可能会使用户接收到与主流价值不符的内容。以抖音为例，尽管有多个审查系统，仍然会有大量庸俗内容和无价值信息流向抖音用户[7]。有学者对抖音的算法推荐模式做了這样一个形象的描述：“抖音用豪放的流量和金钱刺激创作者，他们亲手投递一波又一波内容，喂饱了算法，壮大了抖音流量帝国。在算法主宰的世界，就像抖音不那么需要灵魂人物，它也不需要头号玩家。”③算法犹如一个“黑箱”般神秘莫测，具有巨大的不确定性，其分发标准与操纵者的商业利益正在对社会公共价值构成严重威胁。

张一鸣一直倡导“算法没有价值观”，但是，在算法日益决定着内容展现、决定着受众人群、决定着传播规律的背景下，算法逐渐成为各技术公司追逐私利的产物，成为其商业价值与伦理规范在互联网世界的体现。诚然，算法分发技术本为中性，脱离社会现实而论其正向或负向的价值观毫无意义，但是一旦其跟商业利益挂钩，或者说被应用于人类事务中时，算法的某些价值弊端就会越发凸显出来，并且无可回避。

2.2.3 算法分发放大偏见与歧视

除了上文所述商业资本力量之外，算法推荐还受到诸如政治权力、算法设计者价值判断等主观因素的隐姓干预，不可避免的被各种价值标准所裹挟，造成数据解读现实世界的失败。因此，算法推荐不能完全客观、中立地呈现信息，对少数群体及用户形成了算法的歧视与偏见。

“算法偏见”即算法在信息生产和传播中失去客观性和中立性，从而使公众不能全面的认识信息。例如，谷歌的一个程序曾错误地把一张黑人男子的照片标记为“大猩猩”④。这种看似由于算法而带来的种族歧视，被冠上算法歧视的称号。此外，算法分发本身所具有的“过滤气泡”特性会将某些内容过滤、压制，并优先推荐其他内容。比如，在2016年Facebook“偏见门”事件中，Facebook被揭露其热门推送榜蓄意打压保守派信息、保留自由派信息。这种信息分发方式严重损害了用户接收内容的平衡性，从而对用户的知情权与信息权利构成威胁。

随着新闻领域智能化的加强，“算法偏见”越发带来新闻的专业性、客观性地弱化，导致作为社会环境“瞭望者”的媒体日益偏离公众的期望[8]。但是，正如前文所述，算法技术本身是中立的，它同样并不带有什么偏见与歧视。《自然》杂志曾用BIBO表示Bias In，Bias Out——偏见进、偏见出，即人类对社会某一群体的偏见，最终都会通过大数据折射出来，只是在网络空间下，算法将这种偏见放大了。

3 算法批判的背后——凸显人的价值

在与算法治理的风险与挑战相关的议题中，《人工智能与算法治理研究》中将其整理为了三个方面：不可解释隐忧、自我强化困境以及主体性难题[9]。我们所讨论的，主要集中于自我强化困境这一层面，即固化、偏差、歧视问题。通过探讨我们发现，无论是认知固化、公共价值缺失，还是歧视与偏见，都与现实社会中人们的价值选择有着不可分割的联系。所以，处于争议中的算法分发，仍需要呼唤人及其价值观的在位。但是，完全抛弃算法分发将把关权力强行转移到人的手中已经绝无可能，媒体数量的激增和消费群体的庞大都需要更加高效的信息分发手段。因此，算法分发的趋势是不可阻挡的。算法的难度在于体察人性，所以我们需要的，是在冰冷的机器分发中注入人类所特有的道德标准，将公民的责任感编入一连串的代码中。编辑分发代表了对人类价值观的重视，其保证的是公平；算法分发则看重的是数据，保证的是效率，未来我们要做的，就是要寻找这种公平和效率间的最佳平衡点。

詹姆斯？柯兰在《互联网的误读》中讲到，互联网有潜力帮助我们建构一个更有凝聚力、更相互理解、更公平的世界，但变革的动力来自社会，而不是电脑芯片。因此我们要深刻意识到我们在批判算法的同时，到底在批判什么。我们必须了解到，把数字和计算引入管理庞杂的、基于价值的人类事务之中，并不能带来客观性；相反，人类事务的复杂性会干扰算法。我们可以并且需要使用计算机来帮助我们做出更好的决定，但我们也需要在判断中加入道德义务，并在这个框架下使用算法，而不是像人们互相推卸责任那样，把责任转移给机器[10]。最终，统治我们世界的是人，而不是技术。抛开技术工具的本质属性而言，从中作祟的从来都是人性中的贪婪和投机。因此，人们最终应该超越算法，始终保持自身对现实世界的洞察力与判断力[11]，在任何时候，技术都必须让位于人的道德和理性，而一个正确的价值观导向，也必须成为算法分发之上的力量。

注释

①人人都是产品经理.聊一聊信息分发的嬗变史.Internet。

②IDC.数据时代2025，2017。

③张珺.抖音内幕：时间熔炉的诞生.公众号“腾讯科技”，2020。

④http：//www.bbc.com/news/technology-33347866。

参考文献

[1]Ceruzzi，Paul. A History of Modern Computing， 1945-1995[M].MI T Press，1998：13-75.

[2]王茜.批判算法研究视角下微博“热搜”的把关标准考察[J].国际新闻界，2020（7）：26-48.

[3]吴晨光.自媒体之道[J].博览群书，2018（9）：18.

[4]白红义，李拓.算法的“迷思”：基于新闻分发平台“今日头条”的元新闻话语研究[J].新闻大学，2019（1）：30-44.

[5]方师师.双强寡头平台新闻推荐算法机制研究[J].传播与社会学刊，2018（43）：103-122.

[6]张强.算法分发的效应与忧思[J].青年记者，2019（18）：38-39.

[7]李墨涵.抖音算法推荐机制的局限与对策分析[J].新媒体研究，2019，5（2）：28-29.

[8]林爱珺，刘运红.智能新闻信息分发中的算法偏见与伦理规制[J].新闻大学，2020（1）：29-39.

[9]贾开.人工智能与算法治理研究[J].中国行政管理，2019（1）：17-22.

[10]ZeynepTufekci：Machine intelligence makes human morals more important，TED，June 2016.

[11]彭兰.机器与算法的流行时代，人该怎么办[J].新闻与写作，2016（12）：25-28.