互联网时代内容风控业务研究

2021-12-04 21:38夏云
管理学家 2021年21期
关键词:互联网

夏云

[摘 要]随着互联网时代的到来,视频、音频、语音等互联网产品内容不断涌现。在人口红利消失的大背景下,内容成为互联网行业新的竞争点,内容风控也面临国家更多政策要求。在庞大的内容资源下,快速高效地识别并过滤涉政、违禁、暴恐、色情、侵权、欺诈等违规信息,成为所有互联网内容平台关注焦点之一。文章探讨了互联网时代内容风控的背景、主流模式、市场现状,并在对未来的内容风控发展方向建议基础上,对相关企业互联网时代内容风控业务提出了相应建议,以供参考。

[关键词]内容风控;互联网;内容审核

中图分类号: F325.2           文献标识码:A           文章编号:1674-1722(2021)21-0001-03

在人口红利消失的大背景下,内容成为互联网行业新的竞争点。与之同时,监管趋严,对内容的严谨审核关乎到平台声誉和存亡。庞大的内容资源下,快速高效地识别并过滤色情、暴恐、涉政等违规信息,成为所有互联网内容平台关注焦点之一。

一、互联网时代内容风控业务的研究背景

(一)互联网产品的内容审核面临更大难度

随着5G时代和自媒体时代的到来,图片、语音、音频、视频等互联网产品内容不断涌现,其中以UGC,即用户生产内容最具代表性,内容多元,形式丰富,且呈现出爆发式增长的趋势。一大批新兴的社交平台脱颖而出,用户数量及活跃度也随之激增。这些数量庞大的网络用户,道德水平和专业水平参差不齐。在这样的情况下,如果对内容审核不严格而使不良信息随意传播,将会产生错误舆论导向,影响未成年人的健康成长和社会安定,给国家安全、公众利益造成极大困扰。UGC的内容量呈指数级增长且形式多样,传播速度快,影响范围广。在全民参与的同时,也会引发版权侵权问题,版权所有权人的合法权益受到极大损害,网络平台应当承担更多责任[1]。

对监管部门来说,执法部门在技术监管方面审查难、取证难,复杂的网络环境、密集的违规内容、稀缺的专业技术人员,使网络监管面临很大困难。伴随着亿级数量的用户活跃度,平台面临的是成倍增长的内容审核压力,部分平台审核标准和尺度把握不够准确,“自审自校”的机制也无法做到严谨、客观、公正。如何确保内容合法合规,成为行业有序发展和监管部门工作的重点。这一切,都对内容风控提出了新的挑战[2]。

(二)内容风控面临国家更多政策要求

习近平总书记在2018年全國网络安全和信息化工作会议上强调,要加强网上正面宣传,旗帜鲜明地坚持正确政治方向、舆论导向、价值取向。要压实互联网企业的主体责任,决不能让互联网成为传播有害信息、造谣生事的平台。

2019年12月20日,国家互联网信息办公室发布了《网络信息内容生态治理规定》。根据规定,网络信息内容服务使用者和生产者、平台不得开展网络暴力、人肉搜索、深度伪造、流量造假、操纵账号等违法活动。

2020年6月30日,习近平总书记主持召开中央全面深化改革委员会第十四次会议,通过了《关于加快推进媒体深度融合发展的指导意见》(以下简称《意见》)。《意见》指出,坚持正能量是总要求、管得住是硬道理、用得好是真本事,坚持正确方向,坚持一体发展,坚持移动优先,坚持科学布局,坚持改革创新,推动传统媒体和新兴媒体在体制机制、政策措施、流程管理、人才技术等方面加快融合步伐,尽快建成一批具有强大影响力和竞争力的新型主流媒体,逐步构建网上网下一体、内宣外宣联动的主流舆论格局,建立以内容建设为根本、先进技术为支撑、创新管理为保障的全媒体传播体系。《意见》指出,要推进内容生产供给侧结构性改革,更加注重网络内容建设,始终保持内容定力,专注内容质量,扩大优质内容产能,创新内容表现形式,提升内容传播效果[3]。

2021年7月19日,人民网股份有限公司发布了《人民网“十四五”发展规划》,提出了坚持内容主业、拓展新型业务内容、成为内容科技领军企业、稳居国有文化传媒上市公司第一方阵等目标。其中尤为引人注目的是,人民网明确提出,进一步拓展内容运营、内容风控、内容聚发等新型内容业务,在内容产业新的社会化分工的关键“生态位”发挥引领、连接、标准制定等关键作用。2021年2月,文化和旅游部等七部委联合发布《关于加强网络直播规范管理工作的指导意见》,提出要压实平台主体责任,建立健全内容审核、技术安全等内部管理制度;加强未成年人保护,屏蔽不利于未成年人健康成长的网络直播内容;严厉查处侵权盗版等违法犯罪行为。其中关于文化和旅游部门的工作内容中提到,要加强网络表演行业管理和执法工作,指导相关行业组织加强网络表演行业自律[4]。

二、内容风控市场现状

(一)内容风控的核心是内容审核

1.内容审核是基于图像、文本、音视频的检测技术

从技术应用的角度看,内容审核(Content Moderation)是基于图像、文本、音视频的检测技术,可自动检测涉政、涉暴、涉黄、敏感人物、图文违规等内容。许多内容风控产品主打的就是对用户上传的图片、文字、音视频进行内容审核,以满足上传要求,帮助客户降低业务违规风险。随着互联网的飞速发展和信息量猛增,大量色情、暴力、政治敏感等不良信息夹杂其中,若不做好内容审核,不良内容会让用户产生反感,从而降低产品使用频率,最终远离产品。

2.内容审核不到位会引起监管风险和商业损失

内容审核不到位会引起监管风险和商业损失。监管风险主要是涉政、违禁、暴恐、色情、侵权五大类内容,将直接导致平台面临约谈、整顿、罚款乃至关停。其他威胁相对低的类目包括违规广告、低俗内容、不文明以及垃圾信息,也会对平台造成负面影响。商业损失是指大量广告导流、欺诈广告会导致用户体验变差,长此以往,用户流失、平台受损。导流广告和欺诈广告往往由黑产所为。随着互联网行业发展,网络欺诈无处不在,黑色产业链已发展为成熟体系。在黑产面前,损失不言而喻。

(二)国内提供第三方内容风控类型

目前国内提供第三方内容风控企业共计20余家,可大致分为三种类型:技术导向的云服务企业、有内容基因的国有传媒企业、新兴的创业公司。

1.技术导向的云服务企业

此类企业包括阿里云、腾讯云、百度云、网易云等。这些企业云化产品线庞大,提供服务齐全。例如,阿里云提供包括云计算基础、安全、大数据、人工智能、物联网等多种产品和服务。内容安全审核只是安全产品线中“业务安全”下的一个分支业务,安全产品线还包括基础安全、数据安全、身份管理等20余种服务。百度AI开放平台提供包括语音、图像技术、人脸识别、视频技术、AR/VR等多种产品。

根据这几大企业公布的数据,他们的审核准确率通常都在90%以上。在定价上,这些公司基本都是按照调用量和调用内容进行分阶梯计价,部分推出优惠政策。如百度云提供给用户每日2000张的免费审核额度,阿里云推出包年基础包和按量加油包,腾讯云则直接按照包年/包月两种套餐进行计费。

2.有内容基因的国有传媒企业

此类企业以人民网为代表,平台有内容审核需求,积累经验后再向第三方提供服务,输出经验。在内容风控业务方面,公司2012年就成立专门团队,积累有效行业标准,同时搭建自主知识产权技术平台。接下来,公司希望一方面针对大型央企、国企、互联网公司建立长期合作模式,另一方面针对中小企业搭建云审核平台,通过智能化和标准化服务,帮助中小企业确保内容安全并降低内容审核成本。

除此之外,作为一家权威国有媒体,人民网希望在内容风控领域把内容风控定义为一个全新职业,形成职业分级与分类。同时形成“风控大脑”,提供具有开放技术能力的后台,通过数据积累使得公司不仅能提供内容风控服务,还能对外输出一套业务标准。

可以看到,相较于互联网企业从技术角度切入内容风控领域,人民网作为有内容基因的大型国有媒体,更希望从源头定义行业,把自身对政策理解能力、对内容把控能力作为一项标准对外输出。

3.新兴的创业公司

这些创业公司大多是在云服务或安全领域进行创业,内容风控与审核是云服务的一个细分产品。

例如,融云公司主要做互联网通信云、七牛云主要做视频云服务、图普科技主要是图像识别云服务;数美科技和同盾科技则主要在互联网安全领域,提供反欺诈和信贷风控。值得一提的是,老牌公司科大讯飞在讯飞开放平台中也提供暴恐、敏感信息等内容审核服务。

云净网络主要在反垃圾和安全审核两个领域提供服务,包含文本、图片、视频和音频的检测。根据“云净网安全”公众号信息,云净网完成了在六大城市人工审核团队建设,目前人工审核团队储备已经超过1000人规模。较为庞大的人工审核团队搭建使得云净网和其他内容风控公司形成差异化竞争。

(三)内容风控模式

内容风控包括自建内容风控团队和第三方审核两类模式。其中,自建模式一般团队庞大,成本高昂,但大型互联网公司,尤其是拥有UGC产品的公司通常都有庞大的自建内容审核团队,如今日头条、快手、微博等,他们的内容审核相关人员一般都有上千人。对大型互联网企业来说,自建内容审核团队虽然成本较高但便于管理且能保证内容审核的高效。今日头条媒体合作总监表示,今日头条2.3万名员工中,有1万名内容审核员工,具体到每一帧画面、各种评论内容等,都进行7×24小时监控;而对中小型创业企业来说,技术资金有限,无法快速搭建属于自己的内容审核团队,因此应运而生第三方内容审核机构。第三方内容风控是指由第三方专业机构利用技术和人工审核团队,对新闻资讯、直播、短视频等进行色情、暴恐、涉政等违规内容识别,过滤并删除含有违规信息的图文及音视频,以保证平台内容合法合规和绿色健康,内容平台方根据审核内容及数量支付给第三方机构一定报酬的业务模式。

三、互联网时代内容风控的发展方向

从风控需求来看,互联网时代内容风控应做到横纵两方面的要求。横向来讲,内容形式上应做到全域覆盖。内容主要有五类:文本、图片、音频、视频、网页。只有在内容形式上覆盖足够宽广,才不会造成误杀漏杀。纵向来讲,垂直场景上应做到深度应用。风控是细化到场景的,在对场景的理解和场景化建模方面的能力要求很高。以图片涉政场景为例,有正常照片、雕塑、漫画,每一个场景都需要单独的模型。还有AI识别不良行为,比如抽烟、喝酒等,这类人工智能技术非常考验对场景的理解与技术应用。

从市场发展角度来看,目前无论是自建审核团队还是第三方内容审核,基本都是按照“技术+人工”两个步骤进行。未来内容风控行业或将形成技术型公司和内容型公司两大阵营:技术型公司以拥有AI技术的大互联网公司为主,他们在自然语言处理、图像识别、人工智能等技术上具有明显优势,数据量庞大可实现不断的机器学习。对这些公司来说,内容审核只是其业务的一个部分,其他还包括对网络垃圾信息过滤、互联网安全等全方位的企业级服务。内容型公司以人民网为代表,目前他们在技术方面相对巨头互联网公司不占优势,但是在内容敏感性、把关能力、判断能力和对审核内容不断更新迭代方面更具有优势。

四、互联网时代内容风控企业发展建议

尽管目前互联网给相关企业带来了较好的发展效益,但为提升企业环境发展适应性,提升企业发展合规性,企业应做好内容风控措施:第一,全面体检,针对布局。企业要针对自身互联网发展事件,邀请或通过自身内容安全专家,全方位剖析自身内容安全构架,并测试、评估该构架是否具拥有一定安全性,并依旧缺漏项,以国家标准为中心,以企业实际资源为基础,逐一纠正、完善或重构。同时,为保障企业内容合规性、依法性,企业还应搭建相关跟踪体系,跟踪国家相关部門机构,及时解读政府相关文件,并依据文件内容修正自身内容风控体系,以保障自身内容安全。第二,内外兼顾,循环检测。相关企业应立足热点事件、敏感内容、实时内容等,以内容监管规范为中心,把控审查内容支出。同时,搭建闭环内外巡查内容风控队伍,一方面通过现代智能设备,精准定位企业内外内容控制风险,并辅助其提出针对性应对措施。另一方面以内容风险控制队伍为中心,辐射安全管理制度,提升企业其他相关部门合作效果,以保障企业互联网内容合规发展。

五、结语

综上,在现行互联网环境下,企业网络内容合规性拥有非常重要的作用,企业应对其予以一定重视。其中内容风控作为一种重要的管理措施,相关企业要以自身资源为中心,以政府政策为导向,编制内容风控管理体系,以保障自身内容合规性。据此,文章全面分析了目前互联网时代内容风控业务相关内容,具有一定的参考价值。

参考文献:

[1]智能内容风控SaaS平台「博特智能」完成近千万元天使轮融资,投资方为武汉东湖众合天使基金[EB/OL].[2020-03-09].

[2]辛瑞佳.以科技为驱动,打造智能化的内容风控平台[J].传媒,2019(19):22+24.

[3]简承渊,冯思潮,何娇.全媒体时代内容风控的困境与新路径[J].青年记者,2019(28):36-37.

[4]朱浩齐.构建全链路内容风控体系,解决内容安全难题[J].中国信息安全,2020(02):73-74.

猜你喜欢
互联网
互联网+背景下数学试验课程的探究式教学改革
基于“互联网+”的京东自营物流配送效率分析
互联网+医疗保健网的设计
试论网络大环境下音乐作品的法律保护问题
浅谈大数据在出版业的应用
浅析互联网时代维基百科的生产模式
“互联网+”环境之下的著作权保护
“互联网+”对传统图书出版的影响和推动作用
从“数据新闻”看当前互联网新闻信息传播生态
互联网背景下大学生创新创业训练项目的实施