基于机器学习的生活号敏感内容感知与预警系统设计

张维， 蒋颖， 楼斐， 王庆娟， 陈齐瑞

(国网浙江省电力有限公司 营销服务中心(计量中心)， 浙江 杭州 310014)

0 引言

智能移动设备的普及使得移动互联网的发展更加迅猛，上网不再局限于时间和地点。同时，信息的开放性也丰富了互联网信息资源数量[1]。而网络的开放性与自由性导致了一些别有用心的人在生活号中发布一些不健康或敏感信息，由此造成不必要损失的情况也越来越普遍。更重要的是，青少年是我国庞大网民中的重要部分，一些敏感信息会影响青少年的价值观以及心理健康[2-3]。因此，对生活号发布信息中的敏感内容进行有效的感知和预警对于营造良好的网络环境具有重要的社会意义。传统的敏感内容感知预警系统，如社交网络敏感内容检测系统[4]和无线局域网内敏感信息安全检索系统[5]，在词向量维度增大的情况下对敏感内容的感知准确率会降低。因此，本研究利用机器学习技术中的卷积神经网络模型设计了生活号敏感内容感知与预警系统。

1 生活号敏感内容感知与预警系统设计

本研究设计的系统期望实现的目标主要包括两部分，一是尽可能快且全面地发现被监测生活号发布内容中的敏感信息;二是实现预警功能。本文在设计系统时沿用传统系统的硬件物理架构，主要针对软件方面进行详细的优化设计。系统软件执行架构如图1所示。

图1 系统软件执行架构图

图1所示的软件执行架构的主要作用是通过监测生活号队列对生活号进行爬取，并计算爬取路径的MD5值，然后连接网页的预处理、信息提取、敏感信息检索、预警信息构建等内容。……