基于知识增强的深度新闻推荐网络

刘琼昕， 宋祥, 覃明帅

(1.北京理工大学 计算机学院，北京 100081；2.北京市海量语言信息处理与云计算应用工程技术研究中心，北京 100081)

新闻平台拥有大量的新闻信息，如果让用户直接选择，那么会对用户造成极大的选择困扰.因此，构建一个能够捕获用户的阅读兴趣并推送相关信息的个性化推荐系统对于新闻平台来说是至关重要的.在推荐系统中，主要有3类算法：基于内容的方法、协同过滤和混合方法.由于协同过滤具有用户和物品的交互信息是稀疏的特点且存在冷启动问题，不适合新闻推荐场景，主流的新闻推荐方法通常是基于内容或者混合方法.

随着深度学习技术的发展，一些研究人员开始利用深度学习模型来构建新闻特征和用户兴趣特征.Steffen提出了基于特征的因子分解模型LibFM[1]，该模型在矩阵分解(MF)[2]、SVD++[3]、PITF[4]、FPMC[5]等基础之上，针对高维稀疏数据，实现了随机梯度下降(SGD)、交替最小二乘(ALS)[6]和使用MCMC进行贝叶斯推断的方法[7].Cheng等[8]提出了推荐模型Wide&Deep，将逻辑回归模型和前馈神经网络结合起来，既发挥逻辑回归模型的优势，又利用前馈神经网络的自动特征组合学习和强泛化能力进行补充，对模型整体学习，在Google Apps推荐的大规模数据上成功应用.Guo等[9]在FM[10]、FFM[11]的基础上进行改进，加入神经网络结构，提出了深度推荐模型DeepFM.该模型通过加入多层的神经网络，使得低阶和高阶特征组合隐含地体现在隐藏层中，解决之前模型只实现二阶组合特征的缺陷；并通过FFM的思想，将特征分为不同的域(Filed)，降低模型网络参数；……