K-means算法在隐语义模型中的应用*

范玉强　龙慧云　吴　云

(贵州大学计算机科学与技术学院　贵阳　550025)



K-means算法在隐语义模型中的应用*

范玉强龙慧云吴云

(贵州大学计算机科学与技术学院贵阳550025)

摘要隐语义模型(LFM)是文本挖掘领域的重要模型,将它应用于推荐系统的评分预测具有预测精度高和占用内存小的优点。但由于时间开销较大,LFM模型并不适合用于处理大规模稀疏矩阵。针对此问题,论文将K-means算法引入到LFM模型的评分数据处理,得到改进模型K-LFM。在K-LFM模型中,利用K-means算法对评分矩阵中的用户和项目数据进行聚类处理,然后重构评分矩阵降低原始矩阵的稀疏程度和矩阵规模,最后用重构后的评分矩阵训练模型,预测评分。通过在movielens数据集上实验发现K-LFM模型在运行时间上较LFM模型有大幅降低,而预测精度没有受到明显影响。

关键词隐语义模型; K-means算法; 评分矩阵; K-LFM

Class NumberTP391.1

1　引言

2　算法描述

2.1K-means算法

K-means是一种简单有效的经典聚类算法。算法采用计算属性距离的方式来度量样本属性间的相似性,距离越短则样本间的相似性越高。通过计算样本到簇心的距离可以将n个样本划分到指定的k个簇中。

算法:K-means(S,k),S={x1,x2,…,xn}

输入:数据对象集合S,聚类数目k

输出:k个聚类中心Zj及k个聚类数据对象集合Cj;

Begin

m=1;

initializeZj,j∈[1,k];

repeat

fori=1 tondo

begin

forj=1 tokdo

computeD(Si,Zj)=|Si-Zj|;

ifD(Si,Zj)=minD(Si,Zj) thenSi∈Cj;

end;

m=m+1

forj=1 tokdo

Until |Jc(m)-Jc(m-1)|<ε;

End

2.2LFM模型

在训练集上以均方根误差RMSE作为指标,通过最小化RMSE可以学习获得P,Q矩阵使训练集预测误差最小[8]。即用优化的方法最小化损失函数:

其中λ(‖pu‖2+‖qi‖2)是防止过拟合项,λ是正则化参数。

3　K-LFM模型

为了解决LFM模型在处理规模庞大的稀疏矩阵时效率较低的问题,K-LFM模型采用K-means算法处理评分矩阵。……