一种基于词义降维的主题特征选择算法

肖　雷　王　旭　粟武林

1(河北大学电子信息工程学院　河北 保定 071000)2(河北大学数学与计算机学院　河北 保定 071000)



一种基于词义降维的主题特征选择算法

肖雷1王旭1粟武林2

1(河北大学电子信息工程学院河北 保定 071000)2(河北大学数学与计算机学院河北 保定 071000)

在文本特征选择中，由于词语概率空间和词义概率空间的差异，完全基于词语概率的主题特征往往不能很好地表达文章的思想，也不利于文本的分类。为达到主题特征更能反映文章思想这一目的，提取出一种基于词义降维的主题特征选择算法。该算法通过在词林基础上构建“同义词表”，作为词到词义的映射矩阵，构造一个基于词义之上的概率分布，通过LDA提取文本特征用于分类，分类准确率得到了明显提高。实验表明，基于此种方法所建立的主题模型将有更强的主题表示维度，通过该算法基本解决文本特征提取中词语概率和词义概率之间差异的问题。

LDA主题模型主题表示维度

0　引　言

随着计算机对文本表示的不断深入，人们力求更具表现力的方式表达文本本身的语义信息，从早期的潜在语义分析就开始了这方面的探索[1]，后来经过实践发现“主题模型”在文本特征表示上应用较为成功[2]。因为它存在坚实的数学基础，与传统的空间向量[3]模型比，通过考虑词语在文档中的共现概率而引入了“主题”维度，使文档表示从概率空间到语意空间得到了延伸。虽然这种“语意”是通过词语出现的概率来间接模拟的，但它容易被扩展，在文本挖掘和信息检索等实际任务中广泛应。……