一种基于PL-LDA模型的主题文本网络构建方法

张志远，霍纬纲

(1.中国民航大学计算机科学与技术学院,天津300300；2.南京航空航天大学计算机科学与技术学院,南京210016)

一种基于PL-LDA模型的主题文本网络构建方法

张志远1,2，霍纬纲1

(1.中国民航大学计算机科学与技术学院,天津300300；2.南京航空航天大学计算机科学与技术学院,南京210016)

Labeled LDA能挖掘出给定主题下的单词概率分布，但却无法分析主题词之间的关联关系。采用PMI虽可计算两个单词的相互关系，但却和给定主题失去联系。受PMI在窗口中统计词对共现频率的启发，提出了一种PL-LDA(Pointwise Labeled LDA)主题模型，可计算给定主题下词对的联合概率分布，在航空安全报告数据集上的实验表明PL-LDA模型所得结果具有很好的解释性。利用PL-LDA构建了主题文本网络，该网络除能反映主题词分布外，还可展现它们之间的复杂关联关系。

主题模型；文本挖掘；复杂网络；PMI

0 引言

主题建模是文本挖掘中的一项重要研究内容，用于在大量文档构成的集合中发现感兴趣的主题及隶属于这些主题的单词分布情况，主要分为无监督学习和有监督学习两种模型。PLSA[1](Probabilistic Latent Semantic Analysis)是一种无监督学习模型，通过引入潜在主题层，利用极大似然假设拟合单词与主题及文档与主题的概率分布情况。由于PLSA中的参数个数随文档数正比增加，易出现过拟合问题，Blei等[2]提出了LDA(Latent Dirichlet Allocation)模型。LDA也是一种无监督学习模型，利用极大后验概率拟合单词与主题及文档与主题的概率分布情况。由于其假设生成主题的多项分布参数θ符合Dirichlet先验分布，从而消除了由于参数个数随文档数成比例增加导致的过拟合问题。……