文本挖掘分类算法的比较研究

张鑫

摘要：本文借助R软件，采用来自某新闻媒体官方微信公众号中16个类别的中文文本数据，对所发布内容进行分类。首先对文本进行预处理，主要是进行分词和去除停用词，并加入自定义词典，然后采用TF-IDF权重法提取文本特征，按照训练集与测试集10：3的比例，用支持向量机（SVM），随机森林（RF），Boosting，最大似然的广义线性回归（GLMNET），最大熵（MAXENT）这5种分类算法，对选取的训练文本进行训练得到不同的分类模型，进而对测试文本进行自动分类，并采用5折交叉验证法比较不同算法的分类性能。结果显示Boos～ng分类算法对于该文本的分类准确率最高。

关键词：TF-IDF；支持向量机；随机森林；Boosting；分类模型

一、引言

文本分类是指依据文本的内容，根据某种自动分类算法按照一定分类体系或标准，对大量文本进行判断并归类为预先定义好的一个或者多个类别的过程。本文根据微信公众号发布内容，建立分类模型进行文本自动分类，主要采用支持向量机（SVM）、随机森林、Boosting、最大似然的广义线性回归、最大熵这5种分类技术。

二、描述性统计

從该新闻媒体官方微信公众号的发布内容及其所属类别来看，共发布了780条新闻，其中社会类新闻达到了352条，生活服务类新闻共有118条，健康类新闻有65条。因此，该新闻媒体比较关注有关社会民生、身体健康等方面的内容，较适合普通民众阅读。

词云图是一种信息文本可视化技术，可过滤掉大量的庞杂文本信息，容易看出哪些类型的关键词出现频率最高，从而更容易对其进行分类。……