基于粗糙集的社交文本特征选择方法

曹守富,蒋慧平，谭 阳

(1.湖南广播电视大学教育信息技术中心，长沙 410004；2.湖南网络工程职业学院网络技术学院，长沙 410004)

一、引言

在社交文本的分类过程中，很多特征项对分类没有意义，它们的存在一方面影响分类的速度，另一方面影响分类的效果。因此，在分类之前需要进行特征选择。常用的特征选择方法有词频(TF)、文档频数(DF)、信息增益(IG)、互信息(MI)和卡方统计量(CHI)[1]等。已有研究表明，卡方统计量和信息增益是文本分类中效率较高的两个特征选择算法[2]。在此基础上，学者们围绕如何提高分类性能进行探讨：一是对期望交叉熵、互信息和信息增益三种特征选择方法进行比较，并提出了进一步改进的方法，经实验验证，改进的期望交叉熵能提高分类性能[3]；二是提出了基于互信息和粗糙集的融合特征选择算法[4]；三是在信息增益方法中添加合适的比例因子，对信息增益进行改进，使其适应样本均匀和非均匀训练集[5]；四是考虑到社交文本内容比较短，特征项较少，为了扩展社交文本的特征，提出了一种微博特征提取方法[6]；五是提出了一种基于粗糙集与概率加权的特征选择算法，通过计算依赖度结合特征项在微博中出现的概率来实现特征选取[7]；六是提出了基于WordNet语义特征选择方法，通过WordNet减少和消除特征项的歧义[8]；七是提出利用粗糙集理论并采用约翰逊启发式属性约简的方法来达到特征选择的目的[9]。

上述的改进方法各有优点，在一定程度上解决了分类过程中特征选择的问题，但不足之处是无法自动确定特征项的选择数目，即选择的特征项数目不能够支持算法正确区分文本集中各条文本所属分类。……