程凤伟,王文剑
1.太原学院 计算机工程系,太原030032
2.山西大学 计算机与信息技术学院,太原030006
3.山西大学 计算智能与中文信息处理教育部重点实验室,太原030006
支持向量机(support vector machine,SVM)是Vapnik等人提出的一类通用有效的学习方法[1],在处理小规模二分类问题时表现出较好的性能,并在很多领域如手写数字识别[2]、人脸识别[3]、时间序列预测[4]得到成功应用。SVM 在处理小样本数据集时比较有效,但实际应用中往往要处理一些大规模数据集,由于算法需要利用整个Hessian矩阵,受计算机内存容量的限制,SVM在处理大规模数据集时效率低下。为了提高SVM的学习效率,许多学者提出了一些方法,其中,Tang等人于2004年提出了一种新的机器学习模型[5]——粒度支持向量机(granular support vector machine,GSVM)。其主要思想是首先构建粒度空间获得一系列信息粒,然后在每个信息粒上进行SVM学习,最后通过聚合信息粒上的信息获得最终的决策函数。粒度支持向量机学习算法用重要信息粒代替传统的数据点进行训练,可大大提高支持向量机的训练效率,同时获得满意的泛化能力[6-7]。目前典型的GSVM模型主要是SVM与关联规则[8-9]、聚类[10]、粗糙集[11]、决策树[12]、商空间以及神经网络[13-14]等相结合的模型,这些GSVM算法在解决实际问题时取得了不错的效果,尤其是对一些分布较为均匀的大规模数据集,大大提高了SVM的学习效率,但在处理一些分布不均匀的数据集时难以奏效。后来提出的动态粒度SVM 算法(dynamic granular support vector machine learning algorithm,DGSVM)[15]和层次粒度SVM 算法(hierarchical granular support vector machine algorithm,HGSVM)[16]采用多层次粒度划分的方法可在一定程度上缓解粒划过程带来的模型误差。……