一种改进的投影孪生支持向量机

花小朋，孙一颗，丁世飞

(1.盐城工学院 信息工程学院，江苏 盐城 224051； 2. 中国矿业大学 计算机学院，江苏 徐州 221116)



一种改进的投影孪生支持向量机

花小朋1，孙一颗1，丁世飞2

(1.盐城工学院 信息工程学院，江苏 盐城 224051； 2. 中国矿业大学 计算机学院，江苏 徐州 221116)

摘要：针对投影孪生支持向量机(PTSVM)在训练阶段欠考虑样本空间局部结构和局部信息的缺陷，提出一种具有一定局部学习能力的有监督分类方法：加权投影孪生支持向量机(weighted PTSVM，WPTSVM)。相比于PTSVM，WPTSVM优势在于：通过构造类内近邻图为每个样本获取特定的权值，并且以加权均值取代标准均值，在一定程度上提高了算法的局部学习能力；选取异类样本集中少量边界点构造优化问题的约束条件，很大程度上降低了二次规划求解的时间复杂度；继承了PTSVM的优点，可以看成PTSVM的推广算法。理论分析及其在人造数据集和真实数据集上的测试结果表明该方法具有上述优势。

关键词：分类；投影孪生支持向量机；局部信息；加权均值；近邻图；二次规划；约束条件；时间复杂度

在分类问题中，经典支持向量机(SVM)依据间隔最大化准则生成分类决策面，存在训练时间复杂度偏高和欠考虑样本分布情况的缺陷[1-2]。近年来，作为经典SVM的改进方法，非平行超平面分类器(nonparellel hyperplane classifiers，NHCs)[3]已经成为模式识别领域新的研究热点之一。孪生支持向量机(twin support vector machine，TWSVM)[4]是NHCs方法中主要代表性算法之一，其主要思想源于泛化特征值中心支持向量机(generalized eigenvalue proximal SVM，GEPSVM)[5]。TWSVM将GEPSVM中两个优化子问题转换成两个形如SVM的小规模二次规划问题，从而使其训练时间复杂度缩减为经典SVM的1/4。……