李 凯,李洁
(河北大学网络空间安全与计算机学院,河北保定 071002)
支持向量机(Support Vector Machine,SVM)是由Vapnik等[1]提出的一种机器学习方法,其目标是根据输入样本集求解一个二次规划问题,从而获得所需的最优分类超平面。为了解决SVM 计算复杂度高的问题,Jayadeva 等[2]提出了孪生支持向量机(Twin Support Vector Machine,TWSVM),该方法通过求解两个较小的二次规划问题,确定两个非平行的超平面,使得每个超平面更接近其中的一个类而远离另一个类,该模型较好地提高了计算速度。此后,在TWSVM 的基础上,研究者们提出了多种孪生支持向量机算法[3-4],如基于pinball 损失的孪生支持向量机[5-7]、模糊孪生支持向量机[8]和结构型孪生支持向量机[9-10]等,并将其应用于实际问题[11]。
可以看到,上述算法均适用于二分类问题,然而,在实际应用中多分类问题更加常见,因此对多分类问题的研究是十分必要的。目前,人们基于孪生支持向量机对多分类问题[12]进行了研究,主要分为三种类型:
1)第一类是基于二分类的多分类策略。该策略主要包括一对一和一对多两种:一对一策略是在任意两类之间构造一个二分类器,对待分类样本使用投票法进行分类。例如Shao等[13]提出了一对一孪生支持向量机(One-Versus-One TWSVM,OVO-TWSVM)。该方法的缺点是当数据类别较多时,需构造的分类器数量过多,且存在数据不可分区域;而一对多策略[14]是在k个类中任意挑选一类作为正类,其余k-1类作为负类,并构造k个二分类器进行分类,缺点是每个分类器的训练集高度不平衡;有向无……