基于增量学习的非平衡SVM分类方法

崔丽娜，郭虎升

(1.长治学院沁县师范分院，山西 长治 046400； 2.山西大学计算机与信息技术学院，山西 太原 030006)

0 引 言

根据维基百科定义，大数据指规模巨大且类型复杂的数据，在许多大数据挖掘与分析的实际应用领域，数据呈现非平衡化的趋势越来越明显，如极端气候预测、基因检测、欺诈检测、电子商务等[1-3]。在这类问题当中，一般将多数类样本作为负类样本，将少数类样本当成正类样本，由于负类样本规模巨大，其价值密度低，容易对高价值密度的正类样本分类产生负面作用，如采用SVM处理非平衡分类时，甚至会将全部的正类样本预测为负类，忽略了重要的正类样本信息，得到泛化能力较低(甚至完全失效)的学习器(如图1所示)。

图1 SVM非平衡分类导致错误超平面示意图

针对这个问题，研究者已提出一些面向非平衡数据的优化模型，通常可分为2类[4]：

1)预处理模型。首先，针对样本规模分布不平衡的分类问题，对正类数据进行上采样(即扩展小规模样本)或对负类数据进行下采样(即压缩大规模样本)，然后再进行学习；其次针对样本密度分布不平衡的分类问题，对稀疏区域数据进行收缩(收缩稀疏数据的分布区域)或对密集区域数据进行扩张(扩张密集数据的分布区域)并进行训练。典型的面向非平衡数据的预处理方法包括基于SMOTE上采样方法[5]、基于多类样本的下采样方法[6]、重要样本预抽取的方法[7]、树形结构剪枝技术[8]、基于关联规则的非平衡分类方法[9]等。……