基于统计信息聚类边界的不平衡数据分类方法

李 欣，俞卫琴

(上海工程技术大学 数理与统计学院，上海 201620)

0 引 言

在不平衡的数据集中，数据集各个类别的样本量极不均衡[1]。随着社会发展，不平衡数据分类问题已经引起了研究界的广泛关注[2]。典型的示例包括垃圾短信筛选、欺诈检测和医疗预测[3-5]，其中将感兴趣类别的实例错误分类的代价通常很高，是数据分析的重点问题。并且解决该问题的解决方案可以大致分为数据级和算法级方法。

算法级方法涉及创建新算法或修改现有算法。常用的算法主要有代价敏感学习、随机森林算法和集成学习方法[6-8]等等。这类算法固定于预定的学习算法，并且需要对算法和成本函数有深入了解，较难加以改进。数据层面是对数据结构进行处理，对数据集进行分类和重组来最大可能增加准确率，在对类分布调整的常见数据分类算法有过采样SMOTE(synthetic minority oversampling technique)[9]、欠采样(under-sampling)[10]以及混合采样[11]。在此基础上，相关学者提出了一些算法的改进。曹璐等[12]提出了一种新的过采样方法，该方法基于概率密度函数估计和Gibbs采样，利用支持向量机生成不符合少数族类别分布的采样点，以支持不平衡数据集分类。但由于过采样方法增大了样本容量，因此增加了算法的时间复杂度以及数据分类的过拟合问题。林伟超等[13]介绍了两种欠采样策略，其中在数据预处理步骤中使用了聚类技术。该方法验证了使用少量集群中心及其最近邻代表多数类数据样本的适用性。冯宏伟等[14]提出了“变异系数”概念，在边界集进行混合采样形成平衡集。……