基于MPWPS主动学习的半监督协同分类算法

□刘杨磊

(山西大学计算机与信息技术学院，山西太原030006)

1 引言

半监督学习(Semi－supervised Learning)是模式识别和机器学习的重要研究领域。近几年随着机器学习理论在数据分析和数据挖掘等实际问题中的广泛应用，半监督学习在众多理论和实际应用研究中也获得了长足的发展［1］。半监督学习主要关注如何综合使用有标记样本和未标记样本来获得具有良好性能和泛化能力的学习机器。

目前，常用的半监督学习算法利用有标记样本训练分类器标注未标记样本，来增加标记样本的数量，这样如果未标记样本被错误标注将会影响后续分类器的迭代训练，进而降低最终分类器的预测精度。MPWPS(The Most Possibly Wrong－predicted Sampling)作为一种主动学习算法，在训练过程中选取最大可能预测错误的样本进行标注来扩大有标记样本集，保证了训练集较小的情况下能够获得较高的分类正确率，从而降低构建高性能分类器的代价［2］。因此，本文借鉴MPWPS主动学习的思想，实现半监督分类，来提高算法的性能。

2 背景知识

2.1 半监督学习算法

按照学习目的的不同，大致将半监督学习算法分为半监督聚类［3］、半监督分类和半监督回归，其中半监督聚类和半监督分类是目前研究的热点［4］。半监督分类是从有监督学习的角度出发，当已标签训练样例不足时，如何利用大量未标签样例信息辅助分类器的训练［1］。

在A.Blum和T.Mitchell提出最早的协同训练算法后，很多研究者对其进行了研究并取得了很多进展，使得协同训练成为半监督学习中最重要的风范之一［5］。……