采用互补信息熵的分类器集成差异性度量方法

赵军阳,韩崇昭,韩德强,张春霞

(1.第二炮兵工程大学202教研室, 710025, 西安;2.西安交通大学电子与信息工程学院, 710049, 西安;3.西安交通大学数学与统计学院, 710049, 西安)



采用互补信息熵的分类器集成差异性度量方法

赵军阳1,2,韩崇昭2,韩德强2,张春霞3

(1.第二炮兵工程大学202教研室, 710025, 西安;2.西安交通大学电子与信息工程学院, 710049, 西安;3.西安交通大学数学与统计学院, 710049, 西安)

针对多分类器系统差异性评价中无法直接处理模糊数据的问题,提出了一种采用互补信息熵的分类器集成差异性度量(CIE)方法。首先利用训练数据生成一系列基分类器,并对测试数据进行分类,将分类结果依次组合生成分类数据空间;然后采用模糊关系条件下的互补信息熵度量分类数据空间蕴含的不确定信息量,据此信息量判断基分类器间的差异性;最后以加入基分类器后数据空间差异性增加为选择分类器的基本准则,构建集成分类器系统,用于验证CIE差异性度量与集成分类精度之间的关系。实验结果表明,与Q统计方法相比,利用CIE方法进行分类器集成,平均集成分类精度提高了2.03%,分类器系统集成规模降低约17%,而且提高了集成系统处理多样化数据的能力。

分类器集成;差异性;互补信息熵;模糊关系

分类器集成是指针对某一问题,将一系列基分类器进行组合,来提高分类的精度和泛化性能的方法。目前,多分类器集成已得到广泛而深入的研究,并成为机器学习、模式识别等领域的主要研究方向之一。……