一种深度置信提升网络集成分类模型

宋晓明，曲文龙，b，阚明阳，汪慎文，b

（河北地质大学 a．信息工程学院；b．机器学习与人工智能实验室，石家庄 050031）

分类是机器学习与数据挖掘核心问题之一，分类模型的本质是：基于已有的标记信息进行挖掘分类规则、构建分析模型，从而对未标记的对象进行识别。分类方法已广泛应用于模式识别［1］、智能控制［2］、故障检测［3］等诸多领域。

传统机器学习方法在面对高维、复杂和非结构化的海量数据时，由于网络结构设计的局限性，导致模型和算法的鲁棒性和学习能力有限。深度学习（deep learning，DL）技术的出现有效地解决了浅层机器学习特征提取能力不足的问题［4］，其通过模拟人类大脑的组织结构和学习机制，利用分层思想对数据进行非线性处理，让机器能够自主学习数据的本质特征。深度学习模型在计算机视觉、语音识别和自然语言处理中展现了巨大的潜力［5－7］。

深度置信网络是由G．E．Hinton等［8］在2006年提出的一种深度模型，作为深度神经网络主要实现方式之一，具备从原始数据中抽象出更高阶特征的能力。DBN不仅能够无监督对数据进行高效自主学习，而且能够利用受限玻尔兹曼机［9］（restricted Boltzmannmachine，RBM）的逐层表示学习能力进一步提高识别性能。集成学习［10］通过训练数据构建多个差异性学习器以获得更高的性能，与单个学习器相比，集成学习能够很大程度上提高学习系统的泛化能力。文献［11］提出了一种深度置信网络堆叠结构，通过多个DBN对雷达信号进行特征提取，克服了单一深度模型学习能力差的问题。……