一种基于证据推理规则的集成学习方法

朱海龙，徐 聪，曲媛媛，贺 维，3，杨文佳

1(哈尔滨师范大学 计算机科学与信息工程学院，哈尔滨 150500)

2(黑龙江农业工程职业学院，哈尔滨 150500)

3(中国人民解放军火箭军工程大学，西安 710025)

1 引 言

深度学习作为机器学习的一个分支，在数据挖掘、自然语言处理、推荐系统、目标追踪、图像识别等多个领域都取得了显著的成果，成为目前人工智能领域最受关注的技术.然而深层神经网络算法(Deep neural network algorithm，DNN)、卷积神经网络算法(Convolutional neural network algorithm，CNN)、递归神经网络算法(Recursive neural network algorithm，RNN)等深度学习领域的典型算法，在实际运用时受限于数据集的规模，有时难以提取到高精度的特征，使得模型无法达到预期效果.这时便需要对模型进行优化，当数据扩充等方式达到优化的瓶颈时，人们经常采用集成学习算法合并多个分类器的结果，降低泛化误差，提高最终模型的准确率.

集成学习由于其良好的泛化性能，一直以来都是学者研究的热点方向.文献[1]提出Bagging算法，该方法先采用有放回抽样的方式，产生多个数据集，之后通过基分类器训练模型，以简单多数投票法作为结合策略，将多个模型集成得到最终结果，该方法作为集成学习领域的典型算法，为集成学习后续的发展奠定了坚实的基础.文献[2]提出一种基于支持向量机的集成学习方法，该方法使用随机欠抽样与合成少数类过抽样技术结合的方式对数据集进行处理，形成多个数据子集，之后使用Boosting算法训练出多个基支持向量机的强分类器模型，通过投票法……