类dropout的具有新型栈式结构的层次支持向量机

卢 剑 伟

(常州工业职业技术学院信息工程与技术学院 江苏 常州 213164)(东南大学信息科学与工程学院 江苏 南京 211189)

0 引 言

对抗样本已被证明存在于大部分真实数据集中，且对抗样本的本质是数据集中容易被忽视的噪声或扰动样本[1-6]。一方面，对抗样本的本质决定了对抗样本会降低分类算法的分类性能；另一方面，合理的对抗样本学习可有效地提高分类算法的分类性能，能够较好地应用于脑电信号识别[1]、手写体识别[2]、车辆识别[3]等。对抗样本学习的一般方式是将少量的噪声或扰动样本直接加入到数据集中[6]，或者对样本特征本身进行较小幅度的改动[1,5]，继而利用相应的分类算法进行学习以提高算法的分类性能。不同于对抗样本学习的一般方式，本文将尝试修改一定比例样本的标签类型使之成为对抗样本进行对抗学习以提高所提分类算法的分类性能。

神经网络[1,6]在人工智能、机器学习以及深度学习等领域展示着强大的样本学习能力，已被广泛应用于图像处理、人工智能信息处理、无人驾驶技术、自适应智能控制等诸多实际应用[7-12]。神经网络通过前向传播和反向传播算法不断优化隐藏层中的参数使之达到最佳权值来提高整体网络的学习性能，尤其是网络的泛化性。神经网络的层次结构模型使其能够更好地表示样本特征以及具备更强的函数模拟能力[11]。具有更多隐藏层数的神经网络能够更好地模拟神经网络模型与真实样本特征之间的关系，但却会带来较为严重的过拟合现象[13-14]。……