王志强,王先传
(1.阜阳工业经济学校,安徽阜阳 236015;2.阜阳师范大学,安徽阜阳 236041)
目前深度学习应用较为广泛[1-2],其是对人类大脑中的神经网络进行模拟,从而实现对于输入数据(图像、文本等)的处理。因此,随着深度学习的不断发展以及所需处理的数据量的增大,可以看出在进行图像分类及目标识别的应用中,深度学习的应用至关重要,非线性网络变得更加有利,可以从输入数据中得到更多有利信息[3-4]。针对这个情况提出ResNet网络,在网络结构中引入快捷方式使输入同时引入至输出,最终学习输出与输入之间的差值,构成残差结构,使得每一次仅用学习残差的部分,成功解决退化问题,使ResNet网络的应用比较广泛。
ResNet网络[5-6]是在之前的VGG网络结构基础上添加快捷方式,这样每次学习的便仅仅是残差的部分。即每个ResNet网络都由许多残差块堆积而成,其中每一个残差块都由一个神经网络模型和一个快捷方式构成。一个残差块的结构如图1所示。

图1 残差块的结构示意图Fig.1 Structure diagram of residual block
第t层残差块的输出为

其中,x为网络的输入,ft(·)代表第t层的卷积层,gt(x)代表t-1层的最终输出。
Boosting的工作流程大致为:对初始提供的数据集进行训练,得到一个学习器。根据学习器的结果表现,相应地对数据进行处理,即对于做错的数据,改变它相应的权重,使得其在后续的训练中得到更多的关注。Boosting的工作机制如图2所示。

图2 Boosting的工作机制Fig.2 Working mechanism of Boosting