基于CNN层内结构优化的图像分类

黄颖聪，孟凡阳

（1.深圳信息职业技术学院 广东省智能视觉工程技术研究中心，广东 深圳 518172；2. 鹏城实验室，广东 深圳 518055）

1 概述

卷积神经网络（CNN）[10]由于其在数据处理、特征提取以及模式分析上的优势，已经成为大多数图像识别的优先架构，在与计算机视觉和图像处理相关的一些竞赛中有着出色的表现。CNN采用了多个特征提取阶段，从而使其具有强大的学习性能[12]。CNN是一个端到端（end to end）的训练过程，它从输入端到输出端会最终得到一个预测结果，与真实结果相比较会得到一个误差，这个误差会在模型中的每一层传递（反向传播），每一层的表示都会根据这个误差来做调整，直到模型收敛或达到预期的效果才结束。在这个过程中，CNN采用了多个特征提取阶段，利用了数据中的空间或时间相关性，可以挖掘数据中的信息，从中自动学习表征。

计算能力的提高以及大量标记数据的出现，再加上改进的算法，这些都推动了CNN的研究进程。由于CNN在许多计算机任务上获得成功，针对CNN结构的改进也层出不穷。从上世纪90年代末到如今，CNN的学习方法和架构进行了各种改进，使其可以扩展到大型、异构、复杂和多分类问题[13]。

目前，为了提高网络的性能，CNN网络结构优化方法可以分为两类：注重特征有效性的层间结构优化和注重特征关联性的层内结构优化。如图1所示。层间优化通过设立不同层之间的连接来实现不同级别的语义信息之间的交互，从而解决了线性堆叠卷积层所带来的梯度消失和网络退化的问题[1-3]。……