基于神经网络模型压缩技术的目标检测算法研究

魏志飞，宋泉宏，李 芳，杨擎宇，王爱华

（上海机电工程研究所，上海 201109）

0 引 言

近年来，计算机视觉领域的专家学者在目标检测领域［1］所做的工作逐渐增多，使得卷积神经网络（convolutional neural network，CNN）应用在该领域获得了非凡的成果；随着网络模型层数、结构、体积不断提升，模型的计算量也随之增加，所依赖的计算资源也在不断提高。卷积神经网络的实际应用场景变得越来越广泛，但在许多实际应用中，部署深度卷积神经网络很大程度上受计算资源限制，深度学习模型因无法达到实时性效果难以在嵌入式设备中部署。针对深度学习模型在嵌入式系统中计算资源相比较于服务器资源有限的难题［2］，本文开展了基于神经网络模型压缩算法的目标检测算法研究。

网络模型在嵌入式设备中部署主要受限于3个因素；①模型体积，CNN 模型中包含着数以百万计的训练参数，这些参数以及模型结构等运行过程中的相关信息都需要储存在磁盘当中，这些参数对存储资源有限的嵌入式设备来讲是非常大的挑战；②运行时所需内存，模型在前向传播过程中，即便设置批量大小为1，运行过程当中可能会产生非常庞大的中间参数，或许会比存储模型的参数还要多，这对于许多内存有限的设备而言是无法承受的运算载荷；③运行时的计算量，在图像上进行卷积操作，该过程计算量是非常庞大的，这可能导致高性能的深度学习算法模型处理单张图片就需要几十秒甚至几分钟的运算时间，那么将该算法应用于嵌入式设备是不切实际的。……