多分支卷积神经网络的FPGA 设计与优化

谢思璞，魏榕山

（福州大学 物理与信息工程学院，福建 福州 350108）

0 引言

近年来，神经网络受到了广泛热议，成为了学术界和工业界的热门议题，Google、Microsoft 和Facebook 等科技公司都建立了相关的研究小组，以探索CNN 的新架构[1-3]。通过对CNN 架构上的创新改善CNN 性能，利用空间和通道信息，结构的深度和宽度以及多路径信息处理等方法引起了广泛的讨论。

在众多新型CNN 架构中，基于宽度扩展的多支并行的CNN 得到了国内外学术届的重视。KAWAGUCHI K等人提出网络的宽度是影响网络精度与准确度的一个重要指标[4]。通过在层中并行使用多个处理单元，可以得到比感知器更为复杂的映射。GoogLeNet 中的Inception模块是一种典型的多支网络架构，并使用了不同尺寸的卷积核[5]。2017 年，DEL COCO M 等人[6]利用多分支结构引入了并行的多尺度分析，减小了神经网络的深度，克服了过拟合问题。拓宽网络宽度的多支并行卷积神经网络在图像分割以及识别等任务中，提高了网络在不同尺度上的特征提取能力,受到了国内外研究机构的重视[7-9]。

如今，基于FPGA 的卷积神经网络加速器获得越来越多的关注[10-13]，目前大多数都以切片的方式，映射至加速器中逐一计算。如果使用相同配置的加速器对多分支网络进行加速，传统映射多分支网络计算会造成硬件资源的浪费。没有针对各分支网络进行差异化资源分配，多分支卷积神经网络在进行时的并行效率也无法得到保证，这对整体网络模型计算将造成影响。本文分析和探讨了多分支卷积神经网络的性质和特点，并基于屋顶模型进行设计空间的探索[14]，设计出一种多分支卷积神经网络加速器。……