一种基于三维可变换CNN加速结构的并行度优化搜索算法

屈心媛 徐 宇 黄志洪 蔡 刚 方 震

(中国科学院空天信息创新研究院 北京 100190)

(中国科学院大学电子电气与通信工程学院 北京 100049)

1 引言

卷积神经网络(Convolutional Neural Network,CNN)以其突出的性能优势，在人工智能领域引起了广泛的关注，并被应用于图像分类、人脸识别、自动驾驶和医学成像等场景中。LeCun等人[1]于1998年提出了第1个经典CNN模型LeNet-5。此后，随着人工智能的发展，CNN的结构变得越来越复杂—层数更深，规模更大，计算量迅速增加。这为CNN硬件加速器的设计带来了巨大的挑战。图形处理器(Graphic Processing Units, GPU)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field Programmable Gate Array, FPGA)是常见的CNN正向推断平台。其中，基于FPGA的CNN硬件加速器因高并行、低功耗、可重复编程的特性，越来越受到学界和业界的广泛关注。

CNN是一种计算密集型网络，合理利用FPGA片上计算资源是加速器设计的关键。然而，文献[2]经过客观全面的评估指出，许多现有CNN加速器的计算资源利用率不理想，这降低了加速器的计算吞吐率和性能功耗比[3–9]。卷积计算结构与并行度算法灵活度不足是限制资源利用率优化的主要原因，例如：文献[6,7]中卷积计算结构的时间粒度与资源粒度不均衡、文献[8]中并行度探索空间受限等。

为优化加速器性能，文献[2]提出了一种3维可变换的CNN加速结构，通过细粒度调节极大地提高了计算结构的灵活性。为选取与计算结构匹配的并行度配置方案，本文提出一种并行度搜索算法。该算法在取值区间内以最细粒度遍历可行的并行度组合方案，筛选出资源利用率最高的并行度方案。……