边缘计算设备的性能功耗测量与分析

袁佳伟，宋庆增，王雪纯，姜文超，金光浩

（1.天津工业大学计算机科学与技术学院，天津 300387；2.广东工业大学计算机学院，广州 510006）

0 概述

在当前神经网络应用（人脸识别、自动驾驶等）普遍增长的背景下，大型与复杂的神经网络将面向商业化发展。根据IDC［1］预测，到2020年全球产生的数据总量将大于40 ZB，在这种情形下，以服务器为计算核心的集中式处理模式将无法高效处理边缘设备产生的数据。因此，边缘计算［2］就显得尤为重要，边缘计算数据处理更接近数据来源，具有实时和快速进行数据处理分析的优点［3］，这对于神经网络的商业化而言至关重要。

EDGE TPU计算板是当前最新的边缘计算设备，该设备集成了专为运行神经网络所设计的专用集成电路（ASIC）芯片，在以较快的速度运行神经网络的同时又能保持较低的功耗。NVIDIA Jetson TX2是一款面向人工智能的超级计算机模块，采用Maxwell GPU架构引入了流式处理多处理器（SM）的全新设计，支持32位单精度和16位半精度运算。Jetson NANO在TX1基础上弱化了数据流，并显著改善了电源管理，拥有128个CUDA核心，支持32位单精度计算和16位半精度计算，其中半精度计算的吞吐量为单精度的两倍。

对于Jetson TX2与而言，在发布时研究人员分析了其与深度学习模型的适配度，该实验将神经网络在不同框架下实现，对比TensorFlow、Caffe2、PyTorch等框架不同时的能耗和延迟情况［4］。随后有多种神经网络基于TX2的实现与优化，以及调整TX2的工作模式来分析比较不同模式下运行神经网络的延迟与能耗［5］。

目前有实验将……