2019年边缘计算技术发展研究

李 理

（北京理工大学计算机学院，北京100081）

1 引 言

边缘计算是指在数据源处或附近进行的计算，这与依靠众多数据中心的云计算来完成所有工作的模式有着显著不同［1］，被认为是“人工智能的最后一公里”。边缘计算的特点是低延迟、隐私安全性和灵活性。近年来，边缘计算的飞速发展在不断推动边缘人工智能物联网的发展［2］。当前社会发展正在经历万物智能互联的时代，人工智能与物联网正在改变世界各地的产业面貌与布局，随之而来的是视觉/视频应用与连网量的激增。根据IHS Markit 的数据，到2019年，全球仅监控摄像头每天产生的数据量就达到2500PB。根据麦姆斯咨询（MEMS Consulting）的数据，全球计算机视觉市场规模预计到2023年将增长至173.8亿美元，激增的视觉应用正在推动人工智能向边缘普及。根据华为《全球产业展望GIV2025：打开智能世界的产业版图》白皮书，到2025年，全球物联数量达1000 亿量级，全球智能终端将达400 亿。以英特尔公司为例，2019年在无人机、相机、机器人和自动驾驶汽车等设备的边缘计算收入同比增长了约20%，预计这一数字会逐年增长。“从数据中心走到边缘”已成为业界的趋势。根据互联网数据中心（IDC）的数据，到2019年底，45%的数据将在边缘进行存储；到2023年，在边缘设备上发生人工智能任务的比例为43%，具有边缘人工智能功能的设备将增长15 倍；到2025年，全球累计的数据量将从2018年的33 ZB增长到175 ZB，这些数据很大部分将来自用于安全和商业智能目的的IP监控摄像机。

图1 边缘计算被认为是“人工智能的最后一公里”Fig.1 Edge computing is regarded as the last kilo-meter of artificial intelligence(AI)

2 面向边缘计算的人工智能软硬件市场火爆

英特尔公司的边缘计算人工智能产品体系以Intel Movidius MyriadTM X 视觉加速芯片、可扩展的人工智能加速解决方案、OpenVINOTM 深度学习部署工具套件为支柱。2019年10月，英特尔公司宣布了“高性能计算”“边缘赋能”“视觉（视频）推理”三大物联网战略，积极推动物联网生态系统的发展进化。与此同时，英特尔公司推出最新版本的OpenVINO 工具包（2019 R3），推出边缘人工智能生态智库，旨在以领先的开发者工具和生态系统方案，帮助行业快速规模部署人工智能物联网。基于Intel Movidius 和边缘计算技术，英特尔云图睿视边缘计算平台内嵌视觉算法，支持各类传感器接入和各类算法运行，是全球首款开放式人工智能边缘计算平台。

2019年3月，谷歌公司发布了TensorFlow 2.0的Alpha 版和智能硬件平台Coral。Coral 平台采用专为边缘计算设计的Edge TPU，可为低功耗设备提供高性能机器学习推理能力，此举被业界认为是在边缘计算布局相较于其他国际科技巨头起步较晚的谷歌公司走出了边缘计算硬件化的重要一步。2019年11月，谷歌公司与意大利电信公司就边缘计算服务的发展建立主要战略联盟。惠普公司和微软公司分别计划在未来四年内向物联网和边缘计算领域投资40亿美元和50亿美元。

2019年7月，欧盟TEMPO 项目启动，由瑞士神经拟态处理器研发公司aiCTX牵头，共15家单位参与，旨在探索支持新兴存储技术及新型硬件架构来实现超低功耗神经拟态运算，以满足智能终端设备对复杂深度学习算法的应用需求，为人工智能边缘运算市场的到来做好准备。aiCTX已在2019年4月发布全球首款基于事件驱动的人工智能处理器DynapCNN，用于拓展视觉物联网传感器等诸多应用场景的超低功耗边缘计算。

2019年5月，英伟达公司发布首款面向边缘设备的人工智能平台Nvidia EGX，旨在将人工智能引入网络边缘。该平台具备高性能和可扩展性，能够实时感知、理解和处理数据，能够从基于Jetson Nano 处理器的轻型服务器（每秒完成0.5 万亿次操作）扩展到基于边缘服务器NVIDIA T4 机架的微型数据中心（每秒完成10000 万亿次操作）。2019年10月，英伟达公司发布用于构建依赖GPU 内存运行的5G 无线接入网络的开发工具包Aerial，以提升在5G 和边缘计算领域部署其人工智能系统的效率。同期，美国开源解决方案提供商红帽公司宣布其Openshift 平台将与英伟达公司展开合作，用以构建集成英伟达EGX 边缘计算平台的云本地电信基础设施，助力电信公司采用能够支持边缘工作负载的5G 网络。2019年11月，英伟达公司宣布推出世界上最小的边缘人工智能超级计算机——Jetson Xavier NX，且它与Jetson Nano 具有引脚兼容性，能够轻松优化深度学习网络以进行边缘推理，使开发人员可以在边缘运行融合了人工智能的复杂应用程序。2019年10月，机器学习和数据科学咨询公司Tryolabs 发布基准评测报告，测试比较了英伟达Jetson Nano、谷歌Coral 开发板（内置Edge TPU）、英特尔计算棒这三款针对人工智能设计的边缘计算设备以及与不同人工智能算法模型的组合，结果表明：英伟达Jetson Nano 无论在推理时间还是推理准确率方面均体现出优势。

3 降低功耗成为边缘计算技术落地的关键点

应用于边缘计算场景下的硬件和芯片的节能功能对于边缘计算来说非常重要［3］，因为传统的硬件运行此类任务时耗电量非常巨大。

2019年4月，瑞士aiCTX 公司发布了世界首款完全基于事件触发运算的动态视觉人工智能处理器DynapCNN。其纯异步、高可配置性、可拓展性等为开发和落地一系列边缘端人工智能模型与应用提供了可能性。其基于动态视觉的事件触发运算机制使得DynapCNN 芯片能够将功率降低到亚mW级别。此外，该芯片使用稀疏计算处理场景中的目标移动，在保障对移动目标实时识别可实现低于5ms 的超低延迟的同时，显著降低了芯片的动态功耗。经测，相较于已有的深度学习实时视觉处理方案，DynapCNN 所提供的超低延时动态视觉解决方案对比DL 加速器技术，将识别响应延时缩短了90%以上，同时功耗降低99%以上。

2019年7月，英特尔公司发布了搭载64 颗Loihi 芯片的神经拟态硬件原型系统Pohoiki-Beach。该原型系统功耗比传统CPU 功耗降低99.08%以上，比特制的物联网推理硬件功耗降低80%以上。从另一个角度测试结果显示，当网络规模扩大50 倍后，该系统依然能够维持实时性能，功耗仅增加30%。反观特制的物联网推理硬件，其功耗会增加超过5 倍并失去实时性。因此，该原型系统对于独立的自动驾驶技术来说至关重要。

而超低功耗的实时信息处理，是类脑芯片最显著的标签，因此，类脑芯片成为对物联网前端传感器信息进行本地实时低功耗处理的重要选择之一。大脑的神奇之处在于实时处理复杂信息的同时只消耗极少的能量，而类脑芯片工程的目标不是模仿大脑，而是理解大脑如此高效的工作机制，并把这些机制用到芯片中。通常而言，在类脑芯片的脉冲神经网络中，在达到由变量（或者函数）所描述的特定阈值时，神经元才发出脉冲信号［4］。正是由于这种特性，只有当神经元脉冲观察到域的变化时，神经形态系统才需要能量，所以类脑芯片相比经典冯诺依曼计算架构有显著的功耗优势以及更强的自适应学习能力［5］。上述优势对边缘计算在能效提升和实时性提升方面起到了至关重要的作用，尤其是在边缘设备需要实时本地处理动态数据的情况下，例如自动驾驶汽车或者自助机器人等。

4 边缘计算发展趋势分析

边缘计算技术和应用仍处于开发的早期阶段，亚马逊公司、谷歌公司、微软公司、英伟达公司等传统云计算和硬件巨头是该领域的领导者。目前，世界科技巨头及厂商通常会将网关（历史数据或设备交换数据）和企业内部部署服务器（在私有云中，但物理位置靠近AI 数据生成的地方）的数据置于边缘侧训练。其中，专为企业内部部署服务器的训练任务所开发定制的芯片包括英伟达公司的DGX，以及针对来自Cerebras System、Graphcore 和Habana Labs等内部部署数据中心的系统级产品。目前，边缘侧人工智能训练市场较小，因为人工智能训练任务更倾向于在云端执行，目前英伟达公司在云端人工智能训练领域处于主导地位。

根据ABI Research 统计分析，2019年至2024年期间边缘人工智能市场将实现31%复合年增长率。边缘人工智能市场近期着力点归纳如下：首先，WAN 网的传感器中嵌入超低功耗人工智能芯片，因此这个领域主要由FPGA厂商、RISC-V设计厂商和ASIC 厂商主导。其次，机器人通常依赖异构计算架构，例如：用于导航的SLAM（同时定位和映射）、用于人机界面交互的会话人工智能、用于对象检测的机器视觉等，所有这些都会在不同程度上使用CPU、GPU和ASIC。目前，英伟达公司、英特尔公司和高通公司正在这个领域进行激烈的竞争。最后，涉及制造业、智能建筑、石油和天然气等领域的智能工业应用，FPGA 厂商依托兼具灵活性和适应性的FPGA架构而在该领域市场表现出众。

当前，边缘计算产业生态架构已初步形成，世界科技巨头在该生态中的定位主要包括三类：首先，从算法切入，提供面向边缘侧智能的计算机视觉算法和自然语言处理算法等。其次，从硬件切入，提供手机、笔记本电脑等（移动）终端硬件等。最后，从算力切入，提供面向边缘计算的人工智能芯片等［6］。此外，在边缘计算的发展中，还有一个值得注意的概念——雾计算。雾计算强调设备网关中的数据处理，数据通过雾计算收集到设备的网关，然后在需要数据的设备中进行处理、存储和应用［7］。边缘计算强调边缘侧，即更靠近数据生成的设备端（数据源），所以雾计算介于传统云计算和边缘计算之间。

目前，边缘计算已经在自动驾驶、智能安防、消费电子等领域产生爆发式应用。以自动驾驶为例，在高速行驶的情况下，确保安全的首要前提是实时性。然而，由于网络终端的延迟以及无法预知的网络带宽堵塞，云计算不能保证实时性，因此面向边缘计算的车载终端计算平台成为自动驾驶计算发展的必然趋势［8］。此外，伴随着电气化的发展趋势，低功耗对于汽车工业变得越来越重要，因此满足实时性和低功耗需求的ASIC 芯片将成为车载计算平台的未来发展趋势。以智能安防为例，与传统的视频监控相比，人工智能加持的视频监控最重要的变革是将被动监控变为主动分析和预警，因此有效降低了手动处理大量监视数据带来的巨大人力成本和应激反应时延；另一方面，随着图像识别和硬件技术的发展，依托边缘计算的终端智能安防的条件越来越成熟［9］。在工业领域，边缘计算也发挥着越来越重要的作用，因为从工业发展的方向来看，数据将成为驱动生产和制造的重要生产手段，因此如何处理这些海量的实时数据已成为企业快速发展的重要问题。

5 边缘计算面临的挑战分析

随着人工智能在边缘计算平台中的应用，以及对边缘计算和物联网“端-云”的日益增长的推动，边缘智能已成为边缘计算的一种新形式，打通物联网应用的“最后一公里”［2］。目前，边缘计算的研发面临以下挑战：

图2 边缘计算面临的挑战分析Fig.2 Analysis of the challenges faced by edge computing

（1）电源与功耗。边缘计算设备往往处于圈层感知网络的末端，部署量非常巨大，如何在这些“末梢位置”为边缘计算设备提供充足的电源供给，是边缘计算技术与设备大面积落地应用所要面临的关键问题。在这种情况下，通过电源架供电并进行电力智能分配策略，已成为一种越来越常见的机制［3］，然而如何降低边缘计算设备功耗应该是解决该问题的主要突破口之一［10］。

（2）人工智能与人工智能芯片。高效的边缘计算技术与设备离不开高效的人工智能芯片。它不仅能够提高算力，而且可以有效降低功耗。特别是人工智能芯片所搭载的人工智能算法模型，能够在提供额定数据实时边缘处理能力基础上有效甄别数据重要程度，从而完成数据清洗，进而降低边缘计算设备损耗以及对边缘计算设备进行管理检修和异常检测感知［11］。

（3）安全与隐私。与其他技术一样，边缘计算技术在安全性方面并非万无一失，它需要提供一套与传统集中式计算和存储不同的数据安全与隐私保护策略［12］。因此，边缘端的安全措施需要进行大规模的升级改造以支撑边缘计算安全运行。

（4）5G。作为未来网络的5G与边缘计算的融合和衔接成为研究重点，二者互补性强，已成为彼此大规模应用的必要保障。5G 网络所能提供的更快速度，能够有效保障边缘计算与物联网进行低延迟的高效通信［12-14］，为云端计算预留更多的数据处理能力和网络连接能力。

6 结束语

当今社会和科技发展正在迈向以数据为中心的崭新世界，“万物智能互联”是最具代表性的趋势之一。边缘计算技术能够应用于自动驾驶、物联网、机器人、医养等诸多行业，同时也成为5G 衍生概念，在当下世界各国进入5G“攻坚战”的关键时期，得到了更多的关注。数据爆发式、指数级增长的趋势已经不可阻挡，并将继续呈指数级增长。首先在数据中心处理大量数据、然后在云中处理这些数据的传统方式已不适用于具有大量数据的高需求任务，网络的性能和速度继续扩展着新的性能极限，随之而来的是对新解决方案的需求，现在是边缘计算和边缘设备时代的开始。边缘计算将数据处理任务放置在网络边缘（靠近数据源）的设备上，这种计算方法可以非常快速地实现实时数据处理，对于具有机器学习能力和人工智能能力的许多复杂的物联网解决方案来说是必需的。