加速边缘人工智能落脚物联网　浅谈英特尔携云图睿视发布全新算法商城暨张宇博士专访

如今人工智能已经在我们身边得到越来越多的应用，特别是物联网领域，人工智能的这一轮发展正在推动各个行业新生态、新应用的落地，特别是视频和图像处理领域，人工智能获得了最大的应用前景：比如零售领域常用到的刷脸支付，交通领域用到的车牌识别，包括前几年在围棋上挑战人类的AlphaGo，AlphaGo实际上也是将围棋的棋盘看成了一个19×19的图片，把这个图片送到卷积神经网络里进行处理，来得到下一步行棋策略。视频和图像处理领域之外，语言处理领域也是另一个被人工智能大力推动的应用场景，用人工智能技术进行自然语言处理如今在很多行业都得到了应用。

今天我们仍将通过英特尔，以及英特尔的合作伙伴成都云图睿视科技有限公司（以下简称“云图睿视”）的视角来审视行业的发展：比如他们如何看待推动本轮人工智能发展的根本力量;比如人工智能在边缘上将以何种方式前进;还包括当前边缘计算发展上遇到的瓶颈。除此之外，我们还将谈及云图睿视发布最新的算法商城解决方案到底有何意义。为此，我们特别专访了英特尔公司物联网事业部中国区首席技术官及高级首席工程师张宇博士和成都云图睿视科技有限公司CEO孟莹。

推动本轮人工智能发展的根本力量

在英特尔看来，对于本轮人工智能发展的核心要素主要有两个，一是有了极大提升，二是有了大量的可供训练的数据。一直以来，英特尔都处于掌握算力的最高峰上，特别是随着摩尔定律的推动，算力在各个领域得到了极大的提升。

张宇博士提及：“拥有更多算力，就可以使我们在更短时间内完成一个神经网络模型训练，我们也可以去处理一个更加复杂的神经网络模型。这样就可以极大拉近人工智能技术和商业诉求之间的距离，推动人工智能技术发展，这是我们认为的第一个核心要素。”

如今各行和业都认同“数据即石油”的说法我们浏览的网页的习惯、我们行动的轨迹，乃至各个交通、工业、医疗等各行业每天产生的巨大数据，都拥有巨大的价值。如果说石油喂养内燃机成就了第二次工业革命，那么数据同样也是人工智能的养料——目前来看，人工智能技术网络的训练都是靠数据“喂”出来的，而且是海量的数据，从某种角度来说，用于训练的数据越多，人工智能越成熟。在AlphaGo之后，科学家便通过世界人工智能围棋大赛提升人工智能水平，其原因便是通地不同模型的对撞产生更多数据来训练人工智能在围棋上的水平。

如今数据越来越多，这需要足够强大的存储技术以及通信技术来支撑，特别是正在普及的5G技术，带来了大的传输带宽，更低的网络传输延迟，使数据更容易获取，更快地在各个节点间传递 。“正是在计算、通讯、存储方面能力的不断提升，才真正意义上推动了本轮人工智能的发展，所以我认为这是最核心的要素。”张宇博士的说法正印证了英特尔看待人工智能的方向。

英特尔计算、通讯、存储三方面都拥有强大的技术实力，比如英特尔拥有CPU、GPU、FPGA、VPU等不同构架的芯片技术，英特尔近期发布的第三代至强可扩展处理器便支持丰富的人工智能指令集DL Boost。利用这样一些处理器指令集可以更加方便地把像图像分类、推荐引擎或自然语言处理等人工智能训练和推理更方便地部署在通用服务器平台上。;而且从3G到5G，英特尔不提出自己的国际标准，而且还推出了面向5G无线基站的SoC芯片;存储领域，英特尔则推出了3D XPoint（傲腾技术）。该技术拥有高存储密度和高读写速度，提供更为方便、低价的数据存储解决方案。

边缘人工智能发展的方向

随着人工智能技术在边缘计算及物联网领域得到了越来越广泛的应用，英特尔等厂商已经开始利用人工智能技术在边缘进行一些图像处理工作，比如在工厂中利用边缘视觉技术检测摄像头摄取的一些工件表面形态，以确认里面是否带有一些缺陷。这实际上是通过数据中心里强大的算力，以及积累的大量数据去训练一个网络模型，把这个训练的结果最终推送到边缘进行推理。

这种边缘推理模式并非完美，其最大弊端就是边缘端对模型更新的频率实际是有一定的限制的，这一模式下不可能动态、频繁、实时、自适应地调整这样一个网络模型，所以需要引入边缘训练。如今废品回收行业现在已经开始用机械臂去做废品分拣，但是由于废品形态很多，我们不可能用一个固定模型去涵盖所有废品形态，这就需要不断根据新采集的数据去做动态训练、增量训练，不断完善这个模型，使这个模型更适应新进来的物品。所以边缘人工智能的发展下一个阶段一定会在边缘训练上发生。

张宇博士认为，边缘训练也不是边缘人工智能发展的最高阶段。从物联网的发展阶段来看，它需要经过“互联网—智能—自主”三个阶段，最高阶段“自主”便 是一个系统能够感知使用者的意图（也就是人的意图），并且根据这个意图自主进行调整。反映到人工智能方面，同样也需要人工智能系统拥有自主能力能够自主根据使用场景、使用意图去设计适宜的人工智能网络结构。再利用它所收集到的数据主动分析、训练一个合适的网络模型，然后将这个网络模型用于最终推理。

“所以我们认为，邊缘人工智能下一个发展阶段就是自主学习阶段。边缘人工智能的发展会沿着边缘推理，再到边缘训练，再到自主学习这样三个阶段的轨迹来进行发展。”张宇博士直接阐述了自己对边缘人工智能的看法。不仅如此，他还提及了英特尔在边缘人工智能方面推出的一系列硬件和软件产品，比如Movidius第二代芯片Myriad X，可以提供2W的功耗及1T的算力，在摄像机有限的功耗中高清视频计算的需求;另外利用神经计算棒翻译笔、智能门锁，比如通过高性能通用处理器以及专用人工智能加速模块与云图睿视一起打造的AI-Box产品。在这些硬件基础上，英特尔还提供了各种软件：包括OpenVINO、Open Model Zoo，以及围绕软硬件进行的测试调优工作。

针对物联网垂直行业的需求，英特尔还提供了一些重点行业参考设计，英特尔统称为“边缘洞见软件”（如针对工业、零售及视频的边缘洞见软件等）。这些边缘洞见软件的作用类似于一个行业的PaaS，解决这些行业的共性问题，比如如何收集、解析这个行业的数据，如何在内部进行分发、分析、存储等这些共性问题。另外，边缘洞见软件包也能帮助行业解决方案快速部署在英特尔硬件平台上，实现应用的快速部署和落地。

与合作伙伴共同构建物联网和边缘人工智能的生态链

为了构建物联网和边缘人工智能的生态链，英特尔与生态合作伙伴展开了广泛的合作，不仅全球与超过1200个合作伙伴有密切合作，还一起发布了超过300个边缘计算解决方案，服务于智慧城市、智慧医疗、智慧零售、智慧工业等不同垂直行业，而且这些解决方案在超过了一万个用户当中得到了广泛推广。其中，英特尔与云图睿视的合作就非常有意义。

作为推动边缘计算发展的重要技术，人工智能正在强有力地加持边缘计算负载整合和算力提升，但这一过程并不容易。以中国多达27.6亿个摄像头以例，它们分布在成千上万的细分行业内，但并没有足够资源能夠实时查看和分析众多摄像头产生的海量数据，整个市场急需AIoT技术帮助人们对海量摄像头数据进行采集和分析，进而产生有益的洞察。

为此，英特尔联合云图睿视发布的算法商城解决方案，通过通用算法应用部署的方式，能够极大提升算法模型的部署速度，并帮助算法供应商和算法集成商快速验证算法和业务匹配程度。整个解决方案共包含：人工智能边缘计算终端（AI-Box）、Beacon OS（边缘操作系统）和AI Store（算法商城）。其中云图睿视AI-Box是一套基于英特尔第11代酷睿处理器（Tiger Lake）推出的标准算力平台，提供4路视频流的实时分析和最大8个算法模型的同时运行;Beacon OS则整合了英特尔OpenVINO、SVET等框架，能够为AI运行提供系统级的标准支撑;最有意思莫过于AI Store，它将各类算法模型的集合放在一个标准的边缘计算设备管理平台之上，所有模型均可直接运行在基于Beacon OS的硬件设备上，无须再次开发。

云图睿视的这一套方案旨在解决人工智能落地难的问题。在行业应用中，使用算法的和系统集成商或终端用户面临缺乏对应算法，而算法开发者却限于自身渠道开拓能力，能难找到真正的需求用户。成都云图睿视科技有限公司CEO孟莹指出，正是这样难以沟通的行业壁垒，使得以往开发出的算法很难体现其价值，所以愿意投入开放算法的厂商越来越少，整个物联网行业都面临着缺乏算法的短板。正是通过与英特尔紧密合作，云图睿视创建了一个标准化的软件环境Beacon OS和便于算法使用和开放两端握手的应用商城。用户只需要输入需求，便能找到相应算法，不需要再编译。在孟莹的演示下，我们看到一个成熟的算法部署在应用场景下仅需要短短十数秒（根据算法和需求场景不同而有所不同）。

孟莹表示，AI Store的最大优势便在于“标准的软硬件平台、完整流畅的算法购物体验、经济丰富的行业算法、安全可靠的技术支撑、强大的远程运维管理平台”。无独有偶，英特尔在官网的人工智能页面也提出了“统一计算平台，兼容多样算法”的Slogen，恰与云图推出方案的初衷不谋而合。与孟莹的想法一致，张宇博士也表明了人工智能发展上的短板正在于算法之上，比如20世纪90年代已经在用的卷积神经网络如今依旧沿用，仅是层数比以前更多，规模上虽有变化，但是算法理论基础突破并不大。另外，英特尔也在针对不同负载的应用提供统一接口，便于开发者通过统一接口和编程模型访问不同硬件资源，这便是OneAPI项目。类似于OneAPI、OpenVINO等这样一些可以帮助用户做多算法融合的工具，将是人工智能研究院向开发者推广的重点项目。

最后，我们问及AI Store是如何快速帮助用户解决现有算法之外的新需求。孟莹答道：“BeaconOS的上层有两个独立中间件，一套独立中间件是以AI的运行为承载的独立中间件，另外一套是基于EdgeX Foundry的IoT的中间件。这套产品其实完全可以独立部署。如果用户一定需要做独立部署，我们会让系统集成商做这件事情，中间产生的研发费用或开发费用都属于系统集成商的收益。算法开发就只收取开发部分的费用，定制的部分由系统集成商收取，我们起中间桥梁搭建的工作。”

后记

在我们看来，英特尔与云图睿视合作推出的AI Store在当前边缘人工智能的前进中迈出了非常有意义的一步。尤其是在创新方案推动和生态构建上加速了智能边缘的应用落地和升级。虽然当前Beacon OS、AI Store这样的构架方案还不够完善，但通过它我们已经能够看到智能边缘上的广阔机遇。