陶梅霞,王栋,孙瑞,张乃夫
(上海交通大学电子信息与电气工程学院,上海 200240)
随着5G 移动网络在全球范围内逐渐普及,万物互联时代已到来,人工智能技术的应用也正从云端向网络边缘延伸。基于智能手机、可穿戴设备、无人机等边缘设备的智能应用需求,如人脸识别、智能监控、智能驾驶、路径规划等不断涌现。传统的机器学习算法(包括训练和推理)通常部署在云数据中心。为了训练更准确的人工智能模型,边缘设备需要将所采集的海量原始数据通过移动网络发送至云端,这会给网络带来巨大的带宽压力,并面临用户隐私泄露的风险。得益于移动边缘计算架构的发展[1],将机器学习部署在网络边缘成为可能。边缘学习[2-4]允许终端设备将原始数据保留在本地,在边缘服务器的协调下参与模型训练和推理,从而有效缓解网络带宽压力,降低响应时延,并提升数据隐私性。边缘学习是通信与计算学科融合的前沿方向,被认为是“人工智能的最后一千米”[3]。
联邦学习是一种非常有潜力的边缘学习框架,由Google 研究人员于2016 年提出[5],受到了学术界和工业界的广泛关注。联邦学习允许多个分布式边缘设备在边缘服务器的协调下,共同训练一个模型,而不需要上报各自的原始数据样本。在典型的联邦学习过程中,每个参与用户会先从服务器中下载当前最新的全局模型,然后利用本地数据样本进行局部训练,并将梯度信息上传给服务器,服务器聚合各个用户的梯度信息后更新模型参数,再将更新后的模型返回给参与用户。……