联邦学习的隐私保护技术研究

石进 周颖 邓家磊

摘  要：联邦学习作为一种新兴的人工智能计算框架，旨在解决分布式环境下数据安全交换与隐私保护，然而联邦学习在应用时仍然存在安全问题。鉴于此，文章从多个层面分析联邦学习的隐私安全问题，并针对性地提出了防御措施;面向联邦学习安全高速数据交换，提出了一种基于改进同态加密算法的联邦学习模型，为联邦学习落地实施提供借鉴和参考。

关键词：联邦学习;用户隐私;数据安全;同态加密

中图分类号：TP309;TP181      文献标识码：A 文章编号：2096-4706（2021）01-0138-05

Study on Privacy Protection Techniques of Federated Learning

SHI Jin，ZHOU Ying，DENG Jialei

（Diankeyun（Beijing）Technology Co.，Ltd.，Beijing  100041，China）

Abstract：As a new artificial intelligent computing framework，federated learning aims to solve the problem of data safety exchange and privacy protection in distributed environment. However，federated learning still has security problems in application. In view of this，the paper analyzes the privacy security issues of federated learning from multiple levels and contrapuntally puts forward defensive measures. A federated learning model based on improved homomorphism encryption algorithm is proposed for high-speed data exchange of federated learning security，which provides reference for the implementation of federated learning.

Keywords：federated learning;user privacy;data security;homomorphism encryption

0  引  言

联邦学习顺应了移动互联网时代对安全隐私问题的需求，一经出现即受到广泛关注，在科技金融、医疗卫生等行业的应用也在逐步推广。微众银行推出了开源联邦学习框架FATE，谷歌公司推出了TensorFlow Federated（TFF），Uber公司也推出了开源框架Horovod，上述框架可帮助开发者快速实现联邦学习在行业领域的落地实施。然而联邦学习在数据采集、模型训练的过程中可能面临隐私泄露和数据安全问题，本文通过分析联邦学习存在的问题及应对策略，推动联邦学习应用安全落地。

1  联邦学习中的特性和问题

1.1  联邦学习的特性

面向分布式环境下数据资源共享交换，谷歌在2016年最先提出联邦学习模型，并且能够保证数据提供方的隐私和数据安全[1]。与传统集中式的数据训练方式不同，联邦学习的训练过程发生在终端侧，即训练数据保存在终端本地，无需上传至云端，这种方式极大地降低了原始数据泄露的风险。……