基于FGSM样本扩充的模型窃取攻击方法研究

陈传涛 潘丽敏 罗森林 王子文

(北京理工大学信息系统及安全对抗实验中心 北京 100081)(chencht163@163.com)

随着网络技术的不断发展，移动终端设备已经成为人们生活中不可或缺的工具，其中Android系统是市场占有量最大的移动智能设备平台[1].同时，Android平台也成为了移动端恶意代码主要攻击的目标.据360互联网安全中心报告显示，2019全年共截获移动端新增恶意软件样本约180.9万个，其中Android系统漏洞位居产品漏洞数量的前列.与传统的PC端相比移动端有更多特有的攻击入口，同时受到移动平台自身多种原因的限制，移动端的保护能力弱、安全性低，使得其比PC端受攻击更广、攻击成功率更高.

近年来，机器学习理论与技术日益成熟，逐渐广泛应用在恶意软件检测任务中，尤其在大数据场景下，机器学习模型提供了更高效的数据分类方法，大大提升了检测效果[2-3].但是，机器学习在给人们带来方便的同时，也存在一定的安全隐患.2014年Szegedy等人[4]发现一些机器学习模型，包括先进的神经网络，很容易受到对抗性影响，即在数据集中通过故意添加一些细微的干扰所形成的输入样本，导致模型以高的置信度给出一个错误的输出.目前的研究发现，机器学习算法面临模型窃取攻击的威胁日趋严峻[5-6].模型窃取攻击是指，攻击者在没有任何关于该模型先验知识(训练数据、模型参数、模型类型等)的情况下，根据有限的信息获取到模型内部的参数或是构造出与目标模型相近似的替……