对抗样本生成技术综述*

潘文雯, 王新宇, 宋明黎, 陈 纯

(浙江大学 计算机科学与技术学院,浙江 杭州 310027)

随着深度学习的概念被广泛应用于当今研究的诸多方面,各类相关算法层出不穷,如何提高其质量、降低其所需的时间和内存代价,也得到越来越广泛的关注.其中,对抗样本的概念应运而生.所谓对抗指的是对于深度学习的攻击;所谓对抗样本,就是能够使得深度学习出现错误的一类合成样本.

最早提出“对抗样本”这一概念的是Szegedy 等人[1],文献使用在原有样本的像素上添加扰动的方法,促使包括卷积神经网络在内的深度学习模型出现显著的准确率降低现象.Nguyen 等人[2]提出:面对一些人类无法识别的样本,深度学习模型也可以将其以高置信度进行分类.这意味着深度学习模型具有极大的脆弱性,在理论上存在凭借垃圾样本通过识别分类系统的可能性.2016 年,Pedro 等人[3]提出,对抗样本的应用在图像方面占据了极大的空间.至此,深度网络和对抗样本成为研究热潮,而Goodfellow 等人[4]在解释了深度网络的高维线性是对抗样本生成的原理后,围绕于生成对抗样本的迭代算法开始涌现,出现了各类流派.对抗样本的产生对深度学习的攻防两面都有很大的实际意义,适当应用能在信息安全和隐私保护等方面达到一定的效果.对于生成对抗样本各类算法的总结和分类,可以在找到基本生成规律的基础上发掘更多的创新点和应用价值.

本文重点对生成对抗样本的已……