基于自编码器的对抗样本生成模型

2021-09-14 00:14:25陈梦悦
电脑知识与技术 2021年22期
关键词:深度学习

陈梦悦

摘要:由于人工智能系统对于数据的依赖以及深度学习算法的不可解释性,导致目前的人工智能系统面临严重的安全风险。其中,对抗样本是目前深度学习面临的主要威胁之一。为了更好地应对对抗样本攻击带来的安全威胁,需要对对抗样本的构造机制有充分的了解。因此,深度学习领域中关于对抗样本的构造方法有了大量的研究。该文提出了一种基于自编码器的对抗样本生成方法,不需要强大的背景知识,降低计算成本,实验结果证实所提出的方法的先进性和可用性。

关键词:深度学习;对抗样本;自编码器

Absrtact:Due to the dependence of artificial intelligence system on data and the unexplainability of deep learning algorithm, the current artificial intelligence system is facing serious security risks. Among them, counter sample is one of the main threats to deep learning. In order to better deal with the security threats brought by counter sample attacks, we need to have a full understanding of the construction mechanism of counter sample. Therefore, in the field of deep learning, there has been a lot of research on the construction method of confrontation samples. This paper proposes a method of generating a countermeasure sample based on selfencoding. It does not require strong background knowledge and reduces computation cost. Experimental results confirm the advanced and usability of the proposed method.

Key words: deep learning; adversarial examples; autoencoder

1背景知识

日益增多的社会信息交流系统和软件中,几乎连接着人们的方方面面,改变着人们的学习,工作方式以及日常生活,在丰富精神文化生活的同时,也带来了风险。网络与信息安全问题是世界各国信息时代所面临的主要难题,作为信息保护的主要环节,这个风险和问题需要一直被重视。人们的生活成本需求在信息化、科技化、人性化、智能化驱动下,精准定位智能需求,多元扩展智能来源,弹性发挥智能能效,个性化定制智能服务等多机制入手,把握信息时代之魂,关注信息时代之需,聚焦信息时代之变,引领信息时代之风。以及新理论新技术和经济社会发展的强烈需求的共同推动下,人工智能科学持续创新,逐步走向工业世界。虽然深度学习[1]技术有着广泛的应用前景,但是对于现阶段的研究水平而言,以深度学习为基础的人工智能应用面临严重的安全风险。……

登录APP查看全文

猜你喜欢
深度学习
从合坐走向合学:浅议新学习模式的构建
面向大数据远程开放实验平台构建研究
基于自动智能分类器的图书馆乱架图书检测
搭建深度学习的三级阶梯
有体验的学习才是有意义的学习
电子商务中基于深度学习的虚假交易识别研究
现代情报(2016年10期)2016-12-15 11:50:53
利用网络技术促进学生深度学习的几大策略
考试周刊(2016年94期)2016-12-12 12:15:04
MOOC与翻转课堂融合的深度学习场域建构
大数据技术在反恐怖主义中的应用展望
深度学习算法应用于岩石图像处理的可行性研究
软件导刊(2016年9期)2016-11-07 22:20:49