基于贝叶斯-斯坦科尔伯格博弈的DNN动态防御方法

2021-03-16 13:54:52周湘贞
计算机应用与软件 2021年3期
关键词:分类用户系统

王 芳 周湘贞

1(重庆商务职业学院 重庆 401331)

2(北京航空航天大学计算机学院 北京 100191)

3(郑州升达经贸管理学院信息工程系 河南 郑州 451191)

0 引 言

当前基于深度神经网络(Deep Neural Networks,DNN)的图像分类系统被应用于多种重要场所,如支票上手写数字的识别[1]、自动监督中物品的分类、自动驾驶领域[2]等。如果攻击者造成系统输入的分类错误,将产生严重后果。比如支票上手写数字“1”和“9”的错误分类将导致攻击者从银行取走更多的现金。文献[3-4]指出利用MNIST数据库建立的手写数字识别模型极易被攻击。交通标志中的“停止”标志如果识别错误将导致自动驾驶出现严重交通事故[3]。人脸识别等图像系统中也存在此类攻击[5]。此外,人的肉眼一般无法区分出被攻击者篡改的图像与原始图像的差别。

普通防御方法一般是通过攻击算法生成对抗样本,并将其加入到训练集中。这种途径的基本要求是需要使用尽可能强的攻击来生成对抗样本,同时网络模型的结构需要足够清晰明了,以便生成尽可能多的对抗样本,这就是对抗训练方法。

研究表明,在神经网络中,加在分类器输入图像上的单个干扰能够将基于MNIST数据库分类器的分类精度从95.5%降低到14.6%[6-7],而且对抗训练方法对此类攻击没有明显的防御效果。受网络空间领域移动目标防御思想的启发,本文提出一种基于贝叶斯-斯坦科尔伯格博弈(Bayesian Stackelberg Games)的DNN动态防御方法(简称BSG方法),与现有的防御机制一起防御深度神经网络中的各种攻击类型。……

登录APP查看全文

猜你喜欢
分类用户系统
Smartflower POP 一体式光伏系统
工业设计(2022年8期)2022-09-09 07:43:20
分类算一算
WJ-700无人机系统
ZC系列无人机遥感系统
北京测绘(2020年12期)2020-12-29 01:33:58
教你一招:数的分类
连通与提升系统的最后一块拼图 Audiolab 傲立 M-DAC mini
关注用户
商用汽车(2016年11期)2016-12-19 01:20:16
关注用户
商用汽车(2016年6期)2016-06-29 09:18:54
关注用户
商用汽车(2016年4期)2016-05-09 01:23:12
如何获取一亿海外用户
创业家(2015年5期)2015-02-27 07:53:25