提出的方法

提出了两种新的方法来提高对抗实例的可移植性，即Nesterov Iterative Fast Gradient Sign Method (NI-FGSM)和尺度不变攻击法(SIM)。
NI-FGSM：利用Nesterov来跳出局部最优解，获得更好的优化。
SIM（在同一模型上的原始图像和缩放图像的损失值是相似的）:通过优化输入图像尺度副本上的对抗性扰动来提高对抗性实例的可移植性。SIM可以避免白盒模型的“过拟合”，产生更多可转移的对抗性。

一、解决的问题

黑盒环境下，大多数现有的对抗攻击其他防御模型的可转移性较差。
本文将对抗样本生成视为一个优化过程，那么优化对抗样本可以视为一个训练过程，黑盒可以视为一个测试过程。

二、思路

提高深度学习的模型泛化性：更好的优化算法，如Adam。数据增广
提高对抗样本的迁移性：更好的优化算法，如MI-FGSM。模型增广

Nesterov Accelerated Gradient (NAG)是一种梯度下降法的变种，本质上是动量的改进：

整合进I-FGSM后：

尺度不变攻击方法SIM
定义1：
保损失转换：输入x,x的标签ytrue,分类器发f(x),损失函数J（x,y）.
如果存在输入转换函数T(.)满足J(T(X),yture)≈J(x,ytrue)
即，在同一模型上，原始图像和缩放图像的损失值是相似的（即经过一个变换之后，loss基本不变）
定义2：输入x,x的标签ytrue,分类器发f(x),损失函数J（x,y）.
存在一个新模型f’(x)，存在的关系f’(x)=f(T(x)).作者发现除了平移不变性，还存在缩放不变性，图像和缩放后的图像（像素值乘以一个系数），在同一个模型上的loss很接近。将这种特性视为一种模型增强的话，可以得到目标函数Si(x)=x/2i

三、算法

四、实验

略

五、结论

NI-FGSM的目标是将Nesterov加速梯度方法引入基于梯度的攻击，SIM的目标是利用模型的尺度不变特性实现模型增强。NI-FGSM和SIM可以自然地结合起来，构建一个强大的攻击，即SI-NI-FGSM。此外，通过将SI-NI-FGSM与基线攻击相结合，我们可以进一步提高对抗性样本的可转移性。大量实验表明，我们的方法不仅在对抗训练模型上获得了更高的成功率，而且还打破了其他强大的防御机制。
我们对NI-FGSM的研究表明，其他动量方法（如Adam）也可能有助于构建强攻击，这将是我们未来的工作，关键是如何将优化方法迁移到基于梯度的迭代攻击。我们的工作还表明，深度神经网络具有缩放不变性，我们将其用于设计SIM，以提高攻击的可转移性。然而，尚不清楚为什么尺度不变特性成立。可能是由于每个卷积层的批量标准化，这可能会减轻规模变化的影响。我们还将在今后的工作中更深入地探讨原因。
参考：
https://zhuanlan.zhihu.com/p/497026313

论文笔记《NESTEROV ACCELERATED GRADIENT AND SCALE INVARIANCE FOR ADVERSARIAL ATTACKS》相关推荐

论文笔记之Understanding and Diagnosing Visual Tracking Systems
Understanding and Diagnosing Visual Tracking Systems 论文链接:http://dwz.cn/6qPeIb 本文的主要思想是为了剖析出一个跟踪算法中到 ...
《Understanding and Diagnosing Visual Tracking Systems》论文笔记
本人为目标追踪初入小白,在博客下第一次记录一下自己的论文笔记,如有差错,恳请批评指正!! 论文相关信息:<Understanding and Diagnosing Visual Tracking ...
论文笔记Understanding and Diagnosing Visual Tracking Systems
最近在看目标跟踪方面的论文,看到王乃岩博士发的一篇分析跟踪系统的文章,将目标跟踪系统拆分为多个独立的部分进行分析,比较各个部分的效果.本文主要对该论文的重点的一个大致翻译,刚入门,水平有限,如有理解错 ...
目标跟踪笔记Understanding and Diagnosing Visual Tracking Systems
Understanding and Diagnosing Visual Tracking Systems 原文链接:https://blog.csdn.net/u010515206/article/d ...
追踪系统分模块解析（Understanding and Diagnosing Visual Tracking Systems）
追踪系统分模块解析(Understanding and Diagnosing Visual Tracking Systems) PROJECT http://winsty.net/tracker_di ...
ICCV 2015 《Understanding and Diagnosing Visual Tracking Systems》论文笔记
目录写在前面文章大意一些benchmark 实验实验设置基本模型数据集实验1 Featrue Extractor 实验2 Observation Model 实验3 Motion Mod ...
Understanding and Diagnosing Visual Tracking Systems
文章把一个跟踪器分为几个模块,分别为motion model, feature extractor, observation model, model updater, and ensemble po ...
CVPR 2017 SANet:《SANet: Structure-Aware Network for Visual Tracking》论文笔记
理解出错之处望不吝指正. 本文模型叫做SANet.作者在论文中提到,CNN模型主要适用于类间判别,对于相似物体的判别能力不强.作者提出使用RNN对目标物体的self-structure进行建模,用于提 ...
ICCV 2017 UCT:《UCT: Learning Unified Convolutional Networks forReal-time Visual Tracking》论文笔记
理解出错之处望不吝指正. 本文模型叫做UCT.就像论文题目一样,作者提出了一个基于卷积神经网络的end2end的tracking模型.模型的整体结构如下图所示(图中实线代表online trackin ...
CVPR 2018 STRCF:《Learning Spatial-Temporal Regularized Correlation Filters for Visual Tracking》论文笔记
理解出错之处望不吝指正. 本文提出的模型叫做STRCF. 在DCF中存在边界效应,SRDCF在DCF的基础上中通过加入spatial惩罚项解决了边界效应,但是SRDCF在tracking的过程中要使用 ...

论文笔记《NESTEROV ACCELERATED GRADIENT AND SCALE INVARIANCE FOR ADVERSARIAL ATTACKS》

文章目录