0x1204.面向目标检测的对抗样本综述

袁珑, 李秀梅, 潘振雄, 孙军梅, 肖蕾. 2022. 面向目标检测的对抗样本综述. 中国图象图形学报

基于深度学习的主流目标检测算法根据有无候选框生成阶段分为以Faster R-CNN为代表的两阶段检测和以YOLO为代表的但阶段检测。

对抗样本

在原本干净的数据集中，通过某种方式或遵循某种规律，向图像中加入一些细微的噪声（扰动）形成的图像。
图像分类攻击方法代表：FGSM（fast gradient sign method）【无目标攻击】

常用数据集及评价标准

PASCAL VOC，包含20个类别的物体，4大种类
MS COCO，包含91个物体类别、328000幅图像、250万个标签，目标间的尺度变化大，具有较多的小目标物体
ImageNet，包括1400多万幅图像、2万多个类别，其中103万幅图像可以用于目标检测任务，有明确的类别和位置标注
Open Image，是谷歌团队发布的具有对象位置注释的现有最大的数据集，包含190万幅图像、600个种类、1540万个边界框标注

评价指标：1、mean average precision
m A P = ∑ i = 1 m A P i m mAP=\frac{\sum^m_{i=1}AP_i}{m} mAP=m∑i=1mAPi
2、precision，分类正确的正样本个数与分类后判别为正样本个数的比值
3、recall，分类正确的正样本数与真正的正样本数的比值

对抗攻击方法描述

##　对抗攻击方法总结

…

防御方法总结

去噪、滤波、图像压缩
随机中值平滑
对抗训练
限制上下文信息使用
正则化方法
特征对齐
检测器预警
噪声混合

0x1206.一种基于毒性样本敏感性的有效后门防御

Effective Backdoor Defense by Exploting Sensitivity of Poisoned Samples
收录会议：NeurIPS 2022(Spotlight)

问题

基于投毒的后门攻击，对模型训练带来严重的安全威胁。

给一小部分样本的图像加上指定的触发器，并把它们的标签改为某个目标类别

方法

1、样本区分模块（Sample-distinguishment module,SD module）
依据毒性样本经过数据变换后特征表示受到影响比干净样本要大得多的发现，以此来区分二者。

通过设计一个度量——针对图像变换的特征一致性（FCT），来描述这种敏感性，根据实验发现设计基本规则为，选取FCT最大的一部分作为poisoned samples，FCT最小的一部分作为clean samples

2、安全训练模块（two-stage secure training module,ST module）

特征提取器 <-- 半监督对比学习（SS-CTL）
分类器 <-------- 混合交叉熵损失

3、后门移除模块（backdoor removal module,BR module）

遗忘loss function
重新学习loss function

实验结果

ReadingTime-十二月相关推荐

【组队学习】十二月微信图文索引
十二月微信图文索引一.组队学习相关周报: Datawhale组队学习周报(第042周) Datawhale组队学习周报(第043周) Datawhale组队学习周报(第044周) Datawhal ...
eltable 无数据文案修改_有哪些适合十二月发的文艺文案?记录文案用这款图片便签...
随着十二月的到来,2020年也要接近尾声了,相信很多网友都是满怀热情地期待着今年最后一个月的到来.并且在每月的第一天,都会有不少网友会在微信朋友圈中发一下类似"十二月你好"的文案来 ...
又是一年春，爱花的设计师来收“十二月花语插画”
常见的花的形状有:圆形花.球形花.筒形花.锥形花.复合型花.圆形花的特点就是花盘是圆形的.球形花像个球.筒形花像圆柱.锥形花可归纳为圆锥形.复合型花种类样式较多,可以是双球形也可以是一个球形和圆形.. ...
微型计算机 2018 12月下,桌面CPU天梯图2018年12月最新版十二月台式电脑处理器排名...
时光飞逝,转眼2018还有不到一个月就要划上一个完美句号了.年底将近,近期DIY装机的小伙伴也开始多了起来了.今天小编按照惯例,带来一月一更的台式电脑CPU天梯图更新,希望大家会喜欢.CPU作为电脑的 ...
行走在思想的边上――武墩支教十二月(上)
行走在思想的边上――武墩支教十二月(上) 2011年01月06日十二月篇 61 将"神奇"还原 ――听<青海高原一株柳>一课有感该务实,还是务虚,这在中国实在是需要 ...
十二月，我们一起在云台山风景区赏雪
十二月到了,我们在云台山风景区欣赏了一场初冬的雪,为了迎接初冬,为了欣赏初冬最美的画面,为了在云台山风景区这个人间仙境之中感受初雪的魅力,我和少爷.思思.振振.熙熙几个一起上山了. 初冬的雪,确实漂亮 ...
一月到十二月的英文简写和英文单词
一月到十二月的英文简写和英文单词简写和英文单词扩展阅读简写和英文单词一月:JAN. Jan.=January 二月:FEB. Feb.=February 三月:MAR. Mar.=March ...
日期转换例如二零零六年十二月二十一日转换成 2006年12月21日
日期转换例如二零零六年十二月二十一日转换成 2006年12月21日 class Program{static void Main(string[] args){//编写一个函数进行日期转换,将 ...
MindSpore论坛十二月有奖活动
MindSpore论坛十二月有奖活动开冬12月--免费活动送温暖奖品论坛链接:MindSpore(直接点击,便可访问MindSpore论坛) 2020年12月01日在大家的支持和使用过程中,Mi ...
十二月英语总结--充满热情
[前言]十二月的英语学习完全换了一个精神状态,就好像是刚开始接触英语时候一样的积极.想知道为什么会变成这样吗,请看下面的内容! 晨读让我更喜欢英语上月末加入了英语晨读小组,这个月一直坚持每天都起来去 ...

ReadingTime-十二月

CV文章浅读_try_everyday