目录

半监督学习(Semi-Supervised Learning)

1. Low-density Assumption:非黑即白

最具代表性的方法:Self-training

2. Smoothness Assumption:近朱者赤,近墨者黑

基础方法:Clustering

方法二:Graph-based Approach

A Simple Semi-Supervised Learning Framework for Object Detection

STAC 两个阶段

STAC 主要贡献

Rethinking Pseudo Labels for Semi-Supervised Object Detection

动机

要点

1. Certainty-aware Pseudo Labels

2. Dynamic Thresholding and Re-weighting


半监督学习(Semi-Supervised Learning)

课程:台大李宏毅老师

1. Low-density Assumption:非黑即白

假设:在两个类交界处的 density 是低的,即数据量很少。

最具代表性的方法:Self-training

【注】这种方式的 self-training 对 regression 任务没有任何效果。

2. Smoothness Assumption:近朱者赤,近墨者黑

基础方法:Clustering

方法二:Graph-based Approach

A Simple Semi-Supervised Learning Framework for Object Detection

STAC 借鉴图像分类领域使用的 semi-supervised learning(SSL)方法,主要使用了 self-training(伪标签)和 consistency regularization(数据增广)两种手段。

STAC 两个阶段

1. 在有标签数据上训练教师模型(Faster R-CNN),直至收敛。之后用训练好的教师模型在无标签数据上生成类别标签和预测框,最后利用高置信度阈值筛选伪标签;

2. 对无标签数据进行强增广,将筛选过伪标签后的无标签数据加入到训练数据中,与有标签数据一起训练模型。STAC 强增广主要包括全局色彩变换、全局或 box-level 几何变换以及 Cutout。

【注】

1. STAC 使用经 NMS 后的 bounding box 预测概率,移除了大量重复检测,之后应用 confidence-based thresholding 来进一步减少潜在的错误标签框。

2. STAC 的 data augmentation 是分步进行的:

STAC 主要贡献

1. 将图像分类领域基于 self-training 和 augmentation-driven consistency regularization 的 SSL 方法扩展到目标检测领域;

2. STAC 只引入两个新的超参数:置信度阈值  (用以筛选伪标签)和非监督损失权重 

3. 针对使用 MS-COCO 的 SSL 目标检测任务,提出了新的 experimental protocols。

Rethinking Pseudo Labels for Semi-Supervised Object Detection

动机

1. 筛选检测框伪标签利用的是分类(classification)的置信度,无法反映出定位(localization)的精度;

2. 目标检测中存在较为严重的类别不均衡的问题,而一般教师模型得出的伪标签会加剧这一问题。

要点

1. Certainty-aware Pseudo Labels

为解决上述第一个问题,作者以分类的视角做 bounding box 的定位任务,从而可以测量 bounding box 的定位质量。

具体来说,作者通过分类的方法,将候选框的各边定位、分配给 ground truth 的各边。以左侧边为例,首先,作者将与左侧边垂直的一条线段均匀地分为K个间隔,通过一个 K-way 分类器,预测候选框的左侧边应该属于第几个间隔。如果 GT box 的左侧边与第 k 个间隔垂直相交,那么就标记该边的 target 为第 k 个间隔。

得到的坐标分类置信度均值  与原本的检测分类置信度  相乘,这样指标既可以反映出检测器分类的准确度,也可以反映出坐标框回归的定位精度,可以用于后续的 NMS 及生成伪标签。

另外,为了增加定位精度,作者额外训练了一个回归损失对定位坐标做更精细的修正。

2. Dynamic Thresholding and Re-weighting

针对上述第二个问题,依据前面得出的指标,作者动态调整不同类别的伪标签置信度阈值,并且重新赋予不同类别以不同的权重。

这个方法可以使得前景数量少的置信度阈值  更小、损失权重  更大,以缓解类别不均衡的问题。

主要参考来源:半监督目标检测研究进展 - 知乎

半监督目标检测(一)相关推荐

  1. 端到端半监督目标检测框架

    点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达 作者丨SuperHui@知乎 来源丨https://zhuanlan ...

  2. 半监督目标检测相关方法总结

    作者丨kinredon@知乎(已授权) 来源丨https://zhuanlan.zhihu.com/p/404160115 编辑丨极市平台 导读 本文结合相关论文介绍了一些半监督目标检测算法,即如何利 ...

  3. 端到端半监督目标检测框架Instant-Teaching:

    点上方计算机视觉联盟获取更多干货 仅作学术分享,不代表本公众号立场,侵权联系删除 转载于:知乎,极市平台 AI博士笔记系列推荐 周志华<机器学习>手推笔记正式开源!可打印版本附pdf下载链 ...

  4. 半监督目标检测(三)

    目录 ISMT 动机 1. Overview 2. Pseudo Labels Fusion 3. Interactive Self-Training 4. Mean Teacher Unbiased ...

  5. 收藏 | 半监督目标检测相关方法总结

    近期阅读了一些半监督目标检测(Semi-Supervised Object Detection,SSOD)的文章,特此总结,以供未来查阅. 什么是半监督目标检测? 传统机器学习根据训练数据集中的标注情 ...

  6. ECCV2022 | FPN错位对齐,实现高效半监督目标检测 (PseCo)

    点击上方"计算机视觉工坊",选择"星标" 干货第一时间送达 作者丨Gang Li@知乎(已授权) 来源丨https://zhuanlan.zhihu.com/p ...

  7. 弱监督目标检测与半监督目标检测

    一.监督学习分类 根据数据集的标注情况,分为:监督学习.弱监督学习.弱半监督学习和半监督学习. 监督学习:数据集为带实例级标注的标签,包含坐标和类别信息 弱监督学习:数据集仅带有数据类别的标签,不包含 ...

  8. RS2022/云检测:考虑域偏移问题的卫星图像半监督云检测Semi-Supervised Cloud Detection in Satellite Images by Considering the

    Semi-Supervised Cloud Detection in Satellite Images by Considering the Domain Shift Problem考虑区域偏移问题的 ...

  9. AAAI 2020论文解读:商汤科技提出新弱监督目标检测框架

    来源 | Object Instance Mining for WeaklySupervised Object Detection 编辑 | Carol 出品 | AI科技大本营(ID:rgznai1 ...

最新文章

  1. 初学者学python好还是c-学Python还是学C?
  2. STL中map用法详解
  3. Linux重定向详解
  4. NYOJ 745 dp
  5. 天猫、京东双11销售总额超8894亿!媒体:双11成交额崇拜可休矣
  6. mysql dnslog_渗透技巧:使用dnslog加快盲注速度 · C1imber’s Blog
  7. C++析构函数为什么要为虚函数?
  8. case when then else
  9. centos7 安装mysql_第02期:ClickHouse 单机部署以及从 MySQL 增量同步数据
  10. leetcode之动态规划刷题总结1(Java)
  11. 贪吃蛇项目难还是2048难c语言,贪吃蛇大战2048好玩吗 贪吃蛇大战2048玩法简介
  12. 远程主机和本地文件互传的2种方法
  13. [预训练语言模型专题] MT-DNN(KD) : 预训练、多任务、知识蒸馏的结合
  14. 玩手机惹怒丈夫 男子用菜刀砍死怀孕8个月妻子
  15. 如何为Apache JMeter开发插件(三)——冲破图片验证码的束缚
  16. 1999-2020年全国及31省农用化肥施用量数据
  17. 【博主已解决】win10系统wlan消失 网络适配器出现黄色感叹号(代码56)
  18. USR-TCP232-T2济南有人以太网模块
  19. 中国工程项目入围全球基础设施数字化大赛
  20. 制作持久化U盘Kali 用U盘启动 使用fluxion破解WIFI密码(上)

热门文章

  1. 上海数据交易中心成立 全国多地力推大数据产业
  2. 公众号“机器修行”开篇·致读者
  3. 数据仓库-你不知道的HSQL?
  4. ros订阅话题python_ROS之话题的发布与订阅
  5. 基于Predictive Parsing的ABNF语法分析器(十二)——alternation、concatenation、group和option
  6. nz-table数据动态横向合并
  7. Could You Be A Target For Layoffs?
  8. Make和Makefile
  9. 【LOJ#573】【LNR#2】单枪匹马(线段树)
  10. Composer安装ThinkPHP5