文献阅读:Characterizing Label Errors: Confident Learning for Noisy-Labeled Image Segmentation
表征标签错误:对噪声标签图像分割的自信学习——Minqing Zhang. MICCAI 2020
卷积神经网络(CNNs)以其强大的拟合能力在图像处理中取得了显著的性能。然而,如果训练数据被噪声标签所破坏,那么结果的性能可能会恶化。在医学图像分析领域,这种困境变得极其严重。这是因为医学图像标注总是需要医学专业知识和临床经验,这必然会引入主观性。在本文中,我们设计了一种基于师生架构的新型算法,用于噪声标签的医学图像分割。创造性地引入自信学习(CL)方法来识别损坏的标签,并赋予CNN对噪声的抗干扰能力。
为了获得一个训练有素的CNN模型,清晰标记的数据是至关重要的,但无噪声标签仍不能得到保证。此外,与自然图像标注主要来自随机误差的噪声不同,医学图像标注的噪声来源广泛。这些来源可以分为两部分。首先,高分辨率医学图像通常需要像素级的手动注释来完成分割任务。这个繁琐的标记过程将不可避免地带来诸如遗漏、错误或不准确的注释等随机噪声。第二,为了加快标签过程,医学专家通常会合作。这种合作会根据不同的临床经验和个人意见,诱发个体主观性。这种主观性也会引入噪声。
本文提出了一种新的方法,赋予医学图像分割任务中存在的噪声模型可解释性和抗干扰能力。具体来说,我们的算法基于师生架构,将CL技术引入到教师模型中,对可疑的错误标记像素进行表征。由于噪声识别图的精度较低,因此采用空间标签平滑正则化(SLSR)技术作为软标签校正方法,用于训练学生模型。在公开JSRT数据集上对算法进行了评估。在噪声标记的图像分割任务中,该方法优于现有方法。这种抗干扰能力随着噪声的增加而更加明显。
我们的方法的流程。该方法由三个部分组成:一个师生体系结构,包含两个细分模型CL和SLSR。首先,利用噪声标记数据训练教师模型;然后,CL模块将从训练集中识别像素级的噪声标签。然后,SLSR将平滑地纠正噪声标签。最后,通过软校正掩模对学生模型进行进一步的监督
分割网络
我们的框架采用U-Net网络和残留块作为分割网络。改进后的U-Net由自顶向下的收缩路径和自底向上的扩展路径组成。收缩路径遵循下采样块和剩余块的重复应用,而扩展路径由重复上采样块和剩余块组成。
![](/assets/blank.gif)
![](/assets/blank.gif)
U-NET详解:https://blog.csdn.net/qq_33924470/article/details/106891015
残差块:https://zhuanlan.zhihu.com/p/536515871
自信学习模块CL
通过这个阈值确定这个样本是标注错误还是是真正的潜在样本,然后通过这些样本来构建混淆矩阵C,它可能属于真正的潜在标签
,最后对混淆矩阵C进行归一化,得到噪声标签和真实标签之间的联合分布Q(我自己瞎理解)
在混淆矩阵C和联合分布Q之后,可以通过以下四个选项发现错误标记的样本集:
1.C的对角线 2.Q中自信心最低的样本 3.两者交集 4.两者并集
空间标签平滑正则化SLSR
主要就是CL平滑纠正噪声标签的功能
实验
![](/assets/blank.gif)
为了更好地模拟人工标注过程带来的标签噪声,我们采用了膨胀、腐蚀、边缘失真等多种数字图像处理技术对原始(干净)掩模进行了破坏,如上图所示。为了全面研究我们的算法,我们生成了几个噪声标记的训练集。对于每个训练集,合成噪声标记数据的比例和范围是不同的,它们的出现由两个变量α和β控制。
令人惊讶的是,我们的方法在“原始”数据集上的性能也优于基线方法。为了解释这一点,我们可视化了CL模块生成的噪声标签识别映射(下图)。可以观察到“原始”数据集由于人为错误而不是完全“干净”的。在我们的方法中,这些错误可以被纠正,从而提升戴斯系数。
![](/assets/blank.gif)
总结
针对医学图像分割中存在的噪声标签问题,提出了一种两阶段算法。该方法由师生架构、自信学习(CL)模块和空间标签平滑正则化(SLSR)技术组成。这是CL第一次参与到分割任务中。这种基于统计的技术可以通过估计噪声标签和真实标签之间的联合分布来识别训练集中的标签错误。在对噪声进行识别后,SLSR将对噪声标签进行平滑校正,而不是直接将这些重要数据剔除掉。CL模块和SLSR的有效性和必要性得到了大量实验的支持。基于实验结果,我们的模型在噪声水平增加的情况下保持积极的分割性能。该方法在像素级对噪声标签进行识别和校正,而不是直接删除噪声标签。因此,该方法在分割任务上优于现有的方法,可用于校正带有噪声标签的数据集,特别是在处理密集噪声时。
补充:
代码:https://github.com/502463708/Confident_Learning_for_Noisy-labeled_Medical_Image_Segmentation.git
JSTR数据集:https://www.isi.uu.nl/Research/Databases/SCR/
文献阅读:Characterizing Label Errors: Confident Learning for Noisy-Labeled Image Segmentation相关推荐
- 2018-12 文献阅读:A Survey on Transfer Learning(2009)
文献阅读:A Survey on Transfer Learning(2009) 2018-12 文章的作者是Sinno Jialin pan 与 Qiang Yang 关键词:迁移学习(transf ...
- 【文献阅读03】Deep Reinforcement Learning Based Resource Allocation for V2V Communications
Deep Reinforcement Learning Based Resource Allocation for V2V Communications(点击可见原文) p.s.此文19年发表,到20 ...
- 文献阅读15-OntoILPER:A logic-based relational learning approach关系抽取,NER+RE
文章目录 abstract 1.Introduction 2.2. Supervised Machine Learning Approaches to Relation Extraction 2.1. ...
- 【文献阅读】Applications of deep learning in stock market prediction: Recent progress
Applications of deep learning in stock market prediction: Recent progress 1 本文相关介绍 本文为 2021 年 CCF-C ...
- 文献阅读总结:网络表示学习/图学习
本文是对网络表示学习/图学习(Network Representation Learning / Graph Learning)领域已读文献的归纳总结,长期更新. 朋友们,我们在github创建了一个 ...
- 谣言检测文献阅读六—Tracing Fake-News Footprints: Characterizing Social Media Messages by How They Propagate
系列文章目录 谣言检测文献阅读一-A Review on Rumour Prediction and Veracity Assessment in Online Social Network 谣言检测 ...
- 谣言检测文献阅读四—Reply-Aided Detection of Misinformation via Bayesian Deep Learning
系列文章目录 谣言检测文献阅读一-A Review on Rumour Prediction and Veracity Assessment in Online Social Network 谣言检测 ...
- 文献阅读2019-Computer-aided diagnosis system for breast ultrasound images using deep learning
文献阅读2019-Computer-aided diagnosis system for breast ultrasound images using deep learning 1 通过生成热图来探 ...
- 文献阅读:SimCSE:Simple Contrastive Learning of Sentence Embeddings
文献阅读:SimCSE:Simple Contrastive Learning of Sentence Embeddings 1. 文献内容简介 2. 主要方法介绍 3. 主要实验介绍 1. STS ...
最新文章
- CSS中浮动布局float(小米布局案例、导航栏案例、overflow)
- jni直接转byte_JNI再探之JNI 数据类型及Java与C++之间互调
- 编译原理——词法分析器
- tf callbacks
- Linux中常见服务对应的端口号
- IDEA远程调试服务器代码
- eclipse搭建SSH框架详解
- Oracle服务器修改IP后
- 10分钟腾讯云配置免费https
- Android平台Camera2数据如何对接RTMP推流到服务器
- c语言周林答案,C语言程序设计实训教程教学课件作者周林ch04结构化程序设计课件.ppt...
- CentOS 7 Linux实时内核下的epoll性能分析
- java excel .do_Java Excel
- java并发编程(12)-- 线程池 实际⽣产使⽤哪⼀个线程池 怎么设置
- paip.提升用户体验----- 密码控件的使用
- 北大学神恽之玮斩获西蒙斯学者奖:18岁满分获IMO金牌,35岁成MIT终身教授,北大数学“黄金一代”刷新战绩...
- 诚邀参加“低噪声飞秒激光”( 上海交大)研讨会
- 图解数据结构与算法【Java】0概述
- Oracle heap 表的主键 dump 分析
- 【Java】Java爬取国家统计局五级行政区划编码(省、市(州)、县(区)、乡(镇)、村)