Titie：Optimized U-Net for Brain Tumor Segmentation

Abstract--摘要

本文进行了广泛的消融研究来测试：深度监督损失，焦点损失，解码器注意力块，Dropout块和残差连接。此外本文还探索了U-Net编码器的最佳深度，卷积通道数和后处理策略。

总之总体的目标就是选择性能最优的U-Net结构。

Introduction

目前存在很多U-Net的变体如Attention UNet；残差U-Net，U-Net++；U-Net3+等等。广泛的U-Net架构使得选择一个最佳的UNet结构来匹配脑肿瘤分割任务非常重要。此外一旦确定了网络架构，选择合适的损失函数和数据增强策略也会变得非常重要。

方法-Method

数据

数据的注释由4类组成：1）增强肿瘤（ET）2）瘤周水肿组织（ED）3）坏死肿瘤核心（NCR）4）背景

数据预处理与数据增强

此外为了获得更好的效果采取了数据增强策略：1）有偏差的裁剪 2）缩放3）翻转4）在数据中加入高斯噪声 5）改变对比度与亮度

模型架构

1）U-Net：U-Net就是U型的编码器-解码器结构。在编码器部分进行下采样，将输入转换为低维空间，特征通道数不断变大，特征图的分辨率不断变小。然后解码器部分上采样逐渐恢复特征图的大小，并且通道数也不断变小。

2）SegResNet-VAE：SegResNet-VAE是带有自动编码器正则化的残差U-Net，其示意图如下：

它通过添加变分自编器分支来修改解码器的分支，它的重构输入具有正则化效果。在解码器分支中将来自瓶颈的特征图缩减到256的低纬空间（128表示均值，128表示标准差），然后从具有给定均值和标准差的高斯分布中抽取一个样本，并按照与解码器相同的架构重构输入图像维度。

3）UNETR：UNETR是VIT对3D卷积的概括--它使用多头注意力代替了编码器的3D卷积,为了将3D输入体积转换为多头自注意力的输入，它被分为一系列的均匀非重叠的Patch并使用了线性层投影到了嵌入空间，并且添加了位置嵌入，其网络结构示意图为：

4）Attention UNet：Atttention UNet通过在解码器部分添加注意力门来扩展基础的UNet。注意力门在解码器块中连接之前从编码器转换得到的特征图。通过使用这个结构可以了解到编码器特征图中哪些区域是重要的。结构门的结构如下图所示：

5）Residual U-Net：Residual U-Net就是在普通的U-Net的基础上加入残差连接，这有助于训练深度神经网路，从而避免可能产生的梯度消失和梯度爆炸问题。

根据实验结果可知，一个基本的U-Net取得了最好的效果

损失函数

将输出特征图设计为具有3个通道的特征（每个类一个）也就是WT，ET,TC，最后通过Sigmod激活函数进行转换。每个区域分别使用二元交叉熵或焦点损失和Dice Loss总和进行优化。

深监督

深监督通过计算不同解码器级别的损失函数来帮助获得更好的梯度流，在本文中添加了两个额外的输出头最终的损失函数为

补充：K-Fold交叉验证

概念：数据分为1）训练集 2）验证集（在训练集中抽出分出一部分作为验证集，用于调参评估模型的性能。）3）测试集

验证集来源于训练数据但不参与训练，模型在验证数据数据中的评估常用的是交叉验证又被称为循环验证。

K-Fold定义：将原始数据（也就是训练集）分为K组，将每一个子集数据分别做一次验证集，其余的K-1组子集作为训练集，这样会得到k个模型，这K个模型分别在验证集中评估结果，最后的误差MSE加权平均得到交叉验证误差。

（脑肿瘤分割笔记：十四）用于脑肿瘤分割的优化U-Net相关推荐

《C++游戏开发》笔记十四平滑过渡的战争迷雾(二) 实现：真正的迷雾来了
本系列文章由七十一雾央编写,转载请注明出处. http://blog.csdn.net/u011371356/article/details/9712321 作者:七十一雾央新浪微博:http:// ...
吴恩达《机器学习》学习笔记十四——应用机器学习的建议实现一个机器学习模型的改进
吴恩达<机器学习>学习笔记十四--应用机器学习的建议实现一个机器学习模型的改进一.任务介绍二.代码实现 1.准备数据 2.代价函数 3.梯度计算 4.带有正则化的代价函数和梯度计算 5 ...
Polyworks脚本开发学习笔记(十四)-WORKSPACE信息读取及管理
Polyworks脚本开发学习笔记(十四)-WORKSPACE信息读取及管理 Polyworks的工作任务存储分为工作区和项目两级,通过WORKSPACE命令获取工作任务信息,实现更好的任务管理. 下 ...
强化学习经典算法笔记(十四)：双延迟深度确定性策略梯度算法TD3的PyTorch实现
强化学习经典算法笔记(十四):双延迟深度确定性策略梯度算法TD3的PyTorch实现 TD3算法简介 TD3是Twin Delayed Deep Deterministic policy gradie ...
机器学习笔记十四：随机森林
在上一篇机器学习笔记十三:Ensemble思想(上)中,简要的提了一下集成学习的原理和两种主要的集成学习形式. 而在这部分要讲的随机森林,就算是其中属于bagging思路的一种学习方法.为了篇幅,b ...
数据科学和人工智能技术笔记十四、K 最近邻
十四.K 最近邻作者:Chris Albon 译者:飞龙协议:CC BY-NC-SA 4.0 确定 K 的最佳值 # 加载库 from sklearn.neighbors import KNeig ...
（脑肿瘤阅读笔记：四十六）KIU-Net用于医学图像分割和体积分割的过完备卷积网络架构
目录 Title:KiU-Net: Overcomplete Convolutional Architectures for Biomedical Image and Volumetric Segme ...
（脑肿瘤分割笔记：四十四）基于深度学习的脑肿瘤分割的综述
目录 Abstract&Introduction 脑肿瘤分割任务面临的主要挑战深度学习方法的脑肿瘤分割的方法脑肿瘤分割方法一:设计有效的架构分割方法针对于不同目的的模型对于精度有要求的 ...
（脑肿瘤分割笔记：四十三）用于脑胶质瘤分割的上下文感知网络
Title:CANet: Context Aware Network for Brain Glioma Segmentation 摘要-Abstract 目前的一些脑肿瘤分割方法缺乏强有力的策略来整合 ...
（脑肿瘤分割笔记：四七）--自编码器和变分自编码介绍具有变分自编码器正则化的U型分割结构
本文只是记录个人阅读论文的感想与思考!难免存在错误!如若理解有误还请各位大佬指出!感谢! 目录相关概念自编码器(AE) 自编码器存在的问题变分自编码器(VAE) 关于正则化的直观解释论文一:3 ...

（脑肿瘤分割笔记：十四）用于脑肿瘤分割的优化U-Net