超分辨率重建DRRN
Image super-resolution via deep recursive residual network
知识点
- 递归学习
- 全局残差
- 局部残差
引言
Kim提出了VDSR 和 DRCN
VDSR基于使用大学习率、残差学习、梯度裁剪策略,有20层的卷积层
为了控制模型参数,提出了DRCN。16个递归层。使用了递归监督和跳跃连接。
深层网络需要很多参数,不适合轻量级的应用。
全局残差。VDSR和DRCN中,输入图像直接传输到输出,称为全局残差
局部残差。为了应对细节丢失导致的图像退化问题,作者提出了局部残差学习。局部残差可以携带丰富的图像细节,而且有助于梯度传输。局部残差是在堆叠的层之间进行的。全局残差只发生在输入和输出之间。
为了保持模型的紧凑型,使用的递归学习
与DRCN的区别:
- DRCN的卷积层共享参数,共有16层。DRRN递归块中含有残差单元,残差单元是共享参数的。
- DRCN监督每一次递归(这里监督的意思是每一次的递归输出都输出与真实图像对比)。DRRN设计了一个具有多路径结构的递归块。DRRN有52个卷积层。
相关工作
ResNet使用链式局部残差结构
VDSR使用全局残差结构,全局残差和自适应梯度残差加速模型的训练过程。采用的尺度增强策略,训练不同尺度组成的训练集。
DRCN为了减少参数量,使用递归学习。为了避免梯度消失/爆炸,引入的递归监督和全局残差。
ResNet不同残差单元的恒等分支输入不同。
DRRN 不同残差单元的恒等分支输入相同。
网络结构
残差单元
后激活。激活函数在卷积层之后
预激活。
何凯明认为预激活更容易训练并且性能更好。
递归模块
单个递归模块。其中U表示递归模块中残差单元的数量
堆叠6个递归模块和全局残差学习的DRRN。其中B表示递归模块的数量。
网络的深度计算
损失函数
实验
数据集
291张训练集
四个基准测试集上测试
Set5 [1], Set14 [36], BSD100 [18] and Urban100
数据增强:旋转,翻转
在原始图像上进行90 180 270 旋转。水平翻转。这时对于原始图像,有额外的7张图片
受VDSR的启发,不同尺度的数据集进行训练。
训练图像被分割成31*31 ,步长21
batch=128
SGD 动量 0.9 权值衰减为0、0001
卷积层 个数128,大小3
初始化使用HE,因为这适用于Relu激活函数
学习率设置为0.1 然后每10个epoch降低一半
因为使用的较大的学习率,所以作者使用的梯度裁剪
参数B,U对模型的影响
优秀方法的对比
其中VDSR,DRCN是引用原文的数据。
这里注意数据是可以引用某一篇论文,但是一定要注意标注是数据来源。
如果论文里没有某一项指标,需要自己复现,这也要指出来。
在做这些工作时,需要指出代码的来源。
超分辨率重建DRRN相关推荐
- 学习笔记之——基于深度学习的图像超分辨率重建
最近开展图像超分辨率( Image Super Resolution)方面的研究,做了一些列的调研,并结合本人的理解总结成本博文~(本博文仅用于本人的学习笔记,不做商业用途) 本博文涉及的paper已 ...
- 基于深度学习的图像超分辨率重建
最近开展图像超分辨率( Image Super Resolution)方面的研究,做了一些列的调研,并结合本人的理解总结成本博文~(本博文仅用于本人的学习笔记,不做商业用途) 本博文涉及的paper已 ...
- 深度学习在超分辨率重建上的应用SRCNN,FSRCNN,VDSR,DRCN,SRGAN
超分辨率技术(Super-Resolution)是指从观测到的低分辨率图像重建出相应的高分辨率图像, 目前应用较多的应用场景是图像及视频分辨率提高,比如可以提高以往影视作品或图像的分辨率,提高视觉感官 ...
- 经典论文复现 | 基于深度学习的图像超分辨率重建
过去几年发表于各大 AI 顶会论文提出的 400 多种算法中,公开算法代码的仅占 6%,其中三分之一的论文作者分享了测试数据,约 54% 的分享包含"伪代码".这是今年 AAAI ...
- 即插即用+任意blur的超分辨率重建——DPSR
计算机视觉中存在许多的不适定问题ill-posed problem.先来看什么是适定问题well-posed problem,适定问题必须同时满足三个条件: 1. a solution exists ...
- idft重建图像 matlab_你赞成在医疗图像处理领域使用超分辨率重建技术吗?
前几日读书看到一篇文章<基于超像素重建的多尺度B样条医学图像配准>,其中有这样一段话:"单张图像超分重建问题的解决可以被阐述成:输入低分影像,通过对一系列高低分影响对的学习,生成 ...
- 单图像超分辨率重建示例代码解析
昨天发了单图像超分辨率重建示例,今天来对里面主要的Python代码进行讲解,如果有补充或指正,欢迎大家在评论区留言.PS:这里的代码不要直接复制粘贴使用,由于注释的关系可能会报错,建议到示例给出的gi ...
- 基于注意力机制的超分辨率重建汇总
基于注意力机制超分辨率汇总 1.Channel Attention and Multi-level Features Fusion for Single Image Super-Resolution ...
- 图像的超分辨率重建SRGAN与ESRGAN
SRGAN 传统的图像超分辨率重建方法一般都是放大较小的倍数,当放大倍数在4倍以上时就会出现过度平滑的现象,使得图像出现一些非真实感.SRGAN借助于GAN的网络架构生成图像中的细节. 训练网络使用均 ...
最新文章
- ffmpeg linux安装_ffmpeg命令中文手册
- 批量插入数据库语句java_java相关:MyBatis批量插入数据到Oracle数据库中的两种方式(实例代码)...
- jsp对弹出jsp传值 和刷新网页后js仍然没有刷新的解决方法
- 关于内存管理/set/get方法
- lua调用.so测试
- 格式引用_论文中如何快速给出规范的文献引用格式?
- boost::contract模块实现circle的测试程序
- coroutine php_PHP 协程实现
- Asp.NET Demo
- 10.14-10.20学习总结
- MySQL日期 专题
- 内存管理 kmalloc
- STM32F407 + Codec AK4556 + NAND Flash MX30LF2G 录音机实现
- 安捷伦or是德信号源+频谱仪操作: 从程控到自动测试 (五)频谱仪截屏到U盘的程控实现
- 三调 图斑地类面积_国土三调APP-GIS,地理信息,综合管网,地下空间,给水排水,通信管网,燃气管网,智慧旅游,...
- oppo计算机锁屏快捷键,oppo一键锁屏方法【图文教程】
- CDH之Cloudera Manager使用
- call()的具体使用方法
- java.sql.SQLException: The user specified as a definer ('root'@'%') does not exist 解决方法
- 小程序picker标题_微信小程序实现自定义picker选择器弹窗内容
热门文章
- 【天光学术】演讲技巧:如何让你的演讲瞬间吸引人?
- 初学必懂—vue绑定class的几种方式+绑定内联样式总结
- c语言wchar转化为char_linux 下 wchar_t和char的相互转化
- java wchar_将UTF-8文本转换为wchar_t
- 彻底禁用DeliveryOptimization
- Linux使用远程X Server显示图形
- android性能之emmc速率分析
- OpenDDS-实现
- 全新QQ架构的“NT”版来袭
- esb 服务编排_在ESB中进行路由和编排之间的选择