Image super-resolution via deep recursive residual network

知识点

  • 递归学习
  • 全局残差
  • 局部残差

引言

Kim提出了VDSR 和 DRCN

VDSR基于使用大学习率、残差学习、梯度裁剪策略,有20层的卷积层

为了控制模型参数,提出了DRCN。16个递归层。使用了递归监督和跳跃连接。

深层网络需要很多参数,不适合轻量级的应用。

全局残差。VDSR和DRCN中,输入图像直接传输到输出,称为全局残差

局部残差。为了应对细节丢失导致的图像退化问题,作者提出了局部残差学习。局部残差可以携带丰富的图像细节,而且有助于梯度传输。局部残差是在堆叠的层之间进行的。全局残差只发生在输入和输出之间。

为了保持模型的紧凑型,使用的递归学习

与DRCN的区别:

  1. DRCN的卷积层共享参数,共有16层。DRRN递归块中含有残差单元,残差单元是共享参数的。
  2. DRCN监督每一次递归(这里监督的意思是每一次的递归输出都输出与真实图像对比)。DRRN设计了一个具有多路径结构的递归块。DRRN有52个卷积层。

相关工作

ResNet使用链式局部残差结构

VDSR使用全局残差结构,全局残差和自适应梯度残差加速模型的训练过程。采用的尺度增强策略,训练不同尺度组成的训练集。

DRCN为了减少参数量,使用递归学习。为了避免梯度消失/爆炸,引入的递归监督和全局残差。

ResNet不同残差单元的恒等分支输入不同。

DRRN  不同残差单元的恒等分支输入相同。

网络结构

残差单元

后激活。激活函数在卷积层之后

预激活。

何凯明认为预激活更容易训练并且性能更好。

递归模块

单个递归模块。其中U表示递归模块中残差单元的数量

 堆叠6个递归模块和全局残差学习的DRRN。其中B表示递归模块的数量。

网络的深度计算

损失函数

实验

数据集

291张训练集

四个基准测试集上测试

Set5 [1], Set14 [36], BSD100 [18] and Urban100

数据增强:旋转,翻转

在原始图像上进行90 180 270 旋转。水平翻转。这时对于原始图像,有额外的7张图片

受VDSR的启发,不同尺度的数据集进行训练。

训练图像被分割成31*31  ,步长21

batch=128

SGD  动量 0.9  权值衰减为0、0001

卷积层  个数128,大小3

初始化使用HE,因为这适用于Relu激活函数

学习率设置为0.1 然后每10个epoch降低一半

因为使用的较大的学习率,所以作者使用的梯度裁剪

参数B,U对模型的影响

优秀方法的对比

其中VDSR,DRCN是引用原文的数据。

这里注意数据是可以引用某一篇论文,但是一定要注意标注是数据来源。

如果论文里没有某一项指标,需要自己复现,这也要指出来。

在做这些工作时,需要指出代码的来源。

超分辨率重建DRRN相关推荐

  1. 学习笔记之——基于深度学习的图像超分辨率重建

    最近开展图像超分辨率( Image Super Resolution)方面的研究,做了一些列的调研,并结合本人的理解总结成本博文~(本博文仅用于本人的学习笔记,不做商业用途) 本博文涉及的paper已 ...

  2. 基于深度学习的图像超分辨率重建

    最近开展图像超分辨率( Image Super Resolution)方面的研究,做了一些列的调研,并结合本人的理解总结成本博文~(本博文仅用于本人的学习笔记,不做商业用途) 本博文涉及的paper已 ...

  3. 深度学习在超分辨率重建上的应用SRCNN,FSRCNN,VDSR,DRCN,SRGAN

    超分辨率技术(Super-Resolution)是指从观测到的低分辨率图像重建出相应的高分辨率图像, 目前应用较多的应用场景是图像及视频分辨率提高,比如可以提高以往影视作品或图像的分辨率,提高视觉感官 ...

  4. 经典论文复现 | 基于深度学习的图像超分辨率重建

    过去几年发表于各大 AI 顶会论文提出的 400 多种算法中,公开算法代码的仅占 6%,其中三分之一的论文作者分享了测试数据,约 54% 的分享包含"伪代码".这是今年 AAAI ...

  5. 即插即用+任意blur的超分辨率重建——DPSR

    计算机视觉中存在许多的不适定问题ill-posed problem.先来看什么是适定问题well-posed problem,适定问题必须同时满足三个条件: 1. a solution exists  ...

  6. idft重建图像 matlab_你赞成在医疗图像处理领域使用超分辨率重建技术吗?

    前几日读书看到一篇文章<基于超像素重建的多尺度B样条医学图像配准>,其中有这样一段话:"单张图像超分重建问题的解决可以被阐述成:输入低分影像,通过对一系列高低分影响对的学习,生成 ...

  7. 单图像超分辨率重建示例代码解析

    昨天发了单图像超分辨率重建示例,今天来对里面主要的Python代码进行讲解,如果有补充或指正,欢迎大家在评论区留言.PS:这里的代码不要直接复制粘贴使用,由于注释的关系可能会报错,建议到示例给出的gi ...

  8. 基于注意力机制的超分辨率重建汇总

    基于注意力机制超分辨率汇总 1.Channel Attention and Multi-level Features Fusion for Single Image Super-Resolution ...

  9. 图像的超分辨率重建SRGAN与ESRGAN

    SRGAN 传统的图像超分辨率重建方法一般都是放大较小的倍数,当放大倍数在4倍以上时就会出现过度平滑的现象,使得图像出现一些非真实感.SRGAN借助于GAN的网络架构生成图像中的细节. 训练网络使用均 ...

最新文章

  1. ffmpeg linux安装_ffmpeg命令中文手册
  2. 批量插入数据库语句java_java相关:MyBatis批量插入数据到Oracle数据库中的两种方式(实例代码)...
  3. jsp对弹出jsp传值 和刷新网页后js仍然没有刷新的解决方法
  4. 关于内存管理/set/get方法
  5. lua调用.so测试
  6. 格式引用_论文中如何快速给出规范的文献引用格式?
  7. boost::contract模块实现circle的测试程序
  8. coroutine php_PHP 协程实现
  9. Asp.NET Demo
  10. 10.14-10.20学习总结
  11. MySQL日期 专题
  12. 内存管理 kmalloc
  13. STM32F407 + Codec AK4556 + NAND Flash MX30LF2G 录音机实现
  14. 安捷伦or是德信号源+频谱仪操作: 从程控到自动测试 (五)频谱仪截屏到U盘的程控实现
  15. 三调 图斑地类面积_国土三调APP-GIS,地理信息,综合管网,地下空间,给水排水,通信管网,燃气管网,智慧旅游,...
  16. oppo计算机锁屏快捷键,oppo一键锁屏方法【图文教程】
  17. CDH之Cloudera Manager使用
  18. call()的具体使用方法
  19. java.sql.SQLException: The user specified as a definer ('root'@'%') does not exist 解决方法
  20. 小程序picker标题_微信小程序实现自定义picker选择器弹窗内容

热门文章

  1. 【天光学术】演讲技巧:如何让你的演讲瞬间吸引人?
  2. 初学必懂—vue绑定class的几种方式+绑定内联样式总结
  3. c语言wchar转化为char_linux 下 wchar_t和char的相互转化
  4. java wchar_将UTF-8文本转换为wchar_t
  5. 彻底禁用DeliveryOptimization
  6. Linux使用远程X Server显示图形
  7. android性能之emmc速率分析
  8. OpenDDS-实现
  9. 全新QQ架构的“NT”版来袭
  10. esb 服务编排_在ESB中进行路由和编排之间的选择