基本信息

作者/机构 Jie Hu  University of Oxford

期刊/会议/年份 2018

DOI/论文地址 CVPR 2018 Open Access Repository

代码地址 https://github.com/hujie-frank/SENet

相关资料 【深度学习经典网络架构—8】：注意力机制之SE_Block_seblock_米开朗琪罗~的博客-CSDN博客

Squeeze-and-Excitation Block - 知乎

SENet(Squeeze-and-Excitation Networks)论文详解 - 简书

摘要

卷积神经网络基于卷积操作，通过在局部感受野内融合空间和通道信息来提取信息特征。为了增强网络的表征能力，最近的一些方法已经显示增强空间编码的好处。在本研究中，我们专注于通道关系，并提出一种新的架构单元，称为“Squeeze-and-Excitation”（SE）块，通过显式建模通道之间的相互依赖关系，自适应地重新校准通道特征响应。我们证明，通过堆叠这些块，我们可以构建能够在具有挑战性的数据集上广泛推广的SENet架构。关键的是，我们发现SE块在最小的额外计算成本下显著提高了现有最先进的深层架构的性能。SENets是我们在ILSVRC 2017分类比赛中获得第一名并将top 5错误率显着降低至2.251%的基础，相对于2016年的获奖条目，实现了约25%的相对改进。

主要内容

卷积的表示

如上图Frt的输入为X∈ℝH`× W`× C` ，输出为U∈ℝH× W× C，Frt是一个卷积操作，用V = [V1,v2,v3,,,,Vc]表示，Vc表示第C个卷积，输出用U = [U1,U2….Uc]表示，则有

由于输出是通过所有通道的求和产生的，因此通道相关性隐式地嵌入在Vc 卷积后的输出中。我们期望通过显式地建模通道的相互依赖性来增强卷积特征的学习，从而使网络能够提高其对信息特征的敏感性，这些信息特征可以被后续转换利用。因此，我们希望为其提供获取全局信息的途径，并在输入下一个转换之前，分两步（Sequeeze and Excitation）重新校准滤波器响应。

Sequeeze ：Global Information Embedding

每个卷积核只能利用其对应的局部感受野内的信息来生成输出特征图。换句话说，卷积核只能“看到”局部区域的信息，而不能利用更远的区域的信息。当这些卷积操作被堆叠成深层网络时，较浅的层的局部感受野会更小，导致它们在利用更广泛的上下文信息时受到限制。因此，作者指出在深层网络中使用单独的卷积核来捕捉通道之间的相关性是有限的。

为了解决这个问题，作者建议将全局空间信息压缩到信道描述符中。

Zc是队特征U在H*W空间上执行全局平均池化后的结果

Squeeze操作就是在得到U （多个特征图）之后采用全局平均池化操作对每一个特征图进行压缩，使其C个特征图最后变成1 × 1 × C的实数数列。

Excitation: Adaptive Recalibration 自适应校准

为了利用Squeeze操作中聚合的信息，我们需要继续执行第二个操作Excitation，目的是完全捕获通道依赖关系。为了实现这一目标，该功能必须满足两个标准：第一，它必须操作灵活（尤其是它必须能够学习通道之间的非线性关系），第二，它必须学习非互斥关系，因为我们希望多个通道都能被加强（而不是类似one-hot那种仅加强了某一个通道特征）。为了满足这些标准，作者选择使用带有sigmoid 激活的简单门控机制。

σ 表示sigmoid激活函数，δ 表示relu激活函数   其中

为了限制模型的复杂性并使其通用化，作者使用两个FC层来对选通机制进行参数化，即具有降维率r的降维层，一个ReLU，然后是一个维度升高层，再转到输出特征图的通道维度。通过使用激活重新缩放特征图来获得Block的最终输出。

得到s后，可以通过下式得到SE_Block的最终输出：

应用

在inception上的使用

在ResNet上的使用

实验

不足点/发展方向