卷积核参数的计算及1*1卷积核

卷积过程

首先，明确一个概念：卷积并不只是一个二维的过程，实际上对于输入的图片一般而言是三个通道的（R、G、B），那为什么输出的结果可以是128个通道呢？实际上经过卷积过后的通道数是由卷积核的个数来决定的，整个的卷积过程二维情况下也就是在每个通道下发生的卷积过程为：

在多通道情况下的卷积情况如下：

其实滤波器的维度应该是和输入图片相同的，输出的维度则是由滤波器的个数决定，卷积过程为：

如果把输入当做一个立方体的话，那么 filter 也是一个立方体，它们卷积的结果也是一个立方体，并且上面中 input、filter、Result 的通道都是一致的。
但卷积过程的最后一步要包括生成 feature，很简单，将 Result 各个通道对应坐标的值相加就生成了 feature，相当于将多维的 Result 压缩成了 2 维的 feature。

然后由于有多个卷积核，因此会生成很多个同样尺度的feature map，这多个feature map叠加在一起即生成了最后的输出。

卷积核参数的计算

同样需要明确一个概念：比如某层的卷积核参数为3*3*64，表示卷积核的尺寸为3*3的，卷积核的个数是64个，这也就意味着经过该层卷积后的图像通道是64，那么参数的数量是不是就是3*3*64呢？答案是：不是的。实际上，卷积核的参数还取决于上一层的输出的通道数。
比如上一层的输出是28*28*192的，也就意味着每个3*3的卷积核需要在192个通道都进行一遍卷积，最后在对每个位置进行相加，形成一张feature map。
但是，同一个卷积核在192个通道的参数并不是相同的，也就意味着实际上测卷积核参数个数应该是3*3*192*64。

1*1卷积核的作用

1.实现跨通道的交互和信息整合
2.进行卷积核通道数的降维和升维

具体参见：https://blog.csdn.net/qq_36673141/article/details/78226904

另参考自：https://blog.csdn.net/briblue/article/details/83063170

卷积核参数的计算及1*1卷积核相关推荐

pytorch_lesson16.2 架构对学习/鲁棒性的影响(VGG16复现+感受野+平移不变性)+架构对参数量的影响(1*1卷积核+分组卷积与深度分离卷积+NiN网络复现）
提示:仅仅是学习记录笔记,搬运了学习课程的ppt内容,本意不是抄袭!望大家不要误解!纯属学习记录笔记!!!!!! 文章目录前言一.架构对学习能力/鲁棒性的影响 1 深度 1.1 困难与实践 1.2 ...
Lesson 16.1016.1116.1216.13 卷积层的参数量计算，1x1卷积核分组卷积与深度可分离卷积全连接层 nn.Sequential全局平均池化，NiN网络复现
二架构对参数量/计算量的影响在自建架构的时候,除了模型效果之外,我们还需要关注模型整体的计算效率.深度学习模型天生就需要大量数据进行训练,因此每次训练中的参数量和计算量就格外关键,因此在设计卷积网 ...
深度学习笔记（五）：深度学习卷积核的计算理解，小卷积核和大卷积核的转换比较
文章目录一.卷积核(convolutional kernel): 1.1 介绍 1.2 设计中的问题二.池化(pooling): 没有完全整理的blog 整理完的blog 一.卷积核(convol ...
使用pytorch查看中间层特征矩阵以及卷积核参数
推荐一个可视化工具:TensorBoard 注: 本次所使用的为AlexNet与ResNet34俩个网络,关于这俩个网络的详细信息可以在我另外俩篇blog查看 ResNet--CNN经典网络模型详解( ...
为什么两层3*3卷积核效果比1层5*5卷积核效果要好？
目录 1.感受野 2.2层3 * 3卷积与1层5 * 5卷积 3.2层3 * 3卷积与1层5 * 5卷积的计算量比较 4.2层3 * 3卷积与1层5 * 5卷积的非线性比较 5.2层3 * 3卷积与1 ...
常规-分组-深度分离-分组深度分离卷积-参数量-计算量-dilation-python实现
不同的卷积操作本文所用样本一般的卷积(常规的) 分组卷积深度分离卷积逐通道卷积(depthwise conv) 逐点卷积 (pointwise conv) 分组深度分离卷积上面卷积总结卷积 ...
多通道卷积的参数数量计算
还是这张老图: 输入3通道5×5的特征图,利用3×3卷积,输出为2通道. 首先记一点,输出特征图的通道数是多少,那么该卷积层就有多少个卷积核.各个卷积核互相独立,分别负责输出特征图的某一通道. 例如, ...
JESD204B SUBCLASS1确定性延时参数的计算
目录 1. 时序参数 1.1 ADC 1.2 FPGA 2. 延时计算 2.1 计算延时所需的LMFC周期数 2.2 根据N值计算实际延时 2.3 延时参数优化前几天又重新复习了以下通过JESD20 ...
matlab求第二类曲面积分,第二型曲面积分的参数形式计算
给出"第二型曲面积分"的一种计算方法,即在曲面的参数形式下直接将曲面积分转化成参数区域上的一个二重积分,由此可使"第二型曲面积分"的计算问题得到简化.此法是对菲 ...

卷积核参数的计算及1*1卷积核

卷积过程

卷积核参数的计算

1*1卷积核的作用

卷积核参数的计算及1*1卷积核相关推荐

最新文章

热门文章