如何理解卷积神经网络CNN的卷积核是四维向量

这篇博客介绍卷积神经网络中的卷积操作，重点是关于卷积核的维度的理解，介绍卷积核从二维过渡到四维的理解方式。

首先定义下文会用到的符号
输入图片，三维向量，三个维度为M × N × P
输出图片，三维向量，三个维度为M’ × N’ × Q
卷积核，四维向量，四个维度为m × n × P × Q

关于卷积核为什么是四维向量，可以按照以下三个步骤理解：

理解步骤1. 卷积核为二维向量

在CNN的示意图中，最常见的画法就是输入图片、卷积核、输出图片都是二维向量。

这里假设有一张输入图片，尺寸为10*10，卷积核的尺寸为3*3，卷积核的滑动步长取1，那么，经过卷积操作，可以得到一张输出图片，尺寸为8*8，示意图如下。（眼熟吗？这就是最常见的示意图画法了）

在示意图中，暂且忽略尺寸的具体数值，假设有一张输入图片，为二维向量M × N，卷积核为二维向量m × n，经过二维卷积运算，得到一张输出图片，为二维向量M’ × N’。另外，为了便于说明，省去示意图上的网格，并且把输入图片、卷积核、输出图片都侧着画，就有了下面的示意图。

理解步骤2. 卷积核扩展为三维向量

在上一步骤中，假设输入图片只有一张图片，而在实际情况中，图片存在“通道”的概念，输入图片包含通道，例如，一张彩色图片包含RGB三个通道，每个通道可以当作一张图片，那么，输入图片其实不只一张，而是多张，假设有P张（每张不同），P张堆叠在一起，输入图片就从二维向量M × N变成了三维向量M × N × P。而对于卷积核，每张输入图片都需要一个单独的二维卷积核进行二维卷积运算，二维卷积核也就需要P个（每个不同），卷积核就从二维向量m × n变成了三维向量m × n × P。

输入图片里的每个M × N的二维向量和卷积核里的每个m × n的二维向量做二维卷积运算，可以得到P个M’ × N’ 的二维向量，P个M’ × N’ 的二维向量求和，加上偏置，构成一个M’ × N’ 的二维向量，也就是一张输出图片。这时，输出图片是二维向量M’ × N’。

理解步骤3. 卷积核扩展为四维向量

既然输入图片包含通道，输出图片也能包含通道。在上一步骤中，所做的操作是得到一张输出图片，那么，把上一步骤的操作执行Q次，就可以得到Q个M’ × N’ 的二维向量，也就是Q张输出图片，Q张堆叠在一起，输出图片就从二维向量M’ × N’变成了三维向量M’ × N’ × Q。因为上一步骤的操作执行Q次，而每次都需要一个单独的三维卷积核，三维卷积核也就需要Q个（每个不同），卷积核就从三维向量m × n × P变成了四维向量m × n × P × Q。

这样就可以理解卷积核为什么是四维向量了。总之，不要纠结向量的维度，而是理解卷积操作的过程，卷积操作本质上还是二维卷积运算，卷积核本质上还是二维向量，由于卷积操作的嵌套，扩展出了卷积核的第三维度和第四维度，卷积核也就从二维向量变成了四维向量。

如何理解卷积神经网络CNN的卷积核是四维向量相关推荐

【深度学习】深入理解卷积神经网络(CNN)
CNN Author:louwill From:深度学习笔记本文将为大家介绍一种用途更为广泛.性能更加优越的神经网络结构--卷积神经网络(Convolutional Neural Network, ...
Top100论文导读：深入理解卷积神经网络CNN（Part Ⅱ）
首发地址:https://yq.aliyun.com/articles/74892 更多深度文章,请关注:https://yq.aliyun.com/cloud 作者信息 Adrian Colyer: ...
基于卷积神经网络 CNN 的猫狗识别详细过程
目录一.卷积神经网络(CNN) 1.1 卷积 1.2 前馈神经网络 1.3 卷积神经网络(CNN) 二.配置环境三.猫狗数据分类建模 3.1 猫狗图像预处理 3.2 猫狗分类的实例--基准模型 3 ...
xml文件卷积神经网络_理解卷积神经网络中的输入与输出形状(Keras实现)
即使我们从理论上理解了卷积神经网络,在实际进行将数据拟合到网络时,很多人仍然对其网络的输入和输出形状(shape)感到困惑.本文章将帮助你理解卷积神经网络的输入和输出形状. 让我们看看一个例子.CNN ...
CNN笔记：通俗理解卷积神经网络--理解不同输入通道和卷积核通道关系（红色部分）
1 前言 2012年我在北京组织过8期machine learning读书会,那时"机器学习"非常火,很多人都对其抱有巨大的热情.当我2013年再次来到北京时,有一个词似乎比&qu ...
CNN笔记：通俗理解卷积神经网络
通俗理解卷积神经网络(cs231n与5月dl班课程笔记) http://blog.csdn.net/v_july_v/article/details/51812459 1 前言 2012年我在北京组织 ...
CNN笔记：通俗理解卷积神经网络【转】
本文转载自:https://blog.csdn.net/v_july_v/article/details/51812459 通俗理解卷积神经网络(cs231n与5月dl班课程笔记) 1 前言 2012 ...
一文看懂卷积神经网络-CNN（基本原理+独特价值+实际应用）
http://blog.itpub.net/29829936/viewspace-2648775/ 2019-06-25 21:31:18 卷积神经网络 – CNN 最擅长的就是图片的处理.它受到人类 ...
卷积神经网络(cnn)的体系结构
译者注内容有部分增加与补充,阅读原文请点击这里原作者的文章其实更利于读者对卷积本身的理解,但是实际上作者对卷积的现实意义的理解并没有解释的十分清楚,甚至可能不利于堵着的理解,也正因为如此我在翻译过 ...
python卷积神经网络cnn的训练算法_【深度学习系列】卷积神经网络CNN原理详解(一)——基本原理...
上篇文章我们给出了用paddlepaddle来做手写数字识别的示例,并对网络结构进行到了调整,提高了识别的精度.有的同学表示不是很理解原理,为什么传统的机器学习算法,简单的神经网络(如多层感知机)都可 ...

如何理解卷积神经网络CNN的卷积核是四维向量

如何理解卷积神经网络CNN的卷积核是四维向量相关推荐

最新文章

热门文章