神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。
神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。
神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。
神经网络模型
所谓神经网络就是将许多个单一“神经元”联结在一起,这样,一个“神经元”的输出就可以是另一个“神经元”的输入。例如,下图就是一个简单的神经网络:
![](http://deeplearning.stanford.edu/wiki/images/thumb/9/99/Network331.png/400px-Network331.png)
我们使用圆圈来表示神经网络的输入,标上“”的圆圈被称为偏置节点,也就是截距项。神经网络最左边的一层叫做输入层,最右的一层叫做输出层(本例中,输出层只有一个节点)。中间所有节点组成的一层叫做隐藏层,因为我们不能在训练样本集中观测到它们的值。同时可以看到,以上神经网络的例子中有3个输入单元(偏置单元不计在内),3个隐藏单元及一个输出单元。
我们用 来表示网络的层数,本例中
,我们将第
层记为
,于是
是输入层,输出层是
。本例神经网络有参数
,其中
(下面的式子中用到)是第
层第
单元与第
层第
单元之间的联接参数(其实就是连接线上的权重,注意标号顺序),
是第
层第
单元的偏置项。因此在本例中,
,
。注意,没有其他单元连向偏置单元(即偏置单元没有输入),因为它们总是输出
。同时,我们用
表示第
层的节点数(偏置单元不计在内)。
我们用 表示第
层第
单元的激活值(输出值)。当
时,
,也就是第
个输入值(输入值的第
个特征)。对于给定参数集合
,我们的神经网络就可以按照函数
来计算输出结果。本例神经网络的计算步骤如下:
我们用 表示第
层第
单元输入加权和(包括偏置单元),比如,
,则
。
这样我们就可以得到一种更简洁的表示法。这里我们将激活函数 扩展为用向量(分量的形式)来表示,即
,那么,上面的等式可以更简洁地表示为:
我们将上面的计算步骤叫作前向传播。回想一下,之前我们用 表示输入层的激活值,那么给定第
层的激活值
后,第
层的激活值
就可以按照下面步骤计算得到:
将参数矩阵化,使用矩阵-向量运算方式,我们就可以利用线性代数的优势对神经网络进行快速求解。
以上内容参考了AG的文献,加上个人的理解!希望可以帮助到大家~
神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。相关推荐
- 神经网络模型图标解释,神经网络模型图标含义
神经网络BP模型 一.BP模型概述误差逆传播(ErrorBack-Propagation)神经网络模型简称为BP(Back-Propagation)网络模型. PallWerbas博士于1974年在他 ...
- 阅读文献的三大问题:坐不住,记不住,想不开
From: http://blog.sciencenet.cn/home.php?mod=space&uid=2068&do=blog&id=500206 阅读文献的三大问题: ...
- #论文投稿必备#如何解决阅读文献的三大问题:坐不住,记不住,想不开
文献阅读是科研的重要基础,但是并非每一个科研人员都喜欢和擅长看文献--例如我自己.我发现,阅读文献存在的问题可以归纳为三个:坐不住,记不住,想不开. 第一大问题:坐不住 坐不住,指的是不喜欢看文献.为 ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(六)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(六) 目录 DRN DNC NTM CN KN AN 相关文章 DL:深度学习 ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(四)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(四) 目录 CNN DN DCIGN 相关文章 DL:深度学习算法(神经网络模 ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(二)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(二) 目录 AE VAE DAE SAE 相关文章 DL:深度学习算法(神经网 ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(一)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(一) 目录 THE NEURAL NETWORK ZOO perceptron ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(三)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(三) 目录 MC HN BM RBM DBN 相关文章 DL:深度学习算法(神 ...
- 关于神经网络的正确说法,可解释的神经网络模型
有人可以介绍一下什么是"神经网络"吗? 由于神经网络是多学科交叉的产物,各个相关的学科领域对神经网络都有各自的看法,因此,关于神经网络的定义,在科学界存在许多不同的见解. 目前使用 ...
最新文章
- 怎么提高大表和小表的连接查询效率?
- 令人头疼的字符编码的问题
- dnsmasq详解手册
- java 断点续传 开源_java断点续传原理
- 单例设计模式 优缺点 及 使用场景
- 罗永浩直播带货卖了1.1亿,更高级的自我认知【附直播卖货商业计划书PPT】
- android 属性动画源码分析
- edk2中的fdf文件简介
- Maven 项目自动构建 Docker 镜像推送到 Docker 服务器
- linux6.5 xmanager配置,CentOS6.5安装Xmanager远程桌面
- 如何快速更改电脑ip地址【图文教程】?
- js将数组转化成json
- C语言里栈和堆的区别整理
- Android引入Ijkplayer
- 外贸SOHO如何收款-跨境知道
- 3.文件系统组成和基本操作
- Matlab使用regress函数进行回归分析
- 身份证照片比对,身份鉴别,人脸实名
- 漏洞预警| vm2 任意代码执行漏洞
- ERR_UNSAFE_PORT 非安全端口