神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。

神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。

神经网络模型

所谓神经网络就是将许多个单一“神经元”联结在一起,这样,一个“神经元”的输出就可以是另一个“神经元”的输入。例如,下图就是一个简单的神经网络:

我们使用圆圈来表示神经网络的输入,标上“”的圆圈被称为偏置节点,也就是截距项。神经网络最左边的一层叫做输入层,最右的一层叫做输出层(本例中,输出层只有一个节点)。中间所有节点组成的一层叫做隐藏层,因为我们不能在训练样本集中观测到它们的值。同时可以看到,以上神经网络的例子中有3个输入单元(偏置单元不计在内),3个隐藏单元及一个输出单元

我们用 来表示网络的层数,本例中 ,我们将第 层记为 ,于是 是输入层,输出层是 。本例神经网络有参数,其中 (下面的式子中用到)是第 层第 单元与第 层第 单元之间的联接参数(其实就是连接线上的权重,注意标号顺序), 是第 层第 单元的偏置项。因此在本例中, 。注意,没有其他单元连向偏置单元(即偏置单元没有输入),因为它们总是输出。同时,我们用 表示第 层的节点数(偏置单元不计在内)。

我们用 表示第 层第 单元的激活值(输出值)。当 时, ,也就是第 个输入值(输入值的第 个特征)。对于给定参数集合 ,我们的神经网络就可以按照函数 来计算输出结果。本例神经网络的计算步骤如下:

我们用 表示第 层第单元输入加权和(包括偏置单元),比如, ,则

这样我们就可以得到一种更简洁的表示法。这里我们将激活函数 扩展为用向量(分量的形式)来表示,即 ,那么,上面的等式可以更简洁地表示为:

我们将上面的计算步骤叫作前向传播。回想一下,之前我们用 表示输入层的激活值,那么给定第 层的激活值 后,第 层的激活值 就可以按照下面步骤计算得到:

将参数矩阵化,使用矩阵-向量运算方式,我们就可以利用线性代数的优势对神经网络进行快速求解。

以上内容参考了AG的文献,加上个人的理解!希望可以帮助到大家~

神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。相关推荐

  1. 神经网络模型图标解释,神经网络模型图标含义

    神经网络BP模型 一.BP模型概述误差逆传播(ErrorBack-Propagation)神经网络模型简称为BP(Back-Propagation)网络模型. PallWerbas博士于1974年在他 ...

  2. 阅读文献的三大问题:坐不住,记不住,想不开

    From: http://blog.sciencenet.cn/home.php?mod=space&uid=2068&do=blog&id=500206 阅读文献的三大问题: ...

  3. #论文投稿必备#如何解决阅读文献的三大问题:坐不住,记不住,想不开

    文献阅读是科研的重要基础,但是并非每一个科研人员都喜欢和擅长看文献--例如我自己.我发现,阅读文献存在的问题可以归纳为三个:坐不住,记不住,想不开. 第一大问题:坐不住 坐不住,指的是不喜欢看文献.为 ...

  4. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(六)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(六) 目录 DRN DNC NTM CN KN AN 相关文章 DL:深度学习 ...

  5. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(四)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(四) 目录 CNN DN DCIGN 相关文章 DL:深度学习算法(神经网络模 ...

  6. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(二)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(二) 目录 AE VAE DAE SAE 相关文章 DL:深度学习算法(神经网 ...

  7. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(一)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(一) 目录 THE NEURAL NETWORK ZOO perceptron ...

  8. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(三)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(三) 目录 MC HN BM RBM DBN 相关文章 DL:深度学习算法(神 ...

  9. 关于神经网络的正确说法,可解释的神经网络模型

    有人可以介绍一下什么是"神经网络"吗? 由于神经网络是多学科交叉的产物,各个相关的学科领域对神经网络都有各自的看法,因此,关于神经网络的定义,在科学界存在许多不同的见解. 目前使用 ...

最新文章

  1. 怎么提高大表和小表的连接查询效率?
  2. 令人头疼的字符编码的问题
  3. dnsmasq详解手册
  4. java 断点续传 开源_java断点续传原理
  5. 单例设计模式 优缺点 及 使用场景
  6. 罗永浩直播带货卖了1.1亿,更高级的自我认知【附直播卖货商业计划书PPT】
  7. android 属性动画源码分析
  8. edk2中的fdf文件简介
  9. Maven 项目自动构建 Docker 镜像推送到 Docker 服务器
  10. linux6.5 xmanager配置,CentOS6.5安装Xmanager远程桌面
  11. 如何快速更改电脑ip地址【图文教程】?
  12. js将数组转化成json
  13. C语言里栈和堆的区别整理
  14. Android引入Ijkplayer
  15. 外贸SOHO如何收款-跨境知道
  16. 3.文件系统组成和基本操作
  17. Matlab使用regress函数进行回归分析
  18. 身份证照片比对,身份鉴别,人脸实名
  19. 漏洞预警| vm2 任意代码执行漏洞
  20. ERR_UNSAFE_PORT 非安全端口

热门文章

  1. JavaScript实现3D旋转相册
  2. 终极Android.mk模板,遍历头文件和源文件目录
  3. tftp与tftpd-hpa
  4. 几种常见的 ZK-EVM 类型
  5. boost.log教程:loggers
  6. 竞选]美国总统竞选 奥巴马 演讲
  7. android 点击跳转应用市场评分页面
  8. 用计算机怎样设置音乐视频教学,怎样在电脑上给视频加好听的背景音乐?这样操作很方便...
  9. 腾讯云2核8G7M轻量应用服务器性能评测
  10. DS18B20温度传感器FPGA实现