人工神经网络之BP神经网络模型

一、什么是BP

BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用梯度下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层（input）、隐层(hide layer)和输出层(output layer)。

我们现在来分析下这些话：

“是一种按误差逆传播算法训练的多层前馈网络”

BP是后向传播的英文缩写，那么传播对象是什么？传播的目的是什么？传播的方式是后向，可这又是什么意思呢。

传播的对象是误差，传播的目的是得到所有层的估计误差，后向是说由后层误差推导前层误差：

即BP的思想可以总结为

利用输出后的误差来估计输出层的直接前导层的误差，再用这个误差估计更前一层的误差，如此一层一层的反传下去，就获得了所有其他各层的误差估计。

“BP神经网络模型拓扑结构包括输入层（input）、隐层(hide layer)和输出层(output layer)”

我们来看一个最简单的三层BP：

网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。”

BP利用一种称为激活函数来描述层与层输出之间的关系，从而模拟各层神经元之间的交互反应。

激活函数必须满足处处可导的条件。那么比较常用的是一种称为S型函数的激活函数：

那么上面的函数为什么称为是S型函数呢：

我们来看它的形态和它导数的形态：

p.s. S型函数的导数：

神经网络的学习目的：

希望能够学习到一个模型，能够对输入输出一个我们期望的输出。

学习的方式：

在外界输入样本的刺激下不断改变网络的连接权值

学习的本质：

对各连接权值的动态调整

学习的核心：

权值调整规则，即在学习过程中网络中各神经元的连接权变化所依据的一定的调整规则。

二、有监督的BP模型训练过程

1. 思想

有监督的BP模型训练表示我们有一个训练集，它包括了： input X 和它被期望拥有的输出 output Y

所以对于当前的一个BP模型，我们能够获得它针对于训练集的误差

所以BP的核心思想就是：将输出误差以某种形式通过隐层向输入层逐层反传，这里的某种形式其实就是：

也就是一种 "信号的正向传播 ----> 误差的反向传播"的过程：

2.具体

人工神经网络之BP神经网络模型相关推荐

神经网络 - BP神经网络与RBF神经网络模型解决实际问题 - （Matlab建模）
目录神经网络模型简述实例:交通运输能力预测设计 MATLAB程序及仿真结果由于货物运输.地方经济及企业发展的紧密联系,因此作为反映货物运输需求的一项重要指标, 货运量预测研究和分析具有较强的实际 ...
bp神经网络预测模型例题,bp神经网络模型是什么
1.BP神经网络中隐藏层节点个数怎么确定最佳? 1.神经网络算法隐含层的选取 1.1 构造法首先运用三种确定隐含层层数的方法得到三个隐含层层数,找到最小值和最大值,然后从最小值开始逐个验证模型预测误 ...
bp神经网络模型拓扑结构,bp神经网络的建模步骤
如何建立bp神经网络预测模型 . 建立BP神经网络预测模型,可按下列步骤进行:1.提供原始数据2.训练数据预测数据提取及归一化3.BP网络训练4.BP网络预测5.结果分析现用一个实际的例子,来预测2 ...
bp神经网络预测模型优点,什么是BP神经网络模型?
灰色理论预测和BP神经网络预测哪个难谷歌人工智能写作项目:神经网络伪原创初学者对BP神经网络的疑惑伤寒.副伤寒流行预测模型(BP神经网络)的建立由于目前研究的各种数学模型或多或少存在使用条件的 ...
bp神经网络的应用案例,bp神经网络模型的建立
BP人工神经网络人工神经网络(artificialneuralnetwork,ANN)指由大量与自然神经系统相类似的神经元联结而成的网络,是用工程技术手段模拟生物网络结构特征和功能特征的一类人工系统 ...
BP神经网络模型用什么软件,bp神经网络数学模型
1.如何建立bp神经网络预测模型建立BP神经网络预测模型,可按下列步骤进行: 1.提供原始数据 2.训练数据预测数据提取及归一化 3.BP网络训练 4.BP网络预测 5.结果分析现用一个实际的 ...
bp神经网络的拓扑结构,bp神经网络模型结构图
试画出BP神经网络结构输入层3节点,隐层5节点,输出层2节点 BP(BackPropagation)神经网络是1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播 ...
bp神经网络预测模型_基于BP神经网络模型的河南省严重精神障碍患者服药依从性影响因素分析...
发表文章文章发表背景1 严重精神障碍主要包括精神分裂症.分裂情感性障碍.偏执性精神病等6种疾病,目前此类患者的主要治疗方法是社区抗精神病药维持治疗,虽然各类抗精神病药不断问世,但是患者服药依从性情况 ...
全连接神经网络的BP算法（BP神经网络模型）与卷积神经网络的BP算法
1.神经网络模型 1.1神经网络模型的演变: 神经元模型------->感知机模型------->神经网络模型神经元模型:1943年,W.S.McCulloch和W.Pitts根据生物学 ...

人工神经网络之BP神经网络模型

一、什么是BP

人工神经网络之BP神经网络模型相关推荐

最新文章

热门文章