入门卷积神经网络(四）误差函数（损失函数）

误差函数（损失函数）

监督学习的神经网络需要一个函数来测度模型的输出值p和真实因变量值y之间的差异，一般这种差异被称为残差或者误差。

但一个模型完美时（虽然不存在），其误差为0.当模型存在问题时，误差不管是负值还是正值，都偏离0.误差离0越近，说明模型越好。

常用的误差函数

均方误差

这里 Y i 表示神经网络的输出，Yi’'表示监督数据，i表示数据的维度。

这种损失函数通常用在实数值连续变量的回归问题上，并且对于残差较大的情况给予更多的权重。

交叉熵损失：

log表示以e为底的自然对数，Yk是神经网络的输出，Tk是正确解得标签。而且Tk中只有正确解得标签的索引为1，其余均为0.（one-hot表示）

第一个公式是针对单个数据的损失函数，第二个公式要求所有损失函数的总和。
假设数据一共有N个，Tnk表示第n个数据的第k个元素的值（Ynk是神经网络的输出，Tnk是监督数据）。其实就是把单个损失函数扩大了N份，最后再除以N，求平均损失函数。

举例：

入门卷积神经网络(四）误差函数（损失函数）相关推荐

卷积神经网络四种卷积类型
卷积神经网络四种卷积类型 https://www.toutiao.com/a6631333810287936013/ 一般卷积首先,我们需要就定义卷积层的一些参数达成一致. 卷积核大小(Kernel ...
卷积神经网络四:人脸识别和风格变迁
1 什么是人脸识别现在的人脸识别包含两个部分,人脸识别和活体检测.后一项技术确认你是一个活人.事实上,活体检测可以使用监督学习来实现,去预测是不是一个真人,这个方面我就不多说了.我主要想讲的是,如何 ...
深度篇—— CNN 卷积神经网络(四) 使用 tf cnn 进行 mnist 手写数字代码演示项目
返回主目录返回 CNN 卷积神经网络目录上一章:深度篇-- CNN 卷积神经网络(三) 关于 ROI pooling 和 ROI Align 与插值本小节,细说使用 tf cnn 进行 mn ...
深度学习——02、深度学习入门——卷积神经网络
神经网络框架卷积层详解卷积神经网络组成 1.输入层(INPUT) 2.卷积层(CONV) 3.激活函数(RELU) 4.池化层(POOL) 5.全连接层(FC) 卷积计算流程将image划分为一 ...
PyTorch实战福利从入门到精通之四——卷积神经网络CIFAR-10图像分类
在本教程中,我们将使用CIFAR10数据集.它有类别:"飞机"."汽车"."鸟"."猫"."鹿".& ...
TensorFlow（7）卷积神经网络实战（1）（可视化）
目录基础理论卷积卷积核与过滤器的区别一.获取数据集二.设定数据集大小.归一化三.构建卷积神经网络四.编译&&训练五.模型评估六.可视化 1.创建plt图 2.获取各卷 ...
CNN卷积神经网络：花卉分类
文章目录简介一.CNN卷积神经网络基础知识二.数据集介绍三.代码实现读取数据数据处理搭建网络训练网络测试网络保存网络结果展示总结简介本篇文章利用pytorch搭建CNN卷积 ...
深度学习入门（二十四）卷积神经网络——填充和步幅
深度学习入门(二十四)卷积神经网络--填充和步幅前言卷积神经网络--填充和步幅课件填充步幅总结课本 1 填充 2 步幅 3 小结前言核心内容来自博客链接1博客连接2希望大家多多支持作 ...
PyTorch 入门实战（四）——利用Torch.nn构建卷积神经网络
承接上一篇:PyTorch 入门实战(三)--Dataset和DataLoader PyTorch入门实战 1.博客:PyTorch 入门实战(一)--Tensor 2.博客:PyTorch 入门实战 ...