BCE loss与交叉熵损失区别

参考：https://blog.csdn.net/f156207495/article/details/88874911
以前我浏览博客的时候记得别人说过，BCELoss与CrossEntropyLoss都是用于分类问题。可以知道，BCELoss是Binary CrossEntropyLoss的缩写，BCELoss　CrossEntropyLoss的一个特例，只用于二分类问题，而CrossEntropyLoss可以用于二分类，也可以用于多分类。

不过我重新查阅了一下资料，发现同样是处理二分类问题，BCELoss与CrossEntropyLoss是不同的。下面我详细讲一下哪里不同。

１．　使用nn.BCELoss需要在该层前面加上Sigmoid函数。
公式如下：

２．　使用nn.CrossEntropyLoss会自动加上Sofrmax层。
公式如下：

用法总结：
sigmoid+BCE loss
softmax+CrossEntropyLoss

BCE loss与交叉熵损失区别相关推荐

sklearn基于make_scorer函数为Logistic模型构建自定义损失函数+代码实战（二元交叉熵损失 binary cross-entropy loss）
sklearn基于make_scorer函数为Logistic模型构建自定义损失函数+代码实战(二元交叉熵损失 binary cross-entropy loss) # 广义线性模型中的各种连接函数: ...
交叉熵损失（Cross Entropy Loss）计算过程
交叉熵损失(Cross Entropy Loss)计算过程_藏知阁-CSDN博客_交叉熵计算公式
机器学习中的损失函数（交叉熵损失、Hinge loss）
损失函数文章目录损失函数 1 交叉熵损失 1.1 从最大似然估计到交叉熵损失概率论中的MLE 机器学习中的MLE 交叉熵损失 1.2 多分类的交叉熵损失函数 1.3 比较 2. Hinge lo ...
机器学习--- 交叉熵损失(CrossEntropy Loss)--(附代码)
文章目录一. Softmax 介绍 1.1 Softmax 的形式 1.2 一些问题 1.2.1 为什么训练阶段需要 Softmax 层?推理阶段通常不使用 Softmax 层? 二.交叉熵损失(C ...
图像分类_03分类器及损失：线性分类+ SVM损失+Softmax 分类+交叉熵损失
2.3.1 线性分类 2.3.1.1 线性分类解释上图图中的权重计算结果结果并不好,权重会给我们的猫图像分配⼀个⾮常低的猫分数.得出的结果偏向于狗. 如果可视化分类,我们为了⽅便,将⼀个图⽚理解成⼀ ...
Softmax函数下的交叉熵损失含义与求导
交叉熵损失函数(CrossEntropy Function)是分类任务中十分常用的损失函数,但若仅仅看它的形式,我们不容易直接靠直觉来感受它的正确性,因此我查阅资料写下本文,以求彻底搞懂. 1.Sof ...
深度学习相关概念：交叉熵损失
深度学习相关概念:交叉熵损失交叉熵损失详解 1.激活函数与损失函数 1.1激活函数: 1.2损失函数: 2.对数损失函数(常用于二分类问题): 3.交叉熵.熵.相对熵三者之间的关系 4.交叉熵损失函 ...
python 和 torch 交叉熵损失
pytorch多维度交叉熵损失用法: criterion = nn.CrossEntropyLoss() loss = criterion(logit, target.long()) 其中,logit ...
【AI-1000问】softmax loss和交叉熵有什么关系？
文章首发于微信公众号<有三AI> [AI-1000问]softmax loss和交叉熵有什么关系? 往期视频(前往公众号观看) softmax loss和交叉熵有什么关系? 想必大家也都听 ...

BCE loss与交叉熵损失区别

BCE loss与交叉熵损失区别相关推荐

最新文章

热门文章