BCELoss忽视某个类别

使用BCELoss时，忽视某个类别，不计入loss（例如padding位置的loss不计入）

 loss_fct = BCEWithLogitsLoss(reduction="none")batch_size = prediction_scores.size()[0]seq_len = prediction_scores.size()[1]
tmp_loss = loss_fct(prediction_scores.view(batch_size * seq_len, 1),
labels.view(batch_size * seq_len, 1).float())
tmp_mask = (labels != -100)
# 忽视类别标签为-100
real_loss = tmp_loss.view(batch_size, seq_len) * tmp_mask
masked_lm_loss = torch.sum(real_loss) / torch.sum(tmp_mask)

BCELoss忽视某个类别相关推荐

gentoo Portage使用
Portage文件配置指令 Portage使用/usr/share/portage/config/make.globals里的默认配置,所有的Portage配置通过变量处理. 由于在不同的cpu架构 ...
loss函数之NLLLoss，CrossEntropyLoss
NLLLoss 负对数似然损失函数,用于处理多分类问题,输入是对数化的概率值. 对于包含NNN个样本的batch数据 D(x,y)D(x, y)D(x,y),xxx 是神经网络的输出,进行了归一化和对 ...
[读书笔记] 哈佛最受欢迎的营销课——如何打造脱颖而出的品牌
Youngme Moon. Different: Escaping the Competitive Herd 概论第一部分群氓的竞争一种批判第二部分不参与竞争庆祝一逆向战略品牌案例二超越 ...
罗兰贝格 | 2017全球智慧城市战略指数发布
功能介绍关注全球智慧城市前沿资讯.新锐观点.顶层设计.解决方案.商业模式与经典案例,发布独家数据.原创编译.深度解读与独家研究,覆盖中国智慧城市100强的决策者与中国智慧城市企业100强高管. 罗兰 ...
近20年3867篇AI论文大调研：有缺陷的指标被滥用，好的指标被忽视
来源:AI科技评论本文约5400字,建议阅读6分钟. 论文调查告诉你评估机器学习模型中的不足. "用于评估AI和机器学习模型的常用指标不足以反映这些模型的真实性能",来自维也纳医 ...
SAP零售商品类别层次：为什么（业务视角）？
SAP零售商品类别层次:为什么(业务视角)? 商品类别(Merchandise Categories)对产品进行分类,但在SAP Retail中,这只是其中的一小部分. 作为上下文,首先让我们区分SA ...
深刻剖析与实战BCELoss详解（主）和BCEWithLogitsLoss（次）以及与普通CrossEntropyLoss的区别（次）
文章目录前言 BCELoss原理 BCELoss实操二分类情况多分类情况 CrossEntropyLoss BCEWithLogitsLoss 前言 import torch import to ...
大话PM|产品设计中常被忽视的业务异常
本文为PMCAFF作者 iamxiarui 于社区发布由于疫情影响,在延长的假期中抽空回顾了近一年多来的产品工作.收获之于发现了一个比较明显且出现率很高的问题:产品部署上线后,经常会出现未曾预见但又 ...
手把手教学电瓶车进电梯检测、多类别车辆追踪、异常行为检测产业级应用
近日,媒体接连报道电动车起火爆炸造成严重人员伤亡的新闻,针对该问题,社区物业明令禁止电瓶车入户,但是依然有人忽视这个问题严重性.目前,AI应用已经可以有效地预防此类问题,在进入电梯的时候就可以采取报警 ...

BCELoss忽视某个类别

BCELoss忽视某个类别相关推荐

最新文章

热门文章