图像语义分割实践（四）损失函数与实现

在确定检测任务和模型构建完成后，随之需要对训练的准则Criterion进行实现，可称之为损失函数或代价函数，简明而言，训练过程中真实值和计算值的误差。

视频讲解，转移至西瓜视频主页：@智能之心

手把手视频讲解+代码讲解

1.如何实现输入（完全免费解析直达，致力干货分享）

2.如何实现模型（完全免费解析直达，致力干货分享）

3.如何实现输出（完全免费解析直达，致力干货分享）

分割常见的损失函数如下

cross entropy loss：交叉熵，通用于不同类样本量在一个量级的任务；
focal loss：交叉熵的改进版本，增加两个权重，聚焦不平衡样本任务；
dice loss：样本极不平衡可用，反向梯度值太大，训练不稳定；
iou loss：较多见于目标检测任务的回归任务；

cross entropy loss

H(p,q)=−∑xp(x)log⁡q(x)H(p,q) = - \sum\limits_{x} p(x) \log q(x)H(p,q)=−x∑p(x)logq(x)

小拓展： md写公式需要单元：∑i=1n\sum \limits _{i = 1}^ni=1∑n , log⁡\loglog
公式符号参考链接1
公式符号参考链接2

直接调用函数

seg_loss = torch.nn.CrossEntropyLoss()

根据公式复现

class SimpleCrossEntropyLoss(nn.Module):# H(p,p)=p*log(q)def __init__(self):super().__init__()self.logsoftmax_func = nn.LogSoftmax(dim=1)  # torch.log(torch.nn.Softmax(dims=1)(inputs))self.nllloss_func = nn.NLLLoss()passdef forward(self, inputs, target):x = self.logsoftmax_func(inputs)loss = self.nllloss_func(x, target)return losspass
seg_loss = SimpleCrossEntropyLoss()

nn.NLLLoss()实现举例

NLLLoss=−1N∑i=1Nyi(log⁡softmax)NLLLoss= -\frac{1}{N} \sum \limits _{i = 1}^N y_i (\log softmax)NLLLoss=−N1i=1∑Nyi(logsoftmax)
令 pred∗=log⁡softmaxpred^*=\log softmaxpred∗=logsoftmax，一维二维计算示例如下。

图像语义分割实践（四）损失函数与实现相关推荐

将特定像素点在图像上连接起来_(NeurIPS 2019) Gated CRF Loss-一种用于弱监督图像语义分割的新型损失函数...
本文已经被NeurIPS 2019(2019 Conference and Workshop on Neural Information Processing Systems)接收,论文为弱监督图像语 ...
NeurIPS 2019 | 用于弱监督图像语义分割的新型损失函数
作者丨赵磊学校丨北京林业大学硕士生研究方向丨语义分割本文已经被 NeurIPS 2019 (2019 Conference and Workshop on Neural Information ...
图像语义分割实践（一）标签制作与转换
语义分割实践过程中,网上常用公开数据集和模型都是打包固化的,只要配置环境一致就可以进行所谓"复现",但是这种拿来主义很被动,很多人陷入邯郸学步,贪多嚼不烂的窘迫感,最后浪费大把时间 ...
图像语义分割实践（三）模型搭建与实现
众所周知,神经网络搭建常用基础模块有卷积,池化,归一,激活,全连接等等.如果使用Pytorch进行网络的搭建时,除了需要掌握这些基础模块外,还需要熟悉模型容器. Pytorch.nn 的容器conta ...
图像语义分割实践（二）数据增强与读取
Pytorch数据加载顺序手把手视频讲解+代码讲解 1.如何实现输入(完全免费解析直达,致力干货分享) 2.如何实现模型(完全免费解析直达,致力干货分享) 3.如何实现输出(完全免费解析直达,致 ...
图像语义分割实践（五）优化器与学习率
概述在数据制作环节中,提到minibatch思想用于数据批次量获取,是一种优化器思想,而该文则是对各种优化器进行介绍. 优化器:最小化损失函数算法,把深度学习当炼丹的话,优化器就是炉子,决定火候大小 ...
图像语义分割python_图像语义分割ICNET_飞桨-源于产业实践的开源深度学习平台...
图像语义分割-ICNET 类别智能视觉(PaddleCV) 应用自动驾驶室内导航医学图像诊断穿戴设备虚拟现实与增强现实无人机模型概述 ICNet 主要用于图像实时语义分割,能够兼顾速度 ...
PaddleServing图像语义分割部署实践
目录一.任务概述二.官方示例部署 2.1 安装PaddleServing 2.2 导出静态图模型 2.3 转换为serving模型 2.4 启动服务 2.5 客户端请求三.基于PipeLine的 ...
AI 端侧落地+图像语义分割，百度 AI 快车道揭秘工业质检不再靠“人眼”的秘诀...
AI时代下的人才缺口,已经让各企业感受强烈.人工智能的行业落地,需要多层次的人才结构.来自顶尖企业中的芯片.算法人才:拥揽世界大赛.论文的顶尖实验室是一种:更多的AI解决方案研发,工业级的落地应用等人 ...