loss.item()在深度学习作用

在pytorch训练时，一般用到.item()。比如loss.item()。

1.loss 使用item()后，不会生成计算图，减少内存消耗

2. item（）返回一个原本数据类型的值，有显示精度的区别

我们做个简单测试代码看看有item（）和没有item（）的区别。

import torch
x = torch.randn(2, 2)
print(x)
print(x[1,1])
print(x[1,1].item())

结果为：

tensor([[ 0.4702,  0.5145],[-0.0682, -1.4450]])
tensor(-1.4450)
-1.445029854774475
1
2
3
4

可以看出是显示精度的区别，item()返回的是一个浮点型数据，所以我们在求loss或者accuracy时，一般使用item()，而不是直接取它对应的元素x[1,1]。

loss.item()在深度学习作用相关推荐

12个深度学习面试问题
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达本文转自|AI公园导读这12个问题是当前面试中最热门的问题,既 ...
深度学习和自然语言处理的应用
前言自然语言处理(NLP)是人工智能领域的一个重要分支,目的是让计算机能够理解和处理人类语言.随着深度学习技术的快速发展,NLP领域取得了突破性进展.本文将探讨深度学习在自然语言处理中的应用,并详细 ...
【深度学习】caffe中那些layers
0. 引子自从半年前开始进入418实验室研究深度学习,可以说caffe这一深度学习开源框架,一直伴随着我.经过了大半年的学习,虽然还有许多东西尚待完善,但起码对于caffe已经有了一个比较感性的认识 ...
深度学习保姆级别之NLP入门文本分类之情感分析
缘起作为一个菜鸟小硕,无师自通入门NLP已经一年多了,想着自己的第一个项目就是情感分析,以及第一篇CCF B类中文期刊也是情感分析,决定开一个关于文本分类的专栏,提供保姆级别的模型训练过程.很多同学 ...
不容错过的12个深度学习面试问题
作者:JP Tech 来源:AI公园,编译:ronghuaiyang 导读这12个问题是当前面试中最热门的问题,既是非常基础的问题,也能看出面试者的水平,具有区分度.无论是面试官还是求职者都可以看 ...
常见的12个深度学习面试问题
深度学习面试 Author:JP Tech Translator:ronghuaiyang From:AI公园导读这12个问题是当前面试中最热门的问题,既是非常基础的问题,也能看出面试者的水平,具 ...
[十七]深度学习Pytorch-优化器Optimizer
0. 往期内容 [一]深度学习Pytorch-张量定义与张量创建 [二]深度学习Pytorch-张量的操作:拼接.切分.索引和变换 [三]深度学习Pytorch-张量数学运算 [四]深度学习Pytor ...
caffe linux跑自己数据,caffe+linux平台——跑深度学习的流程
大家好,放假在即,来整理一波在Linux上用caffe跑深度学习的流程,免得开学回来忘记. 以下地址均为我自己电脑上的地址,大家要照着跑请自行修改地址哦! 1.将训练和测试的图像放入examples- ...
深度学习在控制领域的研究现状与展望
深度学习在控制领域的研究现状与展望摘要深度学习在控制领域的研究现状与展望摘要深度学习在特征提取与模型拟合方面显示了其潜力和优势.对于存在高维数据的控制系统,引入深度学习具有一定的意义.近年来, ...

loss.item()在深度学习作用

loss.item()在深度学习作用相关推荐

最新文章

热门文章