前言：上一次我们学习了torch.autograd.backward()方法，这是一个计算反向过程的核心方法，没看过的小伙伴可以去看看
传送门：https://blog.csdn.net/Li7819559/article/details/104725473

今天我们来学习torch.autogard.gard()函数：

函数的作用

作用：计算并返回outputs对inputs的梯度

参数列表

一共六个，分别是：outputs，inputs，gard_outputs,retain_graph,create_graph,allow_unused，我们接下来一一研究

1.outputs

这个是待被求导的tensor，作为第一个参数

2.inputs

这个是要被计算导数的叶子节点

3.grad_outputs

这个就是我们上次所讲解过的Jacobian-vector product中的向量，如果想查看详细信息请前往开头的那个传送门0.0

4.retain_graph

这是一个布尔型参数，如果为真的话，forward过程所创建的计算图将不会被销毁，如果为False，调用完该函数，forward过程的计算图将会被销毁，再次调用该函数需要重新建立计算图，默认值根create_graph的值相同

5.create_graph

这是一个布尔型参数，如果为真的话，这个梯度将会加入到计算图中，用来计算高阶导数或者其他计算，默认值为False

6.allow_unused

这也是一个布尔型参数，如果为True，则只返回inputs的梯度，而不返回其他叶子节点的，默认为Flase

torch.autograd学习系列之torch.autograd.grad()函数学习相关推荐

Rasa 3.x 学习系列- Rasa - Issues 4873 dispatcher.utter_message 学习笔记
Rasa 3.x 学习系列- Rasa - Issues 4873 dispatcher.utter_message 学习笔记目录 Issues 4873 Issues 4873 修复 Rasa源代 ...
Vue.js学习系列七——Vue服务器渲染Nuxt学习
我又回来啦~这次我们来学习Vue的服务器渲染SSR. 关于SSR的文章网上很多,一开始看得我云里雾里.然后去Vue.js 服务器渲染指南和nuxt官网看了看,发现文章大多都是搬运官网的内容,真正讲的清 ...
强化学习系列（1）：强化学习（Reinforcement Learning）
强化学习前世今生也可以直接查看本博主强化学习专栏的简介: https://blog.csdn.net/gsww404/article/details/79763003 [直接点击查看完整版] 如今机 ...
（pytorch-深度学习系列）pytorch中backwards()函数对梯度的操作
backwards()函数对梯度的操作对于一个新的tensor来说,梯度是空的:但当对这个tensor进行运算操作后,他就会拥有一个梯度: x = torch.ones(2, 2, requires ...
PyTorch学习系列教程：构建一个深度学习模型需要哪几步？
导读继续PyTorch学习系列.前篇介绍了PyTorch中最为基础也最为核心的数据结构--Tensor,有了这些基本概念即可开始深度学习实践了.本篇围绕这一话题,本着提纲挈领删繁就简的原则,从宏观上 ...
（pytorch-深度学习系列）读取和存储数据-学习笔记
读取和存储数据我们可以使用pt文件存储Tensor数据: import torch from torch import nnx = torch.ones(3) torch.save(x, 'x.pt ...
强化学习系列（一）：强化学习简介
一.强化学习是什么? 首先,我们思考一下学习本身,当一个婴儿在玩耍时可能会挥舞双手,左看右看,没有人来指导他的行为,但是他和外界直接通过了感官进行连接.感知给他传递了外界的各种信息,包括知识等.学习的 ...
【深度学习系列】基础知识、模型学习
基础知识原创 [深度学习]--训练过程原创 [深度学习]--BN层(batch normalization) 原创 [深度学习]--激活函数(sigmoid.tanh.relu.softmax) ...
元学习系列（零）：小样本学习与元学习综述
最近几周一直在看meta learning的模型,从最初的小样本学习模型开始看到最近的MAML各种改进版本,算是有了一点初步的了解,这次就主要介绍一下,什么是小样本学习,什么是元学习,以及在这个领域有 ...
深度强化学习系列（一）：强化学习概述
交流请加群:580043385 我的知乎专栏同步发布:https://zhuanlan.zhihu.com/p/22542101 转载请标明出处:http://blog.csdn.net/ikerpe ...

torch.autograd学习系列之torch.autograd.grad()函数学习