时间:2021-05-23
1.简介
torch.autograd.Variable是Autograd的核心类,它封装了Tensor,并整合了反向传播的相关实现
Variable和tensor的区别和联系
Variable是篮子,而tensor是鸡蛋,鸡蛋应该放在篮子里才能方便拿走(定义variable时一个参数就是tensor)
Variable这个篮子里除了装了tensor外还有requires_grad参数,表示是否需要对其求导,默认为False
Variable这个篮子呢,自身有一些属性
比如grad,梯度variable.grad是d(y)/d(variable)保存的是变量y对variable变量的梯度值,如果requires_grad参数为False,所以variable.grad返回值为None,如果为True,返回值就为对variable的梯度值
比如grad_fn,对于用户自己创建的变量(Variable())grad_fn是为none的,也就是不能调用backward函数,但对于由计算生成的变量,如果存在一个生成中间变量的requires_grad为true,那其的grad_fn不为none,反则为none
比如data,这个就很简单,这个属性就是装的鸡蛋(tensor)
Varibale包含三个属性:
data:存储了Tensor,是本体的数据 grad:保存了data的梯度,本事是个Variable而非Tensor,与data形状一致 grad_fn:指向Function对象,用于反向传播的梯度计算之用
代码1
import numpy as npimport torchfrom torch.autograd import Variable x = Variable(torch.ones(2,2),requires_grad = False)temp = Variable(torch.zeros(2,2),requires_grad = True) y = x + temp + 2y = y.mean() #求平均数 y.backward() #反向传递函数,用于求y对前面的变量(x)的梯度print(x.grad) # d(y)/d(x)输出1
none
(因为requires_grad=False)
代码2
import numpy as npimport torchfrom torch.autograd import Variable x = Variable(torch.ones(2,2),requires_grad = False)temp = Variable(torch.zeros(2,2),requires_grad = True) y = x + temp + 2y = y.mean() #求平均数 y.backward() #反向传递函数,用于求y对前面的变量(x)的梯度print(temp.grad) # d(y)/d(temp)输出2
tensor([[0.2500, 0.2500],
[0.2500, 0.2500]])
代码3
import numpy as npimport torchfrom torch.autograd import Variable x = Variable(torch.ones(2,2),requires_grad = False)temp = Variable(torch.zeros(2,2),requires_grad = True) y = x + 2y = y.mean() #求平均数 y.backward() #反向传递函数,用于求y对前面的变量(x)的梯度print(x.grad) # d(y)/d(x)输出3
Traceback (most recent call last):
File "path", line 12, in <module>
y.backward()
(报错了,因为生成变量y的中间变量只有x,而x的requires_grad是False,所以y的grad_fn是none)
代码4
import numpy as npimport torchfrom torch.autograd import Variable x = Variable(torch.ones(2,2),requires_grad = False)temp = Variable(torch.zeros(2,2),requires_grad = True) y = x + 2y = y.mean() #求平均数 #y.backward() #反向传递函数,用于求y对前面的变量(x)的梯度print(y.grad_fn) # d(y)/d(x)输出4
none
2.grad属性
在每次backward后,grad值是会累加的,所以利用BP算法,每次迭代是需要将grad清零的。
x.grad.data.zero_()
(in-place操作需要加上_,即zero_)
以上这篇Pytorch之Variable的用法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
pytorch中基本的变量类型当属FloatTensor(以下都用floattensor),而Variable(以下都用variable)是floattenso
自动求导机制是每一个深度学习框架中重要的性质,免去了手动计算导数,下面用代码介绍并举例说明Pytorch的自动求导机制。首先介绍Variable,Variabl
本文实例为大家分享了pytorch使用Variable实现线性回归的具体代码,供大家参考,具体内容如下一、手动计算梯度实现线性回归#导入相关包importtor
在使用pytorch作为深度学习的框架时,经常会遇到变量variable、张量tensor与矩阵numpy的类型的相互转化的问题,本章结合这实际图像对此转化方法
本文实例分析了PHP函数import_request_variables()用法。分享给大家供大家参考,具体如下:import_request_variable