时间:2021-05-22
在很多神经网络中,往往会出现多个层共享一个权重的情况,pytorch可以快速地处理权重共享问题。
例子1:
class ConvNet(nn.Module): def __init__(self): super(ConvNet, self).__init__() self.conv_weight = nn.Parameter(torch.randn(3, 3, 5, 5)) def forward(self, x): x = nn.functional.conv2d(x, self.conv_weight, bias=None, stride=1, padding=2, dilation=1, groups=1) x = nn.functional.conv2d(x, self.conv_weight.transpose(2, 3).contiguous(), bias=None, stride=1, padding=0, dilation=1, groups=1) return x上边这段程序定义了两个卷积层,这两个卷积层共享一个权重conv_weight,第一个卷积层的权重是conv_weight本身,第二个卷积层是conv_weight的转置。注意在gpu上运行时,transpose()后边必须加上.contiguous()使转置操作连续化,否则会报错。
例子2:
class LinearNet(nn.Module): def __init__(self): super(LinearNet, self).__init__() self.linear_weight = nn.Parameter(torch.randn(3, 3)) def forward(self, x): x = nn.functional.linear(x, self.linear_weight) x = nn.functional.linear(x, self.linear_weight.t()) return x这个网络实现了一个双层感知器,权重同样是一个parameter的本身及其转置。
例子3:
class LinearNet2(nn.Module): def __init__(self): super(LinearNet2, self).__init__() self.w = nn.Parameter(torch.FloatTensor([[1.1,0,0], [0,1,0], [0,0,1]])) def forward(self, x): x = x.mm(self.w) x = x.mm(self.w.t()) return x这个方法直接用mm函数将x与w相乘,与上边的网络效果相同。
以上这篇pytorch 共享参数的示例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
pytorch动态网络+权值共享pytorch以动态图著称,下面以一个栗子来实现动态网络和权值共享技术:#-*-coding:utf-8-*-importran
Pytorch中,变量参数,用numel得到参数数目,累加defget_parameter_number(net):total_num=sum(p.numel(
pytorch中我们有时候可能需要设定某些变量是参与训练的,这时候就需要查看哪些是可训练参数,以确定这些设置是成功的。pytorch中model.paramet
基本介绍环境:Python3.5+,Pytorch0.4.1/1.0.0安装:pipinstallpytorch-pretrained-bert必需参数:--d
在PyTorch中可以方便的验证SoftMax交叉熵损失和对输入梯度的计算关于softmax_cross_entropy求导的过程,可以参考HERE示例:#-*