import torchvision.models as models#resnet
model = models.resnet50(pretrained=True)#vgg
model = models.vgg16(pretrained=True)

# -*- coding:utf-8 -*-
import torchvision.models as models#调用模型
model = models.resnet50(pretrained=True,num_classes = 10)
print(model)

# -*- coding:utf-8 -*-
import torchvision.models as models#调用模型
model = models.resnet50(pretrained=True)
#提取fc层中固定的参数（这一层的输入节点数目
fc_features = model.fc.in_features
#修改类别为9，（直接对类的属性进行修改）
model.fc = nn.Linear(fc_features, 10)

# -*- coding:utf-8 -*-
#####################
#建立自己的网络模型net
########################然后读出预训练模型参数以resnet152为例，我不是利用程序下载的，我是习惯了下载好存储在文件夹中
pretrained_dict = torch.load(save_path)
model_dict = net.state_dict()   (读出搭建的网络的参数，以便后边更新之后初始化）####去除不属于model_dict的键值
pretrained_dict={ k : v for k, v in pretrained_dict.items() if k in model_dict}###更新现有的model_dict的值
model_dict.update(pretrained_dict)##加载模型需要的参数
net.load_state_dict(model_dict)

#torch.nn.init.uniform_(tensor, a=0, b=1)
#从均匀分布U(a, b)中生成值，填充输入的张量或变量
#参数：
#tensor - n维的torch.Tensor
#a - 均匀分布的下界
#b - 均匀分布的上界
#例子
w = torch.Tensor(3, 5)
nn.init.uniform_(w)#torch.nn.init.normal_(tensor, mean=0, std=1)
#从给定均值和标准差的正态分布N(mean, std)中生成值，填充输入的张量或变量
#参数：
#tensor – n维的torch.Tensor
#mean – 正态分布的均值
#std – 正态分布的标准差
#例子
w = torch.Tensor(3, 5)
nn.init.normal_(w)#torch.nn.init.constant(tensor, val)
#用val的值填充输入的张量或变量#torch.nn.init.eye_(tensor)
#用单位矩阵来填充2维输入张量或变量。在线性层尽可能多的保存输入特性#####################################这个用的比较多
#torch.nn.init.xavier_uniform_(tensor, gain=1)
#根据Glorot, X.和Bengio, Y.在“Understanding the difficulty of training deep feedforward neural networks”中描述的方法，用一个均匀分布生成值，填充输入的张量或变量。结果张量中的值采样自U(-a, a)，其中a= gain * sqrt( 2/(fan_in + fan_out))* sqrt(3). 该方法也被称为Glorot initialisation
#参数：
#tensor – n维的torch.Tensor
#gain - 可选的缩放因子
#例子：w = torch.Tensor(3, 5)nn.init.xavier_uniform_(w, gain=math.sqrt(2.0))#torch.nn.init.xavier_normal_(tensor, gain=1)
#根据Glorot, X.和Bengio, Y. 于2010年在“Understanding the difficulty of training deep feedforward neural networks”中描述的方法，用一个正态分布生成值，填充输入的张量或变量。结果张量中的值采样自均值为0，标准差为gain * sqrt(2/(fan_in + fan_out))的正态分布。也被称为Glorot initialisation#torch.nn.init.kaiming_uniform_(tensor, a=0, mode='fan_in')
#根据He, K等人于2015年在“Delving deep into rectifiers: Surpassing human-level performance on ImageNet classification”中描述的方法，用一个均匀分布生成值，填充输入的张量或变量。结果张量中的值采样自U(-bound, bound)，其中bound = sqrt(2/((1 + a^2) * fan_in)) * sqrt(3)。也被称为He initialisation.
#tensor – n维的torch.Tensor或autograd.Variable
#a -这层之后使用的rectifier的斜率系数（ReLU的默认值为0）
#mode -可以为“fan_in”（默认）或“fan_out”。“fan_in”保留前向传播时权值方差的量级，“fan_out”保留反向传播时的量级。.
################################这个用的较多
#torch.nn.init.kaiming_normal_(tensor, a=0, mode='fan_in')
#根据He, K等人在“Delving deep into rectifiers: Surpassing human-level performance on ImageNet classification”中描述的方法，用一个正态分布生成值，填充输入的张量或变量。结果张量中的值采样自均值为0，标准差为sqrt(2/((1 + a^2) * fan_in))的正态分布。#tensor – n维的torch.Tensor或 autograd.Variable
#a -这层之后使用的rectifier的斜率系数（ReLU的默认值为0）
#mode -可以为“fan_in”（默认）或“fan_out”。“fan_in”保留前向传播时权值方差的量级，“fan_out”保留反向传播时的量级。