Relu>Prelu

网络模型代码

class TumorNet(nn.Module):def __init__(self):super(TumorNet, self).__init__()self. nff = [1, 8]#NumFeature# forward1self.forward1 = nn.Sequential(nn.Conv3d(self.nff[0], self.nff[1], kernel_size=3, padding=1),nn.InstanceNorm3d(self.nff[1]),nn.ReLU(inplace=True),# nn.PReLU(),nn.Conv3d(self.nff[1], self.nff[1], kernel_size=3, padding=1),nn.InstanceNorm3d(self.nff[1]),nn.ReLU(inplace=True)# nn.PReLU())def forward(self, input):#encoderlayer1 = self.forward1(input)return layer1

Step1: 打印网络修改前后的参数名和shape

此步骤帮助你对模型改动一目了然，然后确定参数修改方案。

net = TumorNet().cuda()
for name, param in net.named_parameters():print(name,param.shape)

其中红色为“增加”的网络参数。
注：模型的参数表是orderDict类型（有序字典），旧模型中的relu虽然没有参数，但是也会占用编号。

Step2: 确定并实施修改方案

import torch
dict = torch.load("./results/model_0-9-8222.pth")
default = torch.Tensor([0.25])# this step is of great importance, not 0.25 or[0.25]
dict['forward1.2.weight'] = default
dict["forward1.5.weight"] = default
torch.save(dict, "./results/Prelu_model_0-9-8222.pth")

Pool>Stride Convolution

网络模型代码

from torch import nn
class TumorNet(nn.Module):def __init__(self):super(TumorNet, self).__init__()self. nff = [1, 8, 16]#NumFeature# forward1self.forward1 = nn.Sequential(nn.Conv3d(self.nff[0], self.nff[1], kernel_size=3, padding=1),nn.InstanceNorm3d(self.nff[1]),# nn.ReLU(inplace=True),nn.PReLU(),nn.Conv3d(self.nff[1], self.nff[1], kernel_size=3, padding=1),nn.InstanceNorm3d(self.nff[1]),# nn.ReLU(inplace=True)nn.PReLU())self.maxpool = nn.MaxPool3d(kernel_size=2, stride=2)# self.downsamp1 = nn.Conv3d(self.nff[1], self.nff[2], kernel_size=3, stride=2, padding=1)def forward(self, input):#encoderlayer1 = self.forward1(input)down1 = self.maxpool(layer1)# down1 = self.downsamp1(layer1)return down1

Step1: 打印网络修改前后的参数名和shape

此步骤帮助你对模型改动一目了然，然后确定参数修改方案。

net = TumorNet().cuda()
for name, param in net.named_parameters():print(name,param.shape)

其中红色为“增加”的网络参数。

Step2: 确定并实施修改方案

import torch
dict = torch.load("./results/model_0-9-8222.pth")
# layer absent
for name, param in net.named_parameters():if name.startswith('downsamp'):print(name,param.shape)if name.endswith('weight'):weight = torch.empty(param.shape)dict[name] = nn.init.kaiming_uniform_(weight, 0.25)if name.endswith('bias'):bias = torch.empty(param.shape)dict[name] = nn.init.constant_(bias, 0)
torch.save(dict, "./results/Prelu_model_0-9-8222.pth")

神经网络的权重初始化：
针对ReLU的初始化方法：torch.nn.init.kaiming_uniform_(), torch.nn.init.kaiming_normal_()
Pytroch网络模型：修改参数值，修改参数名，添加参数层，删除参数层

Pytroch网络参数的快速增删改查（实例讲解）相关推荐

Andriod --- JetPack (七)：Room + ViewModel + LiveData 增删改查实例
1.Andriod - JetPack (一):初识 JetPack 2.Andriod - JetPack (二):LifeCycle 的诞生 3.Andriod - JetPack (三):Vie ...
c# 操作oracle数据库,C#连接oracle数据库增删改查实例
[实例简介] C#连接oracle数据库,增删改查实例,OracleParameter防Sql注入等,适用于新手学习 [实例截图] [核心代码] 5868e8be-414a-4138-8390-2fb ...
servlet mysql insert_servlet+mybatis 实现mysql的增删改查实例
古人云:温故而知新.趁周末,重新来学习了一遍servlet + mybatis 实现mysql的增删改查,算是对自己学习的一个总结和记录. 开门见山,首先我们来看一下项目目录结构: 不难发现这是一个m ...
python pymysql实例_Python使用pymysql模块操作mysql增删改查实例分析
Python使用pymysql模块操作mysql增删改查实例分析发布时间:2020-09-30 16:42:12 来源:脚本之家阅读:92 本文实例讲述了Python使用pymysql模块操作My ...
IntelliJ Idea SpringBoot 数据库增删改查实例
. ____ _ __ _ _/\\ / ___'_ __ _ _(_)_ __ __ _ \\\\( ( )\___ | '_ | '_| | '_ \/ _` | \\\\ \\/ ___)| | ...
vue结合php增删改查实例,从vue基础开始创建一个简单的增删改查的实例
1.安装vue-clicnpm install vue-cli -g --执行全局安装 2.创建一个webpack的基础项目:命令:vue init webpack myproject; 以下是项目 ...
java增删改查实例源码_Spring Data JPA 实现简单的CRUD增删改查源码案例
Spring专题 Spring Data JPA 实现简单的CRUD增删改查源码案例 Spring Data JPA旨在简化JPA基础知识库构建和减少需要与数据库进行通信的代码量.第一部分是如何配置H ...
javaweb增删改查实例_JavaWeb图像可视化管理系统之后台搭建（二）用户管理与增删改查（内含代码）...
上一篇文章中,我们介绍了环境配置与后台设计,对于不了解的同学,可以看这个链接 CharlesDDDD:JavaWeb图像可视化管理系统之后台搭建(一)环境配置与后台设计zhuanlan.zhihu. ...
servlet+jsp数据库增删改查实例
个人觉得这种模式是MVC模式 1. 先写一个类,类里面有几个属性. 2. 写一个接口.里面有增删改查的方法. (写在service里) 3. ...

Pytroch网络参数的快速增删改查（实例讲解）

Relu>Prelu

Step1: 打印网络修改前后的参数名和shape

Step2: 确定并实施修改方案

Pool>Stride Convolution

Step1: 打印网络修改前后的参数名和shape

Step2: 确定并实施修改方案

Pytroch网络参数的快速增删改查（实例讲解）相关推荐

最新文章

热门文章