mxnet（gluon）—— 模型、数据集、损失函数、优化子等类、接口大全

1. 数据集

dataset_train = gluon.data.ArrayDataset(X_train, y_train)
data_iter = gluon.data.DataLoader(dataset_train, batch_size, shuffle=True)for data, label in data_iter:...

2. 模型

gluon.nn：神经网络

gluon.nn.Sequential()，可添加：
- gluon.nn.Flatten() ⇒ Flattens the input to two dimensional，将输入平坦为 2 维矩阵，是一种操作，而非添加进新的层
```
net = gluon.nn.Sequencial()
with net.name_scope():net.add(gluon.nn.Flatten())
```
- gluon.nn.Dense：全连接
- gluon.nn.Dropout(drop_prob1)


# 序列化神经网络模型net = gluon.nn.Sequential()with net.name_scope():net.add(gluon.nn.Dense(1))# Dense(1)：表示输出值的维度，# 一层的神经网络相当于线性回归# 参数初始化net.collect_params().initialize(mxnet.init.Normal(sigma=1))

3. 训练器（Trainer）

仅保存参数及超参，以及根据 batch size 进行参数更新：

trainer = gluon.Trainer(net.collect_params(), optimizer='sgd',optimizer_params={'learning_rate': learning_rate, 'weight_decay': weight_decay})
....
for data, label in data_iter:...trainer.step(batch_size)

4. 自动求导：autograd

autograd.is_training() ⇒ 训练过程还是测试预测过程：

对于 dropout 型网络，训练过程因为 dropout 随机性的存在，模型是变化的，测试过程中节点全部参与，没有dropout；

mxnet（gluon）—— 模型、数据集、损失函数、优化子等类、接口大全相关推荐

PyTorch主要组成模块 | 数据读入 | 数据预处理 | 模型构建 | 模型初始化 | 损失函数 | 优化器 | 训练与评估
文章目录一.深度学习任务框架二.数据读入三.数据预处理模块-transforms 1.数据预处理transforms模块机制 2.二十二种transforms数据预处理方法 1.裁剪 2. 翻转 ...
MXNET gluon自定义损失函数
在学习李沐老师的目标检测篇章目标检测中由于负类较多,正类较少,我们可以适当的减少对负类的惩罚因此根据视频教程我们来重新写一个损失函数通常mxnet的损失函数需要继承Loss类 from mxne ...
mxnet.gluon 加载预训练
import mxnet as mx from mxnet.gluon import nn from mxnet import gluon,nd,autograd,init from mxnet.gl ...
深度学习1：神经网络基础前馈神经网络Feedforward Neural Network（基于Python MXNet.Gluon框架）
目录神经网络背景常用的深度学习框架机器学习的三个基本要素模型学习准则损失函数 0-1损失函数 0-1 Loss Function 平方损失函数 Quadratic Loss Functio ...
MXNet/Gluon 中 Triplet Loss 算法
Triplet Loss,即三元组损失,用于训练差异性较小的数据集,数据集中标签较多,标签的样本较少.输入数据包括锚(Anchor)示例⚓️.正(Positive)示例和负(Negative)示例,通 ...
深度学习模型压缩与优化加速（Model Compression and Acceleration Overview）
1. 简介深度学习(Deep Learning)因其计算复杂度或参数冗余,在一些场景和设备上限制了相应的模型部署,需要借助模型压缩.系统优化加速.异构计算等方法突破瓶颈,即分别在算法模型.计算图或算 ...
CUDA上的量化深度学习模型的自动化优化
CUDA上的量化深度学习模型的自动化优化深度学习已成功应用于各种任务.在诸如自动驾驶汽车推理之类的实时场景中,模型的推理速度至关重要.网络量化是加速深度学习模型的有效方法.在量化模型中,数据和模型参 ...
mxnet可视化模型中间层feature map输出
注: model输入 112x112 保存的图片可能是白色的(这个还没有修复),但是在pycharm中运行时可以通过scientific tool窗口看到 #构造辅助函数做预处理, 注意mxnet中为 ...
MXNet.gluon——图像I/O
MXNet gluon如何从文件夹读入图像分类任务中需要将图像从文件夹中读入,并以迭代器的形式进行训练.gluon 的api 提供了一个方便的函数gluon.data.vision.ImageFol ...

mxnet（gluon）—— 模型、数据集、损失函数、优化子等类、接口大全

1. 数据集

2. 模型

3. 训练器（Trainer）

4. 自动求导：autograd

mxnet（gluon）—— 模型、数据集、损失函数、优化子等类、接口大全相关推荐

最新文章

热门文章