1.前言

这次我们用循环神经网络(RNN, Recurrent Neural Networks)进行分类（classification），采用MNIST数据集，主要用到SimpleRNN层。

2.用Keras搭建RNN循环神经网络

2.1.导入必要模块

import numpy as np
from keras.datasets import mnist    #手写体数据集模块
from keras.utils import np_utils
from keras.models import Sequential   #构建网络必需模块
from keras.layers import SimpleRNN, Activation, Dense    #RNN、激活函数、全连接层模块
from keras.optimizers import Adam   #优化器模块
np.random.seed(42)   #随机数种子

2.2.超参数设置

MNIST里面的图像分辨率是28×28，为了使用RNN，我们将图像理解为序列化数据。每一行作为一个输入单元，所以输入数据大小INPUT_SIZE = 28；先是第1行输入，再是第2行，第3行，第4行，…，第28行输入，这就是一张图片也就是一个序列，所以步长TIME_STEPS = 28。

TIME_STEPS = 28     #可理解为每张图片的行数
INPUT_SIZE = 28     #可理解为每张图片的列数
BATCH_SIZE = 50     #批量大小
BATCH_INDEX = 0
OUTPUT_SIZE = 10    #输出维度大小
CELL_SIZE = 50      #经过RNN后的输出大小
LR = 0.001

2.3.数据预处理

训练数据要进行归一化处理，因为原始数据是8bit灰度图像所以需要除以255。

(X_train, y_train),(X_test, y_test) = mnist.load_data()     #拆分训练集与测试集X_train = X_train.reshape(-1,28,28)/255    #满足输入RNN为(-1,28,28)
X_test = X_test.reshape(-1,28,28)/255
y_train = np_utils.to_categorical(y_train,num_classes=10)    #将类别向量转换为二进制（只有0和1）的矩阵类型表示
y_test = np_utils.to_categorical(y_test,num_classes=10)

2.4.搭建模型

首先添加RNN层，输入为训练数据，输出数据大小由CELL_SIZE定义。

然后添加输出层，激励函数选择softmax

model = Sequential()
model.add(SimpleRNN(batch_input_shape = (None,TIME_STEPS,INPUT_SIZE),output_dim = CELL_SIZE,unroll = True
))model.add(Dense(OUTPUT_SIZE))
model.add(Activation('softmax'))

2.5.激活模型

设置优化方法，loss函数和metrics方法之后就可以开始训练了。每次训练的时候并不是取所有的数据，只是取BATCH_SIZE个序列，或者称为BATCH_SIZE张图片，这样可以大大降低运算时间，提高训练效率。

adam = Adam(LR)
model.compile(optimizer=adam,loss = 'categorical_crossentropy',metrics=['accuracy'])

2.6.训练+测试

for step in range(10001):X_batch = X_train[BATCH_INDEX:BATCH_INDEX+BATCH_SIZE,:,:]y_batch = y_train[BATCH_INDEX:BATCH_INDEX+BATCH_SIZE,:]cost = model.train_on_batch(X_batch,y_batch)BATCH_INDEX += BATCH_SIZEBATCH_INDEX = 0 if BATCH_INDEX >= X_train.shape[0] else BATCH_INDEXif step % 500 == 0:cost, accuracy = model.evaluate(X_test, y_test, batch_size=y_test.shape[0],verbose=False)print('test cost:',cost,'test accuracy:',accuracy)

Keras——用Keras搭建RNN分类循环神经网络相关推荐

Keras——用Keras搭建RNN回归循环神经网络
文章目录 1.前言 2.用Keras搭建RNN回归循环神经网络 2.1.导入必要模块 2.2.超参数设置 2.3.构造数据 2.4.搭建模型 2.5.激活模型 2.6.训练+测试 1.前言这次我们用 ...
DL之RNN：循环神经网络RNN的简介、应用、经典案例之详细攻略
DL之RNN:循环神经网络RNN的简介.应用.经典案例之详细攻略目录循环神经网络RNN的简介 1.RNN的分类 1.RNN的常见算法分类 2.RNN的三种分类
自然语言菜鸟学习笔记（七）：RNN（循环神经网络）及变体（LSTM、GRU）理解与实现（TensorFlow）
目录前言 RNN(循环神经网络) 为什么要用循环神经网络(RNN)? 循环神经网络(RNN)可以处理什么类型的任务? 多对一问题一对多问题多对多问题循环神经网络结构单层网络情况正向传播反 ...
【直观理解】一文搞懂RNN（循环神经网络）基础篇
推荐阅读时间8min~15min 主要内容简介:神经网络基础.为什么需要RNN.RNN的具体结构.以及RNN应用和一些结论 1神经网络基础神经网络可以当做是能够拟合任意函数的黑盒子,只要训练数据足够 ...
（pytorch-深度学习）使用pytorch框架nn.RNN实现循环神经网络
使用pytorch框架nn.RNN实现循环神经网络首先,读取周杰伦专辑歌词数据集. import time import math import numpy as np import torch f ...
循环取矩阵的某行_一文搞懂RNN（循环神经网络）基础篇
神经网络基础神经网络可以当做是能够拟合任意函数的黑盒子,只要训练数据足够,给定特定的x,就能得到希望的y,结构图如下: 将神经网络模型训练好之后,在输入层给定一个x,通过网络之后就能够在输出层得到特 ...
理论——RNN（循环神经网络）与LSTM（长短期记忆神经网络）
这里写目录标题 RNN 背景结构应用梯度消失.爆炸 LSTM 长期依赖问题 LSTM网络结构 RNN 背景人类的思考具有连续性,我们常联系过去的经验来理解现在.比如阅读时我们常提及的&quo ...
Keras【Deep Learning With Python】RNN Classifier 循环神经网络
文章目录 1 前言 2 RNN-循环神经网络 2.1 序列数据 2.2 处理序列数据的神经网络 2.3 应用 3 代码实现 4 代码讲解 5 输出 1 前言本文分为RNN简单讲解,与Keras快速搭 ...
马里兰大学calce电池循环测试数据集_Keras-建立RNN（循环神经网络）
循环神经网络(Recurrent Neural Network, RNN)是一类以序列(sequence)数据为输入,在序列的演进方向进行递归(recursion)且所有节点(循环单元)按链式连接的递 ...

Keras——用Keras搭建RNN分类循环神经网络

文章目录