文章目录

通过极简方案构建手写数字识别模型
一、导入库
二、数据处理
三、网络模型设计
四、训练配置以及模型训练
- **==这里特殊之处在于读取数据的方式采取飞桨自带数据读取器==**
五、模型测试
- ==特别注意==
图像归一化，保持和训练数据集的数据范围一致[-1 1]
六、扩展：飞桨API的使用方法
- 6.1. 飞桨API文档获取方式
- 6.2. 通过搜索和分类浏览两种方式查阅API文档
- 6.3. API文档使用方法

通过极简方案构建手写数字识别模型

如图1 所示，基于百度paddlepaddle使用这种极简实现方案快速完成手写数字识别的建模。

图1：“横纵式”教学法—纵向极简实现方案

一、导入库

在数据处理前，首先要加载飞桨与手写数字识别模型相关的类库，实现方法如下。

#加载飞桨和相关类库
import paddle
import paddle.fluid as fluid
from paddle.fluid.dygraph.nn import Linear
import numpy as np
import os
from PIL import Image

二、数据处理

飞桨提供了多个封装好的数据集API，涵盖计算机视觉、自然语言处理、推荐系统等多个领域，帮助读者快速完成深度学习任务。如在手写数字识别任务中，通过paddle.dataset.mnist可以直接获取处理好的MNIST训练集、测试集，飞桨API支持如下常见的学术数据集：

mnist
cifar
Conll05
imdb
imikolov
movielens
sentiment
uci_housing
wmt14
wmt16

通过paddle.dataset.mnist.train()函数设置数据读取器，batch_size设置为8，即一个批次有8张图片和8个标签，代码如下所示。

# 如果～/.cache/paddle/dataset/mnist/目录下没有MNIST数据，API会自动将MINST数据下载到该文件夹下
# 设置数据读取器，读取MNIST数据训练集
trainset = paddle.dataset.mnist.train()
# 包装数据读取器，每次读取的数据数量设置为batch_size=8
train_reader = paddle.batch(trainset, batch_size=8)

Cache file /home/aistudio/.cache/paddle/dataset/mnist/train-images-idx3-ubyte.gz not found, downloading https://dataset.bj.bcebos.com/mnist/train-images-idx3-ubyte.gz
Begin to downloadDownload finished
Cache file /home/aistudio/.cache/paddle/dataset/mnist/train-labels-idx1-ubyte.gz not found, downloading https://dataset.bj.bcebos.com/mnist/train-labels-idx1-ubyte.gz
Begin to download
........
Download finished

paddle.batch函数将MNIST数据集拆分成多个批次，通过如下代码读取第一个批次的数据内容，观察打印结果。

# 以迭代的形式读取数据
for batch_id, data in enumerate(train_reader()):# 获得图像数据，并转为float32类型的数组img_data = np.array([x[0] for x in data]).astype('float32')# 获得图像标签数据，并转为float32类型的数组label_data = np.array([x[1] for x in data]).astype('float32')# 打印数据形状print("图像数据形状和对应数据为:", img_data.shape, img_data[0])print("图像标签形状和对应数据为:", label_data.shape, label_data[0])breakprint("\n打印第一个batch的第一个图像，对应标签数字为{}".format(label_data[0]))
# 显示第一batch的第一个图像
import matplotlib.pyplot as plt
img = np.array(img_data[0]+1)*127.5
img = np.reshape(img, [28, 28]).astype(np.uint8)plt.figure("Image") # 图像窗口名称
plt.imshow(img)
plt.axis('on') # 关掉坐标轴为 off
plt.title('image') # 图像题目
plt.show()

图像数据形状和对应数据为: (8, 784)
图像标签形状和对应数据为: (8,) 5.0
打印第一个batch的第一个图像，对应标签数字为5.0

从打印结果看，从数据加载器train_reader()中读取一次数据，可以得到形状为（8, 784）的图像数据和形状为（8,）的标签数据。其中，形状中的数字8与设置的batch_size大小对应，784为MINIST数据集中每个图像的像素大小(28*28)。

此外，从打印的图像数据来看，图像数据的范围是[-1, 1]，表明这是已经完成图像归一化后的图像数据，并且空白背景部分的值是-1。将图像数据反归一化，并使用matplotlib工具包将其显示出来，如图2 所示。可以看到图片显示的数字是5，和对应标签数字一致。

图2：matplotlib打印结果示意图

说明：

飞桨将维度是28*28的手写数字图像转成向量形式存储，因此使用飞桨数据加载器读取到的手写数字图像是长度为784（28*28）的向量，而且图像数据的范围是[-1, 1]。

三、网络模型设计

在房价预测深度学习任务中，我们使用了单层且线性变换的模型，取得了理想的预测效果。在手写数字识别任务中，我们依然使用这个模型预测输入的图形数字值。其中，模型的输入为784维（28*28）数据，输出为1维数据，如图6 所示。

图6：手写数字识别网络模型

输入像素的位置排布信息对理解图像内容非常重要（如将原始尺寸为28*28图像的像素按照7*112的尺寸排布，那么其中的数字将不可识别），因此网络的输入设计为28*28的尺寸，而不是1*784，以便于模型能够正确处理像素之间的空间信息。

说明：

事实上，采用只有一层的简单网络（对输入求加权和）时并没有处理位置关系信息，因此可以猜测出此模型的预测效果有限。在后续优化环节中，介绍的卷积神经网络则更好的考虑了这种位置关系信息，模型的预测效果也会显著提升。

下面以类的方式组建手写数字识别的网络，实现方法如下所示。

# 定义mnist数据识别网络结构，同房价预测网络
class MNIST(fluid.dygraph.Layer):def __init__(self):super(MNIST, self).__init__()# 定义一层全连接层，输出维度是1，激活函数为None，即不使用激活函数self.fc = Linear(input_dim=784, output_dim=1, act=None)# 定义网络结构的前向计算过程def forward(self, inputs):outputs = self.fc(inputs)return outputs

四、训练配置以及模型训练

训练配置需要先生成模型实例（设为“训练”状态），再设置优化算法和学习率（使用随机梯度下降SGD，学习率设置为0.001），实现方法如下所示。

训练过程采用二层循环嵌套方式，训练完成后需要保存模型参数，以便后续使用。

内层循环：负责整个数据集的一次遍历，遍历数据集采用分批次（batch）方式。
外层循环：定义遍历数据集的次数，本次训练中外层循环10次，通过参数EPOCH_NUM设置。

# 通过with语句创建一个dygraph运行的context
# 动态图下的一些操作需要在guard下进行
# 定义飞桨动态图工作环境
with fluid.dygraph.guard():# 声明网络结构model = MNIST()# 启动训练模式model.train()# 定义数据读取函数，数据读取batch_size设置为16train_loader = paddle.batch(paddle.dataset.mnist.train(), batch_size=16)# 定义优化器，使用随机梯度下降SGD优化器，学习率设置为0.001optimizer = fluid.optimizer.SGDOptimizer(learning_rate=0.001, parameter_list=model.parameters())EPOCH_NUM = 10for epoch_id in range(EPOCH_NUM):for batch_id, data in enumerate(train_loader()):# 准备数据，格式需要转换成符合框架要求image_data = np.array([x[0] for x in data]).astype('float32')label_data = np.array([x[1] for x in data]).astype('float32').reshape(-1, 1)# 将数据转为飞桨动态图格式image = fluid.dygraph.to_variable(image_data)label = fluid.dygraph.to_variable(label_data)# 前向计算的过程predict = model(image)#计算损失，取一个批次样本损失的平均值loss = fluid.layers.square_error_cost(predict, label)avg_loss = fluid.layers.mean(loss)# 每训练了1000批次的数据，打印下当前Loss的情况if batch_id !=0 and batch_id  % 1000 == 0:print("epoch: {}, batch: {}, loss is: {}".format(epoch_id, batch_id, avg_loss.numpy()))# 后向传播，更新参数的过程avg_loss.backward()optimizer.minimize(avg_loss)model.clear_gradients()# 保存模型fluid.save_dygraph(model.state_dict(), 'mnist')

epoch: 0, batch: 1000, loss is: [1.914191]
epoch: 0, batch: 2000, loss is: [4.203541]
epoch: 0, batch: 3000, loss is: [3.6532393]
epoch: 1, batch: 1000, loss is: [1.7960105]
epoch: 1, batch: 2000, loss is: [3.9927847]
epoch: 1, batch: 3000, loss is: [3.5099282]
epoch: 2, batch: 1000, loss is: [1.7756804]
epoch: 2, batch: 2000, loss is: [3.8704638]
epoch: 2, batch: 3000, loss is: [3.4187527]

这里特殊之处在于读取数据的方式采取飞桨自带数据读取器

前面也说过了，这个读取的数据已经经过了归一化预处理，数值范围都在[-1 1]之间

# 如果～/.cache/paddle/dataset/mnist/目录下没有MNIST数据，API会自动将MINST数据下载到该文件夹下
# 设置数据读取器，读取MNIST数据训练集
trainset = paddle.dataset.mnist.train()
# 包装数据读取器，每次读取的数据数量设置为batch_size=8
train_loader= paddle.batch(trainset, batch_size=8)
for batch_id, data in enumerate(train_loader()):#准备数据，格式需要转换成符合框架要求image_data = np.array([x[0] for x in data]).astype('float32')label_data = np.array([x[1] for x in data]).astype('float32').reshape(-1, 1)

另外，从训练过程中Loss发生的变化可以发现，虽然Loss整体上在降低，但到训练的最后一轮，Loss值依然较高。可以猜测手写数字识别完全复用房价预测的代码，训练效果并不好。接下来我们通过模型测试，获取模型训练的真实效果。

五、模型测试

模型测试的主要目的是验证训练好的模型是否能正确识别出数字，包括如下四步：

声明实例
加载模型：加载训练过程中保存的模型参数。
灌入数据：将测试样本传入模型，模型的状态设置为校验状态（eval），显式告诉框架我们接下来只会使用前向计算的流程，不会计算梯度和梯度反向传播。
获取预测结果，取整后作为预测标签输出。

在模型测试之前，需要先从’./work/example_0.jpg’文件中读取样例图片，并进行归一化处理。

# 导入图像读取第三方库
import matplotlib.image as mpimg
import matplotlib.pyplot as plt
import cv2
import numpy as np
# 读取图像
img1 = cv2.imread('./work/example_0.png')
example = mpimg.imread('./work/example_0.png')
# 显示图像
plt.imshow(example)
plt.show()
im = Image.open('./work/example_0.png').convert('L')
print(np.array(im).shape)
im = im.resize((28, 28), Image.ANTIALIAS)
plt.imshow(im)
plt.show()
print(np.array(im).shape)

(252, 255)

(28, 28)

# 读取一张本地的样例图片，转变成模型输入的格式
def load_image(img_path):# 从img_path中读取图像，并转为灰度图im = Image.open(img_path).convert('L')print(np.array(im))im = im.resize((28, 28), Image.ANTIALIAS)im = np.array(im).reshape(1, -1).astype(np.float32)# 图像归一化，保持和数据集的数据范围一致，[-1 1]im = 1 - im / 127.5return im# 定义预测过程
with fluid.dygraph.guard():model = MNIST()params_file_path = 'mnist'img_path = './work/example_0.png'
# 加载模型参数model_dict, _ = fluid.load_dygraph("mnist")model.load_dict(model_dict)
# 灌入数据model.eval()tensor_img = load_image(img_path)result = model(fluid.dygraph.to_variable(tensor_img))
#  预测输出取整，即为预测的数字，打印结果print("本次预测的数字是", result.numpy().astype('int32'))

[[255 255 255 ... 255 255 255][255 255 255 ... 255 255 255][255 255 255 ... 255 255 255]...[255 255 255 ... 255 255 255][255 255 255 ... 255 255 255][255 255 255 ... 255 255 255]]
本# 图像归一化，保持和数据集的数据范围一致，[-1 1]
im = 1 - im / 127.5次预测的数字是 [[4]]

特别注意

预测数据需要经过预处理，得和训练的数据集一样，归一化到[-1 1]

图像归一化，保持和训练数据集的数据范围一致[-1 1]

im = 1 - im / 127.5

从打印结果来看，模型预测出的数字是与实际输出的图片的数字不一致。这里只是验证了一个样本的情况，如果我们尝试更多的样本，可发现许多数字图片识别结果是错误的。因此完全复用房价预测的实验并不适用于手写数字识别任务！

接下来我们会对手写数字识别实验模型进行逐一改进，直到获得令人满意的结果。

六、扩展：飞桨API的使用方法

熟练掌握飞桨API的使用方法，是使用飞桨完成各类深度学习任务的基础，也是开发者必须掌握的技能，下面介绍飞桨API获取方式和使用方法。

6.1. 飞桨API文档获取方式

图3：飞桨API文档

6.2. 通过搜索和分类浏览两种方式查阅API文档

如果用户知道需要查阅的API名称，可通过页面右上角的搜索框，快速获取API。

如果想全面了解飞桨API文档内容，也可以在API Reference首页，单击“API功能分类”，通过概念分类获取不同职能的API，如图4 所示。

图4：飞桨API功能分类页面

在API功能分类的页面，读者可以根据神经网络建模的逻辑概念来浏览相应部分的API，如优化器、网络层、评价指标、模型保存和加载等。

6.3. API文档使用方法

飞桨每个API的文档结构一致，包含接口形式、功能说明和计算公式、参数和返回值、代码示例四个部分。以abs函数为例，API文档结构如图5 所示。通过飞桨API文档，读者不仅可以详细查看函数功能，还可以通过可运行的代码示例来实践API的使用。

图5：abs函数的API文档

百度PaddlePaddle使用飞桨搭载手写字识别并训练、预测相关推荐

PaddlePaddle飞桨OCR文本检测——识别模型训练（三）
上一篇检测模型训练https://blog.csdn.net/weixin_42845306/article/details/112689152 飞桨的OCR模型分为检测.识别和分类,今天讨论识别. ...
手写字识别——可视化训练过程
数据集介绍: Keras里已经封装好了mnist数据集(包含6000张训练数据,1000张测试数据),图片大小为28x28.一行代码就可以从keras里导入进来,第一次导入时间长点,请慢慢等待. fr ...
活动报名 | PaddlePaddle Hackathon飞桨黑客马拉松邀你参加
2021 PaddlePaddle Hackathon 飞桨黑客马拉松活动开启啦. 本次活动由飞桨联合深度学习技术及应用国家工程实验室主办,联合 OpenVINO.MLFlow.KubeFlow.TV ...
使用飞桨完成手写数字识别模型
手写数字识别任务数字识别是计算机从纸质文档.照片或其他来源接收.理解并识别可读的数字的能力,目前比较受关注的是手写数字识别.手写数字识别是一个典型的图像分类问题,已经被广泛应用于汇款单号识别.手写邮 ...
python手写汉字识别_TensorFlow 2.0实践之中文手写字识别
问题导读: 1.相比于简单minist识别,汉字识别具有哪些难点? 2.如何快速的构建一个OCR网络模型? 3.读取的时候有哪些点需要注意? 4.如何让模型更简单的收敛? 还在玩minist?fash ...
.net 数字转汉字_TensorFlow 2.0 中文手写字识别（汉字OCR）
TensorFlow 2.0 中文手写字识别(汉字OCR) 在开始之前,必须要说明的是,本教程完全基于TensorFlow2.0 接口编写,请误与其他古老的教程混为一谈,本教程除了手把手教大家完成这个 ...
飞桨学习赛：英雄联盟大师预测2023年2月85.365分方案
★★★ 本文源自AlStudio社区精品项目,[点击此处]查看更多精品内容 >>> 飞桨学习赛:英雄联盟大师预测2023年2月85.365分方案比赛链接 - 飞桨学习赛:英雄联盟大 ...
用TensorFlow教你手写字识别
1.MNIST数据集基于MNIST数据集实现手写字识别可谓是深度学习经典入门必会的技能,该数据集由60000张训练图片和10000张测试图片组成,每张均为28*28像素的黑白图片.关于数据集的获取, ...
基于tensorflow的MNIST手写字识别
一.卷积神经网络模型知识要点卷积卷积 1.卷积 2.池化 3.全连接 4.梯度下降法 5.softmax 本次就是用最简单的方法给大家讲解这些概念,因为具体的各种论文网上都有,连推导都有,所以本文主要 ...

百度PaddlePaddle使用飞桨搭载手写字识别并训练、预测