深度学习入门之第五章：经典卷积神经网络 5.1LeNet-5LeNet-5是由有着卷积神经网

5.1 LeNet-5
LeNet-5是由有着卷积神经网络之父美誉的Yann LeCun（中文翻译为杨立昆）于1998年提出的一种经典的卷积网络结构。它是第一个成功应用于数字识别问题的卷积神经网络。在MNIST数据集上， LeNet-5模型可以达到大约99.2%的正确率。作为早期的一种卷积神经网络结构， LeNet-5的提出极大地推动了后续卷积神经网络的发展，它通常被认为是CNN的开山之作。
5.1.1
LeNet-5网络结构
首先介绍LeNet-5的网络结构，如果输入层不计入层数，则LeNet-5总共有7层网络，网络结构如图5.1所示。
文章插图
图5.1 LeNet-5网络结构
从图5.1可以看出， LeNet-5总共由输入层、卷积层、池化层、卷积层、池化层、全连接层、全连接层、输出层组成。下面详细介绍每一层的结构。
（1）输入层。一张32×32的灰度图像，只有一个颜色通道。
（2）卷积层。将输入与6个高为5 ，宽为5 ，深度为1的卷积核进行valid卷积，由于输入是灰度图，所以卷积核的深度也是1 ，又由于是valid卷积，所以卷积后的结果为，高为28（32-5+1），宽为28（32-5+1），深度为6（因为用了6个卷积核）。
（3）池化层。对（2）中卷积层输出的28×28×6的抽象矩阵进行valid最大值池化操作，使用6个2×2大小的矩阵进行valid最大值池化处理，池化层的输出结果为14×14×6的矩阵。
（4）卷积层。将（3）中池化层的输出与16个大小为5×5×6的卷积核进行valid卷积，输出结果为10×10×16 。
（5）池化层。同第（3）步一样，对（4）的输出结果进行valid最大值池化的操作，输出矩阵的维度为5×5×16 。
（6）全连接层。将第（5）步输出的矩阵拉直成一维向量，这个向量的长度为5×5×16=400 ，将该向量经过一个全连接神经网络处理，该全连接神经网络共有2个隐含层，其中输入层有400个神经元，第1个隐含层有120个神经元，第2个隐含层有84个神经元。
（7）输出层。因为LeNet-5最初是用来识别手写数字，处理的是0～9的10分类问题，所以它的输出层有10个神经元。
以上就是LeNet-5的模型结构， LeNet-5无论是在网络结构，还是在参数规模上，都相对简单。接下来通过手写数字识别这个经典案例具体讲解LeNet-5的代码实现。
5.1.2
案例：LeNet-5手写数字识别
下面通过经典的手写数字识别分类问题介绍LeNet-5的代码实现。
01
MNIST数据集展示
MNIST数据集在前面已经详细介绍过，该案例的目的是区分0～9这10个数字。在Keras框架下，可以通过mnist.load_data()函数加载数据集。 TensorFlow已经将数据集准备好并且做了区分。例如这里的（X0,Y0）是训练集，（X1,Y1）是测试集。将X0打印出来，可以看到这是一个6万行的立体矩阵，每个矩阵都代表一张图像，其中每张图像的像素矩阵是28×28 。
需要注意的是， LeNet-5第一次被提出来时要求输入是32×32 ，但是这个数据集的输入是28×28 ，这并不影响对模型的应用。通过pyplot函数可以将训练集中0～9这10个数字展示出来。具体如代码示例5-1所示。
代码示例5-1：加载数据并展示
1from Keras.datasets import mnist 2(X0,Y0),(X1,Y1) = mnist.load_data() 3print(X0.shape) 4from matplotlib import pyplot as plt 5plt.figure() 6fig,ax = plt.subplots(2,5) 7ax=ax.flatten() 8for i in range(10): 9Im=X0[Y0==i][0]10ax[i].imshow(Im)11plt.show();输出：
1(60000, 28, 28)
文章插图