[Keras]Minst手写体识别

2019-04-25 本文已影响0人 Yumi__扶醉入香闺

minst手写体识别是深度学习的一个基础实验，相当于每一个程序开发的"hello world"，下面通过简单介绍学习一下使用keras工具库如何快速搭建一个识别手写字体的网络模型

1.keras介绍

Keras是一个高层神经网络API，Keras由纯Python编写而成。基于Theano和TensorFlow的深度学习库。

Keras的设计原则是:

用户友好：Keras是为人类而不是天顶星人设计的API。用户的使用体验始终是我们考虑的首要和中心内容。Keras遵循减少认知困难的最佳实践：Keras提供一致而简洁的API，能够极大减少一般应用下用户的工作量，同时，Keras提供清晰和具有实践意义的bug反馈。
模块性：模型可理解为一个层的序列或数据的运算图，完全可配置的模块可以用最少的代价自由组合在一起。具体而言，网络层、损失函数、优化器、初始化策略、激活函数、正则化方法都是独立的模块，你可以使用它们来构建自己的模型。
易扩展性：添加新模块超级容易，只需要仿照现有的模块编写新的类或函数即可。创建新模块的便利性使得Keras更适合于先进的研究工作。
与Python协作：Keras没有单独的模型配置文件类型（作为对比，caffe有），模型由python代码描述，使其更紧凑和更易debug，并提供了扩展的便利性。

Keras适用的Python版本是：Python 2.7-3.6

2.keras网络结构

keras网络结构

3.数据输入

# 从Keras导入Mnist数据集
(x_train, y_train), (x_test, y_test) = mnist.load_data()
#输出数据集查看
print('样本数 ')
print(x_train.shape, y_train.shape)
print(x_test.shape, y_test.shape)

结果显示为

样本数
（60000，28，28）（60000，）
（10000，28，28）（10000，）

可以看到我们下载的数据集包含6万张28.28像素大小的训练集图像和1万张28.28像素的测试集图像，我们要识别的字体包含0~9数字，也就是相当于10个类别的图片

# 显示1张手写数字图片
plt.imshow(x_train[0], cmap=plt.get_cmap('gray'))

结果显示

手写字体5.png

#数据归一化
x_train = x_train.reshape(60000, 28*28)
x_test = x_test.reshape(10000, 28*28)
x_train = x_train / 255
x_test = x_test / 255

归一化：因为softmax函数的取值是0到1之间的，网络最后一个节点的输出也是如此，所以经常要对样本的输出归一化处理。

#进行one-hot编码
y_train = keras.utils.to_categorical(y_train,10)
y_test = keras.utils.to_categorical(y_test,10)

在数据处理和特征工程中，经常会遇到类型数据，如性别分为[男，女]，手机运营商分为[移动，联通，电信]等，我们通常将其转为数值带入模型，如[0,1], [-1,0,1]等，但模型往往默认为连续型数值进行处理，这样其实是违背我们最初设计的，也会影响模型效果。独热编码便是解决这个问题，其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都由他独立的寄存器位，并且在任意时候，其中只有一位有效。比如上面的代码处理后5的独热编码为 [0., 0., 0., 0., 0., 1., 0., 0., 0., 0.]

4.构建模型

model = Sequential()
# 第一个隐藏层
model.add(Dense(512, activation='relu', input_shape=(28*28,)))
# 第二个隐藏层
model.add(Dense(256, activation='relu'))
#  输出层
model.add(Dense(10, activation='softmax'))
model.summary()

我们构建包含输入层在内的共四层网络，第一层输出维度设置为512，使用relu函数作为激活函数，因为是承接输入层，所以固定输入矩阵大小为784；第二层定义该层的输出维度为256，第三层设置为10，因为有10个标签，设置激活函数为常用的分类函数softmax。每层的结构如下图。

模型结构图

5.训练模型

model.compile(optimizer=SGD(), loss='categorical_crossentropy',metrics=['accuracy'])
model.fit(x_train, y_train, batch_size=64, epochs=5, validation_data=(x_test, y_test))

我们训练模型采用SGD优化器，使用二分类交叉熵计算损失函数，并得到准确率。使用之前转换好格式的训练集进行模型的训练优化，设置批次大小为64（也就是一次处理64张图片），迭代次数设置为5次，并且将测试集带入以得到准确率。
结果显示

迭代结果

从结果可以看出我们的模型准确率有0.9，并且损失函数结果为0.2201，可以说识别准确率已经很高了。

6.应用模型

我们训练好这个模型后，就可以使用它来进行手写字体的识别实验了，比如我们就使用下载的测试集来当验证集，带入模型中

score = model.evaluate(x_test, y_test)
print('LOSS', score[0])
print('ACCU', score[1])