keras-gpu的安装与配置

gpu擅长处理计算密集型任务，可并行运作。在深度学习的训练过程中，包含了大量重复性的计算，利用 gpu 的特性可显著提高训练的效率。

一、更新显卡驱动程序

先升级显卡驱动确保后面不会因为显卡驱动版本低这个问题被卡住。

二、安装gpu版本的tensorflow和keras

1、安装CUDA、cuDNN、tensorflow-gpu

NVIDIA CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。
NVIDIA cuDNN是用于深度神经网络的gpu加速库，可以集成到更高级别的机器学习框架中，如Tensorflow、caffe。

CUDA与cuDNN的关系
CUDA可以看作是一个工作台，但是这个工作台买来的时候，并没有送工具。那工具在哪呢？工具就是cuDNN，有了它才能在GPU上完成深度学习的计算。所以说，想要在CUDA上运行深度神经网络，就要安装cuDNN。

tensorflow-gpu是tensorflow的gpu版本，但是它必须通过 cuda 和 cudnn 来调用电脑的 gpu。
使用以下方法可以一次性安装CUDA、cuDNN、tensorflow-gpu

conda install tensorflow-gpu

2、安装keras-gpu

conda install keras-gpu

三、指定gpu设备

1、显示所有可用设备

from tensorflow.python.client import device_lib
print(device_lib.list_local_devices())

2、指定一个不存在的gpu（切换回cpu）

在gpu可用的情况下默认使用的是gpu，通过为CUDA指定一个不存在的gpu可切换回cpu模式

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "-1" 

3、指定一个可用gpu

设置当前使用的GPU设备仅为0号设备 设备名称为'/gpu:0'

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"

4、指定多个可用gpu

设置当前使用的GPU设备为1,0号两个设备，这里的顺序表示优先使用1号设备,然后使用0号设备

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "1,0"

四、配置

tf.ConfigProto一般用在创建session的时候，用来对session进行参数配置，而tf.GPUOptions可以作为设置tf.ConfigProto时的一个参数选项，一般用于限制GPU资源的使用。

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"  # 使用'/gpu:0'

import tensorflow as tf
import keras.backend.tensorflow_backend as KTF

# GPU资源配置
config = tf.ConfigProto(log_device_placement=False)
config.gpu_options.per_process_gpu_memory_fraction = 0.5 # 每个GPU现存上届控制在50%以内
# session的参数配置
session = tf.Session(config=config)
# 应用session配置
KTF.set_session(session)