day01—基础

Day01、入门—TensorFlow

教程源于：莫烦python：https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/

import tensorflow as tf
import numpy as np

# ###-------1、---------最初例子-----------------------------
# #创建数据
# x_data = np.random.rand(100).astype(np.float32)
# y_data = x_data*0.1 + 0.3
#
# #用 tf.Variable 来创建描述 y 的参数,把 y_data = x_data*0.1 + 0.3
# #想象成 y=Weights * x + biases, 然后神经网络也就是学着把
# # Weights 变成 0.1, biases 变成 0.3.
#
# #搭建模型
# Weights = tf.Variable(tf.random_uniform([1],-1.0,1.0))
# biases = tf.Variable(tf.zeros([1]))
#
# y = Weights*x_data + biases
#
# #计算误差
# loss = tf.reduce_mean(tf.square(y-y_data))
#
# #传播误差
# optimizer = tf.train.GradientDescentOptimizer(0.5)
# train = optimizer.minimize(loss)
#
# #训练
#  #先初始化所有之前定义的Variable
# init = tf.global_variables_initializer()
#
#  #创建回话Session
# sess = tf.Session()
# sess.run()
#
# for step in range(201):
#     sess.run(train)
#     if step % 20 == 0:
#         print(step,sess.run(Weights),sess.run(biases))

# ###-------2、-----简单应用----session会话控制--------------
#
# import tensorflow as tf
#
# matrix1 = tf.constant([[4,3]])
# print("matrix1:",matrix1)
#
# matrix2 = tf.constant([[2],[2]])
# print("matrix2:",matrix2)
#
# product = tf.matmul(matrix1,matrix2)
# print(product)
#
# #因为 product 不是直接计算的步骤, 所以我们会要使用 Session 来激活 product 并得到计算结果.
# #有两种形式使用会话控制 Session
# #方法1：
# sess = tf.Session()
# result = sess.run(product)
# print(result)   #[[14]]
# sess.close()
# #方法2：
# with tf.Session as sess:
#     result2 = sess.run(product)
#     print(result2)     #[[14]]

# ###------3、------简单应用----Variable--------------
#
# import tensorflow as tf
#
# state = tf.Variable(0,name='counter')
#
# #定义常量 one
# one = tf.constant(1)
#
# #定义加法步骤（注：此步并没有直接计算）
# new_value = tf.add(state, one)
#
# #将State 更新成new_value
# update = tf.assign(state,new_value)
#
# #如果你在 Tensorflow 中设定了变量，那么初始化变量是最重要的！！
# #所以定义了变量以后, 一定要定义 init = tf.initialize_all_variables() .
# #init = tf.initialize_all_variables()  #tf马上要废弃这种写法
# init = tf.global_variables_initializer() #替换成这样写就好
#
# #使用session
# with tf.Session() as sess:
#     sess.run(init)
#     for step in range(3):
#         print("before:",sess.run(state))
#         sess.run(update)
#         print("after",sess.run(state))
# ###输出结果：
#             # before: 0
#             # after 1
#             # before: 1
#             # after 2
#             # before: 2
#             # after 3

# ###------4、------简单应用----Variable--------------
#
# import tensorflow as tf
#
# #在 Tensorflow 中需要定义 placeholder 的 type ，一般为 float32 形式
# input1 = tf.placeholder(tf.float32)
# input2 = tf.placeholder(tf.float32)
#
# #mul = multiply 是将input1和input2 做乘法运算，并输出为 output
# output = tf.multiply(input1,input2)
#
# #同理，传值工作交给sess.run(), 需要传入的值放在了feed_dict={} 并一一对应每一个 input.
# #placeholder 与 feed_dict={} 是绑定在一起出现的。
# with tf.Session() as sess:
#     print(sess.run(output,feed_dict={input1:[7.],input2:[2.]}))    #[14.]
#     print(sess.run(output, feed_dict={input1: [1,3], input2: [2,4]}))    #[ 2. 12.]
#     print(sess.run(output, feed_dict={input1: 3, input2: 2}))      #6.0

###------5、----------add_layer()--------------

import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt

##!!!!!!!!!!!!!!!!!!add_layer()!!!!!!!!!!!!!!!!!!!!!!!!!!
#定义添加神经层的函数def add_layer(),它有四个参数：输入值、输入的大小、输出的大小和激励函数，我们设定默认的激励函数是None
def add_layer(inputs,in_size,out_size,activation_function=None):
    #神经层里常见的参数通常有weights、biases和激励函数。
    Weights = tf.Variable(tf.random_normal([in_size,out_size]))
    biases = tf.Variable(tf.zeros([1,out_size]) + 0.1)
    Wx_plus_b = tf.matmul(inputs,Weights) + biases   #定义Wx_plus_b, 即神经网络未激活的值

    #当activation_function——激励函数为None时，输出就是当前的预测值——Wx_plus_b，
    #不为None时，就把Wx_plus_b传到activation_function()函数中得到输出。
    if activation_function is None:
        outputs = Wx_plus_b
    else:
        outputs = activation_function(Wx_plus_b)

    return outputs

##!!!!!!!!!!!!!!!!!!!!!!!!!构建神经网络!!!!!!!!!!!!!!!!!!!!!!
#导入数据
#构建所需数据，这里的x_data和y_data并不是严格的一元二次函数的关系，因为我们多加了一个noise,这样看起来会更像真实情况
x_data = np.linspace(-1,1,300,dtype = np.float32)[:,np.newaxis]
noise = np.random.normal(0,0.05,x_data.shape).astype(np.float32)
y_data = np.square(x_data) - 0.5 + noise

#利用占位符定义我们所需的神经网络的输入。
#tf.placeholder()就是代表占位符，这里的None代表无论输入有多少都可以，因为输入只有一个特征，所以这里是1。
xs = tf.placeholder(tf.float32,[None,1])
ys = tf.placeholder(tf.float32,[None,1])

#搭建网络
l1 = add_layer(xs,1,10,activation_function=tf.nn.relu)

prediction = add_layer(l1,10,1,activation_function=None)

#计算预测值prediction和真实值的误差，对二者差的平方求和再取平均。
loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),reduction_indices=[1]))

train_step = tf.train.GradientDescentOptimizer(learning_rate=0.1).minimize(loss)   #以0.1的效率来最小化误差loss

#使用变量时，都要对变量进行初始化，必不可少
init = tf.global_variables_initializer()

#定义Session，并用Session来执行init初始化步骤
sess = tf.Session()
sess.run(init)

#训练
#让机器学习1000次，机器学习的内容是train_step，用Session来run每一次training的数据，逐步提升神经网络的预测准确率
for i in range(1000):
    #training
    sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
    if i % 50 == 0:
        try:
            ax.lines.remove(lines[0])
        except Exception:
            pass
        #每50步输出一下机器学习的误差
        print(sess.run(loss,feed_dict={xs:x_data,ys:y_data}))
        prediction_value = sess.run(prediction,feed_dict={xs:x_data})
        # 可视化
        fig = plt.figure()
        ax = fig.add_subplot(1, 1, 1)
        ax.scatter(x_data, y_data)
        # plt.ion()
        lines = ax.plot(x_data,prediction_value,'r-',lw=5)
        plt.pause(0.1)
        plt.show()