Tensorflow梯度下降算法的实现

这次是使用tf实现梯度下降算法：

# 用梯度下降的方法来快速解决线性回归问题
import numpy as np
import matplotlib.pyplot as plt
import tensorflow as tf
 
# 构建数据
points_num = 100
vectors = []
# 用Numpy的正态随机分布函数生成100个点
# 用这些点(x,y)坐标值对应线性方程 y = 0.1 x +b
# 权重weight 01 偏差bias 0.2
for i in range(points_num):
    x1 = np.random.normal(0.0, 0.66)
    y1 = 0.1 * x1 +0.2 + np.random.normal(0.0, 0.04)
    vectors.append([x1, y1])
 
x_data = [v[0] for v in vectors] # 真实的点的X坐标
y_data = [v[1] for v in vectors] # 真是的点的Y坐标
 
# 图像1：展示100个随机数据点
plt.plot(x_data, y_data, 'r*', label="Original data")
plt.title("Linear Regression using Gradient Decent")
plt.legend()
plt.show()
 
# 构建线性回归模型
W = tf.Variable(tf.random.uniform([1], -1.0, 1.0)) # 初始化weight
b = tf.Variable(tf.zeros([1])) # 初始化Bias
y = W * x_data + b # 模型计算出来的y
 
# 定义cost function
# 对Tensor的所有维度计算((y - y_data) ^ 2)之和 / N
loss = tf.reduce_mean(tf.square(y - y_data))
 
# 用梯度下降优化器来优化loss function
optimizer = tf.compat.v1.train.GradientDescentOptimizer(0.5) # 参数是学习率 就是步长
train = optimizer.minimize(loss)
 
# 创建会话
sess = tf.compat.v1.Session()
 
# 初始化数据流图中的所有变量
init = tf.compat.v1.global_variables_initializer()
sess.run(init)
 
# 训练20步
for step in range(20):
    # 优化每一步
    sess.run(train)
    # 打印出每一步的损失 权重 偏差
 
plt.plot(x_data, y_data, 'r*', label="Original data")
plt.title("Linear Regression using Gradient Decent")
plt.plot(x_data, sess.run(W) * x_data + sess.run(b), label="Fitted line")
plt.legend()
plt.xlabel('x')
plt.ylabel('y')
plt.show()
 
# 关闭会话
sess.close()

本文作者熊冰，个人网站Bing的天涯路，转载请注明出处。