19-tensorflow实现线性回归

2019-10-01  本文已影响0人  jxvl假装

线性回归

权重与特征相乘的和再加上偏置项。所以线性回归就是找到权重与偏置项的值

算法:线性回归
策略:均方误差
优化:梯度下降

步骤:

  1. 准备好特征与目标值
  2. 建立模型。随机初始化和特征数相同的权重w和一个偏置b,y_predict = wx+b。注意:只要是模型的参数,必须是变量(Variable)
  3. 求损失函数,误差。这里选均方误差,loss = ((y_predict1-y1)^2 +...+ (y_predictn-yn)^2)/特征数
  4. 梯度下降去优化损失过程,指定学习率

api

在这里插入图片描述
梯度下降api:
在这里插入图片描述
**线性回归实现 **
import tensorflow as tf
def myregression():
    """
    自实现一个线性回归预测
    :return: None
    """
    #准备数据
    x = tf.random_normal([100, 1], mean=1.75, stddev=0.5, name="x_data")
    y_true = tf.matmul(x, [[0.7]]) + 0.8 #矩阵相乘必须是2维的

    #建立线回归模型
    weight = tf.Variable(tf.random_normal([1, 1], mean=0.0, stddev=1.0, name="weight"))
    bias = tf.Variable(0.0, name="bias")
    y_predict = tf.matmul(x, weight) + bias

    #建立损失函数,均方误差
    loss = tf.reduce_mean(tf.square(y_predict-y_true)) #reduce_mean是计算平均值

    #梯度下降优化损失
    train_op = tf.train.GradientDescentOptimizer(learning_rate=0.1).minimize(loss) #梯度下降去进行优化,即最小化损失,所以后面加了minimize

    #定义一个初始化变量的op
    init_op = tf.global_variables_initializer()

    #通过会话运行程序
    with tf.Session() as sess:
        #初始化变量
        sess.run(init_op)
        #打印随机初始化的权重和偏置值
        print("随机初始化的参数权重为:\n", weight.eval(), "\n偏置为:\n", bias.eval())
        #运行优化
        #循环训练优化
        for i in range(100):
            sess.run(train_op)
            print("优化",i,"次优化过后的参数权重为:", weight.eval(), " 偏置为:", bias.eval())
    return None

if __name__ == "__main__":
    myregression()
在这里插入图片描述

由于优化次数和学习率(学习的快慢)的原因,这里的结果和正确值之间还存在较大偏差

因为Variable有一个参数trainable,默认为True,即在训练过程中可以被优化(改变),所以通过优化算法进行优化

上一篇 下一篇

猜你喜欢

热点阅读