基本概念

数据集

训练集——验证集

样本 sample ：一个个体

特征feature —— 标签label

学习率  η代表在每次优化中，能够学习的步长的大小

批量大小  B是小批量计算中的批量大小batch size

优化函数 随机梯度下降

小批量随机梯度下降 mini-batch stochastic gradient descent

MBGD介绍

python

indices = list(range(100))    #新建从0-100的列表

random.shuffle(indices)      #将indices中的所有元素随机排序

学习率: η代表在每次优化中，能够学习的步长的大小

批量大小: B是小批量计算中的批量大小batch size

pytorch

实现步骤

1. 数据集 

2. 定义模型

定义模型

3. 初始化模型参数

初始化模型参数

4. 定义损失函数

定义损失函数

5. 定义优化函数

定义优化函数

6. 训练

训练

7. 查看结果