深度学习 batch size 参数的设置的思考
2019-08-28 本文已影响0人
yangy_fly
从实际使用的感受来说，数据及其他参数一致时，batch size设置过大，回归类任务的mse会增大；而在分类任务中，预测精度在batch size较大时，效果几乎无变化（待补充在batch size变化时，epoch数需要如何变化，才能保持预测精度不变）。推测batch size在一定范围内增大时，达到相同效果，可以减少训练时间，或者减少训练epoch数。
- 回归任务
图1：batch size=50时的预测图
image.png
图2：batch size=500时的预测图
image.png
- 二分类预测任务
图1：batch size=50时的预测结果及loss曲线
image.png
屏幕快照 2019-08-28 上午11.32.37.png
图2：batch size=500时的预测结果及loss曲线
image.png
屏幕快照 2019-08-28 上午10.57.13.png
