Tensorflow中float、batch-size与merr

2019-03-09  本文已影响0人  观海听涛_e156

tensorflow的train的过程中,发现了float设成默认的float(默认值是float64)时会出现merroy error,同样的程序在服务器(大内存,强GPU)上没毛病。

解决:遂将精度降低,设置为float32,这时merroy error没有了,但是又报GPU显存不足的错误,将batch-size降低,问题解决,程序正常训练。

上一篇 下一篇

猜你喜欢

热点阅读