当训练神经网络出bug的时候导致僵尸进程
2019-08-06 本文已影响0人
点指兵兵_
在神经网络训练中,如果程序没有正常退出,尤其是多卡的时候,会导致僵尸进程出现,正常情况其实僵尸进程影响不大。但是由深度学习导致的僵尸进程会占用显存,导致无法训练。
ps -ef | grep defunct
前三列分别是UID、PID、PPID
然后就开始一个一个杀把。 如果还不能解决问题,就重启把
还有一种情况是,nvidia-smi 的时候没有看到该进程,但是上面的显存却实际被占用,遇到这种情况使用
fuser -v /dev/nvidia*
然后就看到占用显存的进程直接杀掉就可以了