Kaiming和Xavier初始化
2021-01-25 本文已影响0人
求索_700e
参考1: https://zhuanlan.zhihu.com/p/62850258 (非常详细,值得推荐)
参考2:https://blog.csdn.net/shuzfan/article/details/51338178 (详细介绍了xavier的公式推导),注意其中sqrt(6)是根据均匀分布[-sqrt(3sigma),sqrt(3sigma)]得来的,
参考1: https://zhuanlan.zhihu.com/p/62850258 (非常详细,值得推荐)
参考2:https://blog.csdn.net/shuzfan/article/details/51338178 (详细介绍了xavier的公式推导),注意其中sqrt(6)是根据均匀分布[-sqrt(3sigma),sqrt(3sigma)]得来的,