AI常用激活函数分析5，Tanh函数
2018-05-17 本文已影响14人
LabVIEW_Python
在分类任务中，双曲正切函数（Tanh）逐渐取代 Sigmoid 函数作为标准的激活函数，其具有很多神经网络所钟爱的特征。它是完全可微分的，反对称，对称中心在原点。为了解决学习缓慢和/或梯度消失问题，可以使用这个函数的更加平缓的变体（log-log、softsign、symmetrical sigmoid 等等）。
Andrew Ng推荐：tanh非常优秀，几乎适用于所有场合
