01-20200930 Sigmoid函数
2020-09-30 本文已影响0人
野山羊骑士
sigmoid函数
在信息科学中,由于其单增以及反函数单增等性质,Sigmoid函数常被用作神经网络的激活函数,将变量映射到0-1之间。用于隐层神经元输出,它可以将一个实数映射到(0,1)的区间,可以用来做二分类。
优点:平滑、易于求导
缺点:激活函数计算量大,反向传播时,很容易出现梯度消失的情况,从而无法完成 **深层**网络的训练
公示:
在信息科学中,由于其单增以及反函数单增等性质,Sigmoid函数常被用作神经网络的激活函数,将变量映射到0-1之间。用于隐层神经元输出,它可以将一个实数映射到(0,1)的区间,可以用来做二分类。
优点:平滑、易于求导
缺点:激活函数计算量大,反向传播时,很容易出现梯度消失的情况,从而无法完成 **深层**网络的训练
公示: