激活函数大全

2022-11-02 本文已影响0人 Neural_PDE

函数名称	图像	公式
sin		$f(x)=sin(x)$
cos		$f(x)=cos(x)$
tan		$f(x)=tan(x)$
tanh		$f(x)=tanh(x)$
sech		$f(x)=sech(x)$
Gaussian		$f(x)={\mathrm e}^{-x^{2}}$
sinh		$f(x)= sinh(x)$
sigmoid		$f(x)= \frac{1}{1+{\mathrm e}^{-x}}$
Gelu		$f(x)= \frac{x}{1+{\mathrm e}^{- 1.702 x}}$
Bent_Identity		$f(x)= \frac{\sqrt{x^{2}+1}-1}{2}-x$
Soft_Plus		$f(x)= \ln \! \left(1+{\mathrm e}^{x}\right)$
linear		$f(x)=x$
square		$f(x)= x^2$
cubic		$f(x)=x^3$

上一篇下一篇

猜你喜欢

热点阅读