1 感知器为什么不适合学习?以及S型神经元的优点。
2019-03-19 本文已影响0人
欠我的都给我吐出来
感知器的表达形式如下
感知器.png
感知器是不可微的,权重的一个微小变化可能会导致结果的完全反转。使得变化不可控。我们希望的是每次学习的过程中,逐步修改权重和偏置来让网络产生更好的输出。
S型神经元和感知器类似,但是被修改为权重和偏置的微小改动只引起输出的微小变化。
S神经元
S型神经元长这样:
S型神经元
S型神经元在输入很大的时候,结果接近1;在输入为很大负数的时候,结果接近0。和感知器类似,但是它是可微的,而且其微分形式很简单。