构建属于自己的神经网络(二)

2020-04-30 本文已影响0人 Adiwy

在构建属于自己的神经网络（一）中，介绍了神经网络的基本原理，用一个简单的一次多项式说了一下基本过程，今天就将（一）中的最简单三层神经网络的原理介绍一下，加深神经网络的理解。

输入数据：我们对数据进行分类、回归还是其他的操作时输入到神经网络中的数据，这些数据有的可以直接作为输入，有的需要编码后输入
层：神经网络中的层次就是常说的输入层、输出层、隐藏层（可以有多个）
单元：神经网络中各个层次包含的神经元，就是图中的各个小圆圈
激活函数：输入到神经网络中的数据在各个层次的传递并不是简单的输入与输出，就像我们人体的神经，当有人轻轻碰了你一下的时候你可能没感觉，但是有人打了你一下你立马就有反应一样，不是所有的信号都要在神经网络中传递，有的信号可以传递很弱，有的信号可以传递很强，这就是激活函数的作用，输入到神经网络中各个单元的数据通过激活函数后再向下一层次传递。
输出数据：神经网络训练后形成的数据。
真实数据: 实际采集到的数据。
损失函数：真实数据与神经网络输出数据的差值作为输入，定义神经网络误差所形成的函数。
目标：我们最终要实现的效果，分类？回归？等等吧
优化器：误差反向传递，优化神经网络中各权重的链接节点，实现数据梯度下降所采用的函数。
神经网络基本架构

待更新。。。