五、神经网络

2019-01-30 本文已影响0人 asdfgjsrgdf

对于许多机器学习问题，特征个数很大。回归算法不适合学习复杂的非线性假设。如，处理50*50的图片，若为灰度图则有2500个特征，若为彩图则有7500个特征
对于此类问题，应采用神经网络算法。

“带有sigmiod/logistic激活函数的人工神经元”

x0称作“偏置单元”或“偏置神经元”，其值固定为1。可省略不画

相互连接的多个神经元
第一层是输入层，最后一层是输出层，中间是隐藏层

一些符号

$a^{(j)}_i:第j层第i个神经元的激活项$
$\theta^{(j)}:权重矩阵$
比如， $a^{(2)}_1=g(\theta_{10}^{(1)}x_0+\theta_{11}^{(1)}x_1+\theta_{12}^{(1)}x_2+\theta_{13}^{(1)}x_3)$
表示第一层到第二层第一个节点之间映射过程

权重矩阵的维度

一般地，若一个神经网络在第j层有 $S_j$ 个单元，在第j+1层有 $S_{j+1}$ 个单元，则控制第j层到第j+1层映射的权重矩阵维度为 $S_j*S_{j+1}$
以上图为例， $\theta^{(1)}$ 是3*4的矩阵

五、神经网络

一些符号

权重矩阵的维度

猜你喜欢

热点阅读