深度学习--神经网络

python库--numpy

---

安装

pip install numpy

---

numpy部分函数介绍

np.array()

np.zeros()

np.ones()

mat1.shape, mat1.size

2 * mat1

mat1.T

mat1.dot(mat2)

mat1*mat2

2+mat1

mat1.transpose(0,2,1)

mat1+mat2 ----broad cast

np.random.randn(5,10) ----正态分布

np.random.shuffle() ----打乱

np.sum()

np.sum(mat1,axis=1)

np.exp(mat1)

np.argmax(mat1)

反向传播算法（链式求导）----获取梯度

---

1、从计算图的底部开始向上，逐个节点计算函数值并保存下来。这个步骤，叫做前向计算(forward)。

2、从计算图的顶部开始向下，逐步计算损失函数对每个子节点的导函数，代入前向计算过程中得到的节点值，得到导数值。这个步骤，叫做反向传播(backward)或者更明确一点叫做反向梯度传播。