一.DNN前向传播算法

二.DNN反向传播算法

三.损失函数和激活函数的选择

对数似然函数和交叉熵函数在二分类的情况下形式是几乎一样的，可以说最小化交叉熵的本质就是对数似然函数的最大化。

四.DNN的正则化