花书 深度前馈网络(阅读笔记)

2020-02-07  本文已影响0人  辛兆福

深度学习(花书)

第二部分 深度网络:现代实践

段首语:该部分描述了参数化函数近似技术。首先描述了用于表示这些函数的前馈神经网络,接着描述了正则化与优化技术,还介绍了用于大图像的卷积神经网络与用于处理时间序列的循环神经网络,最后提出了一些可用于设计、构建与配置的一般准则

第六章 深度前馈网络

深度前馈网络也叫前馈神经网络,也叫多层感知机
前馈网络的目标是近似某函数f*
例如:对于分类器,输入x可以得到类别y,则构建y = f^{*}{(x;θ)},其中θ为需要学习的参数

前馈网络由线性模型开始,为了克服线性的局限性,我们引入新的映射 Φ(x)使其为非线性函数,而其选择方式有多种:

本章将由一个简单的前馈神经网络开始讨论,部署这样一个网络需要若干决策:

学习XOR(见书中公式推导,如何有限样本点在非线性约束下进行解析解的求解)

基于梯度的学习:

上一篇 下一篇

猜你喜欢

热点阅读