2019-04-28《deep learning》深度学习“花书

深度学习“花书”中的概率论部分梳理以及要点记录。

首先是概念的梳理，见下图：

深度学习相关的概率论思维导图

上图都是最基础的本科概率论课程内容，公式不再赘述。

下面把其中需要注意的一部分单拎出来叙述--连续型变量的技术细节

涉及到测度论的一些内容

零测度：非常微小的点集，在我们的度量空间中不占有任何的体积。

几乎处处：某个性质如果是几乎处处都成立的，那么它在整个空间中除了一个测度为零的集合以外都是成立的。概率论中一些重要结果对离散值成立，但是对连续值只能是“几乎处处”成立。

Jacobian矩阵（Jacobian matrix）：

在高维空间中，为防止函数引入导致的空间变形，微分运算扩展为Jocobian矩阵，即矩阵的每个元素变为：