深度学习笔记—蒙特卡罗部分

[问题]

蒙特卡罗部分

1.随机算法

• 为什么要使用随机算法？

机器学习中的许多问题，很难得到精确的答案

这类问题很难用精确的确定性算法来解决

取而代之的是确定性的近似算法或蒙特卡罗近似方法

2.采样

• 采样

许多工具基于从某种分布中进行采样

之后，用这些样本对目标量做一个蒙特卡罗估计

• 为什么要采样？

想要以较小的代价近似许多项的和或某个积分时，需要采样

加速一些很费事却易于处理的求和估计时，需要采样

• 蒙特卡罗采样

当无法精确计算和或积分的时候，通常可使用蒙特卡罗采样来近似

• 若干采样方法

重要采样

马尔可夫链蒙特卡罗方法

Gibbs采样