机器学习

条件独立性

2018-02-12  本文已影响6人  灵妍

英语学习:
prelimilaries:预赛
in a factored form:以一个因式分解(因式分解就是前面的链式法则)
complimentary:免费
enlightening:启发
utilize:应用
subsequent:随后
perpendicular:垂直
denote:表示
conjunction:连词
interpretation:解释
entry:条目
analagous:类似
derivation:求导
toss:折腾
intuitive:直观的
decompose:分解
条件独立性用数学符号与公式如何表示,它与影响链条的关系如何,这些都是本节的内容,我们甚至从信息轮的角度认为是因为已知的条件包含了独立的两个事件的所有关系。
比如一些条件已知后,原本独立的变量不独立了,原本不独立的变量独立了,这在之前的影响链中都是解释的通的。


独立性.png

1、独立性
上图表示了独立性的几种公式推导。
方便记忆,随便起几个名字。‘
垂直独立
乘积独立
条件独立
随机事件可以用随机变量表示。


边缘化验证独立性.png
2、边缘化验证独立性
通过边缘化推理,我们可以将联合分布转化为边缘分布。并且满足加和为一的特性,这样就可以通过独立性的乘积表示独立性。
条件独立性.png
3、条件独立性
就是在知道某些随机变量时,某些随机变量独立,注意的是验证条件独立性是要在条件变量取任何可能的值去验证而不是某一个值。
这里的表示也可以与独立性类似表示为:
垂直
乘积
条件
函数
缩减与条件独立性.png
4、通过缩减变量可以验证条件独立性。
缩减变量依旧满足加和为一的特性,需要归一化处理,,比如除以消减变量的值,然后再边缘化处理,消减条件变量,进行条件独立性乘积验证。
条件可以使两个随机变量丧失独立性.png
5、根据之前的变量可知,在V型结构下,传递节点已知,原来变量的独立性消除,变的不再独立。
上一篇下一篇

猜你喜欢

热点阅读