生成式模型 VS 判别式模型
2019-04-03 本文已影响0人
dreampai
假设可观测到的变量集合为 X，需要预测的变量集合为 Y，其他变量集合为 Z。
生成式模型是对联合概率分布 P(X,Y,Z) 进行建模，在给定观测集合 X 的条件下，通过计算边缘分布来得到对集合 Y 的推断，即：
image.png
判别式模型是直接对条件概率分布 P(Y,Z|X)进行建模，然后消掉无关变量 Z 就可以得到对变量集合 Y 的预测，即：
image.png
常见的概率图模型：
- 朴素贝叶斯
- 最大熵模型
- 贝叶斯网络
- 隐马尔可夫
- 条件随机场
- pLSA
- LDA
- ....
生成式模型：
- 朴素贝叶斯
- 贝叶斯网络
- pLSA
- LDA
- 隐马尔可夫模型
判别式模型
- 最大熵模型
- 条件随机场
