最大熵模型
2019-04-03 本文已影响5人
dreampai
在满足约束条件的模型集合中选取熵最大的模型，即不确定最大熵模型。
最大熵模型就是要学习到合适的分布 P(y|x) ,使得条件熵 H(P) 的取值最大。在对训练数据集一无所知的情况下，最大熵模型认为 P(y|x) 是符合均匀分布的。
image.png
image.png
image.png
在满足约束条件的模型集合中选取熵最大的模型，即不确定最大熵模型。
最大熵模型就是要学习到合适的分布 P(y|x) ,使得条件熵 H(P) 的取值最大。在对训练数据集一无所知的情况下，最大熵模型认为 P(y|x) 是符合均匀分布的。
image.png
