Day 682:机器学习笔记(11)
2018-12-09 本文已影响2人
kafkaliu
CRF
用无向图表示的联合概率分布称为概率无向图模型,CRF(Conditional Random Field)就是一种无向图。其中的Conditional说了它的方式是判别式的。
设 X 和 Y 是随机变量,P(Y|X) 是给定 X 条件下 Y 的条件概率分布。如果随机变量 Y 构成一个由无向图 G=<V,E> 表示的马尔可夫随机场,则称条件概率分布 P(Y|X) 为 CRF。
它和HMM的区别是,HMM是有向的,CRF是无向的;HMM计算的是联合概率,而CRF是条件概率。
对比它和HMM的三个基本问题。对于 HMM 而言,概率计算只需要观测序列即可,无须确定的状态序列,而最终结果则是当前观测序列出现的可能性。CRF 则需要既有已知观测序列,又有已知状态序列,这才能够去计算概率。