隐马尔科夫模型

三个基本问题

重点看第一和第三，因为这两个有实例。

• 给定模型和观测序列，求观测序列在该模型下的概率
• 给定模型和观测序列，求最优状态序列

问题1

给定模型和观测序列，求观测序列在该模型下的概率

字母的含义及解释

A,B,PI的含义见第一张图

• Q是状态集合，其实可以理解成盒子的集合，有三个盒子，每个盒子里有红、白两种球，每次从盒子里面拿球。
• B是观测概率矩阵，第i行第一列表示从第i个盒子里取出红球的概率是多- 少；第i行第一列表示从第i个盒子里取出红球的概率是多少
• A是状态转移概率矩阵，可以理解成盒子转移概率矩阵，第i行第j列表示从第i个盒子转移到第j个盒子的概率。

第一步

计算第一次从每个盒子中取出红球的概率，这一步需要乘以初始状态概率向量，也就是PI，向量中第i个元素的含义是第一次取球的盒子是盒子i的概率。后面就不需要这个矩阵了，因为有状态转移矩阵决定下一个盒子是哪个。

第二步

计算第二次从第每个盒子中取出白球的概率 计算第三次从每个盒子中取出红球的概率

第三步

将最后求出的三个概率相加

问题2

给定模型和观测序列，求最优状态序列

第一个问题是求观测序列的概率，而这个是求最优状态序列，也就是求使得观测序列（{红，白，红}）出现概率最大的盒子序列。
此处引入维特比算法求解该问题。

---

启发

写完了之后再回头看我的命名实体识别任务，突然受到启发。

参考资料

[1] 李航《统计学习方法》