“最大似然”理解

01

极大似然法估计思想

极大似然估计可以拆成三个词，分别是“极大”、“似然”、“估计”，分别的意思如下：

极大：最大的概率

似然：看起来是这个样子的

估计：就是这个样子的

极大似然估计就是在只有概率的情况下，忽略低概率事件直接将高概率事件认为是真实事件的思想

02

极大似然估计通常过程

极大似然估计的通常解法，总体来说分为以下几步：

1、得到所要求的极大似然估计的概率p的范围

2、以p为自变量，推导出当前已知事件的概率函数式Q(p)

3、求出能使得Q(p)最大的p

这样便求出了极大似然估计值p

03

极大似然估计案例

最大似然估计是一种“模型已定，参数未知”的方法。

例子来自参考文章2：

一个袋子装有白球与红球，比例未知，现在抽取10次（每次抽完都放回，保证事件独立性），假设抽到了7次白球和3次红球，在此数据样本条件下，可以采用最大似然估计法求解袋子中白球的比例。

当然，这种数据情况下很明显，白球的比例是70%，但如何通过理论的方法得到这个答案呢？一些复杂的条件下，是很难通过直观的方式获得答案的，这时候理论分析就尤为重要了，这也是学者们为何要提出最大似然估计的原因。我们可以定义从袋子中抽取白球和红球的概率如下：

x1为第一次采样，x2为第二次采样，f为模型, theta为模型参数，是未知的

我们定义似然L为：

详细求解过程，见参考文章2

参考文章

1、《极大似然估计思想的最简单解释》

2、《深入浅出最大似然估计（Maximum Likelihood Estimation）》