机器学习

似然函数

2019-07-06  本文已影响5人  9933fdf22087
作者: 泛音/Fain
网站: https://www.fainke.com
微信公众号: 知识交点
写作目的:用简短的文字让知识变得简单

概述:统计学中,似然函数是一种关于统计模型参数的函数。当给定输出x时,关于参数\theta的似然函数L(\theta | x)似然值等于给定参数\theta后变量x的发生概率L(\theta | x)=P(X=x | \theta)

实列:一枚正反对称值的硬币,做上抛一次正面朝上的概率为0.5,那么上抛三次都为正面的概率P0.5 * 0.5 * 0.5=0.125。但是,如果已知上抛十次硬币,且有七次为正面,三次为反面,则这枚硬币的对称值L(正面朝上的极大似然值)为0.7。如果上抛无穷次都为正面朝上的话,那么正面朝上的极大似然值就为1,表示接下来抛硬币正面朝上的概率为1。

求解:对上述例子进行求解最大似然值。.
上述抛十次硬币的例子转为公式P(A)=p^{7} *(1-p)^{3},对该式子取对数可得\ln (P(A))=\ln \left(p^{7} *(1-p)^{3}\right)=7 \ln (p) + 3 \ln (1-p)\ln ^{\prime}(P(A))=0可得\frac{7}{p} + \frac{3}{p-1}=0,求解得p=0.7。表示这种事件的最大概率为0.7。

公式解说:

假设样本集D=\left\{x_{1}, x_{2}, \cdots, x_{N}\right\}中的样本都是独立分布,似然函数为:l(\theta)=p(D | \theta)=p\left(x_{1}, x_{2}, \cdots, x_{N} | \theta\right)=\prod_{i=1}^{N} p\left(x_{i} | \theta\right),求使似然函数l(\theta)最大的\theta

上一篇 下一篇

猜你喜欢

热点阅读