通过经验风险最小化推导极大似然估计

2021-04-03  本文已影响0人  Jarkata

通过经验风险最小化推导极大似然估计。证明模型是条件概率分布,当损失函数是对数损失函数时,经验风险最小化等价于极大似然估计。

解答:

假设模型的条件概率分布是P_{\theta}(Y|X),现推导当损失函数是对数损失函数时,极大似然估计等价于经验风险最小化。
极大似然估计的似然函数为:
L(\theta)=\prod_D P_{\theta}(Y|X)
两边取对数:
\ln L(\theta) = \sum_D \ln P_{\theta}(Y|X)\\ \mathop{\arg \max}_{\theta} \sum_D \ln P_{\theta}(Y|X) = \mathop{\arg \min}_{\theta} \sum_D (- \ln P_{\theta}(Y|X))
反之,经验风险最小化等价于极大似然估计,亦可通过经验风险最小化推导极大似然估计。

上一篇 下一篇

猜你喜欢

热点阅读