美文网首页
似然函数

似然函数

作者: Arya鑫 | 来源:发表于2017-08-18 17:16 被阅读117次

似然函数

统计学中,似然函数是一种关于统计模型参数的函数。给定输出x时,关于参数θ的似然函数L(θ|x)(在数值上)等于给定参数θ后变量X的概率:


似然与概率

似然(probability)常常被用作“概率(likelihood)”的同义词,但是在统计学中,二者有截然不同的用法。

概率描述了已知参数时的随机变量的输出结果;似然则用来描述已知随机变量输出结果时,未知参数的可能取值。


对数似然函数

涉及到似然函数的许多应用中,更方便的是使用似然函数的自然对数形式,即“对数似然函数”。求解一个函数的极大化往往需要求解该函数的关于未知参数的偏导数。由于对数函数是单调递增的,而且对数似然函数在极大化求解时较为方便,所以对数似然函数常用在最大似然估计及相关领域中


最大似然估计

最大似然估计是似然函数最初也是最自然的应用。

上文已经提到,似然函数取得最大值表示相应的参数能够使得统计模型最为合理。

从这样一个想法出发,最大似然估计的做法是:首先选取似然函数(一般是概率密度函数或概率质量函数),整理之后求最大值。实际应用中一般会取似然函数的对数作为求最大值的函数,这样求出的最大值和直接求最大值得到的结果是相同的。似然函数的最大值不一定唯一,也不一定存在。与矩法估计比较,最大似然估计的精确度较高,信息损失较少,但计算量较大。


似然函数:等于每一条数据的概率之积。

损失函数;损失之和,对似然函数取对数,可以将积表达式转换成和的表达式。

再加个负号:可以让最大似然值和最小损失对应起来。



https://baike.baidu.com/item/%E4%BC%BC%E7%84%B6%E5%87%BD%E6%95%B0/6011241?fr=aladdin

https://baike.baidu.com/item/%E4%BC%BC%E7%84%B6%E5%87%BD%E6%95%B0/6011241?fr=aladdin

https://www.zhihu.com/question/27126057

https://www.zhihu.com/question/47744216?from=profile_question_card

https://www.zhihu.com/question/27126057


相关文章

  • 似然函数

    在数理统计学中,似然函数是一种关于统计模型中的参数的函数,表示模型参数中的似然性。 似然函数在统计推断中有重大作用...

  • 似然函数

    似然函数 统计学中,似然函数是一种关于统计模型参数的函数。给定输出x时,关于参数θ的似然函数L(θ|x)(在数值上...

  • 似然函数

    概率描述的是在一定条件下某个事件发生的可能性,概率越大说明这件事情越可能会发生 而似然描述的是结果已知的情况下,该...

  • 似然函数

    在给定数据X,参数的似然函数也就是观察到数据X的概率 ,通过概率反过来推到参数,而参数对于样本空间的数据很重要。博...

  • 似然函数

    概述:统计学中,似然函数是一种关于统计模型参数的函数。当给定输出时,关于参数的似然函数似然值等于给定参数后变量的发...

  • 似然函数

    概述:统计学中,似然函数是一种关于统计模型参数的函数。当给定输出时,关于参数的似然函数似然值等于给定参后变量的发生...

  • Logistic Regression

    模型 模型参数估计 采用极大似然估计法 设: 似然函数: 对数似然函数: ...

  • Logistics回归公式的推导

    首先根据最大似然估计找到目标 函数 似然函数为 对数似然为 代价函数为 梯度下降,逐渐更新`$\theta$` 设...

  • 最大似然函数

    极大似然估计法是基于极大似然原理提出的,为了说明极大似然原理,我们先看个例子 例子:1、某同学与一位猎人一起外出打...

  • [ML] 似然函数

    1. 似然函数 似然函数是关于模型参数的函数。也就是说似然函数表示在选定模型的情况下,对于已有的样本,估计模型参数...

网友评论

      本文标题:似然函数

      本文链接:https://www.haomeiwen.com/subject/yevarxtx.html