开篇注意:
极大似然估计的前提是我们对数据分布有一个预先的考量,比如已知分布是正态分布,泊松分布或者其他分布等等,我们所不知道的是分布中具体的参数值。所以说,没有已知的分布知识就不能用极大似然法。
在数理统计学中,似然函数(英语:likelihood function)是一种关于统计模型中的参数的函数,表示模型参数中的似然性(英语:likelihood)。似然函数在统计推论中有重大作用,如在最大似然估计和费雪信息之中的应用等等。文字意义上,“似然性”与“或然性”或“概率”意思相近,都是指某种事件发生的可能性,但是在统计学中,“似然性”和“概率”(或然性)有明确的区分:概率,用于在已知一些参数的情况下,预测接下来在观测上所得到的结果;似然性,则是用于在已知某些观测所得到的结果时,对有关事物之性质的参数进行估值,也就是说已观察到某事件后,对相关母数进行猜测。
一 定义
似然函数是一种关于统计模型中的参数的函数,表示模型参数的似然性。似然函数是给定联合样本值 x 下关于(未知)参数 θ 的函数:
二 求似然函数
2.1 离散型随机变量的似然函数
假如离散型随机变量 x 的分布率为P(x|
) ,样本集D上有m个样本,则D上的似然函数为:
2.2 连续型随机变量的似然函数
假如连续型随机变量 x 的概率密度函数为 f(x|
) ,样本集D上有m个样本,则D上的似然函数为: