极大似然估计及其性质
极大似然估计及其性质
极大似然估计及其性质
一、极大似然估计 设联合密度函数为
f(Y; ),
则似然函数为
' ( 1 2 k)
似然函数 L( ;Y) f(Y; )
为使关于 的似然函数最大化,求 的一个估计 ,使获得的已观测到的样本值的概率自大化,即最大似然估计量(MLE)。
定义对数似然函数为
l lnL
则
ll L
L
最大化l的 值也会最大化L,l对 的导数s( ;Y)称作得分,将得分定义为0,即可解出(MLE) ,即
s( ;Y)
l
0
二、MLE的性质 1、一致性。
) Plim(
2、渐进正态性。
~N( ,I 1( ))
式中I( )为信息矩阵
l 2l l
I( ) E E
' l
当 是一个k维向量时,表示k个偏导数组成的列向量,即


