最大似然估计
所属章节:第6章 数理统计
对未知参数 θ 进行估计时,在该参数可能的取值范围内选取,使“样本获此观测值 x1,x2,⋯,xn”的概率最大的参数值 θ^ 作为 θ 的估计,这样选定的 θ^ 最有利与 x1,x2,⋯,xn 的出现,即“参数 θ=? 时,观测值出现的概率最大”.
(1) 写似然函数:
L(x1,x2,⋯,xn;θ)=⎩⎨⎧i=1∏np(xi;θ)i=1∏nf(xi;θ)(这是离散型总体 X 取 x1,x2,⋯,xn 的概率),(这是连续型总体 X 取 x1,x2,⋯,xn 的联合概率密度).
为方便求解 θ^,也可取对数,即
lnL(θ)=⎩⎨⎧i=1∑nlnp(xi;θ),i=1∑nlnf(xi;θ).
(2) 求参数 ⎩⎨⎧若似然函数有驻点,则令 dθdL=0 或 dθd(lnL)=0,解出 θ^,若似然函数无驻点(单调),则用定义求 θ^,若似然函数为常数,则用定义求 θ^,此时 θ^ 不唯一.
(3) 最大似然估计量的不变性原则 .
设 θ^ 是总体分布中未知参数 θ 的最大似然估计,函数 u=u(θ) 具有反函数,则 u^=u(θ^) 是 u(θ) 的最大似然估计,如 θ^ 是 θ 的最大似然估计,则 eθ^ 是 eθ 的最大似然估计 .
关联知识
原文:原笔记 · 6.4.2 最大似然估计 P143(原文件第 893–910 行)。
返回概率论导航