上页 下页 返回
7.1.4 最大似然估计法
1、 最大似然估计的原理 设x1, x2 , , xn是取自总体X的一个样本观察值,分布函数为
F( x1, x2 , , xn; ), 如果当未知参数 取ˆ 时, x1, x2 , , xn 被取到的概率最大,则称 ˆ为的最大似然估计.
广 东 工 业 大 学
1、原理
设X为总体，X1, X2 , , Xn为样本，X 为样本均值，则有
大数定律
lim P{| X EX | } 1
n
即当n 很大时，样本均值 X 就很接近于总体均值EX 。
因此，当n 很大时，用样本均值X来估计总体均值EX是
比较合理的。
此依据推而广之：
用样本的k 阶中心矩来估计总体k 阶中心矩。
2、估计值
用样本的一组观察值 x1, x2 , , xn 得到估计量ˆ 的值 ˆ( x1 , x2 , , xn ), 则称为 的估计值.
为方便起见，估计量与估计值不加区别，统称为估计。
3、点估计
广 东
用构造一个统计量ˆ 对参数 作定值的估计称为参数的点
工 业
大
估计。
学
上页 下页 返回
7.1.2 矩估计法
的函数
i gi (a1,a2 , ,ak ) i 1,2, , k
(3) 求出矩估计.
即用样本矩 M t
1 n
n i 1
X
t i
代替总体相应的矩
at
EX t 得到
广
未知参数的矩估计为
东
工
ˆi gi (aˆ1 , aˆ2 , , aˆk ) i 1,2, , k

业 大
学
上页 下页 返回
例1 求总体X的均值EX与方差DX的矩估计.
3、连续型： L( ) f ( xi ;1,2 , ,k ) i 1
使L( )达到最大的ˆ 即为的最大似然估计.
4、估计步骤：
n
a.写出似然函数 L( ) f ( xi ;1,2 , ,k ) i 1
b.求出使 L( )达到最大的 ˆ1 ,ˆ2 , ,ˆk .
c.用ˆ1 ,ˆ2 , ,ˆk 作为1,2 , ,k的估计量，用ˆ1 ,ˆ2 , ,ˆk
广 东 工
的函数作为 1,2 , ,k的同一函数的估计量。
业 大
学
上页 下页 返回
5、解题具体步骤：
n
a.写出似然函数 L( ) f ( xi ;1,2 , ,k ) i 1
b.求对数似然函数ln L( ).
c.求导并令其导数等于0
ln L( ) 0 1
ln L( ) 0 ln L( ) 0
解（1）列出矩估计式
a1 EX a2 E( X 2 ) DX (EX )2
（2）求解方程组得
EX a1 DX a2 a12
（3）求出矩估计
用M1
1 n
n i 1
Xi , M2
1 n
n i 1
X
2 i
分别代替a1 ,a2
即得矩估计：
广
EX M1 X
东 工
DX M2 M12
上页 下页 返回
2、离散型:
设总体X的概率分布为
P{ X xi } p( xi ;1,2 , .k )
则样本( X1, X2 ,的, 联Xn合) 概率分布为
n
P( X1 x1, X 2 x2 , , X k xk ;1,2 , ,k ) p( xi ;1,2 , ,k ) i 1
称为似然函数 L( ).
n
即
L( ) p( xi ;1 ,2 , ,k )
i 1
使L( )达到最大的ˆ 即为的最大似然估计.
广 东
工
业
大
学
上页 下页 返回
3、连续型：
设总体X的密度函数为f ( x;1,2 , ,k ), 1,2 , ,k
是待估计参数。 X1, X2 , , Xn 是取自X的一个样本。则 ( X1, X2 , , Xn ) 的联合密度函数为
广 东
即用 M k
1 n
n i 1
X
k i
来估计E( X k )
。
矩估计法
工 业
大
学
上页 下页 返回
2、矩法估计的步骤:
(1) 列出矩估计式.求总体 F( X;1,2 , ,k ) 的前k阶矩
ai EX i
xi f ( x)dx
i 1,2, , k
(2) 解上述方程组.将未知参数1,2 , ,k表示为a1,a2 , ,ak
（1）求 的矩估计量ˆ ;
（2）求ˆ的方差 D(ˆ.)
广 东 工 业 大 学
上页 下页 返回
例4（97） 设总体X的概率密度函数为
f
(
x,
)
(
1) x
0
0 x1 其它
其中 1是未知参数。X1, X2 , , Xn 是取自X的一个样本。 分别用矩法估计和最大似然估计法求 的估计量.
广 东 工 业 大 学
上页 下页 返回
例5（02）设总体X的概率分布为
X
0
1
2
3
P
2 2 (1 ) 2
1 2
其中 (0 是 未1)知参数，利用总体X的如下样本值
2 3,1,3,0,3,1,2,3,
求 的矩估计值和最大似然估计值。
广 东 工 业 大 学
上页 下页 返回
7.1.3 顺序统计量法
广 东 工 业 大 学
第一节 点估计
7.1.1 点估计概念 7.1.2 矩估计法 7.1.3 顺序统计量 7.1.4 最大似然估计法
返回
7.1.1 点估计概念
1、估计量
设总体X的分布中含有未知参数 , X1, X2 , , Xn 为总体的 一个样本.用这个样本构造的统计量 ˆ( X1, X 2 , , X n ) 来估计 , 则称ˆ 为 估计量.
2
k
d.解上述方程组。
广
其唯一解ˆ1 ,ˆ2 , ,ˆk 即为1,2 , ,k 的最大似然估计。
东 工 业
大
学
上页 下页 返回
例1 离散型随机变量X 服从0 1分布，从X中抽得容量为n的样本 X1, X2 , , Xn 的一组观察值 x1, x2 , , xn ( xi 0或1;i 1,2, , n)， 求参数 p 的最大似然估计，其中 p P{ X 1},1 p P{ X 0}.
1 n
n i 1
X
2 i
X2
1 n
n i 1
(Xi
X
)2
S~ 2
业 大 学
上页 下页 返回
例2 设总体X的服从参数为 的指数分布，求该未知参数 的矩估计.
广 东 工 业 大 学
上页 下页 返回
例3（99） 设总体X的概率密度函数为
f
( x,
)
6 x
3
(
x)
0 x
0
其它
X1, X2 , , Xn是取自的X的一个样本.
n
f ( x1, x2 , , xn;1,2 , ,k ) f ( xi ;1 ,2 , ,k ) i 1
称为似然函数L( )
n
即
L( ) f ( xi ;1 ,2 , ,k )
i 1
使L( )达到最大的ˆ 即为的最大似然估计.
广 东
工
业
大
学
上页 下页 返回
n
2、离散型: L( ) p( xi ;1 ,2 , ,k ) i 1 n