则 Xi 落在[ xi , xi + d xi )中的概率约为 f ( xi ; ) d xi ,
( X1 , X2 , …, Xn ) 落在( x1 , x2 ,…, xn )旁边的概率
n
近似为 f ( xi ; ) d xi , 其取值随 而变;
i 1
既然在一次抽样中就得到了样本值(x1 , x2 , …, xn) , 因而我们有理由认为: 样本 ( X1 , X2 , …, Xn ) 在 ( x1 , x2 , …, xn ) 旁边取值的概率比较大;
解得 E ( X ) , 2 E( X 2 ) [E( X )]2 ,
总体矩用相应的样本矩代替, 得矩估计量:
E(X
)
1
n
Xi
X
,
n i1
2
E(X
2 ) [E( X
)]2
1
n
X
2 i
X
2
S
2 0
.
n i1
例: 设总体 X ~ U (a, b) , ( X1 , X2 ,…, Xn ) 为一样本,
lnL
n 2
ln(
2)
n 2
ln(2
)
1
2
2
n
(xi
i 1
)2
续解: lnL n ln( 2 )
2
n ln(2 )
2
1
2
2
n
( xi
i 1
)2
ln L 分别对 与 2求导并令其为 0 得
lnL
1
求 a, b 的矩估计量.
解:
E( X ) (a b) 2,
E( X 2 ) D( X ) [E( X )]2
(b a)2
(a
b)2
,
12
4
解得 a E( X ) 3{E( X 2 ) [E( X )]2 } ,
b E( X ) 3{E( X 2 ) [E( X )]2 } ,
总体矩用相应的样本矩代替, 得 a 与 b 的矩估计量:
的一样本值, 求总体均值 和总体方差 2极大似然估计.
解: X 的概率密度 f ( x; , 2 )
1
exp[
(x )2
],
2
2 2
n
似然函数 L( , 2 ) f ( xi ; , 2 )
(
i 1
2 )n / 2 (2 )n / 2
exp[
1
2
2
n
( xi
i 1
)2 ]
两边取对数得
构造点估计 的常用方法
矩估计法(moment method of estimation)
极大似然估计法(method of
maximum likelihood)
一、 矩估计法
矩估计法的基本思想是用样本矩估计总体矩 . 理论依据是大数定律.
矩估计法:
用样本的
l
阶原点矩
1 n
n i 1
Xil
作为总体的 l 阶原点矩 E( X l ) 的估计,
i 1
则求
使
L( )
max
L(
),
如此求出的 作为 的估计, 叫 的极大似然估计.
求
时,
通常对 lnL( )求导, 令其为 0,
来获取结果.
若总体 X 为离散型, 则
L( )中的 f ( xi ; ) 以 P{ X i xi } 代.
综述之,
的极大似然估计
的求法如下:
设 ( X1 , X2 , …, Xn ) 为总体 X 的一样本, ( x1 , x2 , …, xn )为样本值:
去求出未知参数的估计量. (若未知参数有 k 个, 则一般取 l = 1, …, k )
由矩估计法求得的估计量叫矩估计量, 相应的 估计值叫矩估计值.
例: 设 ( X1 , X2 ,…, Xn ) 为总体 X 的一样本, 求总体均值 和总体方差 2的矩估计量.
解: E ( X ) , E( X 2 ) D( X ) [E( X )]2 2 2 ,
你很自然地想到: 只发一枪便打中, 猎人命中的 概率一般大于这位同学命中的概率. 这一枪应该 是猎人射中的 .
极大似然估计原理：
设总体 X 为连续型, 其概率密度为 f ( x; )
( 是待估参数), ( X1 , X2 , …, Xn )为一样本, 相应
的样本值为( x1 , x2 , …, xn ) :
a
X
3(
1 n
n i 1
X
2 i
X
2
)
X
3S0
b X
1 3(
n
n i 1
X
2 i
X
2)
X
3S0
例: 设 ( X1 , X2 ,…, Xn ) 为总体 X 的一样本, X 的概率密度
f
(
x
)
6
x(
x
)
0,
3, 0
其 它.
x ,
求 的矩估计量.
解:
E(X)
x
f
( x)d x
0
x 6 x( 3
根据“概率最大的事件最可能发生”，我们可取
使
概
)d
xi
达到最大的参数
作为
的估计；
i 1
n
n
即求 使 f ( xi;
i 1
)dxi
max
i 1
f
( xi; )dxi
,
n
n
i1
f
( xi ;
)
max
i1
f ( xi; )
;
n
记 L( ) f ( xi; ), 叫做样本的似然函数,
x) dx
2
,
解得 2E ( X ) ,
总体矩用相应的样本矩代替, 得矩估计量:
2
1
n
Xi
2X
.
n i1
二、 极大似然估计法 是在总体类型已知的条件下使用的一种参数
估计方法 . 其基本思想是概率最大的事件最可能发生 .
例如: 某位同学与一位猎人一起外出打猎 .一只野兔 从前方窜过 . 只听一声枪响，野兔应声倒下 . 是谁打中的呢？
参数估计又分点估计与区间估计.
§1 参数的点估计
设总体 X 的分布中含未知参数 ,
( X1 , X2 , …, Xn ) 是一样本, 要构造一统计量
( X1 ,,
X n ) 作为
的估计 (
叫做
的点估计量);
对应样本值( x1 ,
x2 , …, xn ),
( x1 ,, xn ) 可作为
的估计值，叫做 的点估计值.
若总体 X 为连续型, 概率密度为 f ( x; ),
n
引入似然函数 L( ) f ( xi; ),
i 1
求 使 L( ) 最大.
若总体 X 为离散型, 则
L( )中的 f ( xi ; ) 以 P{ X i xi } 代.
例: 设 ( x1 , x2 ,…, xn ) 为取自正态总体 N (, 2 )
第七章 参数估计
进行统计推断的一般步骤为: 总体 随机抽样 样本
统计量
作出推断
统计推断的
基本问题
参数的点估计 参数估计问题
参数的区间估计
参数假设检验 假设检验问题
非参数假设检验
参数估计问题: 就是要利用样本, 对总体 分布中包含的未知参数或未知参数的某些函数 作出估计.
如: 估计产品的废品率; 估计湖中鱼的数量; 估计降雨量等等.