参数估计的基本理论可归纳为三个问题： 一是如何由样本为总体参数制定估计量，即估计量的制定； 二是判定制定的估计量是否良好，即估计量优良性判定； 三是研究估计方法，寻找出估计的误差限和可靠性。
§6.1 点估计（Point Estimation）
样本 X1, X 2, , X n 出发对总体参数 1,2, ,k 或总
MLE要求总体的分布已知，其应用范围相对矩估计窄。
下面分别介绍离散型总体和连续型总体参数的极大似然 估计法的概念和步骤。
1.离散型的似然函数： 若总体 X 的概率函数
P{X x} p(x;) 形式已知， 为待估参数， 是 的
取值范围， X1, X 2, , X n 为来自总体的 i.i.d ，x1, x2, , xn
设总体的分布函数为F (x ; )， 为未知参数，X1, X2, , Xn
为总体的样本，x1, x2, , xn 为样本的一次实现。参数估计就
是不论总体 X 的分布函数 F(x; )已知还是未知，由样本
对总体参数 或总体的某些数字特征作出估计的方法和过程。
参数估计依据做结论的方式不同分为点估计和区间估计。
Def 以样本矩作为相应总体矩的估计量，以样本矩的连 续函数作为相应总体矩的连续函数的估计量。这种估计量称
为矩估计量，也称矩估计，矩估计量的样本实现称为矩估计 值
2.矩估计的一般步骤 （1）建立待估参数与总体矩的关系式； （2）用矩估计法建立矩估计方程，解矩估计方程； （3）写出参数的矩估计量及矩估计值。
第六章 参数估计
§6.1 参数的点估计 §6.2 区间估计 §6.3 一个总体均值的估计 §6.4 一个总体方差与频率的估计
数理统计的一类基本问题就是依据样本提供的信息，对总 体的分布或总体分布的数字特征作出统计推断。统计推断涉 及两类基本问题，一是估计问题，二是假设检验问题，本章 介绍估计问题中参数估计的理论与方法。
解：因为
E(X )
1
(
1)x 1dx
1
0
2
所以 1 2 ,故 的矩估计量为
1 EX
ˆ 1 2
1 X
例6.3 设总体X在[a , b]上服从均匀分布，其中a , b未知， 是来自X1X,K的,样Xn本 , 试求a , b的矩估计量。
解：由题设条件
μ1
E
X
ab 2
μ2 E X 2 D( X ) [E( X )]2
为样本的一个实现，则样本的联合概率函数为
n
L(x1, x2, , xn; ) p(xi ; ), i 1
L(x1, x2, , xn; ) 为样本取到样本实现 x1, x2, , xn 的概
率其为
函数。
的函数，称函数
L(x1, x2,
, xn; )
为样本似然
2.连续型的似然函数：
矩估计的思想得益于独立同分布R.V.序列的大数定律。
设总体 X 的k 阶矩 E( X k )存在，X
体的 i.i.d ，则由大数定律知
1
,
X
2
,
, Xn
是抽自总
X
1 n
n i 1
Xi
P
E(X )
1
Ak
1 n
n i 1
X
k i
P
E(X k )
k (k
1,2,
, n)
g( A1, A2, , Ak ) g(1, 2, , k )
为 ˆ X ， ˆ B2 。
矩估计的优点：简单易行，不需事先知道总体的分布。
矩估计的缺点：若总体分布已知，没有充分利用信息， 浪费许多信息；一般场合下，矩估计量不具有唯一性。其主 要原因是建立矩估计方程时，选用哪些总体矩用相应的样本 矩去估计具有一定的随机性。
二、极大似然估计法（MLE）
极大似然估计法的思想来源于极大似然原理。 什么是极大似然原理呢？通过例子给出：某同学和一位 猎人一起外出打猎，只听一声枪响，野兔应声倒下。要你推 测，你觉得是谁打中的？我们会想， 只用了一发子弹便 打 中，猎人命中的概率一般大于该同学命中的概率，看来这一 枪应该是猎人打中的。
(b a)2 (a b)2
12
4
即有
a b
b a
ห้องสมุดไป่ตู้
2
μ1 12(
μ2
μ12
)
a μ1 3( μ2 μ12 ) b μ1 3( μ2 μ12 )
于是a , b的矩估计量为
a$ X
3 n
n i 1
(Xi
X )2
b$ X
3 n
n i 1
(Xi
X )2
例6.4 总体 X ~ P()，则 的矩估计量
体参数 的估计值。由于这种估计只获得 的一个近似
值，称之为点估计或定值估计。因此点估计的关键是为总体
参数 制定一个合适的估计量 ˆ(X1, X2 , , Xn ) 。
制定估计量的方法很多，仅介绍矩估计法和极大似然估计法。
一、矩估计法（ME）
1.矩估计法的思想 由样本矩或样本矩的连续函数作为相 应总体矩或总体矩的连续函数的估计量。
体 X的某些数字特征作出估计，首先要将样本中有关总体
的信息加工提取出来，建立用于估计的统计量，把用于估计
总简体记参为数ˆ，制的定统合计适量的统ˆ(计X1量, X后2,,若 得, X到n )样称本为的一的个估实计现量，
x1, x2, , xn ，则可用ˆ的实现 ˆ(x1, x2, , xn) 作为总
极大似然原理：如果一个随机试验 E 的所有可能结果
为 A, B, C, A ，在一次试验中，结果 出现，则 随机试
验 E的条件对 结果 A出现更为有利，即认为 A出现的概率
最大。
MLE的基本思想：选取 pˆ作为 p的估计值，使当 p 时pˆ，
样本实现出现可能性最大，这种估计值称为极大似然估计值， 相应的估计量称为极大似然估计量。
例6.1 设
X1,
X 2 ,
,
X
是抽自正态总体
n
N(, 2)
的
i.i.d ，求参数和 2的矩估计量。
解：总体 X ~ N (, 2 ) ，则
E( X ) 1, 2 D( X ) 2 12
所以 和 2 的矩估计量为
ˆ
A1
1 n
n i 1
Xi
X
ˆ 2
A2
A12
1 n
n i1
X
2 i
(X )2
1 n
n i1
(Xi
X )2
B2
不论总体服从什么分布，只要 E(X ) , D(X ) 2 存
在，则它们的矩估计量分别为
ˆ
1 n
n i 1
Xi
X
ˆ 2
1 n
n i 1
(Xi
X )2
B2
例6.2 设总体X 的密度函数为
( 1)x 0 x 1
f (x) 0
其他
求 的矩估计量。