定义: 设总体的分布类型已知,但含有未知参数θ.
(1) 设 ( x1 , x 2 , , x n ) 为总体 X 的一个样本观察值，若似
然函数 L ( ) 在ˆ ˆ( x1, x2 , , xn ) 处取到最大值，则称
ˆ( x1, x2 , , xn ) 为θ的最大似然估计值.
(2) 设 ( X 1 , X 2 , , X n ) 为总体 X 的一个样本,若ˆ( x1 , x2 , , xn )
设总体的分布类型已知, 但含有未知参数θ.
设 (x1, x2 ,, xn ) 为总体 X 的一个样本观察值，若似然函
数 L( ) 关于θ可导.
令
d L( ) 0
d
解此方程得θ的最大似然估计值ˆ(x1, x2,, xn ) ,
问题
一般地, 如何构造未知参数的点估计 ? 如何选择
最优的点估计？
1 最大似然估计法
最大似然估计的基本思想
• 最大似然原理的直观想法是:一个随机试验 如有若干个可能的结果A,B,C,….若在一次试 验中,结果A出现, 则一般认为A出现的概率最 大,也即试验条件对A出现有利.或者说在试验 的很多可能条件中，认为应该是使事件A发生 的概率为最大的那种条件存在.
P=3/4 时 P{X=k} 1/64 9/64 27/64 27/54
如果样本中白球数为0, 则应估计p=1/4, 而不估计 p=3/4. 因为具有X=0的样本来自p=1/4的总体的可 能性比来自p=3/4的总体的可能性要大. 一般当 X=0,1时, 应估计p=1/4; 而当X=2,3时, 应估计p=3/4.
第五章 参数估计与假设检验
参数估计
在实际问题中，经常遇到随机变量X（即总 体X）的分布函数的形式已知，但它的一个或者多 个参数未知的情形，此时写不出确切的概率密度函 数.若通过简单随机抽样，得到总体X的一个样本观 测值(x1,x2,…,xn) ，我们自然会想到利用这一组数据 来估计这一个或多个未知参数.诸如此类，利用样 本去估计总体未知参数的问题，称为参数估计问题. 参数估计问题有两类，分别是点估计和区间估计.
为θ的极大似然估计值, 则称ˆ( X 1 , X 2 , , X n ) 为参数
θ的最大似然估计量.
最大似然思想源于德国数学家高斯(Gauss,1777－ 1855) 在1809年提出的误差的正态分布理论. 英国统 计学家费歇尔(Ronald A. Fisher 1890-1962) 1912年将 这一思想用于构造点估计, 提出了点估计的最大似然 法.
S／ n
数理统计的基础知识
数理统计学 (mathematical statistics)就是研究统 计量(statistic) 一门学问; 研究如何将样本加工成适 当的统计量, 研究如何利用统计量及其抽样分布对总 体作统计推断的一门学问.
统计推断
参数估计
点估计 区间估计
假设检验
参数假设检验
非参数假设检 验
定义:设总体 X 的分布类型已知,但含有未知参数θ.
(1)设离散型总体 X 的概 率分布为 p(x; ) ，则样本
( X1, X 2,, X n ) 的联合分布
n
p(x1; ) p(x2 ; ) p(xn ; ) p(xi ; ) i 1 n
称为似然函数，并记之为 L( ) L(x1, x2,, xn; ) p(xi; ) . i 1
设总体X ~ N (, 2 ),( X1, X2 ,, Xn )是总体的一
~
N
,
2
n
U
X / n
~
N(0,1);
2.
(n 1)
2
S
2
=
1
2
n
(Xi
i1
X )2
~
2 (n 1);
3. X 与 S2 相互独立.
4. T X ~ t(n 1).
参数估计的基本思想
X~P(λ), X~e(λ), X~N(μ,σ2) 用所获得的样本值去估计参数取值称为参数估计.
参
点估计
用某一数值作为 参数的近似值
数
估 计
在要求的精度范围内 区间估计 指出参数所在的区间
§5.1 点估计
设总体 X 的分布函数 F(x;) 形式已知，其中θ 是待估计的参数，点估计问题就是利用样本 (X1, X 2 ,, X n ) ，构造一个统计量ˆ ˆ( X1, X 2,, X n ) 来估 计θ，我们称ˆ(X1, X 2 ,, X n ) 为θ的点估计量，它是 一个随机变量. 将样本观测值 (x1, x2 ,, xn ) 代入估 计 量 ˆ(X1, X 2 ,, X n ) ， 就 得 到 它 的 一 个 具 体 数 值 ˆ(x1, x2 ,, xn ) ，这个数值称为θ的点估计值.
例：为估计某款手机的理论待机时间 , 现随机抽取 9部
该款新手机,测得实际待机时间分别为：(单位 : h) 168, 130, 169, 143, 174, 198, 108, 212, 252.
请问如何估计 的值. 解 : 直观上,可按如下两种方式估计 的值 ˆ :
1) ˆ X ˆ 172.7; 2) ˆ X(5) ˆ 169.
例：假若一个盒子里有许多白球和红球,而且已知
它们的数目之比是3:1,但不知是白球多还是红球多.
设随机地在盒子中取一球为白球的概率是p.如果有
放回地从盒子里取3个球,那么白球数目X服从二项
分布
P( X k ) C3k pk (1 p)3k
X
0 1 23
P=1/4 时 P{X=k} 27/64 27/64 9/64 1/64
数理统计的基础知识
基本概念 总体 样本 统计量
基础理论
总体分布
样本分布
抽样分布
数理统计学 (mathematical statistics)就是研究统 计量(statistic) 一门学问; 研究如何将样本加工成适 当的统计量, 研究如何利用统计量及其抽样分布对总 体作统计推断的一门学问.
正态总体的抽样分布
(2) 设连续型总体 X 的概率密度函数为 f (x; ) ，则样本
( X1, X 2,, X n ) 的联合概率密度函数
n
f (x1; ) f (x2 ; ) f (xn ; ) f (xi ; ) i 1 n
仍称为似然函数，并记之为 L( ) L(x1, x2,, xn; ) f (xi; ) . i 1