当前位置:
文档之家› 第二章-多元正态分布的参数估计
第二章-多元正态分布的参数估计
μ12
μ1
Σ12
Σ
1 22
x2 μ2
Σ112
Σ11
Σ12
Σ 1 22
Σ 21
μ1·2和Σ11·2分别是条件数学期望和条件协方差矩阵,
Σ11·2通常称为偏协方差矩阵。
这一性质表明,对于多元正态变量,其子向量的条件分布
仍是(多元)正态的。
例5 设X~N3(μ, Σ),其中
1
16 4 2
μ
0 2
1 3
AΣA
1 0
0 0
0 1
1 2 3
1 1 1
12 22 32
1 31
2 3
0
3
3
0
0
0
1
1 1 3 1
13
3 3
( 3)
记
X
X1
X
2
L
X
3
X (1)
L
X (2)
μ
1 2
L
3
μ(1) L μ(2)
'
1 2
t
't
)
,
AA'.
(2)设X是一个p维随机向量,则X服从多元正态分布,
当且仅当它的任何线性函数 aX 均服从一元正态分布。
➢ 性质(2)常可用来证明随机向量服从多元正态分布。
(3)设X~N p (μ, Σ),Y=CX+b其中C为r×p 常数矩阵,
则
Y ~ Nr Cμ b,CΣC
➢该性质表明,(多元)正态变量的任何线性变换仍为
第二章 多元正态分布
§2.1 多元正态分布的定义 §2.2 多元正态分布的性质 §2.3 复相关系数和偏相关系数 §2.4 极大似然估计及估计量的性质 §2.5 X和(n − 1) S的抽样分布
§2.1 多元正态分布的定义
一元正态分布N(μ,σ2)的概率密度函数为:
f x
1
x2
e 2 2
2
2 1 2
其中 Σ 11g2
ij gk1,L , p
。
1 i, j k
ρij∙k+1,⋯,p度量了剔除Xk+1, ⋯,Xp的(线性)影响之后,Xi
和Xj间相关关系的强弱。
对于多元正态变量X,由于Σ11∙2也是条件协方差矩阵,
故此时偏相关系数与条件相关系数是同一个值,从而
ρij∙k+1,⋯,p同时也度量了在Xk+1, ⋯,Xp值给定的条件下Xi和 Xj间相关关系的强弱。
它是剔除了 X2 Xk1,L , X p 的(线性)影响之后,
Xi和Xj之间的协方差。
给定X2时Xi 和Xj的偏相关系数(partial correlation
coefficient)定义为: ijgk1,L , p
ij gk1,L , p
,
iigk1,L , p jj gk1,L , p
2
1
2
exp
1 2
x
2
1
x
,
x
若随机向量 X ( X1, X2 ,L , X p )的概率密度函数为
f
x 2 p
2
Σ
1
2
exp
1 2
x
μ
Σ 1 x
μ
则称X服从p元正态分布,记作X~Np (μ, Σ),其中,参数μ 和Σ分别为X的均值和协差阵。
例1(二元正态分布 )
设X~N2(μ, Σ),这里
,
Σ
4 2
4 1
1 4
试求给定X1+2X3时
X2 X3 X1
的条件分布。
§2.3 复相关系数和偏相关系数
一、复相关系数 二、偏相关系数
一、复相关系数
相关系数度量了一个随机变量x1与另一个随机变量x2 之间线性关系的强弱。
复相关系数度量了一个随机变量X1与一组随机变量X2, ⋯,Xp之间线性关系的强弱。 将X, Σ(>0)剖分如下:
14 44
;
(iii)
X4 X1
~
N
3
4 1
44
,
14
41 11
43 13
。
X3
3 34 31 33
§2.2 多元正态分布的性质
(5)设X1,X2, ⋯,Xn相互独立,且Xi~N p (μi, Σi) ,
i=1,2,⋯,n,则对任意n个常数,有
Σ12 k
Σ
22
p
k
k pk
则子向量X1和X2相互独立,当且仅当Σ12=0。 该性质指出,对于多元正态变量而言,其子向量之间
互不相关和相互独立是等价的。
(7)设X~N p (μ, Σ), Σ>0,则
X μ Σ 1 X μ ~ 2 p
例4 设X~N3(μ,Σ),其中
3 0 0
Σ
0 0
X
X1 X2
1 ,
p 1
Σ
11
σ
21
1
σ21 1
Σ22
p
1
p 1
X1和X2的线性函数
l
X
间的最大相关系数称为
2
X1和X2
间的复(或多重)相关系数(multiple correlation
coefficient),记作ρ1∙2,⋯,p, 它度量了一个变量X1与一组
变量X2, ⋯,Xp间的相关程度。
元正态分布,则它的每个分量必服从一元正态分布,因此
把某个分量的 n 个样品值作成直方图,如果断定不呈正态 分布,则就可以断定随机向量 X ( X1, X 2 ,L , X p ) 也不
可能服从 p 元正态分布。
例3 设X~N4(μ, Σ),这里
X1
1
11 12 13 14
X
X2
,
§3.5 X 和(N − 1)S2的抽样分布
一、X 的抽样分布 二、 (n − 1)S的抽样分布
一、X 的抽样分布
1.正态总体
设X~Np (μ, Σ), Σ>0 ,X1,X2, ⋯,Xn是从总体X中抽取的 一个样本,则
X:
N
p
μ,
1 n
Σ
2.非正态总体(中心极限定理) 设X1,X2, ⋯,Xn是来自总体X的一个样本,μ和Σ存在,当 n很大且n相对于p也很大时,上式近似地成立。
μ
2
,
Σ
21
22
23
24
X3
3
31 32 33 34
X
4
4
41
42
43
44
则(i)
x1 1 1
2
2
x1 1 1
x2 2 2
x2 2 2
2
c2
;
(ii)
X1 X4
~
N2
1 4
,
11 41
例 2 若 X ( X1, X2 , X3 ) ~ N3 ( μ, Σ )
其中,
1
2
3
11 12 21 22
31 32
设
a (0,1,0)
,
A
1 0
0 0
0 1
,则
13
23
33
( 1) 其中
X1
aX
(0,1,
0)
X
2
X2
~
N (aμ, aΣa)
F g1,L , p 1
二、偏相关系数
将X, Σ(>0)剖分如下:
X
X1 X2
k p
, k
Σ
Σ11 Σ 21
Σ12 k
Σ22
p
k
k pk
称
Σ11g2
Σ11
Σ12
Σ 1 22
Σ21
为给定X2时X1的偏协方差矩
阵。记 Σ11g2 ijgk1,L , p ,称 ijgk1,L , p 为偏协方差,
11 Σ 21
31
12 22 32
13 23 33
Σ11
Σ
21
Σ12
22
则
X (1)
X1
X
2
~
N2 ( μ(1) ,
Σ11)
其中
μ (1)
1
2
Σ11
11 21
12
22
在此我们应该注意到,如果 X ( X1, X 2 ,L , X p ) 服从 p
M
L L
( X ap X p )( X a1 X1) ( X ap X p )( X a2 X 2 ) L
s11 s12
s21
s22
s p1 s p2
s1p
s
2
p
(sij
)
p p
s
pp
( X a1
X1)( X ap
X
p
)
( X a2 X 2 )( X ap X p )
X3
1
aμ
(0,1,
0)
2
2
3
11 12 aΣa (0,1, 0) 21 22
31 32
13 0
23
1
22
33 0
(2) 其中
AX
1
0
0 0
0 1
X X X
1 2 3
X1
X
3
~
N
(Aμ
,AΣA
)
Aμ
1 0
0 0
0 1
1 2 3
设样本资料可用矩阵表示为
X11
X
X
21
M
X12 L X 22 L M
X1p
X(1)