27
北大数学学院
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的定义与基本性质—简单例子
y BxB


0 0 1
1 0 0
100 110
1 2 0
003 100
0 0 1
1 0 0



1 0 1
2 0 1
003 100
2
北大数学学院
第二章 多元正态分布及参数的估计
目录
§2.1 随机向量 §2.2 多元正态分布的定义与
基本性质
§2.3 条件分布和独立性 §2.4 随机矩阵的正态分布 §2.5 多元正态分布的参数估计
3
北大数学学院
第二章 多元正态分布及参数的估计
§2.1 随 机 向
本课程所讨论的是多变量总体.把 p个随机变量放在一起得
第二章 多元正态分布及参数的估计
§2.2 多元正态分布性质2的推论
例2.1.1
f (x1, x2
()X1,X212)的e联 12合( x12密 x22度) [1函数x为1 x2e

1 2
(
x12

x22
)
]
我们从后面将给出的正态随机向量的联合密
度函数的形式可知, (X1,X2)不是二元正态随机向 量.但通过计算边缘分布可得出:
本节有关随机向量的一些概念(联合分布, 边缘分布,条件分布,独立性;X的均值向量,X 的协差阵和相关阵,X与Y的协差阵)要求大家 自已复习.
三﹑ 均值向量和协方差阵的性质 (1) 设X,Y为随机向量,A,B为常数阵,则
E(AX)=A·E(X) E(AXB)=A·E(X)·B
6
北大数学学院
第二章 多元正态分布及参数的估计
r p
由性质2可得：X
类似地
(1)

B1 X

d1
~
Nr ( (1) , 11).
取 B2 O I pr , p r维向量d2 0,则
( p-r) p
X (2) B2 X d2 ~ Npr ((2) , 22 ).
23
北大数学学院
第二章 多元正态分布及参数的估计
e2
du
2
eit
1 1(uit )2 1(it )2
e e du 2
2
2
exp[it 1 t 2 2 ] 1
1 (uit )2
e2
du
2
2
exp[it 1 t 2 2 ]
2
14
北大数学学院
第二章 多元正态分布及参数的估计
性质2 设X～Np(μ,Σ), B为s×p常数阵
，d为s×1常向量，令Z=BX+d,则
Z～Ns(Bμ+d , BΣB ).
该性质指出正态随机向量的任 意线性组合仍为正态分布.
19
北大数学学院
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的性质2
证明 因Σ ≥0, Σ可分解为Σ=AA ,其中A 为p×q 矩阵.已知X～Np(μ,Σ),由定义 2.2.1可知
0 0 1
1 0 0

d=ef(X1,X2,…,Xp)
x1 x2
p p

def
X X
(1) (2)


xnp X (n)
其中 X(i)( i=1,…,n)是来自p维总体的一个样品 .
5
北大数学学院
第二章 多元正态分布及参数的估计
§2.1 随 机 向
在多元统计分析中涉及到的都是随机向量, 或是多个随机向量放在一起组成的随机矩阵.
d
X = AU+μ
(d表示两边的随机向量服从相同的分布.)
其中U=(U1,…,Uq),且U1,…,Uq 相互独
立同 N(0，1)分布。 20
北大数学学院
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的性质2
Z=BX+d d= B(AU+μ)+d = (BA)U+(Bμ+d)
由定义2.2.1可知
15
北大数学学院
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的性质1
性质1的证明 ：
根据随机向量特征函数的定义和性质，经计算即可 得出X的特征函数为
ΦX(t)= E(eitX)= E(eit (AU+μ) )
exp( it ) E(eitAU ) 令t′A=s′=(s1,…sq) exp(it) E(ei(s1U1sqUq ) )
(2)
令
Y


X X X
2 3 1



0 0 1
1 0 0
0 1 0

X X X
1 2 3


BX,
由性质2知,Y为3维正态随机向量,且
0 1 0 2 0
y

Bx


0 1
0 0
10
0 0



02
此定义中，不必要求σ＞0,当σ退化为0时仍 有意义。把这种新的定义方式推广到多元情况
11
北大数学学院
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的第一种
定义2.2.1 设U=(U1,…,Uq)′为随机向量,
U1,…,Uq相互独立且同N(0，1)分布；设μ为p维
常数向量，A为p×q常数矩阵，则称X=AU + μ 的分布为p维正态分布，或称X为p 维正态随机
§2.2 多元正态分布的性质1
当 X～N(0,1)时,φ(t)=exp［-t 2 /2］.
性质1 设U= (U1,…,Uq)′为随机向量,
U1, …,Uq 相互独立且同 N(0,1)分布；令
X=μ+AU,则X

X
(t )

exp[it

1 2
t AAt ].
这里t=(t1,…,tp), 故ΦX(t)为p元函数.
X=(X1,X2,…,Xp)′ 为一个p维随机向量,如果同时对p维 总体进行一次观测,得一个样品为 p 维数据.常把n个样品排成一个n×p 矩阵,称为样本资料阵.
4
北大数学学院
第二章 多元正态分布及参数的估计
§2.1 随 机 向
X


x11 x21
x12 x22


xn1 xn2
§2.1 随 机 向
D(AX)=A·D(X)·A' COV(AX,BY)=A·COV(X,Y)·B'
(2) 若X,Y相互独立,则COV(X,Y)=O;反之 不成立.
若COV(X,Y)=O,我们称X与Y不相关.故有: 两随机向量若相互独立,则必不相关; 两随机向量若不相关,则未必相互独立. (3) 随机向量X=(X1,X2,…,Xp)′的协差阵D(X)=
(t) E(eitX )
1
e e dx
itx

(
x) 2 2
2
2
u ( x ) /

1

eit
(u


)e

u2 2
du
2
13
北大数学学院
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的性质1
eit
1
1[u2 2itu(it )2 (it )2 ]
i 0(i 1,, q), q1 0,, p 0.
10
北大数学学院
第二章 多元正态分布及参数的估计
§2.2
在一元统计中，若U～N(0,1),则U的任意 线性变换X=σU+μ～N(μ,σ2)。利用这一性质， 可以从标准正态分布来定义一般正态分布：
若U～N(0,1),则称X =σU+μ的分布为 一般正态分布,记为X ～N(μ, σ2 )。
exp(it
)
)


q
1
exp(
j 1
exp[
1 2
2
(s12
s
2 j
)


sq2
)]
exp(it 1 ss) exp(it 1 tAAt)
2
2
17
北大数学学院
第二章 多元正态分布及参数的估计
§2.2
记Σ=AA′，则有以下定义。
定义2.2.2 若p维随机向量X的特征函数
1
'

p


0
0
'
p

1
O
其中L

，L L,故L 0.

O
p

8
北大数学学院
第二章 多元正态分布及参数的估计
§2.1 随机向量—
当矩阵Σ>0(正定)时，矩阵L也称为Σ的平方根 矩阵，记为Σ1/2 .
当矩阵Σ>0(正定)时,必有p×p非退化矩阵 A使得
exp(it) E(eis1U1 eisqUq )
16
北大数学学院
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的性质1
(因U1 ,…, Uq相互独立,乘积的期望等于期望的乘积)
exp( it) E(eis1U1 ) E(eisqUq )


exp(it

X3
~
N
(
002 ,
1 1 0
1 2 0
003),
则有(1) X1 ~ N(2,1),