当前位置:文档之家› 关于多维正态分布

关于多维正态分布

关于多维正态分布教材相关内容:第180页例3.4.12。

2n =的情形,第141页二元正态分布。

性质1:(正态分布在可逆仿射变换下仍是正态分布) 设维随机向量n (,)X N μΣ∼),A 是n 阶实数可逆方阵,。

则R n b ∈(,Y AX b A bA A N μ′=++∼Σ。

证明:注意到1()x A Y b −=−,1()x A Y A b μμ−−=−−,2det(')det()det()det(')det()det()A A A A A Σ=⋅Σ⋅=Σ⋅所以,11111()()1(())|det |1(())'(())2|1()'(')()2Y AX b X f y f y f A y b A A y b A y b A y b A A A y b A μμμμ+−−−−−==−×⎛⎞=−−−Σ−−⎜⎟⎝⎠⎛⎞=−−−Σ−−⎜⎟⎝⎠1det |×) 故(,Y AX b N A b A A μ′=++Σ∼。

教材相关内容:第162页例3.3.9。

性质2:(具有独立分量的正态分布随机向量,边缘分布) 设1111220,0X X N X μμ⎛⎞Σ⎛⎞⎛⎞⎛⎞=⎜⎟⎜⎟⎜⎟⎜⎟Σ⎝⎠⎝⎠⎝⎠⎝⎠∼22其中X 是n 维随机向量,1X 是维随机向量,1n 2X 是维随机向量;,2n R i n i μ∈ii Σ是阶实数矩阵,。

则i n 1,2i =ii Σ是对称正定矩阵,1X 与2X 独立,并且(,)i ii i X N μΣ∼,i 。

1,2=证明:1、易见是对称矩阵,ii Σ1,2i =。

()111111112200000x x x x Σ⎛⎞⎛⎞′′Σ=≥⎜⎟⎜⎟Σ⎝⎠⎝⎠而且当且仅当。

因此'11110x x Σ=10x =11Σ是对称正定矩阵。

类似可证是对称正定矩阵。

22Σ2、对 , 112200Σ⎛⎞Σ=⎜⎟Σ⎝⎠自然有111111221220,det det det 0−−−⎛⎞ΣΣ=Σ=⎜⎟Σ⎝⎠Σ⋅Σ从而121''1,121222'111(,)(,)212X X i ii i i x f x x x x x x x −−=⎛⎞⎛⎞=−Σ⎜⎟⎜⎟⎝⎠⎝⎠⎛⎞=−⎜⎟⎝⎠ΠΣ易见 '11(),1,2.2i X i i ii i f x x x i −⎛⎞=−Σ⎜⎟⎝⎠=从而1212,1212(,)()()X X X X f x x f x f x =⋅故1,2X X 独立,且(,)i i X N ii μΣ∼。

性质3:(正态分布随机向量的分量的独立化,正态分布的边缘分布仍是正态分布) 设11112221,X X N X μμ⎛⎞ΣΣ⎛⎞⎛⎞⎛⎞=⎜⎟⎜⎟⎜⎟⎜⎟ΣΣ⎝⎠⎝⎠⎝⎠⎝⎠∼1222其中X 是n 维随机向量,1X 是维随机向量,1n 2X 是维随机向量;,2n R i n i μ∈ij Σ是n 阶实数矩阵,i 。

记i ×j n 1,2=1112211120Y I Y Y I −⎛⎞⎛⎞⎛⎞==⎜⎟⎜⎟⎜⎟−ΣΣ⎝⎠⎝⎠⎝⎠12X X 其中是阶单位矩阵。

则i I i n 1. 1−⎞⎟,从而1Y 和2Y 独立。

1111221111222111120,0Y N μμμ−⎛⎞Σ⎛⎞⎛⎜⎟⎜⎟⎜−ΣΣΣ−ΣΣΣ⎝⎠⎝⎝⎠∼⎠2. (,)ii i i X N μΣ∼,1,2i =。

证明:根据性质1,1111221112211111112111121121112221112212221111122111122211112000,00,0Y I X Y Y I X I I I N I I I N μμμμμ−−−−−−⎛⎞⎛⎞⎛⎞==⎜⎟⎜⎟⎜⎟−ΣΣ⎝⎠⎝⎠⎝⎠⎛⎞ΣΣ⎛⎞−ΣΣ⎛⎞⎛⎞⎛⎞⎛⎞⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟−ΣΣ−ΣΣΣΣ⎝⎠⎝⎠⎝⎠⎝⎠⎝⎠⎝⎠⎛⎞Σ⎛⎞⎛⎞=⎜⎟⎜⎟⎜⎟−ΣΣΣ−ΣΣΣ⎝⎠⎝⎠⎝⎠∼由性质2知,和独立,并且1Y 2Y 11111(,)X Y N μ=Σ∼。

用类似的办法可以证明22(,X N 22)μΣ∼。

这里使用的变量变换是从不独立(1,2X X 2H 可能不独立)到独立(构造出来的是独立的),而对正态分布随机向量的分量,独立与不相关是等价的(性质3),而不相关相当于几何上的垂直(关于空间上的内积),因此这本质上就是内积空间中向量组的Gram-Schmidt 正交化过程。

这方法在教材第141页例3.1.7、第149页例3.2.5、第174页例3.4.9、第189页例3.5.4中都有体现。

另外,这里得到的结论对应教材第149页例3.2.5(二元正态的边缘分布)。

12,Y Y性质1’:(正态分布在非退化仿射变换下的不变性,性质1的一般形式) 设n 维随机向量(,)X N μΣ∼,A 是m n ×阶实数方阵,rank A m =(即的行向量A 是线性无关的),。

则Y A R m b ∈(,N A b )A A X b μ′=++Σ∼。

证明:因为是满行秩矩阵,所以A m n ≤。

如果m n =,则是可逆矩阵,这时结论如b 中形式。

A 如果,则的个维行向量线性无关,我们可以将它们扩充为n 维空间的一组基,也就是说存在m n <A m n ()n m n −×矩阵B 使得n nA B ×⎛⎞⎜⎟⎝⎠ 是可逆矩阵,由性质1,'',(','),0'Y A b A b A A b A A A B X N A B N Z B B B B B A B B μμμμ⎛+⎞⎛+ΣΣ⎛⎞⎛⎞⎛⎞⎛⎞⎛⎞⎛⎞⎛⎞=+Σ=⎜⎟⎜⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟ΣΣ⎝⎠⎝⎠⎝⎠⎝⎠⎝⎠⎝⎠⎝⎠⎝⎠⎝∼'⎞⎟⎠') 由性质3知,它的一个边缘分布为(,Y AX b N A b A A μ=++∼Σ。

一个常用的结论(性质1’的特例)设12,,,n X X …X i 独立,2(,)i i X N μσ∼,1,2,,i n =…,,其中12,,,,R n a a a b ∈…12,,,n a a a …不全为零。

则2222111111(,n n n n n n a X a X b N a a b a a )μμσσ++++++ ∼ 。

证明:由独立性知,112,,1121()1(,,)()()2n n n i i X X n X X n i i x f x x f x f x μσ=⎛⎞−==−⎜⎟⎝⎠∑… 即21112(,,),n n n X X N μσμσ⎛⎞⎛⎞⎛⎞⎜⎟⎜⎟⎜⎟′⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎝⎠⎝⎠⎝⎠…∼ ,于是在性质5中取。

因不全为零,故满行秩。

于是应用性质1’就得到这个结论。

1(,...,)n A a a =12,,,n a a a …A 教材相关内容:第159页例3.3.6。

性质4:(正态分布参数的概率含义) 设维随机向量n (,)X N μΣ∼。

则()E X μ=(即()i i E X μ=,),1,...,i n =Σ是X 的协方差矩阵(即,i j Cov(,)i j X X Σ=,,i j =1,...,n )。

证明:因为Σ是n 阶实对称正定方阵,所以存在n 阶正交矩阵使得C 212'n C C λλ⎛⎞⎜⎟Σ=⎜⎟⎜⎟⎝⎠,10,...,0.n λλ>>记1n λλ⎛⎞⎜⎟Λ=⎜⎜⎟⎝⎠⎟,A C =Λ, 则A 是n 阶可逆矩阵,,于是。

2'C C Σ=Λ2''C C AA Σ=Λ=令1(Y A X )μ−=−,则由性质1知道111111'(,)(n Y A X A N A A A A N μμμ−−−−−−=−−Σ=∼0,I )其中I 是n 阶单位矩阵。

于是的联合概率密度函数为 n Y2111()'22n Y k k f y y y =⎛⎞⎛=−=−⎜⎟⎜⎝⎠⎝y ⎞⎟⎠, 因此,于是...1,...,(0,1)i i d n Y Y N ∼()0k E Y =,1,;Cov(,)0,.i j i j Y Y i j =⎧=⎨≠⎩,即()0E Y =,I Y n Σ=,因此,由数学期望和协方差矩阵的性质,得到()()()E X E AY AE Y μμμ=+=+=,''X Y A A AA Σ=Σ==Σ。

上述证明给出的构造过程叫做正态分布的标准化过程(我们称为n 维标准正态分布)。

(0,I )n N教材相关内容:有了协方差矩阵就可以很容易地得到相关系数,对的情形,2n =21121222σρσσρσσσ⎛⎞Σ=⎜⎟⎝⎠, 所以()2Var i i X σ=,121Cov(,)X X 2ρσσ=,从而1212,12X X ρσσρρσσ== 是12,X X 的相关系数,这就是教材第174页例3.4.9的结论。

教材第180页例3.4.12中定义多维正态分布时,数学期望向量和协方差矩阵的说法本不应该写在定义的叙述中,因为它们是概率密度函数的自然推论。

性质5:(对正态分布随机向量的分量,独立性与不相关性等价) 设11112221,X X N X μμ⎛⎞ΣΣ⎛⎞⎛⎞⎛⎞=⎜⎟⎜⎟⎜⎟⎜⎟ΣΣ⎝⎠⎝⎠⎝⎠⎝⎠∼1222其中X 是n 维随机向量,1X 是维随机向量,1n 2X 是维随机向量;,2n R i n i μ∈ij Σ是n 阶实数矩阵,i 。

则i ×j n 1,2=1X 与2X 独立当且仅当1221′0Σ=Σ=;证明:充分性就是性质2。

下证必要性。

因1X 与2X 独立,所以1X 的任何分量U 与2X 的任何分量V 独立,于是Cov(,)U V 0=,而根据性质4,是ΣX 的协方差矩阵,的元素是1221′Σ=Σ1X 的分量与2X 的分量的协方差,因此。

12210′Σ=Σ=教材相关内容:第178页性质3.4.13。

性质6:(正态分布的条件分布仍是正态分布) 设。

111112222122,X X N X μμ⎛⎞ΣΣ⎛⎞⎛⎞⎛⎞=⎜⎟⎜⎟⎜⎟⎜⎟ΣΣ⎝⎠⎝⎠⎝⎠⎝⎠∼则1. 在已知11X x =发生的条件下,2X 的条件概率分布是正态分布11221111122211112((),N x μμ−−+ΣΣ−Σ−ΣΣΣ)2. 2X 关于1X 的线性回归与非线性回归相同:)E X 1212211111(|)(X X μμ−=+ΣΣ−。

证明:由性质3,我们知道与12221111Y X X −=−ΣΣ1Y X 1=独立,并且11222111122211112(,Y N μμ−−)−ΣΣΣ−ΣΣΣ∼于是在已知11X x =的条件下,12221111X Y −=+ΣΣx 2,X 的条件概率分布就是的概率分布,根据性质1,的分布是正态分布122111Y −+ΣΣ1x 122111Y −+ΣΣ1)1x,11221111122211112((),N x μμ−−+ΣΣ−Σ−ΣΣΣ这就是在已知1X x =的条件下2X 的条件概率分布。

相关主题