二维随机变量协方差矩阵的概念
随机变量X
1与X
的协方差都存在，
2
分别记为
c11 E{[ X1 E( X1)]2} c12 E{[ X1 E( X1)][Y1 E(Y1)]} c21 E{[Y1 E(Y1)][ X1 E( X1)]} c22 E{[ X 2 E( X 2 )]2} 将它们排成矩阵的形式：
令X Y ,则有 Cov( X , X ) D( X )
例1：设( X ,Y )的分布律为
Y\X -2 -1
1
2
1
0
¼
¼
0
4
¼0
0
1/4
求Cov( X ,Y ).
例2：设( X ,Y )的概率密度函数为
f
(x,
y)
x
0
y
0 x 1,0 y 1 其他
求Cov( X ,Y ).
协方差的性质
[E( XY )]2 E( X 2 )E(Y 2 )
相关系数的性质
(1)( X ,Y ) (Y, X )
(2) (X,Y) 1;
(3) (X ,Y ) 1 存在常数a,b，使P{Y aX b} 1，
即X 与Y以概率1线性相关。
（4）若X ,Y独立，则( X ,Y ) 0，X ,Y不相关。反之，
从而(X ,Y ) 0，X ,Y不相关。
关于的符号:
当 > 0时,称X与Y为正相关. 当 < 0时,称X与Y为负相关.
相关系数和协方差具有相同的符号,因此, 前面关于协方差的符号意义的讨论可以移到 这里. 即
正相关表示两个随机变量有同时增加或同 时减少的变化趋势.
负相关表示两个随机变量有相反的变化趋 势.
c11 c12
c21
c22
这个矩阵称为随机变量( X1, X 2 )的协方差矩阵。
n维随机变量协方差矩阵的概念
n维随机变量（X1, X 2 ,L
X
n
)，X
i与X
的协方差
j
cij Cov( X i , X j ) E[ X i E( X i )][ X j E( X j )]}
i, j 1, 2,L , n
不一定成立。
相关系数性质的证明
(2) (X,Y) 1;
证
由于E{[Y(a0Leabharlann b0X)]2}
(1
2 XY
)D(Y
)
则显然有(1
2 XY
)
0，从而可知
2 XY
1。
(3) (X ,Y ) 1 存在常数a,b，使P{Y aX b} 1，
即X 与Y以概率1线性相关。
证 若 ( X ,Y ) 1，则有
都存在，则称矩阵
c11 c12 L c21 c22 L
c1n
c2
n
M M
M
cn1 cn2 L
cnn
为随机变量( X1, X 2 ,L , X n )的协方差矩阵。显然，
上述矩阵是一个对称矩阵。
协方差的大小在一定程度上反映了X和Y 相互间的关系，但它还受X与Y本身度量单位 的影响. 例如：
当| (X ,Y ) |1时，X ,Y以概率1成立线性关系. 若(X ,Y ) 1，称X ,Y正线性相关； 若(X ,Y ) 1，称X ,Y负线性相关. 当(X ,Y ) 0时，称X ,Y不（线性）相关， 若 | (X ,Y ) | 接近于1，则X ,Y有较紧密的线性关系； 若 | ( X ,Y ) | 接近于0，则X ,Y之间的线性关系程度
第三节协方差与相关系数
设( X ,Y )为二维随机变量，量E{[X E( X )][Y E(Y )]} 称为随机变量X与Y的协方差。记为Cov( X ,Y )，即
Cov( X ,Y ) E{[X E( X )][Y E(Y )]}
显然 Cov( X ,Y ) Cov(Y , X ),Cov( X , X ) D( X ) D( X Y ) D( X ) D(Y ) 2Cov( X ,Y ) Cov( X ,Y ) E( XY) E( X )E(Y )
Cov(kX, kY)=k2Cov(X,Y)
为了克服这一缺点，对协方差进行标准化， 这就引入了相关系数 .
设D(X)>0, D(Y)>0,
称
( X ,Y ) Cov( X ,Y )
D( X )D(Y )
为随机变量X和Y的相关系数 .
引理1：设X ,Y是随机变量， E( X 2 ) , E(Y 2 ) , 则有
0 E{[Y (a0 b0 X )]2} D[Y (a0 b0 X )] [E(Y (a0 b0 X ))]2 故有D[Y (a0 b0 X )] 0，E[Y (a0 b0 X )] 0 由方差的性质4可知，P{Y a0 X b0} 1。
相关系数性质的证明
反之，若存在常数a*,b*,使得P{Y a* X b*} 1， 于是 D[Y (a* X b*)] 0 即得 E{[Y (a* b* X )]2} 0 故有0 E{[Y (a* b* X )]2} min E{[Y (a bX )]2}
(1)Cov(X ,Y ) Cov(Y , X ),特别地，Cov(X , c) 0. (2)Cov(aX ,bY ) abCov(Y , X ) (3)Cov( X1 X 2,Y ) Cov( X1,Y ) Cov( X 2,Y )
协方差性质的证明
(2)Cov(aX ,bY ) abCov(Y , X ) 证 Cov(aX ,bY ) E{[aX E(aX )][bY E(bY )]}
abE{[X E( X )][Y E(Y )]} abCov(Y , X ) (3)Cov( X1 X 2 ,Y ) Cov( X1,Y ) Cov( X 2 ,Y ) 证Cov( X1 X 2 ,Y ) E{[X1 X 2 E( X1 X 2 )][Y E(Y )]} E{[X1 E( X1)][Y E(Y )]} E{[X 2 E( X 2 )][Y E(Y )]} Cov( X1,Y ) Cov( X 2 ,Y )
a,b
E{[Y (a0 b0 X )]2} (1 2 ( X ,Y ))D(Y ) 即得 ( X ,Y ) 1。
相关系数性质的证明
（4）若X ,Y独立，则( X ,Y ) 0，X ,Y不相关。反之，
不一定成立.
证 若X ,Y独立，则 Cov( X ,Y ) E{[X E(X )][Y E(Y )]} 0