12+高斯过程(正态过程)
f x 1
T 1 -1 exp x - a C x - a 12 2 C
2
n2
f x
1
2
n2
T 1 -1 exp x - a C x - a 12 2 C
a1 x1 C11 C12 a x C C 2 2 21 22 a C x M L L M C C a x n 1 n2 n n
i 1
n
1
R1
2
1/ 2
1 2 exp - xi dxi 1 2
3、 n 维高斯联合概率密度
p x 1
2
n2
1 T -1 exp - (x - a) C (x - a) 12 2 C
Rn
p x dx 1
1 2
X ( ν ) exp{ ja v}Y (Lν )
T
exp{ ja T v}exp{ exp{ ja v}exp{
T
1 2 1 2
(Lv)T Lv} v L Lv}
1 2 T
T T
X (ν) exp{ ja v - v Cv}
T
5、多维高斯随机矢量的边沿分布 T X [ X1,X 2, L ,X n ]
为什么? n边形n个内角之和等于(n-2)180度 n边形n个外角之和等于360度
3、 n维高斯联合概率密度
先看n元完全独立标准高斯随机变量
p x
1
2
n2
1 T -1 exp - (x - a) C (x - a) 12 2 C
n 1 1 a 0, C In 2 exp x d x i n n 2 R 2 2 k 1
r1 2 1 1 2 2 C 2 2 1 2 (1 r ) r1 2 1
2 2
2、二维高斯分布的矩阵形式
x1 引入:x x2
2
a1 a a2
2
x1 a1 x2 a2 ( x2 a2 ) 1 ( x1 a1 ) 2r 2 2 2 1 r 1 2 1 2
(x - a) C (x - a)
T -1
2、二维高斯分布的矩阵形式
于是: 于是: 1 T T 11 1 1 -1 p( x ) exp ( x a) C (x a ) p exp ( x a ) C ( x a ) X 2 1/ 2 1/ 2 ( 2 C |C| 2 ( 2) |) 2
L L L L
C1n C2 n L Cnn
C ji Cij E X t a j j X ti ai i, j 1, 2, L , n
2、高斯过程的重要性
广泛性
– 中心极限定理:大量独立的,均匀微小的随 机变量总和近似地服从高斯分布 – 例如,无线电设备中的热噪声(前置放大 器)、通信信道中噪声信号、大气湍流、宇 宙噪声、维纳过程(布朗运动)等等
jvx
特别地
1 1 2 p( x) exp x 2 2 1 2 ( ) exp v 2
2、二维高斯(正态)分布
p( x1 , x2 ) 1 2 1 2 1 r 2 exp
2 2 ( x1 a1 ) ( x1 a1 ) ( x2 a2 ) ( x2 a2 ) 1 2r 2 2 2 1 2 2 2(1 r ) 1 1 2 2 2 2 ( 1 , 2 ) exp j (a1v1 a2v2 ) ( 1 v1 2r 1 2v1v2 2 v2 ) 2
p x
1
2
n2
1 T -1 exp - (x - a) C (x - a) 12 2 C
n
p x 0, x R ;
R
n
p x dx 1
【补充】 陈省身“ 好数学”
三角形三个内角之和等于180度
三角形三个外角之和等于360度
数学优点
– 二阶矩、广义平稳与狭义平稳等价,高斯随 机过程通过线性系统还是高斯随机过程
二、多维高斯随机变量
一维高斯(正态)分布 二维高斯(正态)分布
n维高斯(正态)分布
1、一维高斯(正态)分布
1 ( x a) 2 1 p ( x) exp 2 2 2 1 2 2 ( ) e p( x)dx exp jav v 2 1 jvx p( x) e ( )dv 2
p ( x) 1 ( x a) 2 1 exp 2 2 2
与一元高斯分布相比,可以推 测n元高斯分布的形式
3、 n维高斯联合概率密度
L ,X n 均值 n维高斯随机变量 X1,X 2,
矢量 a ,且它的协方差矩阵 C 是 正定矩阵,则概率密度函数为:
在数学中:以高斯命名的有
高斯公式、高斯曲率、高斯分布、
高斯方程、高斯曲线、高斯平面、 高斯记号、高斯概率、高斯变换、 高斯分解、高斯和、高斯素数、高 斯级数、高斯系数、高斯准则、高 斯原理、高斯消元法、高斯映射、 高斯测度、高斯二次型、高斯多项 式、高斯不等式、高斯随机过程、 高斯随机变量……等等.
3、n维高斯联合概率密度
协方差矩阵C为对称正定的,根据矩阵论定 理,存在可逆线性变换L,可以对角化,也即:
C = LL
线性变换
雅可比:
-1
T
y = L (x - a) x = Ly + a
1 (x) T 1 T 2 = L = C (x - a) C (x - a) y y (y)
6、不相关=独立
L ,X n 互不相关, n维高斯随机变量 X1,X 2,
则协方差矩阵为对角矩阵,于是
|C|
1/ 2
i
i 1
n
2 n ( x a ) 1 1 T -1 i i exp (x - a) C (x - a) exp 2 i 2 i 1 2
第12讲
高斯随机过程
北京航空航天大学 主讲人:张有光 电话:82314978,F806
高斯 — 数学王子
他的思想深入数学、
空间、大自然的奥 秘.……他推动了数 学的进展直到下个 世纪。 数学是科学的皇后 1777~1855 德国
拉普拉斯认为:高斯是世界上最伟大的数学家
主要贡献
数据拟合中最小二乘法 正态分布公式
1 T T ( v ) exp ja v v Cv 2
子矢量
[ X k1,X k 2, L ,X km ] m n
T
1 T T (vk 1 , vk 2 , L , vkm ) exp jak v k - v k Ck v k 2 1 T p ( xk 1 , xk 2 , L , xkm ) exp( j v (v k )d v k k x k ) m R m (2 ) 1 1 T -1 exp ( x a ) C (x a ) k k k k k m/2 1/ 2 (2 ) | Ck | 2
T
n 2
1 exp jvi yi yi yi dyi R 2 i 1 n 1 1 T exp{ vi vi } exp{ v v} 2 2 i 1
n
1 2
于是 Y ( ν) exp{ v v}
1 2 T
(x) x = Ly + a, = L = C (y)
标准化可得:
1 2 2 p( x1 , x2 ) exp ( x1 2rx1 x2 x2 ) 2 2 2 1 r 2(1 r ) 1 2 2 ( ) exp (v1 2rv1v2 v2 ) 2 1
1 1 2 2 p( x1 , x2 ) exp ( x1 x2 ) 2 2 1 2 2 ( ) exp (v1 v2 ) 2
n2
1
n2
1
2
1 T L exp y y dy L dy 1 n 2
1
4、n 维高斯分布-特征函数
1 T T ( ) exp ja v v Cv 2
p x 1
2
n2
1 T 1 exp (x - a) C (x - a) 12 2 C
和高斯曲线 代数基本定理:多项式解的存在性 对数论、复变函数、椭圆函数、超几 何级数、统计数学等各个领域都有卓 越的贡献 第一个成功地运用复数和复平面几何
《算术探究》奠定了近代数论的基础
《一般曲面论》开创了近代微分几何;
最先领悟到存在非欧几何的数学家 现代数学分析学大师,《无穷极数的 一般研究》,引入了高斯级数的概念, 对级数的收敛性第一次作了系统的研 究,从而开创了关于级数收敛性研究 的新时代,开辟了通往19世纪中叶分 析学的严密化道路。
特别地 r=0
n维联合分布?
( v 2r1 2v1v2 v )
2 2 1 1 2 2 2 2
r 1 2
2 1Байду номын сангаас
2
r 1 2 2 2
C
2
( x1 a1 ) ( x2 a2 ) ( x2 a2 ) 1 ( x1 a1 ) 2r 2 2 2 (1 r ) 1 1 2 2