第一章随机过程 的基本概念与基本类型 一.随机变量及其分布X ,分布函数 F (x) P(X x) 1.随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x)p kf (t)dt分布函数kxX 的概率分布用概率密度 f (x)F(x)分布函数连续型随机变量 2.n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,)其联合分布函数 1 2 n 1 1 2 离散型联合分布列连续型联合概率密度3.随机变量 的数字特征 数学期望:离散型随机变量 XEX x p kkXEX xf (x)dx连续型随机变量2DX E(X EX) 2 EX (EX) 2方差:反映随机变量取值 的离散程度协方差(两个随机变量 X ,Y ):B E[( X EX)(Y EY)] E(XY) EX EYXYB XY相关系数(两个随机变量X,Y ):0,则称 X ,Y 不相关。
若XYDX DY独立不相关itXg(t) E(e )itxe p k 连续 g(t)ke itxf (x)dx4.特征函数离散 g(t) 重要性质: g(0) 1,g(t) 1 g( t) g(t),, g (0) i EX kk k5.常见随机变量 的分布列或概率密度、期望、方差 0-1分布 二项分布P( X 1) p,P( X 0) qEX pDX pqP(X k) C p q n kk kEX npDX n p qnk泊松分布P( X k) ek!EXDX均匀分布略( x a)21 2N(a, ) f (x)222EX a正态分布eDX2xe ,x 0 0, x 011指数分布f (x)EXDX2X (X ,X , ,X ) 的联合概率密度 X ~ N(a, B) 6.N维正态随机变量1 2 n11 2T 1(x a) B (x a)}f (x , x , , x n ) exp{ 11 2n 2(2 ) | B |2a (a ,a , ,a ), x (x , x , ,x ), B (b ) 正定协方差阵 1 2 n 1 2 n ij n n二.随机过程 的基本概念 1.随机过程 的一般定义设 ( , P)是概率空间, T 是给定 的参数集,若对每个 t T ,都有一个随机变量 X 与之对应, X(t,e),t T ( , 是P)上 的随机过程。
简记为 X(t),t T 。
则称随机变量族含义:随机过程是随机现象 的变化过程,用一族随机变量才能刻画出这种随机现象 的全部统计规律性。
另一方面,它是某种随机实验 的结果,而实验出现 的样本函数是随机 的。
t 当固定时, X (t,e)是随机变量。
当 e 固定时, X (t,e)时普通函数,称为随机过程 的一个样本函数或轨道。
分类:根据参数集 T 和状态空间 I 是否可列,分四类。
也可以根据 X (t)之间 的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。
2.随机过程 的分布律和数字特征用有限维分布函数族来刻划随机过程 的统计规律性。
随机过程X (t),t T 的一维分布,二维分布,⋯, n 维分布 的全体称为有限维分布函数族。
随机过程 的有限维分布函数族是随机过程概率特征 的完整描述。
在实际中,要知道随机过程 的全部有限维分布函数族是不可能 的,因此用某些统计特征 来取代。
m (t) EX(t)XX(t),t T(1)均值函数t在时刻 的平均值。
表示随机过程(2)方差函数 D (t) E[X(t) m (t)] 2t 对均值 的偏离程度。
表示随机过程在时刻X X B (s,t ) E[( X (s) m (s))( X (t) m (t))] X X XB (t,t) D (t) 且有(3)协方差函数 (4)相关函数X XE[ X (s)X (t)] m (s)m (t) X XR (s,t) E[ X(s)X(t)]X(3) (4)表示随机过程在时刻 s t 和 ,时 的线性相关程度。
(5)互相关函数: 数。
X(t),t T , Y(t),t T 是两个二阶距过程,则下式称为它们 的互协方差函B (s, t) E[( X (s) m (s))(Y(t) m (t))] X Y X Y,那么 R (s,t) E[ X(s)Y(t)],称为互相关函数。
XYE[X (s)Y(t)] m (s)m (t ) X YE[X(s)Y(t)] m (s)m (t),则称两个随机过程不相关。
若 X Y 3.复随机过程Z X t jY tt均值函数 m (t) EX t jEY tZ方差函数D (t) E[| Z m (t) |]2 E[(Z m (t))(Z m (t))] Z t Z t Z t ZB (s,t) E[(Z m (s))(Z m (t))] Z s Z t ZR (s,t) E[Z Z t ]协方差函数相关函数Z s E[Z Z ] m (s)m (t) s t Z Z4.常用 的随机过程2(1)二阶距过程:实(或复)随机过程 X(t),t T ,若对每一个 t T ,都有 E X (t)(二阶距存在),则称该随机过程为二阶距过程。
t 1 t t t T ,有2 3 4(2)正交增量过程:设X(t),t T 是零均值 的二阶距过程,对任意 的 E[( X(t ) X(t ))(X(t ) X(t ))] 0,则称该随机过程为正交增量过程。
2 1 4 32X其协方差函数 B (s,t) R (s,t) (min(s,t))X X(3)独立增量过程:随机过程 X(t),t T ,若对任意正整数 n 2,以及任意 的 t t 2 1t n T ,X(t ) X (t ), X (t ) X(t ), ,X(t ) X(t )是相互独立 的,则称 X(t),t T 是独立 随机变量2 1 43 n n 1X(t),t T是独立增量过程,对任意s t ,随机变量 X (t) X (s) 的分增量过程。
进一步,如布仅依赖于t s ,则称 X(t),t T 是平稳独立增量过程。
X(t),t T 具有马尔可夫性,即对任意正整数 n 及( 4)马尔可夫过程:如果随机过程t 1 t 2t n T , P(X(t ) x , , X(t ) x ) 0,都有1 1 n 1 n 1P X(t ) x X(t ) x , , X(t ) x n 1P X(t ) x X(t ) x n 1,则则称 X(t),t T n n 1 1 n 1 n n n 1是马尔可夫过程。
X(t),t Tn 及 t 1,t , ,t T,2 n( 5)正态过程:随机过程,若对任意正整数X(t ), X(t ) X(t ))是 n维正态随机变量,其联合分布函数是(n维正态分布函数,则称1 2 nX(t),t T是正态过程或高斯过程。
(6)维纳过程:是正态过程的一种特殊情形。
设W(t), t 为实随机过程,如果,① W(0) 0;②是平稳独立增量过程;③对任意s,t增2W(t) W(s) ~ N(0, t s) 2量W (t) W(s)服从正态分布,即0。
则称W(t), t 为维纳过程,或布朗运动过程。
另外:①它是一个 Markov过程。
因此该过程的当前值就是做出其未来预测中所需的全部信息。
②维纳过程具有独立增量。
该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。
③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加。
(7)平稳过程:X(t),t T n t ,t , ,t T,及1 2 n严(狭义)平稳过程:,如果对任意常数和正整数t1 ,t2 , ,t n T,(X (t ), X(t ) X(t ))与(X(t1 ), X(t 2 ) X(t n ))有相1 2 nX(t),t T同的联合分布,则称是严(狭义)平稳过程。
X(t),t T X (t),t T是二阶距过程;②对任意的t T,广义平稳过程:随机过程,如果①m (t) EX(t)常数;③对任意s, t T R (s,t) E[ X(s)X(t)] R (t s),或仅与时间,X X X差t s有关。
则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。
第二章泊松过程一.泊松过程的定义(两种定义方法)1,设随机计数过程X(t),t 0,其状态仅取非负整数值,若满足以下三个条件,则称:X(t),t T 是具有参数的泊松过程。
① X (0) 0;②独立增量过程,对任意正整数n,以及任意的t1 t2 t n T X(t ) X(t ), X(t ) X(t ), ,X (t ) X(t )相互独立,即不同时间间隔2 13 2 n n 1的计数相互独立;③在任一长度为t的区间中,事件A发生的次数服从参数t 0的的泊松分布,即( t) nt对任意t, s 0,有P X (t s) X (s) n e n 0,1,n!E[ X (t)],表示单位时间内时间A发生的平均个数,也称速率或强度。
tE[ X (t)] t,2,设随机计数过程X (t),t 0,其状态仅取非负整数值,若满足以下三个条件,则称:X (t),t 0是具有参数的泊松过程。
① X (0) 0;②独立、平稳增量过程;③P X (t h ) X (t ) 1 P X (t h ) X (t ) 2h o (h ) 。
o (h )第三个条件说明,在充分小 的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同 时发生,也称为单跳性。
二.基本性质 s ( t 1) s t m (t ) E [ X (t )]Xt D [X (t )] R (s ,t )X1,数字特征t ( s 1) s tB (s ,t ) R (s ,t ) m (s )m (t ) min(s ,t )推导过程要非常熟悉X X XX 2, T nn 1事件A发生到第 n 次事件发生 的时间间隔,T ,n 1是时间序列,随机变量 T nn表示第 tte ,t 0 1 e ,t 0 服从参数为的指数分布。
概率密度为 f (t ),分布函数 F (t ) 均值T 0,t 0n0,t 01为 ET n证明过程也要很熟悉 三.非齐次泊松过程到达时间 的分布 略到达强度是 t 的函数P X (t h ) X (t ) 1 (t )h o (h )① X (0) 0;②独立增量过程;③ 。
不具有平稳增量P X (t h ) X (t ) 2 o (h )性。
t m (t ) E [X (t )]X(s )ds均值函数t 定理: X (t ),t 0是具有均值为 m (t )X(s )ds 的非齐次泊松过程,则有[ m (t s ) m (t )] nXX P X (t s ) X (t ) nexp [m (t s ) m (t )]X Xn !四.复合泊松过程 N (t ),t 0 Y ,k 1,2,k设是强度为的泊松过程,是一列独立同分布 的随机变量,且与N (t )N (t ), t 0独立,令 X (t )Y k 则称 X (t ),t 0为复合泊松过程。