第一章随机过程的基本概念与基本类型一.随机变量及其分布1.随机变量X,分布函数F(x)P(X x)离散型随机变量X的概率分布用分布列p k P(X x)分布函数F(x)p kk连续型随机变量X的概率分布用概率密度f(x)分布函数xF(x)f(t)dt2.n维随机变量X(X1,X2,,X n)其联合分布函数()(1,x,,x n)P(X x,X x,,X n x n,)F x F x21122离散型联合分布列连续型联合概率密度3.随机变量的数字特征数学期望:离散型随机变量X E X x k p连续型随机变量X EX xf(x)dxk方差:2() 22DX E(X EX)EX EX反映随机变量取值的离散程度协方差(两个随机变量X,Y):B XY E[(X EX)(Y EY)]E(XY)EX EY相关系数(两个随机变量X,Y):B XYXY若0,则称X,Y不相关。
DX DY独立不相关0itX 4.特征函数g(t)E(e)离散g(t)e连续g(t)e f x dx itx p itx()kk重要性质:g(0)1,g(t)1,g(t)g(t),k i k EXg(0)k 5.常见随机变量的分布列或概率密度、期望、方差0-1分布P(X1)p,P(X0)q EX p DX pq二项分布k k n kP(X k)C n p q EX np DX n p qk泊松分布P(X k)e EX DX均匀分布略k!2正态分布N(a,)2(x a)12f(x)e EX a22D X2指数分布f(x)e0,x1,x0EXx0DX126.N维正态随机变量(X1,X,,X n)X的联合概率密度X~N(a,B)2f(11T1x1,x,,x)exp{(x a)B(x a)} 2nn1222(2)|B|a(a1,a2,,a n),x(x1,x2,,x n),B(b ij)n n正定协方差阵二.随机过程的基本概念1.随机过程的一般定义设(,P)是概率空间,T是给定的参数集,若对每个t T,都有一个随机变量X与之对应,则称随机变量族X(t,e),t T是(,P)上的随机过程。
简记为X(t),t T。
含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性。
另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。
当t固定时,X(t,e)是随机变量。
当e固定时,X(t,e)时普通函数,称为随机过程的一个样本函数或轨道。
分类:根据参数集T和状态空间I是否可列,分四类。
也可以根据X(t)之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。
2.随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。
随机过程X(t),t T的一维分布,二维分布,⋯,n维分布的全体称为有限维分布函数族。
随机过程的有限维分布函数族是随机过程概率特征的完整描述。
在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代。
(1)均值函数m X(t)EX(t)表示随机过程X(t),t T在时刻t的平均值。
(2)方差函数2D X(t)E[X(t)m X(t)]表示随机过程在时刻t对均值的偏离程度。
(3)协方差函数BX(s,t)E[(X(E[Xs)(s)m(s))(t)(s)mXmX(t)(t))]且有B(t,t)D(t)X X(XX(t)]m(4)相关函数R(s,t)E[X(s)X(t)]X(3)和(4)表示随机过程在时刻s,t时的线性相关程度。
(5)互相关函数:X(t),t T,Y(t),t T是两个二阶距过程,则下式称为它们的互协方差函数。
BX Y(s,t)E[(E[XX(s)(s)YmX(t)](s))(mXY(t)mY(s)m(t)Y(t))],那么R(s,t)E[X(s)Y(t)]XY,称为互相关函数。
若E[X(s)Y(t)]m(s)m(t)X,则称两个随机过程不相关。
Y3.复随机过程Z t X t jY t均值函数m Z(t)EX jEY方差函数t t2E Z m t Z m tD Z(t)E[|Z t m Z(t)|][(t Z())(t Z())]协方差函数BZ(s,t)E[(ZsmZ(s))(ZtmZ(t))]相关函数R Z(s,t)E[Z s Z t] E[ZsZt]mZ(s)mZ(t)4.常用的随机过程(1)二阶距过程:实(或复)随机过程X(t),t T,若对每一个t T,都有2E X(t)(二阶距存在),则称该随机过程为二阶距过程。
(2)正交增量过程:设X(t),t T是零均值的二阶距过程,对任意的t1t2t3t4T,有E[(X2)X(t X(t)X(t))]0,则称该随机过程为正交增量过程。
(t))(1432s t 其协方差函数B X(s,t)R X(s,t)X(min(,))(3)独立增量过程:随机过程X(t),t T,若对任意正整数n2,以及任意的t t t T1,2n随机变量X(2)X(t),X(t)X(t),,X(t n)X(t n)是相互独立的,则称X(t),t T是独立t1431增量过程。
进一步,如X(t),t T是独立增量过程,对任意s t,随机变量X(t)X(s)的分布仅依赖于t s,则称X(t),t T是平稳独立增量过程。
(4)马尔可夫过程:如果随机过程X(t),t T具有马尔可夫性,即对任意正整数n及t1t2n,P(X(t1)x1,,X(t n1)x n1)0,都有t TP X(t n)x n X(t1)x,,X(t n)x n P X(t n)x n X(t n)x n,则则称X(t),t T11111是马尔可夫过程。
(5)正态过程:随机过程X(t),t T,若对任意正整数n及t t t T,2,,1,n((t1),X(t)X(t n)X)是n维正态随机变量,其联合分布函数是n维正态分布函数,则称2X(t),t T是正态过程或高斯过程。
(6)维纳过程:是正态过程的一种特殊情形。
设W(t),t为实随机过程,如果,①W(0)0;②是平稳独立增量过程;③对任意s,t增2t s2量W(t)W(s)服从正态分布,即W(t)W(s)~N(0,)0。
则称W(t),t为维纳过程,或布朗运动过程。
另外:①它是一个Markov过程。
因此该过程的当前值就是做出其未来预测中所需的全部信息。
②维纳过程具有独立增量。
该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。
③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加。
(7)平稳过程:严(狭义)平稳过程:X(t),t T,如果对任意常数和正整数n及t1,t2,,t n T,t1,t2,,t n T,(X(t1),X(t2)X(t n))与(X(t1),X(t2)X(t n))有相同的联合分布,则称X(t),t T是严(狭义)平稳过程。
广义平稳过程:随机过程X(t),t T,如果①X(t),t T是二阶距过程;②对任意的t T,m(t)EX tX();③对任意s,t T,R X(s,t)E[X(s)X(t)]R X(t s),或仅与时间常数差t s有关。
则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。
第二章泊松过程一.泊松过程的定义(两种定义方法)1,设随机计数过程X(t),t0,其状态仅取非负整数值,若满足以下三个条件,则称:X(t),t T是具有参数的泊松过程。
①X(0)0;②独立增量过程,对任意正整数n,以及任意的t1t2t n T X(t2)X(t1),X(t3)X(t2),,X(t n)X(t n1)相互独立,即不同时间间隔的计数相互独立;③在任一长度为t的区间中,事件A发生的次数服从参数t0的的泊松分布,即对任意t,s0,有nt(t)P X(t s)X(s)n e n0,1,n!E[X(t)]t,E[X(t)]t,表示单位时间内时间A发生的平均个数,也称速率或强度。
2,设随机计数过程X(t),t0,其状态仅取非负整数值,若满足以下三个条件,则称:X(t),t0是具有参数的泊松过程。
①X(0)0;②独立、平稳增量过程;③P X(t h)X(t)1h o(h)。
P X(t h)X(t)2o(h)第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性。
二.基本性质1,数字特征m X(t)E[X(t)]t D[X(t)]R(s,t)X s(t1)s t t(s1)s tB(s,t)R(s,t)m(s)m(t)min(s,t)推导过程要非常熟悉X X X X2,T表示第n1事件A发生到第n次事件发生的时间间隔,T n,n1是时间序列,随机变量T n n服从参数为的指数分布。
概率密度为f(t)te,t00,t0,分布函数F(t)Tnt1e,t00,t0均值1为ETn证明过程也要很熟悉到达时间的分布略三.非齐次泊松过程到达强度是t的函数①X(0)0;②独立增量过程;③P X(t h)X(t)1(t)h o(h)P X(t h)X(t)2o(h)。
不具有平稳增量性。
均值函数tm(t)E[X(t)](s)ds X定理:X(t),t0是具有均值为tm(t)(s)ds的非齐次泊松过程,则有Xn[m(t s)m(t)]X XP X(t s)X(t)n exp[m(t s)m(t)]X Xn!四.复合泊松过程设N(t),t0是强度为的泊松过程,Y,k1,2,是一列独立同分布的随机变量,且与kN(t)N(t),t0独立,令X t Y则称X(t),t0为复合泊松过程。
()kk1重要结论:X(t),t0是独立增量过程;若2E(Y),则E[X(t)]t E1(Y,)12D[X(t)]tE(Y)1第五章马尔可夫链泊松过程是时间连续状态离散的马氏过程,维纳过程是时间状态都连续的马氏过程。
时间和状态都离散的马尔可夫过程称为马尔可夫链。
马尔可夫过程的特性:马尔可夫性或无后效性。
即:在过程时刻t0所处的状态为已知的条件下,过程在时刻t t所处状态的条件分布与过程在时刻t0之前所处的状态无关。
也就是说,将来只与现0在有关,而与过去无关。
表示为P X(t n)x n X(t1)x,,X(t n)x n P X(t n)x n X(t n)x n11111一.马尔可夫链的概念及转移概率1.定义:设随机过程X n,n T,对任意的整数n T和任意的i0,i1,,i n1I,条件概率满足P X1i1X0i0,X1i1,,X i P X1i1X i,则称X n,n T为马尔可夫n n n n n n n n链。
马尔可夫链的统计特性完全由条件概率P X n1i n1X n i n所决定。