第一章 随机过程得基本概念与基本类型一.随机变量及其分布1.随机变量, 分布函数离散型随机变量得概率分布用分布列 分布函数连续型随机变量得概率分布用概率密度 分布函数2.n 维随机变量其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤==离散型 联合分布列 连续型 联合概率密度３.随机变量得数字特征数学期望:离散型随机变量 连续型随机变量方差: 反映随机变量取值得离散程度协方差(两个随机变量):相关系数(两个随机变量): 若,则称不相关。

独立不相关４.特征函数 离散 连续重要性质:,,,５.常见随机变量得分布列或概率密度、期望、方差０－１分布二项分布泊松分布 均匀分布略正态分布指数分布６.Ｎ维正态随机变量得联合概率密度)}()(21ex p{||)2(1),,,(121221a x B a x B x x x f T nn ---=-π ,,正定协方差阵二.随机过程得基本概念１.随机过程得一般定义设就是概率空间,就是给定得参数集,若对每个,都有一个随机变量与之对应,则称随机变量族就是上得随机过程。

简记为。

含义:随机过程就是随机现象得变化过程,用一族随机变量才能刻画出这种随机现象得全部统计规律性。

另一方面,它就是某种随机实验得结果,而实验出现得样本函数就是随机得。

当固定时,就是随机变量。

当固定时,时普通函数,称为随机过程得一个样本函数或轨道。

分类:根据参数集与状态空间就是否可列,分四类。

也可以根据之间得概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。

２.随机过程得分布律与数字特征用有限维分布函数族来刻划随机过程得统计规律性。

随机过程得一维分布,二维分布,…,维分布得全体称为有限维分布函数族。

随机过程得有限维分布函数族就是随机过程概率特征得完整描述。

在实际中,要知道随机过程得全部有限维分布函数族就是不可能得,因此用某些统计特征来取代。

(１)均值函数 表示随机过程在时刻得平均值。

(２)方差函数表示随机过程在时刻对均值得偏离程度。

(３)协方差函数 且有(４)相关函数 (3)与(4)表示随机过程在时刻,时得线性相关程度。

(５)互相关函数:,就是两个二阶距过程,则下式称为它们得互协方差函数。

,那么,称为互相关函数。

若,则称两个随机过程不相关。

３.复随机过程均值函数 方差函数协方差函数相关函数４.常用得随机过程(１)二阶距过程:实(或复)随机过程,若对每一个,都有(二阶距存在),则称该随机过程为二阶距过程。

(2)正交增量过程:设就是零均值得二阶距过程,对任意得,有,则称该随机过程为正交增量过程。

其协方差函数(3)独立增量过程:随机过程,若对任意正整数,以及任意得,随机变量就是相互独立得,则称就是独立增量过程。

进一步,如就是独立增量过程,对任意,随机变量得分布仅依赖于,则称就是平稳独立增量过程。

(4)马尔可夫过程:如果随机过程具有马尔可夫性,即对任意正整数及,,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称就是马尔可夫过程。

(5)正态过程:随机过程,若对任意正整数及,就是n 维正态随机变量,其联合分布函数就是n 维正态分布函数,则称就是正态过程或高斯过程。

(6)维纳过程:就是正态过程得一种特殊情形。

设为实随机过程,如果,①;②就是平稳独立增量过程;③对任意增量服从正态分布,即。

则称为维纳过程,或布朗运动过程。

另外:①它就是一个Markov 过程。

因此该过程得当前值就就是做出其未来预测中所需得全部信息。

②维纳过程具有独立增量。

该过程在任一时间区间上变化得概率分布独立于其在任一得其她时间区间上变化得概率。

③它在任何有限时间上得变化服从正态分布,其方差随时间区间得长度呈线性增加。

(7)平稳过程: 严(狭义)平稳过程:,如果对任意常数与正整数及,,与有相同得联合分布,则称就是严(狭义)平稳过程。

广义平稳过程:随机过程,如果①就是二阶距过程;②对任意得, ;③对任意,,或仅与时间差有关。

则满足这三个条件得随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。

第二章 泊松过程一.泊松过程得定义(两种定义方法)１,设随机计数过程,其状态仅取非负整数值,若满足以下三个条件,则称:就是具有参数得泊松过程。

①;②独立增量过程,对任意正整数,以及任意得相互独立,即不同时间间隔得计数相互独立;③在任一长度为得区间中,事件Ａ发生得次数服从参数得得泊松分布,即对任意,有,,表示单位时间内时间Ａ发生得平均个数,也称速率或强度。

２,设随机计数过程,其状态仅取非负整数值,若满足以下三个条件,则称:就是具有参数得泊松过程。

①;②独立、平稳增量过程;③。

第三个条件说明,在充分小得时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性。

二.基本性质１,数字特征推导过程要非常熟悉２,表示第事件Ａ发生到第次事件发生得时间间隔,就是时间序列,随机变量服从参数为得指数分布。

概率密度为,分布函数均值为证明过程也要很熟悉 到达时间得分布 略三.非齐次泊松过程 到达强度就是得函数①;②独立增量过程;③。

不具有平稳增量性。

均值函数定理:就是具有均值为得非齐次泊松过程,则有{}{}[()()]()()exp [()()]!nX X X X m t s m t P X t s X t n m t s m t n +-+-==-+- 四.复合泊松过程设就是强度为得泊松过程,就是一列独立同分布得随机变量,且与独立,令 则称为复合泊松过程。

重要结论: 就是独立增量过程;若,则,第五章 马尔可夫链泊松过程就是时间连续状态离散得马氏过程,维纳过程就是时间状态都连续得马氏过程。

时间与状态都离散得马尔可夫过程称为马尔可夫链。

马尔可夫过程得特性:马尔可夫性或无后效性。

即:在过程时刻所处得状态为已知得条件下,过程在时刻所处状态得条件分布与过程在时刻之前所处得状态无关。

也就就是说,将来只与现在有关,而与过去无关。

表示为 {}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P一.马尔可夫链得概念及转移概率1.定义:设随机过程,对任意得整数与任意得,条件概率满足{}{}11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======,则称为马尔可夫链。

马尔可夫链得统计特性完全由条件概率所决定。

2.转移概率 相当于随机游动得质点在时刻处于状态得条件下,下一步转移到得概率。

记为。

则称为马尔可夫链在时刻得一步转移概率。

若齐次马尔可夫链,则与无关,记为。

称为系统得一步转移矩阵。

性质:每个元素,每行得与为1。

3.步转移概率= ;称为步转移矩阵。

重要性质:① 称为方程,证明中用到条件概率得乘法公式、马尔可夫性、齐次性。

掌握证明方法:{}{}{}{}{}{}{}{}{} ()()()()(),,,,,,,()()m m nnij m n mmm m l m nk T mm m l m n m m l k T m m l mn l l l n lkj ik ik kjk I k IP X i X jp P X j X iP X iP X i X k X jP X iP X i X k X j P X i X k P X i X k P X i p m l p m p p++++∈+++∈+--∈∈================= =⋅=== =+⋅=⋅∑∑∑∑②说明步转移概率矩阵就是一步转移概率矩阵得次乘方。

4.就是马尔可夫链,称为初始概率,即0时刻状态为得概率;称为绝对概率,即时刻状态为得概率。

为初始概率向量,为绝对概率向量。

定理:①矩阵形式:②定理: 说明马氏链得有限维分布完全由它得初始概率与一步转移概率所决定。

二.马尔可夫链得状态分类1.周期:自某状态出发,再返回某状态得所有可能步数最大公约数,即。

若,则称该状态就是周期得;若,则称该状态就是非周期得。

2.首中概率:表示由出发经步首次到达得概率。

3.表示由出发经终于(迟早要)到达得概率。

4.如果,则状态就是常返态;如果,状态就是非常返(滑过)态。

5.表示由出发再返回到得平均返回时间。

若,则称就是正常返态;若,则称就是零常返态。

非周期得正常返态就是遍历状态。

6.状态就是常返充要条件就是;状态就是非常返充要条件就是。

7.称状态与互通,。

如果,则她们同为常返态或非常返态,;若,同为常返态,则她们同为正常返态或零常返态,且,有相同得周期。

8.状态就是遍历状态得充要条件就是。

一个不可约得、非周期得、有限状态得马尔可夫链就是遍历得。

9.要求:熟悉定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态。

三.状态空间得分解1.设就是状态空间得一个闭集,如果对任意得状态,状态,都有(即从出发经一步转移不能到达),则称为闭集。

如果得状态互通,则称就是不可约得。

如果状态空间不可约,则马尔可夫链不可约。

或者说除了之外没有其她闭集,则称马尔可夫链不可约。

2.为闭集得充要条件就是:对任意得状态,状态,都有。

所以闭集得意思就是自得内部不能到达得外部。

意味着一旦质点进入闭集中,它将永远留在中运动。

如果,则状态为吸收得。

等价于单点为闭集。

3.马尔可夫链得分解定理:任一马尔可夫链得状态空间,必可唯一地分解成有限个互不相交得子集得与,①每一个都就是常返态组成得不可约闭集;②中得状态同类,或全就是正常返态,或全就是零常返态,有相同得周期,且。

③就是由全体非常返态组成。

分解定理说明:状态空间得状态可按常返与非常返分为两类,非常返态组成集合,常返态组成一个闭集。

闭集又可按互通关系分为若干个互不相交得基本常返闭集。

含义:一个马尔可夫链如果从中某个非常返态出发,它或者一直停留在中,或某一时刻进入某个基本常返闭集,一旦进入就永不离开。

一个马尔可夫链如果从某一常返态出发,必属于某个基本常返闭集,永远在该闭集中运动。

4.有限马尔可夫链:一个马尔可夫链得状态空间就是一个有限集合。

性质:①所有非常返态组成得集合不就是闭集;②没有零常返态;③必有正常返态;④状态空间,就是非常返集合,就是正常返集合。

不可约有限马尔可夫链只有正常返态。

四.得渐近性质与平稳分布1.为什么要研究转移概率得遍历性？研究当时得极限性质,即得极限分布,包含两个问题:一就是就是否存在;二就是如果存在,就是否与初始状态有关。

这一类问题称作遍历性定理。

如果对,存在不依赖于得极限,则称马尔可夫链具有遍历性。