当前位置:文档之家› 时间连续状态连续的马尔科夫过程资料

时间连续状态连续的马尔科夫过程资料

时间连续状态连续的马尔科夫过程
1、条件分布函数
设随机矢量 ( X1, X 2 ,...X n ) ,则条件分布函数定义为:
FXn (Xn X1 x1, X2 x2,...Xn1 xn1)
lim
hi 0
p( X n xn
x1 h1 X1 x1,..., xn1 hn1 X n1 xn1)
2、条件分布密度函数
若条件分布函数对X
可导,则条件分布密度函数为:
n
d dxn FXn ( X n X1 x1, X 2 x2 ,...X n12 x2,...Xn1 xn1)
时间连续状态连续的马尔科夫过程
定义:
设随机过程 { X(t), t [0,] }的状态 空间E={-,+}, 若对任意自然数m,任意m个t1 , t2 , ...tm ,以及任意s>0
若对x可导,则有
f (x,tm s x1,t1, x2,t2, xm,tm) f (x,tm s xm,tm)
转移概率分布函数
F(x,t x',t') FX (t) (x X (t') x')
通常规定
F ( x, t
x'
,
t
'
)=
1
0
x' x x' x
转移概率分布函数的性质
(1) 0 F(x,t x',t') 1
则对 0 t1 t2 t3,有
+
f (x3, t3 x1, t1)= - f (x3, t3 x2 , t2 ) f (x2 , t2 x1, t1)dx2

+
f (x3,t3 s )= - f (x3 x2 , ) f (x2 x1, s)dx2
(2) F(x,t x',t')对x非降
(3) F(x,t x',t') 对 x 右连续
(4) lim F(x,t x',t') 0, lim F(x, t
x
x
x',t') 1
时齐马尔科夫过程
当转移概率分布函数仅与时间间隔t t'有关,
与转移的起始 t' 时刻无关时,记作
F(x,t x',t')=F(x x',t t') F(x x', ) , (t t' )
称为时齐马尔科夫过程 ( 0)
若对 x 可导,则有
f (x,t x',t')=f (x x',t t') f (x x', ) , (t t' )
通常规定 f (x,t x',t) (x x')
(x x' )表示单位脉冲函数
切普曼-柯尔莫哥洛夫方程(C-K方程)
定理1 设{ X(t), t [0,] }是马尔科夫过程,
i 1, 2,...n 1
lim p( X n xn , x1 h1 X1 x1,..., xn1 hn1 X n1 xn1)
hi 0 i1,2,...n1
p(x1 h1 X1 x1,..., xn1 hn1 X n1 xn1)
称为在 X1 x1, X 2 x2 ,...X n1 xn1 条件下,X n 的条件分布函数
满足
F(x,tm s x1,t1, x2,t2, xm,tm) F(x,tm s xm,tm)
其中
F(x,tm s x1,t1, x2,t2, xm,tm)
FX (tms) (x X (t1) x1, X (t2 ) x2,...X (tm) xm)
F(x,tm s xm,tm) FX (tms) (x X (tm) xm)
相关主题