• 下时期状态只取决于当前时期状态和转移概率 P ( q t S j|q t 1 S i , q t 2 S k ,) P ( q t S j|q t 1 S i )
qt-1
t-1时 刻
3
qt
t时刻
q1 q2 q3 … qt-1
T=1 T=2 T=3
t-1时 刻
qt
t 时刻
S1
隐
藏
S2
)
aa2102 S2
S1
a11 S1 a12 2 ( 2 )
S2
a21
S1
S2
a22 aa0233
1(3) S3
S2
a22 a23
2 (3) S3
S2
SaN0a5aN014aaNNN2
1(4 S4
)
S3
a32 2 ( 4 ) a33 S4
SN
1(5)
O1
S5 O2
2 (5) S5 O3
3 (1 ) t=T-
S1
a11 a12
t=3
t=4
t=5
SS11
a11 a12
SS11
a11 a12
a21
SS22 a22
S2 a22
S2 a22
S2 a22
SS22
a23
a23
a23
a23
a31 a32
a32
a32
a32
S3 a33
SS33 a33
S3
a33
S3 a33
S3
I-隐藏状态
b2(Q3)
Q2
…
…
…
…
…
QM
QM
QM
…
QM
QM
t=1
t=2
t=3
t=T-
t=T
1
马儿科夫过程 隐藏状态序列
H M M
一般随机过程 观察状态序列
4. 隐马尔可夫模型(Hidden Markov Models,HMM)
一阶隐马尔可夫模型（Hidden Markov Models）图解
t=1
t=2
转移概率
S1
a11 a13a12
T (1 ) t=T
S1 1 3 ( 2 ) S1
…S2
a11 S1 a12 T ( 2 )
S2
a21
S1
aT1 aT2
3(3)
…S3
S2
a22 a23
T (3 S3
)
SSz22
aT3
aT4
3 ( 4 ) SN S4
a32 T ( 4 ) a33 S4
SN
aT5
3(5)
T (5)
S5 OT-1
N
π
SS22
… a11 a12 a1N
S2
AN *N
a
21
aS222
a
2
N
S2
SS22
…
…
…
…
a N 1 a N 2 a NN
SN
S3N
SN
…
SN
SN
…
…
B生成概率矩阵
M
O1
O2
b11 b12O 3 b1M OT-1
OT
…
…
…
… BN*M
b21 b22
…
b2
M
OM
q1 q2 q3 … qt-1
qt
T=1 T=2 T=3
t-1时 刻
t 时刻
5. 隐马尔可夫模型(Hidden Markov Models,HMM)
一阶隐马尔可夫模型（Hidden Markov Models）数学定 义
t=1
t=2
S1
S1
t=3
t=T-
t=T
1
… SS11
SS11
S1
A转移概率矩阵
OM
bN1 bNO2M bNM OM
OM
HMM模型五元组表示：λ ＝（ N, M, π , A, B）用来描述HMM，或简写为 λ =(π , A, B)
6
提纲
1
Hidden Markov Model
2
隐马尔科夫模型的三个问题
概率计算问题
路径预测问题
参数学习问题
3
总结
7
1. 隐马尔可夫模型-全概率计算
S5 OT
A转移概率矩阵
a11 a12 a1N
AN *N
a
21
a
2
2
a
2
N
a N 1 a N 2 a NN
后
E
向
算 B生成概率矩阵 法 b11 b12 b1M
BN *M
b21 b22
b2
M
bN
1
bN
2
bNM
问题本质：计算产生观测序列O的所有可能的状态序列对应的概率之和
S12
S33
S3
…
S3
S3
aN1
SN
SN
…
SSNN
SN
S2 a 2 3
a 31
S3
S1
……
SN a N ,1
S1
一条马尔可夫链
2
2. 一阶马尔可夫模型概念
一阶马尔可夫模型（Markov Models）
系统状态数目(N=3) S1 晴 S2 阴 S3 雨
t=1
t=2
t=3
t=4
t=5
S1
a11 a13a12
S1
a11 a12
S1
a11 a12
S1
a11 a12
S1
a21
a21
a21
a21
S2 a22
S2 a22
S2 a22
S2 a22
S2
a23
a23
a23
a23
a31 a32
a32
a32
a32
S3 a33
S3
a33
S3 a33
S3 a33
S3
• 从某时刻状态到下时刻的状态按一定概率转移
aijP (qt Sj|qt 1Si)
生成概率
Q3
b3(Q4) Q4
b1(Q1) Q1
b1(Q1) Q1
b2(Q2) O2
II-观察序列
• 从某时刻状态到下时刻的状态按一定概率转移
aijP (qt Sj|qt 1Si)
qt-1
qt
t-1时
t时刻
刻
5
• 下时期状态只取决于当前时期状态和转移概率 P ( q t S j|q t 1 S i , q t 2 S k ,) P ( q t S j|q t 1 S i )
状
态
S3
SN
Q1
观 测
Q2
状
态
QM
4
…
…
3. 隐马尔可夫模型
t=1
t=2
t=3
S1
S1
SS11
…
S2
a 23
S3
S2
a 3 1 S2
S33
S3
… …
…
…
…
SN
SN
SN
…
t=T-
t=T
1
S1
S1
S2
S12
…
…
S3
S3
aN1
SSNN
SN
状态序列≠观测序列
QQ11
Q1
Q2
Q2
Q1
…
Q2
…
…
QQ11
Q1
Q2
问题1：给定观察序列O=O1,O2, …,OT,以及模型λ=(π,A,B),计算P(O|λ)？
Π：初始概率向
量
a01
a 01
前
a
0
2
向
算 a 0 N
法
π a02
B
a0N
… … … … … …
t=1
1 (1 ) t=2
2 (1 ) t=3
S1
a11 aa0113a12
S1 1(2
隐马尔可夫模型原理图解
Hidden Markov Models
张庆科
山东大学高性能计算与大数据处理学科组
High Performance Computing and Big Data Processing Group
提纲
1
Hidden Markov Model
2
隐马尔科夫模型的三个问题
概率计算问题
路径预测问题
参数学习问题
3
总结
1
1马尔可夫模型
马尔可夫模型是数学中具有马尔可夫性质的离散时间随机过程，是用于描述随机
过程统计特征的概率模型。
… …
… … …
…
S1 S2 S3
SN 系统状态数目(N个)
t=1 S1
S2
a 23
S3
SN
t=2
t=3
t=T-
t=T
1
S1
S11
…
S1
S1
S2 a状3 1 态S2序列=…观测序列 S2