意义在于用过去各个时期的随机干扰（白噪声）或预测误差的线性组合 来表达当前预测值，但具有不一定可逆性。
10
ARMA模型
设 X t 为零均值的实平稳时间序列，p阶自回归q阶滑动平均混合模型定义
为： X t 1 X t 1 2 X t 2 p X t p a t 1 a t 1 2 a t 2 q a t q .
用X t -k 乘上式两边，当给定 X t 1 = x t 1 ,， X t k 1 x t k 1时，取条件期望得：
E [X tX t-k]k 1 x t 1 E [X t-k] k ,k 1 x t k 1 E [X t-k] k k E [X t-k 2 ] E [a tX t-k].
➢ ARMA 是一种单变量、同方差的线性模型，对于满足有限参数线形模型 的平稳时间序列，主要有以下三种基本形式：
自回归模型（ AR : Auto-regressive） 移动平均模型（ MA : Moving-Average） 混合模型（ ARMA : Auto-regressive Moving-Average）
ˆi2)
1 N
P|ˆk|
1 N
68.3%
或
P|ˆk|
2 N
95.5%
24
| ˆ k |
1 N
或
| ˆ k |
2 N
（3）ARMA(p, q)模型的阶数p和q难于确定，一般采用由低阶到高阶逐个试 探，如取(p, q)为(1,1)，(1,2)，(2,1)，…直到经验证认为模型合适为止。
25
四、模型参数的估计
k1
k
k1j kj 1
k
1
jkj
j1
j1
, k1,j
kj
k1,k1 k,k1j
j 1,2,L ,k.
当k>p时， kk 0
即ARMA模型和MA模型都是拖尾的。
19
平稳时间序列的类型识 别
类别 模型方程
AR(p)
(B)Xt at
模型 MA(q)
Xt (B)at
ARMA(p, q)
模型简记为M A (q ) 。同样为了方便表示，引进延迟算子的概念。令： at1 Bat at2Bat-1B2at atp Bpat
则滑动平均模型可写为：Xt (B)at
其中： (B ) 1 1 B 2 B 2 q B q .
若满足条件：(B) 0的根全在单位圆外，则称此条件为MA(q)模型的可逆 性条件，此时 -1 ( B ) 存在且一般是B的幂级数，于是模型又可写为：
M
p =1p1+2p2 +L +p;
写成矩阵式为
1 1 1 2 L
2
1
1
1 L
M M M M
p
p1
p2
p3
L
p
a2 0 j j （式3） j1
推导见课本P135
p11
p2
2
M M
1
p
（式2）Biblioteka 28模型参数的估计
➢AR(p)模型的参数估计
利用(式2)，(式3) 将参数换成它们的估计，
26
模型参数的估计
当选定模型及确定阶数后，进一步地问题是要估计出模型的未 知参数。参数估计方法有矩法、最小二乘法、极大似然法等。
27
模型参数的估计
➢AR(p)模型的参数估计
X t 1 X t 1 L p X t p a t
1=1+21+L +pp1, 2=11+2+31 L +pp2,
的偏相关函数定义为：
偏 相 关 函 数 =E [E X [tX 2]tE X [t X k]tk2]=E [X tX X 2tk]
注意：此时的期望指的是条件期望 。
17
AR模型偏相关函数
设 X t 为零均值的实平稳时间序列，设它满足AR(p)模型：
X t k 1 X t 1 k 2 X t 2 k k X t k a t .
i 1
i 1j 1
分以下几种情况讨论：
1）当 k =0 时，有
q
q
k=E [a t2]
i2E [a t i2]=a2
; 2 2
ia
i 1
i 1
2）当 1 k q 时，有
q
q
k = -k E [ a t k 2 ]
ii k E [ a t i2 ] = -ka 2
; 2
ii ka
根据自相关函数的定义：
k E(XtXtk) =E[Xtk(1Xt12Xt2pXtpat)] =1k12k2pkp
令k=1,2,…, p,得自相关系数：
1= 1 21 pp-1
2 = 11 2 31 pp-2
M
p = 1p-1 2p2 p
从上述性质可以看出，AR(q)序列的自相关系数 k 随着k的增大始终不为0.这
➢ 1976年，英国统计学家G.E.P.Box和英国统计学家G.M.Jenkins联合出版了 《时间序列分析——预测和控制》一书，在总结前人的研究的基础上， 系统地阐述了ARMA模型的识别、估计、检验及预测的原理和方法，成 为时间序列分析的核心，故ARMA 模型也称为Box-Jenkins模型。
5
ARMA模型的概 念
首先，利用（式4），将参数换成它们的估计
q
q1
M
qp1
q1 L q L
M
L qp2
(B) Xt
=
(B)at
模型简记为ARMA(p, q).
显然，当q =0时，ARMA(p, q)模型就是AR (p)模型； 显然，当p =0时，ARMA(p, q)模型就是MA (q)模型；
ARMA(p, q)模型的平稳性只依赖于AR 部分； ARMA(p, q)模型的可逆性只依赖于MA 部分；
11
条件为AR(p)模型的平稳性条件。
B1
B2
R 1
B3 当模型满足平稳性条件时， -1 ( B ) 存在且一般是B的幂级数，于是模型又可 写为：
Xt -1(B)at
8
MA模 型
设 X t 为零均值的实平稳时间序列，阶数为q的滑动平均模型定义为：
X t a t 1 a t 1 2 a t 2 q a t q .
因为 k>0 时，E[atXt-k]0，且有
E [X tX t- k ]k k D [X t- k ]k kX 2 ,
故
kk=E[XtX 2tk], X
k1,2,L.
显然 k k 即为AR(p)序列的偏相关函数，同时它又是AR(p)模型的最后一个回
归系数。当k>p时，有 kk = 0 ，也即是截尾的。
16
偏相关函数
➢ 从上面的讨论可知，对于自相关函数，只有MA(q)模型是截尾的， AR(p) 和 ARMA(p, q) 模 型 是拖 尾 的 。 为了进一步区分 AR(p) 模型和 ARMA(p, q)模型，我们引入了偏相关函数的概念。
➢ 对于零均值的平稳时间序列中，给定 Xt1,L,Xtk1，则 Xt和Xtk 之间
i k 1
i k 1
3）当 k>q 时，有
k =0;
从上述性质可以看出，MA(q)序列的自相关系数 k 在 k>q 时全为0.这种
性质称为q步截尾性，表明序列只有q步相关性。
14
AR模型的自相关函数
阶数为q的自相关模型定义为： X t 1 X t 1 2 X t 2 p X t p a t.
二、模型的识别
12
MA模型的自相关函 数
阶数为q的滑动平均模型定义为：
X t a t 1 a t 1 2 a t 2 q a t q .
根据自相关函数的定义：
kE(XtXtk) =E[(at1at1qatq)(atk1atk1qatkq)]
q
q
qq
=E[atatk] jE[atatkj] iE[atiatk]
白噪声序列。 为了方便表示，引进延迟算子的概念。令：
Xt1 BXt Xt2BXt-1B2Xt Xtp BpXt
则自回归模型可写为： (B)Xt at
其中： (B ) 1 1 B 2 B 2 p B p .
7
AR模型
对于模型：(B)Xt at
若满足条件：(B) 0的根全在单位圆外，即所有根的模都大于1，则称此
ˆ1 1 ˆ1 ˆ2 L
ˆ2
ˆ1
1
ˆ1 L
M M M M
ˆp
ˆp1
ˆp2
ˆp3 L
ˆp1-1ˆ1
ˆp2
ˆ2
M M
1
ˆp
ˆa2ˆ0pˆjˆj=ˆ01pˆjˆj
j1
j1
29
模型参数的估计
➢MA(q)模型的参数估计
X t a t 1 a t 1 L q a t q
18
ARMA模型偏相关函 数
ARMA模型的偏相关函数求解方法和上述略有不同，考虑用 Xt1,L,Xtk 对 X t 做最小方差估计来求ARMA(p, q)序列(把MA(q)看作是 p=0 的特例)
X t 的偏相关函数 k k ，同时推出偏相关函数与自相关函数的关系。
11=1,
k1,k1
at 1(B)Xt
9
AR与MA模型的比较
➢ 自回归模型： X t 1 X t 1 2 X t 2 p X t p a t.
意义在于仅通过时间序列变量的自身历史观测值来反映有关因素对预测 目标的影响和作用，不一定平稳。
➢ 滑动平均模型：X t a t 1 a t 1 2 a t 2 q a t q .
将参数换成它们的估计，
ˆk ˆˆa a 2 2((1 ˆk ˆ1 2 ˆk L 1 ˆ 1 ˆq 2 L )， k ˆ qˆ0 q ， k)， 1kq.