时间序列分析知识点总结
本课程主要内容
•时间序列简介
•时间序列的预处理
•平稳时间序列模型
•ARMA模型的特性
•平稳时间序列模型的建立
•平稳时间序列预测
3
一.时间序列简介
一. 时间序列的定义
二. 时间序列的主要分类
三.宽平稳(Weak Stationary)
四. 白噪声序列(White Noise)
五. 随机游走(Random Walk)序列
一.时间序列的定义
4
1. 从统计的角度讲: 时间序列是某一个指标在不同
的时间上的不同数值按时间先后顺序排成的序列.
时间序列是一组随机变量X(t) (或一个随机过程)
在一系列时刻t1, t2, t3, …, t N (t1 < t2 < …< t N) 的一
次样本实现.
2. 从数学意义上讲:
3. 从系统意义上讲: 时间序列是某一系统在不同
时间(条件)下的响应.
5
二. 时间序列的主要分类
按序列的统计特性分: 平稳序列, 非平稳序列.
u平稳序列:时间序列的统计特性不随时间
而变化。
u非平稳序列:时间序列的统计特性随时间
而变化。
平稳时间序列
严平稳序列
宽平稳序列
三.宽平稳(Weak Stationary)
•满足如下条件的序列称为宽平稳序列
2
(1)(),.
t
E X t T
<∞∀∈
均值为常数
方差有界
自协方差函数只依赖于时间的间隔
自协方差函数只依赖于时间的间隔
长度, 而与时间的起止点无关
(3)(,)(,)(,0),,,.
t s t h s h s t t s h s t T
γγγ
=++=−∀−∈
且
(2)(),,.
t
E X t T
µµ
=∀∈
为常数
6
7严平稳与宽平稳的关系
•一般关系
–
严平稳条件比宽平稳条件苛刻,通常情况下,严平稳(低阶矩存在)能推出宽平稳成立, 而宽平稳序列不能反推严平稳成立;
宽平稳
严平稳低阶矩存在
8
四. 白噪声序列(White Noise)•白噪声序列{a t } 也称为纯随机序列, 它满足如下两条性质:
2(1) 0,, (2) (,),,0, t Ea t T
t s
t s t s T
t s σγ=∀∈ ==∀∈ ≠
白噪声序列{a t }记为: 2
~(0,)t a WN σ白噪声序列是一种典型的宽平稳序列
9
五. 随机游走(Random Walk)序列
1 1 AR(1)ϕ=时的模型:
1t t t
X X a −=+11t t t
X X a ϕ−=+其中: a t 为白噪声序列, 那么就称该模型为随机游走模型, 这样的时间序列称随机游走过程.注意: 随机游走过程是非平稳时间序列非平稳时间序列.
()t Var X =∞
10
二
.
时
间序列的预处理
一.差分二. 后移算子三. 差分方式的选择四. 季节差分
11
时间序列的非平稳性及处理方法
2. 方差和自协方差非平稳:Box-Cox 变换
1. 均值非平稳:差分
12
v 一阶差分(相距一期的两个序列值之间的减法运算称为1 阶差分运算)
一. 差分
1
t t t X X X −∇=−其中
称为差分算子.
差分是通过逐项相减消除前后期数据相关性的方法,可剔除序列中的趋势性,是非平稳序列的均值平稳化的预处理.
13
111
d d d t t t X X X −−−∇=∇−∇对 1 阶差分后序列再进行一次 1 阶差分运算称为2 阶差分:
高阶差分
依此类推,对d -1 阶差分后序列再进行一次1 阶差分运算称为d 阶差分:
2
1
t t t X X X −∇=∇−∇14
v 后移算子类似于一个时间指针,当前序列值乘以一个后移算子,就相当于把当前序列值的时间向过去拨了一个时刻., 1
d t d t X B X d −=∀≥二. 后移算子(Backshift Operator)v 记B 为后移算子,有
1
t t BX X −=15
011) (;
B =1 ()()(2), ;t t t B CX CB X CX
C −==为任意常数11 ()(;
3)t t t t B X Y X Y −−±=±(4) ;
n t t n B X X −=0
(1)(1(5))n n i i
i n i B C B =−=−∑!
.
!()!
i
n n C i n i =
−其中后移算子的运算性质1
1(1),
n
i i i n i C B ==+−∑16
二者的关系
1B
⇒∇=−1t t t X X X −∇=−t t X BX =−(1)t
B X =−(1)d d t t
X B X ∇=−从而1
[1(1)]d
k k k
d t
k C B X ==+−∑!
.
!()!
k d d C k d k =
−其中
17
三. 差分方式的选择
•序列蕴含着显著的线性趋势,一阶差分就可以实现趋势平稳;
•序列蕴含着曲线趋势,通常低阶(二阶或三阶)差分就可以提取出曲线趋势的影响;•一般而言,若序列具有二次趋势,则两次差分后可变换为平稳序列;
•对于蕴含着固定周期的序列进行步长为周期长度的差分运算,通常可以较好地提取周期信息.
18
四. 季节差分
反映经济现象的序列, 不少都具有周期性.设X t 为一含有周期为S 的周期性波动序列,则X t , X t +s , X t +2s , …为各相应周期点的数值,它们则表现出非常相近或呈现某一趋势的特征,如果把每一观察值同下一周期相应时刻的观察值相减,这就叫季节差分.
季节差分可以消除周期性的影响.
季节差分
季节差分运算(S 为周期)
.
s t t t s X X X −∇=−20
三
.
平稳时间序列模型
三. ARMA(n , m )模型
二. MA(m )模型一. AR(n )模型2
()0, (), ()0, t t a t s E a Var a E a a s t
σ===≠2(0,)
t a WN σ:12212(0,)()0, t t t t n t n t
a s t X X X X a a WN E X a s t
σϕϕϕ−−−= +∀+<++=
:L 21AR 模型描述的是系统对过去自身
状态的记忆.
一. AR(n )模型
11222(0,)
t t t t m t m
t a X a a a WN a a θθθσ−−−=− −−− L :22
二. MA(m )模型
MA 模型描述的是系统对过去时刻进
入系统的噪声的记忆
三. ARMA(n , m )模型
23
()11121(0,)0,t t n t t a s t n t t m t m
X X X a a a a WN E X a s t
θσϕϕθ−−−−=+
⋅=∀++−−−< L :L ARMA 模型则是系统对过去自身状态以及各
时刻进入的噪声的记忆。
24
四.A R M A 模型的特性
一. 差分方程二. 格林函数和平稳性三. 逆函数和可逆性
四. 时间序列模型的统计特性
低阶模型
均值函数方差函数
自协方差函数自相关函数偏自相关函数
25
五.平稳时间模型的建立
三类平稳时间序列的自相关函数(ACF)和偏自相关函数(PACF) 的统计特性:
26
下题中第一张为ACF 图, 第二张为PACF 图
-1
-0.50
0.511
2
3
4
5
6
7
8
-1
-0.50
0.511
2
3
4
5
6
7
8
该随机过程应建模为(指出滞后阶数)
AR(1)过程.
27-1
-0.500.511
2
3
4
5
6
7
8
-1
-0.500.5
1
1
2
3
4
5
6
7
8
下题中第一张为ACF 图, 第二张为PACF 图
该随机过程应建模为(指出滞后阶数)
MA(1)过程.
28
-1
-0.50
0.5
1
1
2
3
4
5
6
7
8
-1
-0.50
0.511
2345678
下题中第一张为ACF 图, 第二张为PACF 图
该随机过程应建模为(不需指出滞后阶数)
ARMA 过程.
29
六.
平稳时间预测
一. 条件期望预测
三. 预测的三种形式
12ˆ()(|,,,)t t l t t t X l E X X X X +−−=L 二. 条件期望的性质用差分方程形式进行预测
作超前一步和两步预测给出95%的置信区间。