时间序列分析
( z 1 p )
p 1 p1 2 p2
p 1 p ( 1 )( 2 )
( p )
LHS(left hand side)是给出矩阵 F 特征值的行列式的多项式。因此,分解式的系数
i 即是矩阵 F 的特征值。
现在考虑另一不同的平稳过程
第一讲 时间序列分析
第一节 基本概念
定义一 随机过程:一个随机过程即是一个随机变量序列, yt t 。 定义二 时间序列:一个时间序列即是一个随机过程在一个具体时间范围内的观察值,
yt t 1 。因此,一个时间序列是一个随机过程长度一个长度为 n 的样本,同样地也可以取
n
其它样本,则样本值也会不同。 定义三 自协方差:一个随机过程的第 j 阶自协方差为
(1 L) yt t
2 2 如上,平稳性意味着 1 。两边同乘以( 1 L L
j Lj )得
(1 L 2 L2
或展开 LHS 得
j Lj )(1 L) yt (1 L 2 L2
j Lj ) t
(1 L 2 L2
j Lj )(1 L) 1 (101)
且近似值随着 j 的任意增加而变得任意好。因此,定义( 1 )
(1 L) 1 j Lj
j 0
利用分解式可将零均值 AR( p )过程 yt (1 1L 2 L
2
p Lp ) t 写成
y t (1 1 z )(1 2 z )
这里, 是矩阵 F 的特征值,且给定平稳性,即 项式求逆得(利用式(101) )
(1 p z) t
i 1 。因此,我们可对 LHS 各个一阶多
yt ( 1j Lj )( 2j Lj )
且
1j 0 j 0
0
j 2
0 0 j p
j (1,1)
假定 i ( i 1, 2,..., p )均为实数值,且 lim F
j
0 要求 i 1, i 1, 2,..., p ,即特
征值绝对值必须小于 1。 (1)有些特征值可能是复数,则要求特征值的模小于,即平稳性要求行列式多项式的 根位于单位圆之内。
(102)
如果这一过程均值为零,则可消去所有带 C 的项,则对上式滞后 j 期可得
Yt F j 1Yt j 1 F j Et j F j 1Et j 1
FEt 1 Et
(103)
随着 j 上,RHS 的 Y 滞后期均可消掉。 Et s 是除第一元素外其它元素均为零的向量。 因此我们发现,这里的第一个方程的极限正好是
即
yt j 1Lj 1 yt (1 L 2 L2
j Lj ) t
则近似值随着 j 的增加而变得越来越好。然而,把 (1 L) yt t 代入上式得
yt (1 L 2 L2
即
j Lj )(1 L) yt
yt c 1 yt 1 2 yt 2
p yt p t
(100)
AR( p )过程的动态行为可通过将 p 阶差分方程写成如下向量一阶差分方程加以研究:
yt c 1 2 3 y 1 0 0 t 1 0 0 1 0 yt p 1 0 0 0
yt (1 1L 2 L2
分解这个多项式得:
p Lp ) t
1 1L 2 L2
p Lp (1 1L)(1 2 L)
(1 p L)
现在仅假定 i 为待估系数。 由于已定义 L 表现为代数元, 则 i 的确定与如下表达式 z 的 确定一样:
j 0 j 0
( pj Lj ) t
j 0
RHS(right hand side)是 L 无穷阶多项式的乘积,可以表示为
yt (1 1L 2 L2
这里 i 是实数值,且绝对可加。 (1) i 由 i 的幂乘积构成,即也是 i 的函数;
) t
(2) i 是实数值,因为复数值的 i 通常出现在共轭对中。这说明,如果( a bi )是 矩阵 F 的特征值,则( a bi )也是,它们的乘积( (a bi)(a bi) a b )也是实数
lim F j (1,1) 0
j
考虑矩阵 F 的特征值 :
F I p 0
这个行列式可以表达为一个多项式,例如当 p 1 时矩阵 F 为:
F 1
因此 1 0 可写成( 1 0 ) 。 当 p 2 时矩阵 F 为:
F 1 2 1 0
yt ( F j )1,1 t j
j 0
该式揭示了 i 和 i 的关系(以及 i ,回顾前述的 F 的分解式)
j
AR( p )过程的矩 AR( p )过程
yt c 1 yt 1 2 yt 2
假定过程平稳, E ( yt ) , t ,则
p yt p t
2
个正态性假定。 第二节 一、MA( q )过程 AR 和 MA 模型
yt t 1 t 1 2 t 2
这里 t 是白噪声。方差为:
q t q
(99)
0 E ( yt )2
E ( t 1 t 1 2 t 2 2 (1 12 22
mod(a bi) a 2 b2 1
(2)当存在根在单位圆上或单位圆外,则随机过程不平稳。 (3)动态乘子:
yt j t
j F(1,1) 是动态乘子或脉冲函数。实特征值产生稳健运动,而复
特征值则导致 ocillatory 现象。当然,当存在多种特征值时,则总体效应是复合的。 第三节 一、AR 过程的可逆性 定义滞后因子 L , Lyt yt 1 。 可逆性
p
1
yt 1 t 0 yt 2 0 0 0 yt p 0 0
Yt C FYt 1 Et
据此,我们可向前递推
Yt 1 C FYt Et 1 C F (C FYt 1 Et ) Et 1 C FC F 2Yt 1 FEt Et 1
定义滞后因子表现为代数元,即
L2 yt L( Lyt ) Lyt 1 yt 2
或
(1 L)(1 L) yt 1 Lyt Lyt L2 yt 1 yt 2
均值为零的 AR( p )过程可写成:
yt 1 yt 1 2 yt 2
或
p yt p t
Yt j C FC
F j C F j 1Yt 1 F j Et F j 1Et 1
FEt j 1 Et j
考虑时期 t 上一个冲击对 yt j 的影响,即是:
Yt j F j (1,1) E t (1,1)
如果系统是平稳的,则随着时间向前推进,这个冲击必须是衰减的,否则一个冲击将引 起 yt 均值的持久变动。因此,平稳性要求
p 1 n y t n t 1
遍历性的一个充分条件是自协方差是绝对可加的:
j 0
j
这表明自协方差是呈衰减的。 定义七 自相关:第 j 阶自相关 j 等于第 j 个自协方差除以方差:
j
j 0
定义八 白噪声:白噪声是一个经典误差的时间序列文献术语。当 1) E ( t ) 0, t , 2) V ( t ) , t ,3) t 与 s 相互独立( t s ) , t 是白噪声。高斯白噪声则是加上一
假定多项式所有的根各不相同,则矩阵 F 可分解为:
F T T 1
这里,矩阵 T 以矩阵 F 的特征向量为列,而矩阵 是主对角线上为特征值的对角矩阵。利 用这一分解可得:
F j (T T 1 )(T T 1 )
即 F T T
j j 1
(T T 1 ) (其中 T T 1 重复 j 次)
1 1 z 2 z 2
两边同乘 z
p
p z p (1 1 z )(1 2 z )
(1 p z )
得
z p 1 z1 p 2 z 2 p
现在令 z 得
1
p 1 z 1 p ( z 1 1 )( z 1 2 )
类似地,自协方差为:
q t q ) 2
q2 )
j j 11 j 2 2 j 0, j q
2
q q j , j q
因此,只要 和所有的 j 是有限的,则 MA( q )必然是协方差平稳和遍历的。 二、AR( p )过程
c 1 2
因此
p
jt E ( yt t )( yt j t j ) ,其中 t E ( yt )
定义四 协方差(弱)平稳:如果一个随机过程各阶的均值和自协方差为常量,则这个 随机过程是协方差平稳的:
t , t
jt j , t
如我们所见, 这里有 j j , 即自协方差仅依赖于观察值的间隔, 而与观察值的时间无关。 定义五 严格(strong)平稳:如果一个随机过程的任意集合 yt 的联合分布不依赖
(1 L 2 L2
j Lj L 2 L2
j Lj j 1Lj 1 ) yt (1 L 2 L2 j Lj ) t