Wold 分解定理:任何协方差平稳过程x t ,都可以被表示为x t - - d t = u t + 1 u t -1+ 2 u t -2 + … + =其中 表示x t 的期望。
d t 表示x t 的线性确定性成分,如周期性成分、时间t 的多项式和指数形式等,可以直接用x t 的滞后值预测。
= 1,∑∞=02j j ψ< ∞。
u t 为白噪声过程。
u t 表示用x t 的滞后项预测x t时的误差。
u t = x t - E(x t x t -1, x t -2 , …)∑∞=-0j jt j u ψ称为x t 的线性非确定性成分。
当d t = 0时,称x t 为纯线性非确定性过程。
Wold 分解定理由Wold 在1938年提出。
Wold 分解定理只要求过程2阶平稳即可。
从原理上讲,要得到过程的Wold 分解,就必须知道无限个j 参数,这对于一个有限样本来说是不可能的。
实际中可以对j 做另一种假定,即可以把(L )看作是2个有限特征多项式的比, (L ) =∑∞=0j jj Lψ=)()(L L ΦΘ=p p q q L L L L L L φφφθθθ++++++++...1 (1221221)注意,无论原序列中含有何种确定性成分,在前面介绍的模型种类中,还是后面介绍的自相关函数、偏自相关函数中都假设在原序列中已经剔除了所有确定性成分,是一个纯的随机过程(过程中不含有任何确定性成分)。
如果一个序列如上式,x t = + d t + u t + 1 u t -1+ 2 u t -2 + … +则所有研究都是在y t = x t - - d t 的基础上进行。
例如前面给出的各类模型中都不含有均值项、时间趋势项就是这个道理。
2.3 自相关函数以上介绍了随机过程的几种模型。
实际中单凭对时间序列的观察很难确定其属于哪一种模型,而自相关函数和偏自相关函数是分析随机过程和识别模型的有力工具。
1. 自相关函数定义在给出自相关函数定义之前先介绍自协方差函数概念。
由第一节知随机过程{x t }中的每一个元素x t ,t = 1, 2, … 都是随机变量。
对于平稳的随机过程,其期望为常数,用 表示,即E(x t ) = , t = 1, 2, … (2.25)随机过程的取值将以为中心上下变动。
平稳随机过程的方差也是一个常量Var(x t) = E [(x t- E(x t))2] = E [(x t- )2] = x2, t= 1, 2, … (2.26) x2用来度量随机过程取值对其均值的离散程度。
相隔k期的两个随机变量x t与x t - k的协方差即滞后k期的自协方差,定义为k= Cov (x t, x t - k) = E[(x t- ) (x t - k- ) ] (2.27)自协方差序列k, k= 0, 1, …, K,称为随机过程 {x t} 的自协方差函数。
当k = 0 时0 = Var (x t) = x2自相关系数定义k =)()(),(kttkttxVarxarVxxCov--(2.28)因为对于一个平稳过程有Var (x t) = Var (x t - k) = x2 (2.29)所以(2.28)可以改写为k =2),(xkttxxCovσ-=2xkσγ= 0γγk(2.30)当k = 0 时,有0 = 1。
以滞后期k为变量的自相关系数列k, k= 0, 1, …, K (2.31)称为自相关函数。
因为k = - k即Cov (x t - k, x t ) = Cov (x t, x t + k ),自相关函数是零对称的,所以实际研究中只给出自相关函数的正半部分即可。
2.自回归过程的自相关函数(1) 平稳AR(1)过程的自相关函数AR(1) 过程如下x t = x t-1 + u t , 1用x t- k同乘上式两侧x t x t- k= x t-1 x t- k + u t x t- k两侧同取期望,k = 1 k -1其中E(x t- k u t) = 0(u t与其t - k期及以前各项都不相关)。
两侧同除0 得,k = 1 k -1 = 1 1 k -2= … = 1k因为o = 1。
所以有k = 1k , (k 0)对于平稳序列有。
所以当1为正时,自相关函数按指数衰减至零(过阻尼情形),当1为负时,自相关函数正负交错地指数衰减至零。
见图2.6。
因为对于经济时间序列,1一般为正,所以第一种情形常见。
指数衰减至零的表现形式说明随着时间间隔的加长,变量之间的关系变得越来越弱。
-0.8-0.6-0.4-0.20.00.20.40.60.82468101214-0.8-0.6-0.4-0.20.00.20.40.60.824681012140 (经济问题中常见)0 (经济问题中少见)图2.6 AR(1) 过程的自相关函数(2)AR(p ) 过程的自相关函数 用x t - k , (k 同乘平稳的 p 阶自回归过程 x t =1 x t -1+2x t -2 +…+p x t - p+ u t (2.32)的两侧,得x t - k x t = 1 x t - k x t -1 + 2x t - k x t -2 + … +px t - k x t - p + x t - k u t (2.33)对上式两侧分别求期望得k=1 k -1+2 k -2+ … +p k - p, k 0 (2.34)上式中对于 k 0,有E(x t - k u t ) = 0。
因为当 k 0时,x t - k 发生在u t 之前,所以 x t - k 与 u t 不相关。
用 0分别除(2.34)式的两侧得k=1 k -1+2k -2+ … +p k -p, k 0 (2.35)令 (L ) = (1 - 1L - 2L 2 - … -pL p )其中L 为k 的滞后算子,则上式可表达为(L )k= 0因 (L ) 可因式分解为,(L ) =∏=pi i L G 1)-(1,则(2.35)式的通解(证明见附录)是k= A 1 G 1k+ A 2 G 2k + … + A p G p k. (2.36)其中A i , i = 1, … p 为待定常数。
这里 G i -1, i = 1, 2, …, p 是特征方程 (L ) = (1 -1L -2L 2 - … -pL p ) = 0的根。
为保证随机过程的平稳性,要求 | G i | 1, i = 1, 2, …, p 。
这会遇到如下两种情形。
① 当G i 为实数时,(2.36) 式中的A i G i k将随着k 的增加而几何衰减至零,称为指数衰减(过阻尼情形)。
② 当G i 和G j 表示一对共轭复根时,设G i = a + bi , G j = a – bi , 22b a += R ,则G i , G j 的极座标形式是G i = R (Cos + i Sin ),G j = R (Cos - i Sin )。
若AR(p ) 过程平稳,则 G i <1,所以必有R <1。
那么随着k 的增加,G i k = R k (Cosk + i Sink ),G j k = R k(Cosk - i Sink ),自相关函数(2.36)式中的相应项G i k , G j k将按正弦振荡形式衰减(欠阻尼情形)。
实际中的平稳自回归过程的自相关函数常是由指数衰减和正弦衰减两部分混合而成。
③ 从(2.36)式可以看出,当特征方程的根取值远离单位圆时,k 不必很大,自相关函数就会衰减至零。
④ 有一个实数根接近1时,自相关函数将衰减的很慢,近似于线性衰减。
当有两个以上的根取值接近1时,自相关函数同样会衰减的很慢。
-0.8-0.6-0.4-0.20.00.20.40.60.82468101214-0.8-0.6-0.4-0.20.00.20.40.60.82468101214a. 两个特征根为实根b. 两个特征根为共轭复根图2.6 AR(2) 过程的自相关函数3. 移动平均过程的自相关函数 (1) MA(1) 过程的自相关函数。
对于MA(1)过程x t = u t + 1 u t -1 有k = E(x t x t - k ) = E [(u t + 1 u t -1) (u t - k + 1 u t -k -1)] 当k = 0时,0 = E(x t x t ) = E [(u t + 1 u t -1) (u t + 1 u t -1)]= E (u t 2+ 1 u t u t -1 + 1 u t u t -1 + 12u t -12) = (1 + 12) 2当k = 1时1 = E(x t x t - 1) = E [(u t + 1 u t -1) (u t – 1 + 1 u t –2 )] = E (u t u t -1 + 1 u t -12+ 1 u t u t -2 + 12u t -1 u t -2) = 1E (u t -1) 2=12当 k 1 时,k = E [(u t + 1 u t -1) (u t – k + 1 u t – k -1)] = 0 综合以上三种情形,MA(1)过程自相关函数为k = 0γγk= 2111θθ+ , k = 10 , k 1,见图2.7。
-0.8-0.6-0.4-0.20.00.20.40.60.82468101214-0.8-0.6-0.4-0.20.00.20.40.60.8246810121411图2.7 MA(1)过程的自相关函数可见MA(1) 过程的自相关函数具有截尾特征。
当k 1时,k= 0。
(2) MA(q ) 过程的自相关函数 MA(q ) 过程的自相关函数是k =222212211...1...q qk q k k k θθθθθθθθθθ++++++++-++, k = 1, 2, …, q ,0 k q , 当k q 时,k = 0,说明 k , k = 0, 1, … 具有截尾特征。
(注意:模型移动平均项的符号以及这里 k的符号正好与Box-Jenkins 书中的符号相反,这样表示的好处是保持与计算机输出结果一致。
)4. ARMA (1, 1) 过程的自相关函数ARMA (1, 1) 过程的自相关函数k 从 1开始指数衰减。
1的大小取决于 1和 1, 1的符号取决于 ( 1 - 1 )。
若 1 > 0,指数衰减是平滑的,或正或负。
若 1 < 0,相关函数为正负交替式指数衰减。
对于ARMA (p , q ) 过程,p , q 2时,自相关函数是指数衰减或正弦衰减的。
5. 相关图(correlogram )对于一个有限时间序列(x 1, x 2, …, x T )用样本平均数x = T1∑=Tt tx1估计总体均值 ,用样本方差s 2=21)(1∑=-Tt tx xT估计总体方差x 2。