第二章 单位根过程和单位根检验第一节 单位根过程从本章开始我们进入时间序列的非平稳分析和建模研究。
前面的章节的内容主要考虑的是平稳时间序列的建模和预测问题,但对于非平稳的时间序列,只有先进行差分处理,将其转换为平稳的时间序列模型。
这样会损失部分信息。
本章从理论上介绍非平稳时间序列的性质,讨论非平稳时间序列数据建模的伪回归问题。
非平稳序列的分析建立在维纳过程(布朗运动)和泛函中心极限定理之上。
一. 若干定义 定义1:(1)白噪声过程(white noise ,如图1)。
属于平稳过程。
εε2t t,t y =∼iid(0,σ)图3是日元兑美元差分序列(收益序列),近似于白噪声序列。
(2)随机游走过程(random walk ,如图2)。
属于非平稳过程。
εε+2t t-1t,t y =y ∼iid(0,σ) 随机游走的差分过程是平稳过程(白噪声过程)。
∆yt =t ε。
-3-2-10123100120140160180200220240260280300white noise -10-5051020406080140160y=y(-1)+u图 1 白噪声序列(σ2=1) 图2 随机游走序列(σ2=1)随机游走过程是非平稳的,这是因为:+t 012t y =y +u +u +u +t 012t 0E(y )=E(y +u +u +u )=y →∞22t 012t 12t D(y )=D(y +u +u ++u )=E(u +u ++u )=t σ 定义2:单位根过程随机过程t,{y t =1,2,} 是一单位根过程,若t t-1ty =y +u t =1,2t u 为一平稳过程,且t t t-s sE(u )=0,cov(u ,u )=μs =0,1,2定义3:维纳过程维纳过程(Wiener Process)也称为布朗运动过程(Brownian Motion Process)。
设W(t)是定义在闭区间[0,1]上一连续变化的随机过程,若该过程满足:(a) W(0)=0;(b) 对闭区间[0,1]上任意一组分割 12k 0≤t <t <<t =1,W(t)的变化量:()()()()()() 2132k k-1W t -W t ,W t -W t ,,W t -W t为相互独立的随机变量;(c) 对任意0≤s <t ≤1,有W(t)-W(s)~N(0,t -s)则称)(t W 为标准维纳过程(或标准布朗运动过程)。
从定义我们可以看出,标准维纳过程是一个具有正态独立增量的过程。
由定义显然有:W(t)=W(t)-W(0)~N(0,t) W(1)~N(0,1)即标准维纳过程W(t)在任意时刻t 服从正态分布。
将标准维纳过程推广,可得到一般维纳过程的概念。
令B(t)=σW(t)称B(t)是方差为2σ的维纳过程。
对任意0≤s <t ≤1,有2B(t)-B(s)~N(0,σ(t -s))根据上式,显然有2B(t)=B(t)-B(0)~N(0,σt)2B(1)~N(0,σ)利用标准维纳过程还可以构造其它的连续随机过程。
例如,对于()()⎡⎤⎣⎦2Y t =W t ,在任意时刻t ,有分布:2Y(t)~t χ(1)更为重要的是:维纳过程所具有的良好性质以及它相当广泛的适用性,使得它在概率极限定理,随机积分和随机微分方程等许多理论研究和实际应用中扮演着十分重要的角色。
二. 有关随机游走的极限分布 1、泛函中心极限定理泛函中心极限定理是对一般中心极限定理的推广。
在给出泛函中心极限定理之前,我们先回顾平稳随机变量序列的中心极限定理:如果随机变量序列t {ξ}: 12n ξ,ξ,,ξ,独立同分布,且有2t t E(ξ)=μ,D(ξ)=σ<∞,t =1,2,令∑NN t 11ξ=ξN,则⇒N2N t 1ξ-μ)=(ξ-μ)N(0,σ)对于白噪声序列{}t ε,由于2t t E(ε)=μ=0,D(ε)=σ<∞,t =1,2,根据中心极限定理,有⇒N2N t1ξ-μ)=εN(0,σ)下面,将以上结论推广为泛函中心极限定理。
我们根据白噪声序列{}tε,构造一新统计量:设r为闭区间[0,1]上的任一实数,记rN=[rN]为不超过rN的最大整数,对于给定白噪声序列{}tε的前N项:12Nε,ε,,ε,取其前rN=[rN]项构造统计量:∑r N t11X(r)=εN显然,当r在闭区间[0,1]上变化时,X(r)是[0,1]上的一个阶梯函数,其具体表达式为:()⎧⎪⎪⎪⎨⎪⎪⎪⎩1N12N N132N N1212N00≤r<ε/N≤r<(ε+ε)/NX r=≤r<(ε+ε++ε)/N r=1将X(r)乘上再写成如下形式:()⎫⎪⎬⎪⎭r rN Nt t11r=ε=ε由前述中心极限定理,有()⇒rN2t=1εN0,σ另一方面,对于[0,1]上的任意实数r,有N Nlim=lim=因此,有如下极限分布:()−−→N rL2t1r=εN(0,σr)(*)同样,有2B(r)=σW(r)~N(0,σr)这表明,的极限分布与一般维纳过程B(t)=σW(t)的分布是一致的。
将上述结论整理如下,就得到泛函中心极限定理。
泛函中心极限定理:设序列{}tε:12tε,ε,,ε,独立同分布,且满足,2t tE(ε)=0,D(ε)=σ<∞,t=1,2r为闭区间[0,1]上的任一实数,给定样本12Nε,ε,,ε,取其前rN=[rN]项构造统计量:∑r N t11X(r)=εN那么,当N→∞时,统计量有如下极限:()⇒rNt1r=εB(r)=σW(r)在(*)式中令r=1,有()⇒N2t11=εσW(1)~N(0,σ)与一般中心极限定理对照可以看出,一般中心极限定理是泛函中心极限定理的一个特例。
2.连续映射定理连续映射定理是研究随机时间序列极限分布的有力工具,以下将其推广到泛函形式。
连续映射定理1:设{},t,x t=1,2并依分布收敛于某一随机变量x,记为0x ⇒t x ,若g()⋅为连续函数,则随机变量序列{} g(x(t),t =1,2依分布收敛于随机变量0g(x ),记为t 0g(x )⇒g(x )连续映射定理2:设 t {S (r),t =1,2}为一列随机函数,t S (r)∈,r ∈[0,1][0,1],g()⋅为定义在[0,1]上到1R 上的连续函数,若序列t S (r)⇒S(r),则有∈[0,1]t g(S (r))⇒g(S(r))r下面给出非平稳时间序列分析中经常用到的有关随机游走的极限分布,所使用的基本工具就是泛函中心极限定理。
2、 有关随机游走的极限分布设序列{}t y 遵从随机游动过程:t t -1t y =y +ε其中,}{t ε独立同分布,且22t t t E(ε)=0,D(ε)=E(ε)=σ<∞,0y =0。
现讨论AR(1)过程:t t -1t y =ρy +ε中,t {}ε独立同分布,且t E(ε)=0,22t t D(ε)=E(ε)=σ,现讨论当参数ρ=1时,最小二乘估计ˆ∑∑Nt t -1t =1N2t -1t =1y y ρ=y 的极限分布①几个重要极限在由于在t t -1t y =y +ε,ρ=1,为一单位根过程,则 ∑tt j j =1y =ε,设0y =0,对于任何01r [,]∈和给定的样本 12T ε,ε,ε部分和rN T t =1X (r)=ε 为闭区间上的阶梯函数()⎧⎪⎪⎪⎪⎪⎨⎪⎪⎪⎪⎪⎩1N121N N1232NN12N12N 00≤r <y ≤r <ε/N =N y X r =≤r <(ε+ε)/N =N y (ε+ε++ε)/N =r =1N式中∑NN t t =1y =ε,阶梯函数N X (r)在[0,1]上的积分可由下图定义:则以下极限成立:(1) ⇒∑N-12t 1N εσW(1); (2)⇒∑N-122t -1t11N y εσ[W (1)-1]2; (3)⇒∑⎰N1-32t -101N y σW(r)dr ;(4)⇒∑⎰N 1-32t 01N t εσW(1)-σW(r)dr ;(5)⇒∑⎰N1-52t -101N ty σrW(r)dr ;(6)⇒∑⎰N1-2222t -101Ny σW(r)dr 。
证明:(1)由前述泛函中心极限定理的结论可得。
(3)图中每块小矩形的面积为 j y 1×,j =0,1,2,N N N,这些小矩形的面积和定义为阶梯函数N X (r)在[0,1]上的积分。
∑⎰ N1-212T -1N t -12220t =1y y y X (r)dr =+++=N y N N N以上式,有:∑⎰3N-2N t-1t=1(r)dr=N y由于⇒⎰1N(r)dr⇒σw(r),由连续映射定理,有:∑⎰⎰3N-112t-1T00t=1N y⇒(r)dr⇒σw(r)dr(4)由于∑3N-2t-1t=1N y的极限为维纳过程的泛函,将∑tt jj=1y=ε代入∑3N-2t-1t=1N y得:∑∑∑∑33N--22t-111212312T-1t=13-212N-2N-1313T N N---222t t tt=1t=1t=1N y=N[ε+(ε+ε)+(ε+ε+ε)++(ε+ε++ε)]=N[(N-1)ε+(N-2)ε++2ε+ε]=N(T-t)ε=Nε-N tε因为由上结论可知⇒∑⎰⎰3N-112t-1T00t=1N y⇒(r)dr⇒σw(r)dr且:∑1N-2tt=1Nε⇒σw(1)故可有⇒∑⎰N1-32t01N tεσW(1)-σW(r)dr②随机积分现介绍以维纳过程W(r)作用随机测度,用积分元dW(r)定义的随机积分。
对任意的1221t,t∈[0,1],t>t,由标准维纳过程的性质有:2121W(t)-W(t)∼N(0,t-t),以dt表示在时刻t的微小的时间增量,定义:dW(t)=W(t+dt)-W(t),显然:dW(t)∼N(0,dt),E(dW(t))=0,D(dW(t))=dt令:Φ(t)为闭区间[0,1]上的函数(或随机函数),考虑和式:∑nn k -1k k -1k =1S =Φ(t )[W(t )-W(t )] 其中,12(k ,,n )= k t 为闭区间上的一组分割点,并有: ,满足条件:k k -1n →∞klim max(t -t )=0若n →∞,n S 的极限存在,则称函数Φ(t)在闭区间[0,1]对于dW(r)可积,并记为:∑⎰n1n k -1k k -10n →∞n →∞k =1lim S =lim Φ(t )[W(t )-W(t )]=Φ(t)dw随机积分⎰1201W(t)dW =(W (1)-1)2③随机游走模型中最小二乘估计ˆρ的极限分布 本节讨论随机游走模型112t t t y y ;t ,ρε-=+= 中最小二乘估计ˆρ的极限分布,其中1ρ=,t {}ε独立同分布,且2t t E(ε)=0,D(ε)=σ<∞参数1ρ=的最小二乘估计为:ˆ∑∑∑∑NNt -1t t -1t t =1t =1NN22t -1t -1t =1t =1y y y ερ==1+y y由前述极限结果(2),(6)可知: ⇒∑⎰N1-2222t -101Ny σW(r)dr⇒∑N-122t -1t11Ny εσ[W (1)-1]2; 可得:ˆ=⋅∑∑∑∑∑∑NNNt -1t t -1t t -1t t =1t =1t =1NNN2222t -1t -1t -1t =1t =1t =1y y y εy ε/N 1ρ==Ny y y /N 1+1+所有最小二乘估计ˆρ是参数1ρ=的极限分布。