k k
就可认为
ˆ k 时是截尾的。 在k>q
2. 样本偏自相关函数截尾性的判断方法 可以证明：若序列xt为AR(p)序列，则 k>p后，序列的样本偏自相关函数ˆkk 服 从渐近正态分布，即近似的有：

此处n表示样本容量。于是可得：
1 ˆ P( kk ) 31.7% n 2 ˆ P( kk ) 4.5% n
1 ˆ kk ~ N (0, ) n
在实际进行检验时，可对每个k>0，分 别检验 ˆk 1,k 1 ,ˆk 2,k 2 ,,ˆk m,k m （通常 ˆ 1 n 取 m n或m ）中满足 n 的个数 10 所占的百分比是否超过31.7%，或满足 ˆ 2 n 的个数是否超过4.5%。 若k=1,2,…p-1都超过了，而k=p时未超过，
xt 1xt 1 2 xt 2 p xt p t 1 t 1 q t q
式中：xt是零均值平稳序列； at为白噪声序列。 待估计参数p+q+1个，分别是：
(1 2 p ) (1 2 q )
同时分析差分序列的相关图，以判断差分序列的平稳性， 直至得到一个平稳序列。 对于经济时间序列，差分次数通常只取0、1或2。


（二）关于非零均值的平稳序列
非零均值的平稳序列有两种处理方法： 设xt为一非零均值的平稳序列，且有E(xt)=μ

方法一:用样本均值 x 作为序列均值μ的估计，建 模前先对序列作如下处理： 令 wt xt x 然后对零均值平稳序列wt建模。
相关图粗略的判断序列是否平稳。
如果一个随机过程是平稳的，其特征方程
φ(B)=0的根都应在单位圆外。 如果φ(B)=0的根接近单位圆，自相关函数将衰 减的很慢。所以在分析相关图时，如果发现其 衰减很慢，近似呈线性衰减，即可以认为该序 列是非平稳的。

差分运算
如果时间序列是非平稳的，这时应该对其进行差分运算，
问题： 1.是平稳序列吗？ 2.是白噪声序列（纯随机序列吗） 2. 进行模型识别，拟合什么模型合适呢？
第二节 ARMA模型参数估计
一、引言 二、矩估计 三、极大似然估计 四、最小二乘估计

一、引言

当识别出试探性模型以后，下一步就是估计模型中的参数。 我们讨论一般ARMA(p,q)模型的参数估计，
1. 样本自相关函数截尾性的判断方法 理论上证明：若序列xt为MA(q)序列， 则k>q后，序列的样本自相关函数 ˆk 渐 近服从正态分布，即：

q 1 ˆ k ~ N (0, (1 2 ˆ l2 )) n l 1
或近似的有：
1 ˆ k ~ N (0, ) n

故由正态分布理论可知：
ˆk P( ˆk P( 1 n 2 n ) 68.3% ) 95.45%
此处n是样本容量。 1
ˆk
k
对于k>q，若 的个数不超过总个数的31.7%， n 2 ˆ 或 的个数不超过总个数的4.5%，就可 n ˆ在 认为 k>q时是截尾的。 k
在实际进行检验时，可对每个k>0，分 ˆ k 1 , ˆ k 2 ,, ˆ k m （通常 别检验 1 n ˆ 取 m n或m ）中满足 的个数 n 10 所占的百分比是否超过31.7%，或满足 2 ˆ n 的个数是否超过4.5%。 若k=1,2,…q-1都超过了，而k=q时未超过，
方法二： 在模型识别阶段对序列均值是否为 零不予考虑，而在参数估计阶段，将序列均 值作为一个参数加以估计。 以一般的ARMA(p,q)为例说明如下：

设平稳序列xt的均值为 , 其适应性模型为ARMA( p, q),即 : ( xt ) 1 ( xt 1 ) p ( xt p ) t 1 t 1 2 t 2 q t q
1 1 0 2 1 p p 1 2 1 1 2 0 p p 2 p 1 p 1 2 p 2 p 0
ˆk 用 代替 k ，并解上述方程组，就可得：
GDP指数的对数差分序列。
问题： 1.是平稳序列吗？ 2.是白噪声序列（纯随机序列吗） 2.如果平稳，进行模型识别，拟合什么模型合适呢？
案例3.美国科罗拉多州某一加油站连续57 天的OVERSHORTS序列 （overshorts.wf1）,试对该序列进行识别。
OVERSHORTS
150 100 50 0 -50 -100 -150 5 10 15 20 25 30 35 40 45 50 55
案例2. 1978-2008中国GDP指数序列（1978=100）（案例文件
gdpindex.wf1），试对该序列进行识别。
GDP
2,000
1,600
1,200
800
400
0 1980 1985 1990 1995 2000 2005
DLNGDP
.16 .14 .12 .10 .08 .06 .04 .02 1980 1985 1990 1995 2000 2005

（二） AR(p)模型参数的矩估计

设序列xt经过模型识别，确定为AR(p) 模型。 xt 1xt 1 2 xt 2 p xt p t

由第五章有如下结论：
k 1 k 1 2 k 2 p k p

于是可得如下的Yule-Walk方程：
将上式展开得：
xt 1xt 1 p xt p 0 t 1 t 1 2 t 2 q t q
此时，所要估计的未知参数有p+q+1个。

式中：
0 即有 : 1 1 2 p
0 (1 1 2 p )



1.计算序列的样本自相关系数(SACF)和样本偏自相关系数(SPACF) 2.模型识别：根据SACF和SPACF的性质，提出一个适当类型的 ARMA(p,q)模型进行拟合。 3.模型参数估计 4.模型的有效性检验 5.模型的优选 6.模型的应用：如预测。

具体如下：
平稳时间序列建模步骤
模型识别基本原则
ˆk
拖尾 q阶截尾
ˆ
选择模型
AR(P) MA(q)
kk
P阶截尾 拖尾
拖尾
拖尾
ARMA(p,q)
模型定阶的困难


因为由于样本的随机性，样本的相关系数不会呈现出理论截 ˆ k 或 ˆ 仍会呈现出小值振荡的 尾的完美情况，本应截尾的 kk 情况 由于平稳时间序列通常都具有短期相关性，随着延迟阶 ˆ 都会衰减至零值附近作小值波动 ˆ k与 数k ， kk 下该看作为相关系数截尾，什么情况下该看作为相关系数在 延迟若干阶之后正常衰减到零值附近作拖尾波动呢？
2 a E ( t2 )

如果xt是非零均值平稳序列，则估计模型为：
q ( B) xt t p ( B)
则：待估计参数p+q+2个，
我们将讨论几种常用的参数估计方法。
一、模型参数的矩方法估计

该方法是把样本矩（如样本均值 xt ，样本方 ˆ k）代替相应的理论值， 差 ˆ0 ，样本ACF 并求解最后的模型参数。
问题： 1.是平稳序列吗？ 2.是白噪声序列（纯随机序列）吗 2. 进行模型识别，拟合什么模型合适呢？
案例4.等时间间隔，连续读取70个某次化学反应的过程数据， 构成一时间序列（yield.wf1），试对该序列进行识别。
YIELD
80 70 60 50 40 30 20 10 20 30 40 50 60 70

序列的非平稳包括均值非平稳和方差非 平稳。
方差非平稳序列平稳化的方法：对数变换、
平方根变换等。

在对经济时间序列分析之前往往要先对数据取 对数，目的是消除数据中可能存在的异方差。 然后再分析其相关图。
均值非平稳序列平稳化的方法：差分变换。

均值非平稳的序列，可以通过相关图粗略的判 断。


kk kk
就可认为
ˆ 时是截尾的。 在k>p kk
3.关于ARMA序列阶数的确定

ARMA序列的阶数，直接通过自相关图较 难确定，较常用的方法有Pandit-Wu方法 (后将介绍)或延伸自相关函数(EACF)法。




建立ARMA模型，时间序列的自相关图（ACF） 和偏自相关图（PACF）可为识别模型参数p、q 提供信息。 但用样本得到的只是估计的自相关图（SACF） 和偏自相关图（SPACF），通常比真实的ACF和 PACF的方差要大，并表现为更高的自相关。 在实际中，相关图、偏相关图的特征不会像理论 上ACF、PACF那样“规范”，所以应该善于从 SACF、SPACF中识别出模型的真实参数p,q。 注意：另外，估计的模型形式不是唯一的，所以 在模型识别阶段应多选择几种模型形式，以供进 一步选择。
ˆ 在延迟若干阶之后衰减为小值波动时，什么情况 ˆ k 或 ？当 kk
样本相关系数的近似分布

Barlett
1 ˆ k ~ N (0, ) , n n

Quenouille
1 ˆ kk ~ N (0, ) , n n
模型定阶经验方法

95％的置信区间

模型定阶的经验方法
第五章 平稳时间序 列模型的建立
第五章 平稳时间序列模型的建立
第一节 第二节 第三节 第四节 第五节

平稳时间序列建模步骤 ARMA模型的识别 ARMA模型的参数估计 模型的诊断检验 模型的优化