计量经济学-多元回归分析
t(N
K
1)
本例中:
t (0.7512 0.6635 ) 1 =5.9456。 p值为0.0000 0.004874
结论:拒绝规模报酬不变的原假设。
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 24
(2)F检验:
无约束回归方程
ln Qt 0 1 ln Kt 2 ln Lt t
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 2§4.1 多元线Fra bibliotek回归模型的两个例子
一、例题1:CD生产函数
Qt AKt 1 Lt 2 et
这是一个非线性函数,但取对数可以转变为一个 对参数线性的模型
ln Qt 0 1 ln Kt 2 ln Lt t
t ~ iid(0, 2 )
0.0220 34.1171 0.0000
P值非常小,这表明各个解释变量对被解释变 量有显著的解释作用。
回忆:P值是检验结论犯第一类“弃真”错误的概率。 P值非常小的含义是什么呢?
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 15
二、随机误差项方差的估计
var( i X1i ,, X Ki ) 2 的无偏估计量可以表述为:
表示其他被解释变量均保持不变时,X k 变化一个
单位,导致被解释变量均值变化 k 个单位。
为什么叫偏效应?这是因为它的含义恰好类似于 高等数学中偏导数的含义。
k
E(Y
X1,, X K ) X k
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 6
§4.2 多元线性回归模型的OLS估计
判定:若F值大于临界值,或p值小于显著性水平, 则拒绝原假设。
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 28
4:经济关系的结构稳定性检验:F检验的一 个例子——邹检验
将其RSS记为RSSur ,自由度为N-3。
将原假设中的约束条件带入回归方程,得到了 所谓的“有约束回归方程” 。
ln Qt 0 1 ln Kt (1 1 ) ln Lt t
将其RSS记为RSSr ,自由度为N-2。
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 25
H A : 1 2 1 这样的多参数单个线性约束,有两种检验方法.
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 23
(1)t检验 (ˆ1 ˆ2 ) (1 2 ) ~ N (0,1)
var(ˆ1 ˆ2 )
t
(ˆ1
ˆ2 ) (1 se(ˆ1 ˆ2
)
2
)
~
调整后的R 2
R 2 1 RSS /(N K 1) TSS /(N 1)
调整思想: 对 R2 进行自由度调整。
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 18
§4.3 多元线性回归模型的假设检验
1. 单个回归系数的显著性检验
如果随机误差项 i 是经典误差项,并且满足正态性假定 :
H A : 1 、…、 K 中至少一个不为0。
若随机误差项满足 ~ iidN(0, 2 )
则在原假设成立情况下:有
F ESS / K ~ F (K, N k 1) RSS /(N K 1)
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 20
F分布的密度函数
概率1-
概
注意:“线性”的含义是指方程对参数而言是线 性的
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 3
二、 多元线性回归模型的一般形式
一般形式可以表述为如下的形式:
Yi 0 1 X 1i K X Ki i
i 1,2,, N
均值方程
E(Yi X1i ,, X Ki ) 0 1 X1i K X Ki
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 26
中国生产函数的例子 :
RSSur =0.0279, RSS r =0.0700,
F检验统计值为:
F
(0.0700 0.0279 ) /1 0.0279 /(29 3)
=39.2330。
该F统计值的p值为0.0000,所以,我们可以拒绝 中国经济规模报酬不变的原假设。
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 8
(2)优化目标
N
N
min ˆi2 min (Yi Yˆi )ˆi
i 1
i 1
N
min (Yi ˆ0 ˆ1 X1i ˆK X Ki )ˆi i 1
根据其一阶优化条件:
ˆ N 2
i1 i
ˆk
0
k 0,1,, K
(
x12i )(
x
2 2i
)
(
x1i x2i ) 2
ˆ2 (
yi x2i )( x12i ) ( yi x1i )( x1i x2i ) ( x12i )( x22i ) ( x1i x2i )2
ˆ0 Y ˆ1 X1 ˆ2 X 2
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 13
线性回归方程与均值方程的联系
Yi E(Yi X1i ,, X Ki ) i
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 4
问题本质:
多元线性回归方程将被解释变量分解成为两部分:
(1)E(Yi X1i ,, X Ki ) 0 1 X1i k X Ki
这部分是可以由解释变量来解释。
Z
ˆk k sd (ˆk )
~
N (0,1)
用估计量的标准误替代标准差,统计量服从t分布。即:
t
ˆk k se(ˆk )
~ t(N k 1)
注意:与一元回归的唯一区别是自由度。
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 19
三、多参数的线性约束检验
1:模型的总体显著性检验 H0 : 1 K 0
(1
r122 )
r12 2
x12
x22
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 14
例子:基于表4.1.1的数据估计中国宏观生产函数
ln Qt 8.9156 0.7512 ln Kt 0.6635 ln Lt ˆt
Se: 0.7880 0.0902 t值: -11.31367 7.3534 p值: 0.0000 0.0000
检验统计量
基于RSSur 和 RSS r ,在原假设成立的情况下,有 F (RSSr RSSur ) /1 ~ F (1, N 3) RSSur /(N 3)
如果原假设为真,我们会倾向于得到较小的F值。 反之,我们会倾向于得到较大的F值。 判定:若F值大于临界值,或p值小于显著性水平, 则拒绝原假设。
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 27
3:参数的线性约束检验:F检验一般形式
检验统计量
基于RSSur 和 RSS r ,在原假设成立的情况下,有
F (RSSr RSSur ) / q ~ F (q, N K 1) RSSur /(N K 1)
如果原假设为真,我们会倾向于得到较小的F值。 反之,我们会倾向于得到较大的F值。
ˆ 2
ˆ N 2
i 1 i
N (K 1)
自由度为什么是N-(K+1)? 多元回归模型的OLS估计中,我们基于正规方程
组中的K+1个约束估计了K+1个回归系数,所以损失 了K+1个自由度,独立的观测信息只剩下N-(K+1)个。
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 16
存在不完全共线性时,可以得到参数估计值。OLS 估计量是BLUE。但与没有多重共线性时相比,估 计量的方差较大,估计精度下降。
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 11
2. 回归系数的OLS估计:以二元回归模型为例
Yi 0 1 X 1i 2 X 2i i
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 9
得到计算回归系数估计量的正规方程组:
N i 1
ˆi
0
N i 1
X
1i
ˆi
0
N i1
X
Ki
ˆi
0
含义:OLS估计所的残差与解释变量不相关。即残 差中不存在任何可解释的成份。
注意:只有回归方程中包含常数项,由OLS估计所 得残差总和才一定为0。
基于残差平方和的最小化,得到正规方程组:
iN1ˆi 0
N i 1
X
1i
ˆi
0
N i1
X
2i
ˆi
0
《计量经济学》,高教出版社2011年6月,王少平、杨继生、欧阳志刚等编著 12
由正规方程组求解,得到回归系数的估计量:
ˆ1 (
yi x1i )(
x
2 2i
)
(
yi x2i )(
x1i x2i )
OLS的估计思想:
(1)寻找参数估计量 ˆ0 , ˆ1,, ˆK,使得样本回归
函数与所有样本观测点的偏离最小,即残差平方 和最小。
为什么不选择离差之和最小化或者离差绝对 值之和最小化呢?
因为离差之和会使正负误差抵消,而离差绝对 值不便于数学上做优化处理,所以选择了离差平 方和最小化作为优化目标,这也就是为什么这种 估计方法被称为最小二乘法的原因。