当前位置:
文档之家› 第九章 多元线性回归-异方差问题
第九章 多元线性回归-异方差问题
(3)其他的与自变量xi的加权形式f(xi)
f xi r0 r1xi
20
(一)加权最小二乘法
方差已知的情形
Var(
)
i
2 i
2
r
0
r
x1 i
y i
b0
b1xi
i
r0 r1xi r0 r1xi r0 r1xi r0 r1xi
Var
i
1 Var
r 0 r x1 i r 0 r1xi
给出中国1998年各地区城镇居民平均每人全年家庭交 通及通讯支出(cum)和可支配收入(in)的数据,估计两者 之间的关系模型
4
2、异方差的ቤተ መጻሕፍቲ ባይዱ响
1、OLS估计量不再是BLUE,其是无偏和一致的,但并 非有效的,即不再具有方差最小性。
2、检验假设的统计量不再成立,建立在t分布和F分布之 上的置信区间和假设检验不可靠。
12
等价的White检验
(1们)的用平O方LS;估计u模2 型 (03)1,y 得 到2 y残2 差 v和拟合值,计算它
(2)做回归
记下这个回22 归的R平方
(3)构造F或LM统计量并计算p值(前者为 F2,n-3分布, 后者用 分布。
13
(五) 实例
使用Wooldridge中的数据HPRICE.RAW中的数据 来检验一个简单的住房价格方程中的异方差性。水平 变量模型为(分别采用水平变量和其对数项分别进行 回归分析)
第九章 多元线性回归的异方差问题
一、异方差及其影响 二、异方差的发现和判断 三、异方差的解决方法
1
一、异方差及其影响
1、异方差的定义:
对于多元线性回归模型,如果随机扰动项的方差并非是
不变的常数,则称为存在异方差(heteroscedasticity)。
异方差可以表示为
Var
i
2 i
。或
2 1
2 2
7
(二)Breusch-Pagan检验
假设回归模型如下:
Y 0 1x1 2 x2 k xk u
(1)
检验假定线性函数
u2 0 1x1 2 x2 k xk v
(2)
8
步骤:
1、作普通最小二乘回归(1),不考虑异方差问题。 2、从原始回归方程中得残差ui,并求其平方。
3、利用原始模型中的R解u22释变量作形如上式(2)的回归,记
Ω Varε Eεε
2 n
2
两变量线性回归模型的异方差
Y
0
Xi
X
Xj
3
1、异方差的定义
异方差主要出现在截面数据分析中,例如大公司的利 润变化幅度要比小公司的利润变化幅度大,即大公司利润 的方差比小公司利润的方差大。这取决于公司的规模、产 业特点和研究开发支出多少等因素。又如高收入家庭通常 比低收入家庭对某些商品的支出有更大的方差。 例6-1:人均家庭支出(cum)和可支配收入(in)的关系模型
和为
2
wi2
2
i
wi2
yi b0b1xi
获得的估计量就是加权最小二乘估计量。对于多元线性回
归模型y=Xβ+u,令权数序列wi =1/i ,W为N×N对角矩 阵,对角线上为wi ,其他元素为0。则变换后的模型为
Wy WX Wu
18
(一)加权最小二乘法
方差已知的情形 (1)误差方差与xi成比例
price 0 1lotsize 2sqrft 3bdrms
发现:采用水平模型存在异方差性,但采用对数模型不 存在异方差性。
14
三、异方差的解决方法
加权最小二乘法 模型的重新设定
15
(一)加权最小二乘法
基本思路:赋予残差的每个观测值不同权数,从而使 模型的随机误差项具有同方差性。
16
被拒绝,则表明可能存在异方差。
10
(四)怀特检验
假设有如下模型:
yi B0 B1x1i B2 x2i ui (3)
基本步骤: 1、首先用OLS方法估计回归方程(3)式。 2、然后作辅助回归:
ui2 A0 A1x1i A2 x2i A3x12i A4 x22i A6 x1i x2i vi (4)
11
(四)怀特检验
3、求辅助回归方程的R2值。在零假设:不存在异方差下, White证明了,从方程(4)中获得R2值与样本容量(n)的积 服从卡方分布
n• R2 2
自由度等于(4)式中的解释变量的个数。 4、根据样本计算统计量n*R2值,并与所选取的显著性水平进行
比较,看是否接受零假设(零假设为残差不存在异方差性)。 5、Eviews计算:View-Residual Tests-White Heteroskedasticity . 应用:对例6-1进行White异方差检验
Vawri (u1i)/=σx2i * xi 其中σ2为常数,这时可以令权序列
(2)误差方差与xi2成比例
Vwair(u1i)/=xσi2 * xi2
其中σ2为常数,这时可以令权序列
19
(一)加权最小二乘法
方差已知的情形 实例:住房支出模型
给出由四组家庭住房支出和年收入组成的截面数据,建 立住房支出模型,并检验和修正异方差。
下这个回归的R平方 。
4、检验零假设是H0 : 1 2 k 0
对方程(2)进行FL检M验,n或• 计Ru2算2 ~LMk2统计量进行检验。
9
(三)戈里瑟检验
1、通常拟合
e
和
X
之间的回归模型:
j
e
X
l j
根据图形中的分布选择
l 1,1或 1 2
2、再检验零假设 =0(不存在异方差)。如果零假设
5
二、异方差的发现和判断
(一)残差的图形检验 (二)帕克检验(Park test) (三)戈里瑟检验(Glejser test) (四)怀特检验(White test)
6
(一)残差的图形检验
这是一种最直观的方法,它以某一变量(通常取因变 量)作为横坐标,以随机项的估计量e或e2为纵坐标, 根据作出的散点图直观地判断是否存在相关性。如果 存在相关性,则存在异方差。通常的方法是先产生残 差序列,再把它和因变量一起绘制散点图。 例6-2:利用该方法绘制上一章关于美国机动车消费量 的模型中QMG与残差的散点图。
(一)加权最小二乘法
方差已知的情形
假设已知随机误差项的方差为var(ui)= i2 , 设权数wi与异 方差的变异趋势相反, wi =1/i,, 将原模型两端同乘以wi。wi
使异方差经受了“压缩”和“扩张”变为同方差。
17
(一)加权最小二乘法
方差已知的情形
对于一元线性回归模型y=b0+b1x+u,加权最小化残差平方