加权最小二乘估计
古典线性回归模型的一个重要假设是总体回归方程的随机 扰动项 ui 同方差，即他们具有相同的方差 2。如果随机扰动项 的方差随观测值不同而异，即ui 的方差为i2，就是异方差。用 符号表示异方差为E(ui2) = i2 。 异方差性在许多应用中都存在，但主要出现在截面数据分 析中。例如我们调查不同规模公司的利润，会发现大公司的利 润变化幅度要比小公司的利润变化幅度大，即大公司利润的方 差比小公司利润的方差大。利润方差的大小取决于公司的规模、 产业特点、研究开发支出多少等因素。又如在分析家庭支出模 式时，我们会发现高收入家庭通常比低收入家庭对某些商品的 支出有更大的方差。
EViews 的加权最小二乘估计方法为，首先把权数序 列用均值除，然后与对应的每个观测值相乘，权数序列 已被标准化故对参数结果没有影响同时使加权残差比未 加权残差更具可比性。然而，标准化意味着 EViews 的加
权最小二乘在残差序列相关时不适用。
使用加权最小二乘法估计方程，首先到主菜单中选 Quick/ Estimate Equation … , 然后选择LS-Least Squares (NLS and ARMA)。在对话框中输入方程说明和样本，然 后按Options钮,出现如下对话框：
表1 中国1998年各地区城镇居民平均每人全年家庭可支配收入及交通和通讯支出
单位：元
变量 可支配收入 交通和通讯支出 变量 可支配收入 交通和通讯支出
地区 甘肃 山西 宁夏 吉林 河南 陕西 青海 江西 黑龙江 内蒙古 贵州 辽宁 安徽 湖北 海南
IN 4009.61 4098.73 4112.41 4206.64 4219.42 4220.24 4240.13 4251.42 4268.50 4353.02 4565.39 4617.24 4770.47 4826.36 4852.87
检验回归中剔除。例如：一个虚拟变量的平方是它自己， 所以 EViews 剔除其平方项，避免形成完全共线性。选 择 View/Residual test/White Heteroskedasticity 进 行 White异方差检验。
White检验有两个选项：交叉项和无交叉项。有交
叉项是White检验的原始形式，它包括所有交叉乘积项。 但如果回归右边有许多变量，交叉项的个数会很多，所
IN 5000.79 5084.64 5127.08 5380.08 5412.24 5434.26 5466.57 6017.85 6042.78 6485.63 7110.54 7836.76 8471.98 8773.10 8839.68
CUM 212.30 270.09 212.46 255.53 252.37 255.79 337.83 255.65 266.48 346.75 258.56 388.79 369.54 384.49 640.56
例： 我们研究人均家庭交通及通讯支出 (CUM) 和可支配收 入(IN )的关系，考虑如下方程： CUM=0 + 1IN + ui 利用普通最小二乘法，得到如下回归模型： CUM= -56.917+ 0.05807*IN (1.57) (8.96) R2=0.74 D.W.=2.00
从图形上可以看出，平均而言，城镇居民家庭交通和通 讯支出随可支配收入的增加而增加。但是，值得注意的是：
CUM 159.60 137.11 231.51 172.65 193.65 191.76 197.04 176.39 185.78 206.91 227.21 201.87 237.16 214.37 265.98
地区 新疆 河北 四川 山东 广西 湖南 重庆 江苏 云南 福建 天津 浙江 北京 上海 广东
最小二乘估计虽然在存在异方差性时是一致的，但是通
常计算的标准差不再有效。如果发现存在异方差性，利 用加权最小二乘法可以获得更有效的估计。
检验统计量是通过利用解释变量所有可能的交叉乘积对残
差进行回归来计算的。例如：假设估计如下方程
yi 1 2 xi 3 zi ui
式中b是估计系数，û i 是残差。检验统计量基于辅助回归：
具体步骤是：
1 ．选择普通最小二乘法估计原模型，得到随机误差 项的近似估计量 û t； 2．建立 1/| û t | 的数据序列； 3．选择加权最小二乘法，以 1/| û t |序列作为权，进
行估计得到参数估计量。实际上是以 1/| û t |乘原模型的两
边，得到一个新模型，采用普通最小二乘法估计新模型。
实验五 异方差
一、实验目的
掌握异方差的检验方法；掌握加权 最小二乘法对异方差的处理并根据经济 理论对可能产生的异方差的函数形式进 行适当分析。
二、实验内容
建立工作文件、输入数据 对模型进行异方差检验 根据选取的权重利用 WLS 对异方差进 行处理
三、预备知识
线性回归模型的基本假设
ˆi yi xibWLS u
估计后，未加权残差存放在RESID序列中。
如果残差方差假设正确，则加权残差不应具有异方差性。
如果方差假设正确的话，未加权残差应具有异方差性，残差标 准差的倒数在每个时刻t与w成比例。
i=1,2,…,N
即随机误差项的方差是与观测时点t无关的常数；
3．不同时点的随机误差项互不相关（序列不相关），即
Cov(ui , ui s ) 0
s ≠ 0, i = 1 , 2 , … , N
4．随机误差项与解释变量之间互不相关。即
Cov( x ji , u i ) 0
j=1,2,…,k, i=1,2,…,N
yt 0 1 x1i 2 x2i k xki ui
i=1,2,…,N 在普通最小二乘法中，为保证参数估计量具有良好的性质， 通常对模型提出若干基本假设： 1．解释变量之间互不相关； 2．随机误差项具有0均值和同方差。即
E (ui ) 0
Var (u i ) 2
以不必把它们全包括在内。无交叉项选项仅使用解释变
量平方进行检验回归。
例：人均家庭交通及通讯支出(CUM)和可支配收入(IN ) 的回归方程的 White 异方差检验的结果：
该结果F 统计量和 Obs*R2 统计量的P值均很小，表明 拒绝原假设，即残差存在异方差性。
利用加权最小二乘法消除异方差
1．方差已知的情形 假设有已知形式的异方差性，并且有序列w，其值与误差标 准差的倒数成比例。这时可以采用权数序列为w 的加权最小二乘 估计来修正异方差性。对加权自变量和因变量最小化残差平方和 得到估计结果 :
2 2 2 ˆ ui 0 1 xi 2 zi 3 xi 4 zi 5 xi zi i
EViews显示两个检验统计量：F统计量和 Obs*R2 统计量。
White检验的原假设：不存在异方差性（也就是除 0以外的所
有系数都为0成立） 。
当存在冗余交错作用， EViews 会自动的把它们从
2 2 即用 û i 来表示随机误差项的方差。用 X - û i 的散点图进行判断 看是否形成一斜率为零的直线。
ˆ var( ui ) E (u ) u
2 i
2 i
~2 e i
~2 e i
X 同方差 递增异方差
X
~2 e i
~2 e i
X 递减异方差 复杂型异方差
X
2. White异方差性检验 White (1980) 提出了对最小二乘回归中残差的异方 差性的检验。包括有交叉项和无交叉项两种检验。普通
四、实验原理与操作
异方差性检验
1. 图示检验法 (1) 用X-Y的散点图进行判断 观察是否存在明显的散点扩大、缩小或复杂型趋势（即 不在一个固定的带型域中）
2的散点图进行判断 （2）X - û i 首先采用OLS方法估计模型，以求得随机误差项的估计量 (注意，该估计量是不严格的)，我们称之为“近似估计量”，用 2 表示。于是有 û i
S ( β ) w ( yi xi β )
2 i i
2
其中 是k 1维向量。在矩阵概念下，令权数序列 w 在权数矩阵 W的对角线上，其他地方是零，即W 矩阵是对角矩阵，y 和X是 因变量和自变量矩阵。则加权最小二乘估计量为：
bW LS ( X W WX ) 1 X W Wy
5．随机误差项服从0均值、同方差的正态分布。即
ui ~
N (0, )
2
i=1,2,…,N
当随机误差项满足假定1 ~ 4时，将回归模型”称为 “标准回归模型”，当随机误差项满足假定1 ~ 5时，将回 归模型称为“标准正态回归Байду номын сангаас型”。如果实际模型满足不 了这些假定，普通最小二乘法就不再适用，而要发展其他 方法来估计模型。
随着可支配收入的增加，交通和通讯支出的变动幅度也增大
了，可能存在异方差。如果我们把回归方程中得到的残差对 各个观测值作图，则可以清楚地看到这一点。
异方差的存在并不破坏普通最小二乘法的无偏性，但是
估计量却不是有效的，即使对大样本也是如此，因为缺乏有 效性，所以通常的假设检验值不可靠。因此怀疑存在异方差 或者已经检测到异方差的存在，则采取补救措施就很重要。
单击Weighted LS/TSLS选项在Weighted 项后填写权数序列 名，单击OK。例子：
例：
EViews会打开结果窗口显示标准系数结果（如上图），包括 加权统计量和未加权统计量。加权统计结果是用加权数据计算得 到的：
~ w ( y xb ) u i i i i WLS
未加权结果是基于原始数据计算的残差得到的：
估计协方差矩阵为：
2 1 ˆ ΣWLS s ( X W WX )
2．方差未知的情形
由于一般不知道异方差的形式，人们通常采用的经验 方法是，并不对原模型进行异方差检验，而是直接选择加