假设2，随机误差项具有零均值、同方差及不 序列相关性。
E(i ) 0
ij i,j 1 ,2 , ,n
V(a i)rE (i2)2
C( o i,v j) E (ij) 0
假设3，解释变量与随机项不相关
Co (X vji,i)0 j1,2,k
假设4，随机项满足正态分布
⃟正规方程组 的另一种写法 对于正规方程组
XYXXβ ˆ
X X β ˆ X eX X β ˆ
于是 Xe0 (*)
或 ei 0 (**)
Xjiei 0
i
(*)或（**）是多元线性回归模型正规方程组
的另一种写法。
⃟随机误差项的方差的无偏估计
可以证明，随机误差项的方差的无偏估
该正规方程组 可以从另外一种思路来导:
求期望 :
YX β μ X Y X X β X μ X (Y X β)X μ
E (X (Y X β )0
E (X (Y X β )0
称为原总体回归方程的一组矩条件，表明了原总 体回归方程所具有的内在特征。
1X(YXβ ˆ)0 n
表示：各变量X值固定时Y的平均响应。
j也被称为偏回归系数，表示在其他解释变
量保持不变的情况下，X j每变化1个单位时，Y的 均值E(Y)的变化;
或者说j给出了X j的单位变化对Y均值的
“直接”或“净”（不含其他变量）影响。
总体回归模型n个随机方程的矩阵表达式为:
其中 Y X β μ
1 X11 X 1 X12
ˆ 2
Q
0
ˆ k
Q
0
n
n
其
Q ei2 (Yi Yˆi)2
i1
i1
中n
2
(Y i(ˆ0ˆ1X 1iˆ2X 2i ˆkX k)i )
i 1
• 于是得到关于待估参数估计值的正规方程组：
((ˆˆ00(ˆ0ˆˆ11XX1ˆ1i1iX1ˆiˆ22iXXˆ222iiX2 i ˆˆkkXXˆkkkii))XXXki12)ii
如果样本函数的参数估计值已经得到，则有：
Y ˆ i ˆ 0 ˆ 1 X 1 i ˆ 2 X 2 i ˆ k X i Ki i=1,2…n
• 根据最 小二乘原 理，参数 估计值应
该是右列
方程组的 解

ˆ 0
Q
0

ˆ 1
Q
0

Y i 0 1 X 1 i 2 X 2 i k X k ii
也被称为总体回归函数的随机表达形式。它 的 非随机表达式为:
E ( Y i|X 1 i , X 2 i , X k ) i0 1 X 1 i 2 X 2 i k X ki
即
(XXβ ˆ)XY
由于X’X满秩，故有 β ˆ(XX)1XY
• 将上述过程用矩阵表示如下：
即求解方程组： β ˆ(YXβ ˆ)(YXβ ˆ)0
β ˆ(Y Y β ˆX Y Y X β ˆβ ˆX X β ˆ)0 β ˆ(Y Y 2Y X β ˆβ ˆX X β ˆ)0
一、普通最小二乘估计 *二、最大或然估计 *三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例
说明
估计方法： 3大类方法：OLS、ML或者MM – 在经典模型中多应用OLS – 在非经典模型中多应用ML或者MM – 在本节中， MM为选学内容
一、普通最小二乘估计
• 对于随机抽取的n组观测值 (Y i,X j)ii ,1 ,2 , ,n ,j 0 ,1 ,2 , k
n Xi
X Xi2 i2110552031065 500000
Y1
XYX 11
1 X2
X 1nY Y n 2
XYiiYi3195466784400
可求得： (X X )1 00 .7 .02020 1. 3 63 0.E 0 50 0 0 73
Y ˆ i ˆ 0 ˆ 1 X 1 i ˆ 2 X 2 i ˆ k X i ki
其随机表示式: Y i ˆ 0 ˆ 1 X 1 i ˆ2 X 2 i ˆkX i k ie i
ei称为残差或剩余项(residuals)，可看成是
总体回归函数中随机扰动项i的近似替代。
假设3，E(X’)=0，即

E
X1i i




X1i E(i )


0
XKii XKiE(i )
假设4，向量 有一多维正态分布，即
μ~N(0,2I)
同一元回归一样，多元回归还具有如下两个重 要假设：
假设5，样本容量趋于无穷时，各解释变量的 方差趋于有界常数，即n∞时，

X21 Xk1
X22

Xk2



1 X1n
X2n

Xkn
n(k1)
0


1

β


2

k ( k 1 ) 1
1
μ



2



n

n1
用来估计总体回归函数的样本回归函数为：
对对数或然函数求极大值，也就是对
(YX β ˆ)(YX β ˆ)
求极小值。
• 因此，参数的最大或然估计为
β ˆ(XX)1XY
结果与参数的普通最小二乘估计相同
*三、矩估计（Moment Method, MM）
OLS估计是通过得到一个关于参数估计值的
正规方程组
(XXβ ˆ)XY
并对它进行求解而完成的。
第三章 经典单方程计量经济学模型：多 元线性回归模型
• 多元线性回归模型 • 多元线性回归模型的参数估计 • 多元线性回归模型的统计检验 • 多元线性回归模型的预测 • 回归模型的其他形式
§3.1 多元线性回归模型
一、多元线性回归模型 二、多元线性回归模型的基本假定
一、多元线性回归模型
多元线性回归模型:表现在线性回归模型中的 解释变量有多个。


Xki
X1i X12i
XkX i 1i

X X X 1iX k k2kii i ˆˆˆ1 k 0X X 11 k11 X X 11 k22 X X 11 knn Y Y Y1 n 2
计量为：
ˆ2 ei2 ee
nk1 nk1
二、最大或然估计
• 对于多元线性回归模型
Y i 0 1 X 1 i 2 X 2 i k X k ii
易知
Yi ~N(Xiβ,2)
• Y的随机抽取的n组样本观测值的联合概率 L(βˆ, 2) P(Y1,Y2,,Yn )
线性性、无偏性、有效性。
同时，随着样本容量增加，参数估计量具有： 渐近无偏性、渐近有效性、一致性。
1、线性性
β ˆ(X X ) 1X Y CY
其中,C=(X’X)-1 X’ 为一仅与固定的X有关的行 向量
2、无偏性
E(βˆ) E((XX)1 XY) E((XX)1 X(Xβ μ)) β (XX)1 E(Xμ) β
E(X’)=0
• 如果某个解释变量与随机项相关，只要能找到1 个工具变量，仍然可以构成一组矩条件。这就是IV。
• 如果存在＞k+1个变量与随机项不相关，可以构 成一组包含＞k+1方程的矩条件。这就是GMM。
四、参数估计量的性质
在满足基本假设的情况下，其结构参数的
普通最小二乘估计、最大或然估计及矩估计仍具 有：
一般表现形式：
Y i 0 1 X 1 i 2 X 2 i k X k ii i=1,2…,n
其中:k为解释变量的数目，j称为回归参数
（regression coefficient）。
习惯上：把常数项看成为一虚变量的系 数，该虚变量的样本观测值始终取1。于是： 模型中解释变量的数目为（k+1）
X Y X X β ˆ0
得到：
XYXXβ ˆ
于是：
β ˆ(XX)1XY
例3.2.1：在例2.1.1的家庭收入-消费支出例中，
1 X1
(X 'X )X 11
1 X2
X 1n 1 1 X X n 2
n

12
E


n
1

1n

n2

va1 r)( co1 v,(n) 2 0 2I
con v,(1) varn)( 0 2
i E(i )

1
e 1 2
2
(Yi
(ˆ0
ˆ1X1i
ˆ2
X2i
ˆk
Xki
))2
(2
)
n 2

n

1
1 (YXβˆ )(YXβˆ )
e 22
(2
)
n 2

n
即为变量Y的或然函数
• 对数或然函数
为
L*L(nL)
nL(n2) 1 (YXβ ˆ)(YXβ ˆ) 22
于是：
β ˆ ˆ ˆ 1 2 0 0 .7 .02 0 1 . 3 2 0 0 .E 0 5 6 0 3 0 3 7 1 09 5 3 6 6 4 0 1 7 .7 .8 1 0 4 7 4 7 3 7
样本回归函数的矩阵表达:
其中：
Yˆ Xβ ˆ
ˆ 0