3大类方法：OLS、ML或者MM
– 在经典模型中多应用OLS
– 在非经典模型中多应用ML或者MM
18
一、普通最小二乘估计
• 对于随机抽取的n组观测值 (Yi , X ji ),i 1,2, ,n, j 0,1,2, k 如果样本函数的参数估计值已经得到，则有：
Yˆi ˆ0 ˆ1 X1i ˆ2 X 2i ˆki X Ki i=1,2…n
1 X 12 Xk2
1 Y1
X 1n Y2
X kn
Yn
即
(XX)βˆ XY
由于X’X满秩，故有 βˆ (XX)1 XY
21
用含两个解释变量的矩阵形式来表示X’X：
Y n n1
1 X 11 X 1 X 12
1 X 1n
X 21 X 22
X 2n
X k1
X
k
2
X
kn
n(k 1)
0
1
β
2
k ( k 1)1
1
μ
2
n
n1
10
用来估计总体回归函数的样本回归函数为：
Yˆi ˆ0 ˆ1 X1i ˆ2 X 2i ˆki X ki
假设4，向量 有一多维正态分布，即
μ~ N(0, 2I)
同一元回归一样，多元回归还具有如下两个重 要假设：
假设5，样本容量趋于无穷时，各解释变量的 方差趋于有界常数，即n∞时，
15
1
n
x
2 ji
1 n
(X ji X j )2 Q j
或
1 xx Q n
其中：Q为一非奇异固定矩阵，矩阵x是
由各解释变量的离差为元素组成的nk阶矩阵
2
关于人均消费和人均GDP的例子（时间序列)（50页）
3
4
5
6
一、多元线性回归模型
多元线性回归模型:表现在线性回归模型中的 解释变量有多个。
一般表现形式：
Yi 0 1X1i 2 X 2i k X ki i i=1,2…,n
其中:k为解释变量的数目，j称为回归参数
（regression coefficient）。
11
二、多元线性回归模型的基本假定
假设1，解释变量是非随机的或固定的，且各 X之间互不相关（无多重共线性）。
假设2，随机误差项具有零均值、0
i j i, j 1,2, , n
Var(i
)
E
(
2 i
)
2
Cov(i , j ) E(i j ) 0
12
假设3，解释变量与随机项不相关
x11 x
x1n
xk1 xkn
该假设同样是为了避免伪回归问题。
假设6，回归模型的设定是正确的。
16
§3.2 多元线性回归模型的估计
一、普通最小二乘估计 二、参数估计量的性质 三、样本容量问题 四、估计实例
17
说明
估计目标：结构参数 ˆ 及随机误差项的方差 j
ˆ 2 。
估计方法：
1
n
n
12
E
n
1
1 n
2 n
var(1 )
cov(
n
,
1
)
cov(1, n ) 2
var(n )
0
0 2I
2
14
i E(i )
假设3，E(X’)=0，即
E
X 1i i
X 1i E(i
)
0
X Ki i X Ki E(i )
第三章 经典单方程计量经济学模型： 多元线性回归模型
1. 多元线性回归模型 2. 多元线性回归模型的参数估计 3. 多元线性回归模型的统计检验 4. 多元线性回归模型的预测 5. 回归模型的其他形式 6. 回归模型的参数约束
1
§3.1 多元线性回归模型
一、多元线性回归模型 二、多元线性回归模型的基本假定
7
习惯上：把常数项看成为一虚变量的系 数，该虚变量的样本观测值始终取1。于是： 模型中解释变量的数目为（k+1）
Yi 0 1 X1i 2 X 2i k X ki i
也被称为总体回归函数的随机表达形式。它的 非随机表达式为: E(Yi | X1i , X 2i , X ki ) 0 1 X1i 2 X 2i k X ki 表示：各变量X值固定时Y的平均响应。
((ˆˆ00(ˆ0ˆˆ11XX1ˆ1i1i X1ˆiˆ22i XXˆ222ii
X 2i ˆk ˆk X ki ˆk X ki
X ki) ) X 1i )X 2i
Yi Yi Yi
X 1i X 2i
(ˆ0 ˆ1 X 1i ˆ2 X 2i ˆk X ki ) X ki Yi X ki
8
j也被称为偏回归系数，表示在其他解释变
量保持不变的情况下，X j每变化1个单位时，Y 的均值E(Y)的变化;
或者说j给出了X j的单位变化对Y均值的
“直接”或“净”（不含其他变量）影响。 总体回归模型n个随机方程的矩阵表达式为:
Y Xβ μ
其中矩阵Y、X、 和µ的含义如下:
9
Y
Y Y
1 2
• 根据最 小二乘原 理，参数 估计值应
该是右列
方程组的 解
ˆ
0
Q
0
ˆ1
Q
0
ˆ
2
Q
0
ˆ k
Q
0
n
n
其 Q ei2 (Yi Yˆi )2
中
i 1
n
i 1
2
(Yi (ˆ0 ˆ1 X1i ˆ2 X 2i ˆk X ki ))
i1
19
• 于是得到关于待估参数估计值的正规方程组：
Cov( X ji , i ) 0
j 1,2 , k
假设4，随机项满足正态分布
i ~ N (0, 2 )
13
上述假设的矩阵符号表示 式：
假设1，n(k+1)矩阵X是非随机的，且X的
秩=k+1，即X满秩。
假设2，
E (μ)
E
1
E (1 )
0
n E( n )
E (μμ )
E
1
解该（k+1）个方程组成的线性代数方程组，即
可得到(k+1) 个待估参数的估计值
$ j
,
j
0,1,2,L
,k
。
20
□正规方程组的矩阵形式
n
X1i
X1i
X
2 1i
X ki
X ki X 1i
X X 1i
X
ki
X
2 ki
ki
ˆ0 ˆ1
ˆ k
1 X 11 X k1
其随机表示式: Yi ˆ0 ˆ1X1i ˆ2 X 2i ˆki X ki ei
ei称为残差或剩余项(residuals)，可看成是
总体回归函数中随机扰动项i的近似替代。
样本回归函数的矩阵表达:
Yˆ Xβˆ 或 Y Xβˆ e
其中：
ˆ0
βˆ
ˆ1
ˆ k
e1
e
e2 en