i E(i )
E
X 1i i
X
1i E(i
)
0
X Ki i X Ki E(i )
假设6，向量 有一多维正态分布，即
μ~ N(0, 2I)
同一元回归一样，多元回归还具有如下两个重要假设： 假设7，样本容量趋于无穷时，各解释变量的方差趋于有界常数，即n∞时，
yi ˆ1x1i ˆ2 x2i ˆk xki ei
其矩阵形式为
i=1,2…n
y xβˆ e
其中 ：
y1
x11 x21 xk1
1
n
x
2 ji
1 n
( X ji X j )2 Q j
或
1 xx Q n
其中：Q为一非奇异固定矩阵，矩阵x是由各解释变量的离差为元素组成 的nk阶矩阵
x11 xk1 x
x1n xkn
假设8，回归模型的设定是正确的。
§3.2 多元线性回归模型的估计
估计方法：OLS、ML或者MM 一、普通最小二乘估计 *二、最大或然估计 *三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例
ˆ1 ˆ2 X 2i ˆk X ki Yi X ki
解该k个方程组成的线性代数 方程组，即可以得到 k个 待估参数的估计值
正规方程组的矩阵形式
n
X 1i
X 1i
X
2 1i
X ki
X ki X 1i
X X 1i
X
ki
X
2 ki
ki
ˆ 0 ˆ1
ˆ k
第三章 经典单方程计量经济 学模型：多元回归
多元线性回归模型 多元线性回归模型的参数估计 多元线性回归模型的统计检验 多元线性回归模型的预测 回归模型的其他形式 回归模型的参数约束
§3.1 多元线性回归模型
一、多元线性回归模型 二、多元线性回归模型的基本假定
一、多元线性回归模型
多元线性回归模型:表现在线性回归模型中的解 释变量有多个。
Cov(i , j ) E(i j ) 0
i j i, j 1,2, , n
假设5，解释变量与随机项不相关
Cov( X ji , i ) 0
j 1,2 , k
假设6，随机项满足正态分布
i ~ N (0, 2 )
上述假设的矩阵符号表示 式：
假设1，nk矩阵X是非随机的，且X的秩=k，即X满秩。
Yˆ Xβˆ
或
Y Xβˆ e
其中：
ˆ1
ˆ
ˆ2
ˆk
e1
e
e2 en
二、多元线性回归模型的基本假定
假设1，解释变量是非随机的或固定的，且各 X之间互不相关（无多重共线性）。
假设2,3,4，随机误差项具有零均值、同方差 及不序列相关性
E(i ) 0
Var(i ) E(i2 ) 2
样本回归函数：用来估计总体回归函数
Yˆi ˆ1 ˆ2 X2i ˆ3 X3i ˆk Xki
其随机表示式:
Yi ˆ1 ˆ2 X2i ˆ3 X3i ˆk Xki ei
ei称为残差或剩余项(residuals)，可看成是
总体回归函数中随机扰动项i的近似替代。
样本回归函数的矩阵表达:
也被称为总体回归函数的随机表达形式。它 的 非随机表达式为:
E(Yi | X 2i , X 3i , X ki ) 1 2 X 2i 3 X 3i k X ki
方程表示：各变量X值固定时Y的平均响应。
j也被称为偏回归系数，表示在其他解释变
量保持不变的情况下，Xj每变化1个单位时，Y 的均值E(Y)的变化;
或者说j给出了Xj的单位变化对Y均值的“直
接”或“净”（不含其他变量）影响。
总体回归模型n个随机方程的矩阵表达式为 Y Xβ μ
其中
Y1 1 1 X21 L
其中：Y
Y2
2
X
1
X 22
L
M M M
Yn
k
1 X2n L
X k1 u1
Xk2
U
u2
M
X
kn
un
假设2,3,4
E (μ)
E
1
E(1
)
0
n E( n )
E (μμ )
E
1
1
n
n
E
12
n
1
1 n
2 n
var(1 )
cov(
n
,
1
)
cov(1, n ) 2
var( n )
0
0 2I
2
假设5，E(X’ )=0，即
ˆ1
Q0
ˆ2
ˆk
Q
Q
0 0
其中
n
n
Q ei2 (Yi Yˆi ) 2
i 1
i 1
n
2
Yi ˆ1 ˆ2 X 2i ˆk X ki
i1
于是得到关于待估参数估计值的正规方程组：
ˆ1 ˆ2 X 2i ˆk X ki Yi ˆ1 ˆ2 X 2i ˆk X ki Yi X1i
一、普通最小二乘估计
对于随机抽取的n组观测值 (Yi , X ji ), i 1,2, , n, j 0,1,2, k
如果样本函数的参数估计值已经得到，则有：
Yˆi ˆ1 ˆ2 X 2i ˆ3 X3i ˆk X kiFra biblioteki=1,2…n
根据最小二乘原理，参数估计值应该是下列方程组的解
一般表现形式：
模型：Yt 1 2t X 2t L k X kt ut
t=1,2…,n
其中:k-1为解释变量的X数目，j称为回归参数
（regression coefficient）。
习惯上：把常数项看成为一虚变量的系数，该 虚变量的样本观测值始终取1。这样：
模型中解释变量的数目为（k）
模型：Yt 1 2t X 2t L k X kt ut
1 X 11 X k1
1 X 12 Xk2
1 Y1
X 1n Y2
X kn
Yn
即
(XX)βˆ XY 由于X’X满秩，故有
βˆ (XX)1 XY
将上述过程用矩阵表示如下：
即求解方程组：
βˆ (Y
Xβˆ )(Y
Xβˆ )
0
βˆ (YY βˆ XY YXβˆ βˆ XXβˆ ) 0
XY XXβˆ 0
得到：XY XXβˆ 于是： βˆ (XX)1 XY
⃟正规方程组 的另一种写法
对于正规方程组
XY XXβˆ
XXβˆ Xe XXβˆ
于是
Xe 0
(*)
或
ei 0
(**)
X ji ei 0
i
(*)或（**）是多元线性回归模型正规方程组的另一种写法
⃟样本回归函数的离差形式