生产函数 Y AK L

道格拉斯生产函数考虑 1 时的情况。
Y 1 2 X 2 k X k u
假设线性约束 H 0 : R r 式中 R 已知 q k 矩阵，r 已知 q 1 已知矩阵, 且 r R q 。
§3.5 参数估计的分布性质
AT A
A2 A
§3.4模型的离差形式和决定系数
对于 令 Y Xb e X X1, X 2
其中：X 1为X 的第一列，X 2为剩余的(k 1)列构成的矩阵 1 X 1 i 1 b1 令：b b2
§3.4模型的离差形式和决定系数
1 1 T T T T var b E X X X UU X X X
X X X E UU
T 1 1 T
X X X
T
T
X X X X X X I
T T T 1 2
1
2I X T X
2 e t
nk E S2 2
§3.4模型的离差形式和决定系数
证明：由残差定义 e Y Xb Y X X X X 'Y
' 1
I X X X X' Y
' 1


MY 其中M I X X X X '
' 1
有性质：M ' M
T e e nk 2 R 1 T Y AY n 1
称为调整（修正）后的决定系数。见教材p63-64
§3.4模型的离差形式和决定系数
1 k n 1 2 R R nk nk n 1 1 1 R2 nk 有 R2 ≥ R 2
2
类似一元模型，多元模型中误差项方差的估计量为： S2 且
Y1 1 u1 1 X 21 X k1 Y u 1 X X 22 k2 其中：Y 2 2 X U 2 1 X 2 n X kn Yn k un
其中b1为截距（intercept） ,b 2为斜率（slope coefficient） 则 而 所以 Y X 1b1 X 2b2 e X1 i Ai 0 AY AX 2b2 e （*）
（*）为模型的离差形式
T （*）两端同时乘以X 2
则
T T T X2 AY X 2 AX 2b2 X 2 e
1
Rb r
q
F q, n k

§3.5 参数估计的分布性质
第三章:多元线性回归模型
§3.1 §3.2 §3.3 §3.4 §3.5 §3.6 模型的假定 最小二乘估计 最小二乘估计的性质 模型的离差形式和决定系数 参数估计的分布性质 多重共线性
§3.1 模型的假定
模型：Yt 1 2t X 2t k X kt ut
矩阵形式：Y X U
这是因为 iT Y iT Xb e n n b1 Y 1, X 2 , X 3 X k b k 总离差平方和：
§3.4模型的离差形式和决定系数
TSS Yt Y AY
T 2
AY Y T AY T T b2 X2 A eT AX 2b2 e
AA X
T T
T
X

1

AA A A A

A A

A
T
A A A A

T
A A

T

§3.4模型的离差形式和决定系数
一元模型： Yt X t ut ˆ a bX Y
t t
ˆ et Yt Y t ˆ e a bX e Yt Y t t t t 离差形式： Yt Y a bX t et a bX 0 b X t X et
T T b2 X2 AX 2b2 eT e
ESS RSS “上式中交叉项部分=0?
T 利用性质 Ae e和X 2 e0
§3.4模型的离差形式和决定系数
定义决定系数
T T b X AX 2b2 AX 2b2 AX 2b2 b2 X2 AY R T T Y AY Y AY Y AY AY AX 2b2 e 2 T 2 T 2 T T
§3.2最小二乘估计
X T AX 2 AX aT X a, a为列向量
X X 残差向量e Y - Xb，b为的估计，则残差平方和：
2 T e e t e Y - Xb Y - Xb T
Y T Y - Y T Xb - bT X T Y bT X T Xb Y T Y - 2bT X T Y bT X T Xb
T
AX 2 b2
§3.4模型的离差形式和决定系数
上式称为离差形式的正规方程，和一般形式的正规方程类似。
T T X X b X Y
利用b2求b1： b1 Y bi X i
i 2 k
其中X i 为X 2中k 1个列向量每一列的算术平均。
§3.4模型的离差形式和决定系数
eT e Z T I P T P I Z ZT I Z
2 Z k21 Z n
§3.5 参数估计的分布性质
显然 ∴ 即
Zi

N 0,1
eT e 2 2 n k
RSS
2
2 n k
T 1

§3.3最小二乘估计的性质
3.有效性：
T var b E b b
b X X X TY
T 1
X X X T X U
T 1
X X X TU
T 1
§3.3最小二乘估计的性质
2
X X
T
1
假设d AY 是的任意线形无偏估计，A是一k n的常数矩阵。 有效性即： var d - var b 0
§3.3最小二乘估计的性质
由无偏性 则 AX I var d = Avar Y AT A 2 I AT 2 AAT 讨论下面的矩阵是否半正定？
ti bi i
2 aii
n k S 2 2 n k
b i t n k S aii
式中 aii 为 X X

T

1
主对角线上的第 i 个元素。
2
t 统计量要求分子分母相互独立，上式用到 S 与
b 分布独立的性质，见教材 p58-59。
§3.5 参数估计的分布性质
2 分析： U N 0, I


而P P I
T
PT U N 0, 2 PT P
§3.5 参数估计的分布性质
单一系数的显著性检验
Yt 1 2 X 2 t k X kt ut H 0 : i 0 H1 : i 0
§3.5 参数估计的分布性质
MTM M
MX 0
§3.4模型的离差形式和决定系数
则 e M X U MU 上式给出残差和误差的关系。
e
2 t
e e MU
T
T
MU
U T MU E eT e E U T MU
§3.4模型的离差形式和决定系数
T E U T MU E tr U MU
E tr MUU T
trE MUU T trME UU T trM 2 I


§3.4模型的离差形式和决定系数
M I X X 'X X '
1
tr M trI tr X X ' X X '
1
n tr nk
式中C是一等幂矩阵，且存在一正交变换矩阵P 使
1 1 T P CP 0 0
§3.5 参数估计的分布性质
令Z P U
T
Z 对 U 作一正交变换，则
为正态分布，且
E Z 0
则
E ZZ T 2 I
§3.2最小二乘估计
eT e b 上式为正规方程，包含k 个方程式 则最小二乘估计 b X X X TY
T 1
2 X T Y 2 X T Xb 0
由假设条件可以证明X T X 是正定的，即X T X 0
§3.3最小二乘估计的性质
1.线形特性：b X X X T Y


X 'X X 'X
1


§3.5 参数估计的分布性质
b X X X TY
T 1
b N ,
又

2
X X
1
1

e I X X X XT U
T 1


I C U P I PT U P I Z
§3.5 参数估计的分布性质
T 1
2.无偏性：E b
1 T E b E X X X TY 1 T E X X X T X U
X X X T E X U
T 1
X X XTX 0
§3.1 模型的假定
模型假设： E u1 （1）E U 0 即对每一个元素取期望 E u n （2）E UU T 2 I 协方差矩阵 （3）X 为一确定性变量 （4）r X k k n （5）U N 0, 2 I