，拒绝原假设。
• 检验统计量，
ˆ C) Var g ( ˆ) C (g ˆ C) ~ 2 (q) W (g
• Wald只需要估计无约束模型，但需要计算渐进协方差矩阵。



1

a
2014-5-23
中级计量经济学
9
• 在线性约束条件下， Wald检验
(Y X )(Y X ) L(Y , X ; , ) (2 ) exp{ } 2 2
2 2 n 2
• 对数似然函数：
n n (Y X )(Y X ) l LnL Ln 2 Ln 2 2 2 2 2
1 l ˆ) 0 ( 2 X Y 2 X X 2 ˆ ˆ 2 l n 1 (Y X ˆ )(Y X ˆ) 0 2 2 4 ˆ ˆ ˆ 2 2
H0 : R r
ˆ r ) R ˆ r ) ~ 2 (q) ˆ W ( R ( X X ) R ( R
2 1 1 a
• 拒绝域，
2 W (q)
• Wald统计量另一种表达形式，
' n(e* e* ee) W ~ 2 (q) ee
三大检验
一、最大似然估计（ML） 二、似然比检验（LR） 三、Wald检验 四、拉格朗日乘子检验（LM）
• 前面介绍的F检验适用于检验模型的线性约束。如果模型是非线性的
、或者约束是非线性的、或者扰动项分布是非正态的，在这些情况下 ，F检验不再适用，通常需要采用LR、Wald、LM其中之一来检验约 束条件是否成立。这三个检验方法是渐进等价的，他们所用统计量的 小样本分布是未知的，但都渐进服从自由度为约束个数的卡方分布。
2014-5-23
中级计量经济学
5
• 3、最大似然估计量（MLE）的性质：
ˆ 是 的一致估计量，即 • （1）一致性：
ˆ ) 1, 为任意给定的正数。 lim P
n


ˆ 是渐进有效的且达到所有一致估计量的 • （2）渐进有效性： ML
Cramer-Rao下界，即是所有一致渐进正态估计量中方差最小的
2014-5-23 中级计量经济学 11
•
如果约束成立，对数似然函数值不会有显著变化。这就意味着在一
阶条件下，第二项应该很小，特别是

应该很小。因此，约束条件
是否成立检验转化成检验 H ： =0 ，这就是拉格朗日乘子检验的思 0 想。
•
但是直接检验 H0： =0 比较困难，有一个等价而简单的方法。如
' ne* X ( X ' X ) 1 X ' e* 2 2 LM= = nR ~ (q) ' e*e*
' e e 有约束模型残差平方和； ** R 2是e*对X 回归的拟合优度；
• 拒绝域，
2 LM nR2 (q)
2014-5-23
中级计量经济学
14
• LM统计量另一种表达形式，
• 对未知参数求导：
2014-5-23
中级计量经济学
4
ˆ (X X ) 1 X Y • 得到， ML 2 1 ˆ ML ee n
• 与OLS对比
将估计量代入对数似然函数，得到最大对数似然估计值
n n l LnL Ln( ) 1 Ln(ee) 2 2
' e e 有约束模型残差平方和； * * ee无约束模型残差平方和；
2014-5-23 中级计量经济学 10
四、拉格朗日乘子检验（LM）
• 基本思想：拉格朗日乘子检验（LM），又称为Score检验。该检验基
于约束模型，无需估计无约束模型。
• 假设约束条件为 H0 : g C ，在约束条件下最大化对数似然函数 ，另
数（Likelihood Function）, 即观测到所给样本的可能性.
ˆ ，使得似然函数达到最 • 极大似然原理就是寻找未知参数 的估计
大，或者说寻找使得样本
Y , X 出现的概率最大的 ˆ
。
2014-5-23
中级计量经济学
3
• （三）线性回归模型最大似然估计 • 1、估计结果 Y X u u~N (0, 2 In )
' n(e* e* ee) 2 W ~ (q) ' e*e*
' e e 有约束模型残差平方和； * * ee无约束模型残差平方和；
• LR、 Wald 、LM关系(一般情况下成立)：
Wald LR LM
2014-5-23
中级计量经算对数似然函数的导数应该近似 为零，如果该值显著异于零，则约束条件不成立，拒绝原假设。
• 对数似然函数的导数就是得分向量，因此，LM检验就是检验约束条件
下参数估计值的得分向量值是否显著异于零，因而，LM检验又称为得 分检验。
2014-5-23
中级计量经济学
12
ˆ) 0 ，可以求出无约 • 在最大似然估计过程中，通过解似然方程 S (
• 似然比：
L( , 2 ) ˆ , ˆ2) L(
• 无约束模型似然函数值： • 有约束模型似然函数值：
ˆ , ˆ2) L(
L( , 2 )
中级计量经济学 7
2014-5-23
• 显然 0 1 。如果原假设是真，则 趋近于1；如果 束无效，拒绝原假设。 • 可以证明，对大样本来说，检验统计量为，
表示拉格朗日乘子向量，此时，拉格朗日函数为， LnL ( ) LnL( ) g( ) C
• 约束条件下最大化问题就是求解下式根，
LnL ( ) LnL( ) g 0 LnL ( ) g( ) g ( ) C 0 其中，g 是矩阵g= 的转置
ˆ , ˆ 2 ) ln L( , 2 ) ~ 2 (q) LR 2ln 2 ln L (
太小，则约
• 拒绝域，
LR
2 1
(q )
• 似然比检验另一种表达，
' LR 2 ln n(ln e* e* ln ee) ~ 2 (q)
' e e 有约束模型残差平方和； ** ee无约束模型残差平方和；
2014-5-23
中级计量经济学
8
• 三、Wald检验
H0 : g C
• 如果约束条件为真，则g
MLE
C 0 不应该显著异于零，其中 MLE 是
MLE g C显著异于零时，约束条件无效 无约束极大似然估计值。当
• 似然比检验（Likelihood Ratio Test,LR）、沃尔德检验（Wald Test,W ）、拉格朗日乘数检验（Lagrange Multiplier,LM）是三种基于极大似 然法的大样本检验方法。
2014-5-23
中级计量经济学
2
• 一、最大似然估计（ML）
• （一）极大似然原理
• 假设对于给定样本 Y , X ，其联合概率分布存在， f Y , X ; 。将该 联合概率密度函数视为未知参数 的函数，则 f Y , X ; 称为似然函
束估计量 ˆ ；如果计算有约束估计量 在此处得分，则 S ( ) 一般 不为零，但是如果约束有效，则 S ( ) 趋近于零。 • 在原假设成立条件下，
LM S ( ) I ( ) S ( ) ~ 2 (q)
1
a
2014-5-23
中级计量经济学
13
• 对于线性约束
• 将有关量代入上式得，
• （3）渐进正态性
2014-5-23
中级计量经济学
6
二、似然比检验（LR）
• 1、似然比 • 命题： H0 : g C • 检验思想：如果约束是无效的，有约束的最大似然函数值当然不会超 过无约束的最大似然函数值，但如果约束条件“有效”，有约束的最
大值应当“接近”无约束的最大值，这正是似然比检验的基本思路。