当前位置:文档之家› 多元线性回归方程的检验、预测

多元线性回归方程的检验、预测

(i=1,2…k)
注意:一元线性回归中,t检验与F检验一致 一方面,t检验与F检验都是对相同的原假设 H0:1=0 进行检验; 另一方面,两个统计量之间有如下关系:
ˆ 2 x2 1 i F 2 2 ei ( n 2) e i ( n 2)
2 e i 2 ˆ y i
ˆ i2 ESS / RSS y
如果这个比值较大,则X的联合体对Y的解 释程度高,可认为总体存在线性关系,反之总体 上可能不存在线性关系。
因此,可通过该比值的大小对总体线性关系 进行推断。 根据数理统计学中的知识,在原假设H0成立 的条件下,统计量
ESS / k F RSS /( n k 1)
知识体系
多元回归的拟合优度检验
总离差平方和的分解

TSS (Yi Y ) 2 ˆ ) (Y ˆ Y )) 2 ((Yi Y i i ˆ ) 2 2 (Y Y ˆ )(Y ˆ Y ) (Y ˆ Y )2 (Yi Y i i i i i
服从自由度为(k , n-k-1)的F分布。
方程总体线性的显著性检验
H0: 0=1=2= =k=0 H1: j不全为0
给定显著性水平,可得到临界值F(k,n-k1),由样本求出统计量F的数值,通过
F F(k,n-k-1) 或 F≤F(k,n-k-1)
来拒绝或接受原假设H0,以判定原方程总体 上的线性关系是否显著成立。
案例分析
零阶齐次性,当所有商品和消费者货币支出总 额按同一比例变动时,需求量保持不变
Q f ( X / P0 , P1 / P0 )
(**)
为了进行比较,将同时估计(*)式与(**)式。
案例分析
首先,确定具体的函数形式 根据恩格尔定律,居民对食品的消费支出与居 民的总支出间呈幂函数的变化关系: 对数变换:
2 e i (n k -1)
*赤池信息准则和施瓦茨准则 为了比较所含解释变量个数不同的多元 回归模型的拟合优度,常用的标准还有: 赤池信息准则(Akaike information criterion, AIC) e e 2( k 1) AIC ln n n 施瓦茨准则(Schwarz criterion,SC)
关于拟合优度检验与方程显著性检验关系的讨论

RSS /( n k 1) R 1 与 TSS /( n 1)
2
2
ESS / k F RSS /( n k 1)
R2 / k F (1 R2 ) / (n k 1)
n 1 可推出: R 1 n k 1 kF
t
*
ˆ j j ˆ) SE ( j
^

ˆ j ˆ c jj
~ t (n k 1)
ˆ 2 ei2 (n k 1)
变量的显著性的假设检验(t 检验)
设计原假设与备择假设: H0:i=0 H1:i0 给定显著性水平,可得到临界值t/2(n-k-1), 由样本求出统计量t的数值,通过 |t| t/2(n-k-1) 或 |t|≤t/2(n-k-1) 来拒绝或接受原假设H0,从而判定对应的解释变 量是否应包括在模型中。
对Y没有显著影响。
方程总体线性的显著性检验 (F 检验)
方程的显著性检验,旨在对模型中被解释变量 与解释变量之间的线性关系在总体上是否显著成立 作出推断。 即检验模型
Yi=0+1X1i+2X2i+ +kXki+i i=1,2, ,n
中的参数j是否显著不为0。
方差分析表
总变差
TSS=
以cii表示矩阵(X’X)-1 主对角线上的第i个元素, 于是参数估计量的方差为: 2 ˆ Var ( ) c
i ii
其中2为随机误差项的方差,在实际计算 时,用它的估计量代替: 2 e e e i 2 ˆ n k 1 n k 1
变量的显著性的假设检验(t 检验)

变量的显著性的假设检验(t 检验)
方程的总体线性关系显著每个解释变量对被 解释变量的影响都是显著的。因此,必须对每个 解释变量进行显著性检验,以决定是否作为解释 变量被保留在模型中。
这一检验是由对变量的 t 检验完成的。
变量的显著性的假设检验(t 检验)
由于
ˆ ) 2 ( XX) 1 Cov (β
对各回归系数假设检验的作法
即认为 j 所对应的解释变量X j 对被解释变量Y的影响不显
即认为 j 所对应的解释变量 X j 对被解释变量Y的影响是
1 建立中国城镇居民食品消费需求函数模型。 根据需求理论,居民对食品的消费需求函数 大致为: (*) Q f ( X , P1 , P0 ) Q:居民对食品的需求量,X:消费者的消费支出 总额 P1:食品价格指数,P0:居民消费价格总指数。
ˆ2 1 2 2 e ( n 2 ) x i i
ˆ 1 ˆ 1 2 ( n 2) x i
2
e
1 t2 n 2 xi2
2 i
2
24
给定显著性水平α,查t分布表的临界值为 t 2 (n k -1)
14
方程总体线性的显著性检验
可提出如下原假设与备择假设:
H0: 0=1=2= =k=0
H1: j不全为0
F检验的思想来自于总离差平方和的分解式: TSS=ESS+RSS
2 ˆ ESS y 由于回归平方和 i
是解释变量 X 的联合体对被解
2 e i
释变量 Y 的线性作用的结果,考虑比值
自由度
k n-k-1 n-1
方 差
2 ˆ ( Y Y ) /k i
2 ˆ ( Y Y ) i i / (n k -1)
2 ( Y Y ) i
2 ( Y Y ) /(n 1) i
基本思想: 如果多个解释变量联合起来对被解释变量的影响不显著, “归于回 归的方差“ 比“归于剩余的方差”显著地小应是大概率事件。
(****)式也可看成是对(***)式施加如下约束而 得: 1 2 3 0
因此, 对( **** )式进行回归,就意味着原需 求函数满足零阶齐次性条件。
案例分析
对(***)式回归结果
案例分析
对(****)式回归结果
中国城镇居民对食品的消费需求模型: (****)式回归结果
(1)由地区经济规模决定的地方整体财力; (2)地区人口数量不同决定各地教育规模不同; (3)人民对教育质量的需求对以政府教育投入为代表的公共 财政的需求会有相当的影响。 (4)物价水平,影响地方财政对教育的支出。 (5)地方政府对教育投入的能力与意愿
Q AX
1
P1 2 P0 3
ln(Q ) 0 1 ln X 2 ln P1 3 ln P0
(***)
案例分析
考虑到零阶齐次性时
ln(Q ) 0 1 ln( X / P0 ) 2 ln( P1 / P0 )
(****)
2
其中:n-k-1为残差平方和的自由度,n-1为总 体平方和的自由度。
多元回归的拟合优度检验
可决系数与调整的可决系数
ESS TSS RSS R 1 2 2 TSS (Yi Y ) TSS y i
2 2 ˆ ( Y Y ) i 2 e i
2 e n 1 i n 1 2 R 1 1 1 (1 R ) 2 2 n k 1 yi n k 1 yi (n 1) 2
ˆ ~ N ( , 2 c ) i i ii
因此,可构造如下t统计量
ˆ i t i S ˆ
i
ˆ i i ~ t ( n k 1) e e c ii n k 1
变量的显著性的假设检验(t 检验)
H0 : j 0
H1 : j 0
(j=1,2,……k)
案例分析
可改写为:
(***)式回归结果
案例分析二
研究的目的要求
为了研究影响中国地方财政教育支出差异的主要原因,分析地 方财政教育支出增长的数量规律,预测中国地方财政教育支出 的增长趋势,需要建立计量经济模型。 研究范围:2011年31个省市区的数据为样本
理论分析:影响中国地方财政教育支出的主要的因素有:
调整的可决系数(adjusted coefficient of determination)
在样本容量一定的情况下,增加解释变量必 定使得自由度减少,所以调整的思路是:将残差平 方和与总离差平方和分别除以各自的自由度,以 剔除变量个数对拟合优度的影响:
RSS /( n k 1) R 1 TSS /( n 1)
如果 t 2 (n k -1) t * t 2 (n k -1) 就不拒绝 H 0 : j 0 ,而拒绝 H 1 : j 0 著。 如果 t* t 2 (n k -1)或t * t 2 (n k -1) 就拒绝 H 0 : j 0 而不拒绝 H1 : j 0
e e k AC ln ln n n n
这两准则均要求仅当所增加的解释变量能够 减少AIC值或AC值时才在原模型中增加该解释变量。
方程总体线性的显著性检验 (F 检验)
▼如果计算的F值大于临界值,则拒绝原假设,说明回
归模型有显著意义;即所有解释变量联合起来对 Y
确有显著影响。
▼如果计算的F值小于临界值,则不拒绝原假设,说明 回归模型没有显著意义;即所有解释变量联合起来
2 ( Y Y ) i
自由度
N- 1
模型解释了的变差 剩余变差
变差来源
归于回归模型 归于剩余 总变差
相关主题