线性回归模型的拟合优 度检验方法分析
2020年4月19日星期日
§3 线性回归模型的拟合优度 检验
说明
回归分析是要通过样本所估计的参数来代替总体 的真实参数，或者说是用样本回归线代替总体回归 线。尽管从统计性质上已知，如果有足够多的重复 抽样，参数的估计值的期望（均值）就等于其总体 的参数真值，但在一次抽样中，估计值不一定就等 于该真值。那么，在一次抽样中，参数的估计值与 真值的差异有多大，是否显著，这就需要进一步进 行统计检验。主要包括拟合优度检验、变量的显著 性检验及参数的区间估计。
一、拟合优度检验
• 目的：建立度量被解释变量的变动在多大 程度上能够被所估计的回归方程所解释的指 标，直观的想法是比较估计值与实际值。即 使用Y围绕其均值的变异的平方和，作为需要 通过回归来解释其变动的度量。
• 1、总离差平方和的分解
• 已知由一组样本观测值（Xi,Yi）， i=1,2…,n得到如下样本回归直线
拟合优度检验：对样本回归直线与样本观测 值之间拟合程度的检验。度量拟合优度的指标： 判定系数（可决系数）R2
• 问题一：采用普通最小二乘估计方法，已经
保证了模型最好地拟合了样本观测值，为什么还 要检验拟合•称 R2 为（样本）可决系数/判定系数（coefficient of determination)。 • 可决系数的取值范围：[0，1] • R2越接近1，说明实际观测点离样本线越近 ，拟合优度越高。
•TSS=ESS+RSS
Y的观测值围绕其均值的总离差(total variation)可分解为两部分：一部分来自回 归线(ESS)，另一部分则来自随机势力 (RSS)。
在给定样本中，TSS不变，如果实际观测点 离样本回归线越近，则ESS在TSS中占的比重 越大，因此定义拟合优度：回归平方和ESS与 Y的总离差TSS的比值。
• 如果Yi=Ŷi 即实际观测值落在样本回归“线” 上，则拟合最好。
• 可认为，“离差”全部来自回归线，而与“残 差”无关。
• 对于所有样本点，则需考虑这些点与样本均
值离差的平方和,可以证明：
•记
•总体平方和（Total
Sum of Squares）
•回归平方和（
Explained Sum of Squares） •残差平方和（Residual Sum of Squares ）
• 在例2.1.1的收入－消费支出例中 ，
• 注：可决系数是一个非负的统计量。它也是 随着抽样的不同而不同。为此，对可决系数的统 计可靠性也应进行检验，这将在第3章中进行。
•
判断系数的含义：度量了
Y围绕其均值的变异中能够被回
归方程所解释的比例
•
• 第一，等于1； • 第二，等于0； • 第三，介于0到1之间。
•使用判定系数时必须注意的问题：
• 第一，盲目的崇拜论文中展示或计算机计算出 估计结果； • 第二，过度依赖方程总体拟合度在评价回归模 型不同设定之间优劣时的作用； • 第三，判断系数的大小依赖于解释变量的个数 ，从而造成其在评价方程总体拟合度时出现偏误 。
•相应的处理方法：
• 第一，在承认回归结果以前，要从模型所隐含 的理论到数据的质量，认真考察和评估所估计方程 的每一个方面； • 第二，综合运用各种统计检验和计量检验； • 第二，尽量使用调整判断系数。