实用标准文案 精彩文档 第三章 多元线性回归模型

第一节 多元线性回归模型及基本假定 问题：只有一个解释变量的线性回归模型能否满足分析具体问题的

需要？怎样在一元回归的基础上引入多元变量的回归？ 一、多元线性回归模型的意义 1、建立多元线性回归模型的意义，即一元线性回归模型的缺陷，多个主要影响因素的缺失对模型的不利影响。 在一元回归模型中，如果总体回归函数的设定是正确的，那么，根据样本数据得到的样本回归模型就应该有较好的拟合效果，这时，可决系数就应该较大。相反，如果在模型设定时忽略了影响被解释变量的某些重要因素，则拟合效果会较差，此时可决系数可能会偏低，并且由于忽略了一些重要变量而对误差项的影响会加大，这时的残差项会表现出违背假定的情况。 2、从一个解释变量到多个解释变量的演变。一个商品需求函数的例子，一个生产函数的例子，（教材第51页）。 二、多元线性回归模型及其矩阵表示 1、一般线性回归模型的数学表达式。设 12233iiikkiiYXXXuL i=1，2，3，…，n（1）

在模型表达式里，1仍是截距项，它反映的是当所有解释变量取值为零时，应变量Y的取值；j（j=2，3，…，k）为斜率系数，它的经济含义是，在其它变量不变的情况下，第j个解释变量每变动一个单位，Y平均增加（或减少）j个单位，这就是所谓的运用边际分析法对多元变量意义下回归参数的解释j称为偏回归系数，它反映了第j个解释变量实用标准文案 精彩文档 对Y的边际影响程度。 2、总体回归函数，即

12233(|)iiikkiEYXXXXL （2） 3、样本回归函数，即 12233ˆˆˆˆˆiikkiYXXXL （3） 4、将n个样本观测值代入上述表达式（1），可得到从形式上看，像似方程组的形式。并在此基础上，转化成矩阵表达的形式，即

三、模型的基本假定 在一元线性回归模型的基础上，可将在第一章中提出的基本假定平行地推到多元回归模型中去，但对多个解释变量之间还需做出新的假定。下面给出多元线性回归模型的基本假定。

1112131122222322323112132223223111ˆˆˆˆˆ1ˆ11ˆkk

nnnnkn

k

nnnYXXXYXXXYXXXYXBUYXBeYYYYeYXXXXYXXYuuuLLQMMMMMMMLLLMMMML又1112223ˆˆˆˆkknknk

XeXeeXe







MMM

2311221331112122233222122331,2,,iiiki

kkkk

nnnkknn

YXXXinYXXXuYXXXuYXXXuLLLLML样本观测数据：，，实用标准文案

精彩文档 1、零均值假定

2、同方差和无自相关假定

3、随机扰动项与解释变量不相关假定

4、无多重共线性假定 解释变量之间要求无多重共线性的意义。

),,2,1;0)E((0)E,,E(),,,E(E(U)),,,(U'1'21'21niuuuuuuuuuinnn

I000000)()()()()()(,,2,1,;;0)(),cov(,,2,1;)()var(2222221222121212122112212121212121'2







nnnnnnnnnnnnjijiiiEuuuEuuEuuEEuuuEuuEuuEEuuuuuuuuuuuuuuuuEuuuuuuEUUE

njijiuuEuuniuEu

'

11ov(,)(())(())(())()()()()0;1,2,,()00.0;1,2,,iiiiiiiiiikiikiii

CXuEXEXuEuEXEXuEXuEXEuEXuinEXUuEuXuXEuEXuXEuEuinLMML即

成立。，使得、、、全为零的数之间，不存在不量在模型中，如果解释变02232xkkixxx实用标准文案

精彩文档 5、正态性假定 iu独立同分布,且iu～2(0,)N。

第二节 多元线性回归模型的估计 一、参数的最小二乘估计 1、构造残差平方和。设,,(1,2,3,,;1,2,3,,)jiiXYjkinLL为一组样本观测值，按残差的定义，有 12222ˆˆˆˆˆ(),1,2,,iiiiiikkieYYYXXXinLL 进一步得到残差平方和，

22

12222ˆˆˆˆ()iiiikkiQeYXXX



L

2、最小二乘准则。求这样的kˆ,,ˆ,ˆ21，使得函数Q有最小值。按照极值原理，求上述参数的偏导数，得 kjeQjij,,2,1,0ˆ)(ˆ2





这样可以如下正规方程组

1222212222212222ˆˆˆˆ()0ˆˆˆˆ()0ˆˆˆˆ()0iiikkiiiikkiiiiikkikiYXXXYXXXXYXXXXLLLLLLLL 注意方括弧里的表示，即

存在。即所以，行列式也应是满秩的：关系。此时矩阵之间不存在线性相关不为零，表明解释变量阶子行列式至少有如果该假定成立，-1''''X)X(,0XXX)rank(X XXX)X(kkkrank实用标准文案 精彩文档 2000iiiiki

eeXeX





LL

用矩阵表示为 '0Xe 由回归模型的样本估计形式 eBXYˆ 对上式两端同时乘以X`，得 eXBXXYX`ˆ`` 由前述知X`e=0，所以得到如下表示 BXXYXˆ`` 根据无多重共线性假定，这时有1)`(XX存在，从而解出Bˆ，得 YXXXB`)`(ˆ1 即参数估计的矩阵表达式，Bˆ中各分量就是参数的估计值，即`ˆˆˆˆ21kB。这样，我们便得到样本回归模型

12222ˆˆˆˆˆkkYXXXL 3、偏回归系数。对模型

12222ˆˆˆˆˆkkYXXXL 的中参数估计值的解释。 ①jˆ（j=2，3，…，k）表明的是jx（j=2，3，…，k）对ˆY的边际影响。 ②多元线性回归模型的标准化形式。对变量进行标准化变换可得到模型的标准化形式，用标准化形式能够真实地反映每一个解释变量对应变量的直接影响。标准化变换过程如下， 实用标准文案 精彩文档 例3.2.1根据表3.1的数据，用EViews软件计算得线性回归模型如下，其中Y表示家庭书刊消费水平，X表示家庭收入，T表示户主受教育年限。

下表为各变量描述统计的一些数字特征： Y X T Mean 755.1222 1942.933 12.16667 Median 637.3500 1989.900 11.00000 Maximum 1253.000 3624.600 20.00000 Minimum 450.0000 1027.200 7.000000 Std. Dev. 258.7206 698.8325 3.944467 Skewness 0.784266 0.768374 0.552971 Kurtosis 2.261701 3.209892 2.075582

Jarque-Bera 2.254034 1.804238 1.558242 Probability 0.323998 0.405709 0.458809 Observations 18 18 18

Dependent Variable: Y Method: Least Squares Sample: 1 18 Included observations: 18 Variable Coefficient Std. Error t-Statistic Prob. C -50.01638 49.46026 -1.011244 0.3279 X 0.086450 0.029363 2.944186 0.0101 T 52.37031 5.202167 10.06702 0.0000 R-squared 0.951235 Mean dependent var 755.1222 Adjusted R-squared 0.944732 S.D. dependent var 258.7206 S.E. of regression 60.82273 Akaike info criterion 11.20482 Sum squared resid 55491.07 Schwarz criterion 11.35321 Log likelihood -97.84334 F-statistic 146.2974 Durbin-Watson stat 2.605783 Prob(F-statistic) 0.000000

1223323,1,2,,iiikikiiiiik

YXXXuYXXXin

L

LL设变量得取值为：，，，

***********2233,1,2.,1,2;2,3.,1,2.1,2,,jiijijiijyxiiiuiiikkii

YYXXyinxinjkssuuuinsyxxxuinLLLLLL令