当前位置:文档之家› 含定性变量的回归模型

含定性变量的回归模型

含定性变量的回归模型一、自变量中含有定性变量的回归模型在回归分析中,对一些自变量是定性变量的情形先量化处理,引入只取0和1 两个值的虚拟自变量。

例如,在研究粮食产量问题,需考虑正常年份和干旱年份,对这个问题就可以引入虚拟变量D ,令D=1表示正常年份,D=0表示干旱年份。

当在某些场合定性自变量可能取多类值时,例如考虑销售量的季节性影响,季节因素分为春、夏、秋、冬4种情况。

为了用定性自变量反映四个季度,可以引入自变量⎩⎨⎧==,其他,春季0111x x ,⎩⎨⎧==,其他,夏季0122x x ,⎩⎨⎧==,其他,秋季0133x x ,⎩⎨⎧==,其他,冬季0144x x ,如果这样引入会出现一个问题,即自变量4321,,,x x x x 之和恒等于1,构成了完全多重共线性。

所以,一个定性变量有k 类可能的取值时,只需要引入k-1个0-1型自变量。

所以在分析季节因素的时候,引入3个0-1自变量即可。

例1 某经济学家想调查文化程度对家庭储蓄的影响,在一个中等收入的样本框中,随机调查了13户高学历家庭与14户中低学历的家庭,因变量y 为上一年家庭储蓄增加额,自变量x1为上一年家庭总收入,自变量x2表示家庭学历,高学建立y 对x1,x2的线性回归模型,回归方程为:yˆ=-7976+3826x1-3700x2 这个结果表明,中等收入的家庭每增加1万元收入,平均拿出3826元作为储蓄。

高学历家庭每年的平均储蓄额少于低学历的家庭,平均少3700元。

如果不引入家庭学历定性变量x2,仅用y 对家庭年收入x1做一元线性回归,得判定系数R^2=0.618,拟合效果不好。

家庭年收入x1是连续型变量,它对回归的贡献也是不可缺少的。

如果不考虑家庭年收入这个自变量,13户高学历家庭的平均年储蓄增加额为3009.31元,14户低学历家庭的平均年储蓄增加额为5059.36元,这样会认为高学历家庭每年的储蓄额比低学历的家庭平均少5059.36-3009.31=2050.05元,而用回归法算出的数值是3824元,两者并不相等。

用回归法算出的高学历家庭每年的平均储蓄额比低学历的家庭平均少3824元,这是在假设两者的家庭年收入相等的基础上的储蓄差值,或者说是消除了家庭年收入的影响后的差值,因而反映了两者储蓄额的真实差异。

而直接由样本计算的差值2050.05元是包含有家庭年收入影响在内的差值,是虚假的差值。

所调查的13户高学历家庭的平均年收入额为3.8385万元,14户低学历家庭的平均年收入额为3.4071万元,两者并不相等。

需要指出的是,虽然虚拟变量取某一数值,但这一数值没有任何数量大小的意义,它仅仅用来说明观察单位的性质或属性。

二、单因素方差模型推断统计中的单因素方差分析、无交互作用的双因素方差分析和有交互作用的双因素方差分析模型,都可以转化为0-1型自变量的回归分析模型。

下面以单因素方差为例。

下面给出的先是单因素方差分析的结果。

单因素方差分析:行业因素是否影响投诉次数零售业 旅游业 航空公司 家电制造业57 68 31 44 66 39 49 51 49 29 21 65 40 45 34 77 34 56 40 58 53 51 44方差分析:单因素方差分析SUMMARY组 观测数 求和 平均 方差 零售业 7 343 49 116.6667 旅游业 6 288 48 184.8 航空公司 5 175 35 108.5 家电制造业 5 295 59162.5方差分析差异源 SS df MS F P-value F crit 组间 1456.609 3 485.536232 3.406643 0.038765 3.12735 组内 2708 19 142.526316 总计 4164.609 22将上面的单因素方差分析转化为0-1型自变量的回归分析模型。

设ij y ),,2,1(j n i =是正态总体),(2σμj N ),,2,1(c j =的样本,原假设为c H μμμ=== 210:,记jij ij y με-=,则有),0(~2σεN ij ,进而有ij j ij y εμ+=,),,2,1(j n i =,),,2,1(c j =,记∑==cj jc11μμ,μμ-=j ja ,则有ij j ij a y εμ++=,引入0-1型自变量ij x ,将上式表示为ij ic c i i ij x a x a x a y εμ++++= 2211,其中⎩⎨⎧≠===1,01,111j x j x i i 当当,⎩⎨⎧≠===2,02,122j x j x i i 当当……. ⎩⎨⎧≠===c j x c j x icic 当当,0,1,即为多元线性回归模型。

但其中存在一个问题,就是c 个自变量之和恒等于1,存在完全的多重共线性。

为此需要删除ic x 建立回归模型ij ic c i i ij x a x a x a y εμ++++=--112211 即可。

这个回归方程的显著性检验的原假设为:0:1210====-c a a a H ,由μμ-=j j a 可知。

方差分析的原假设和回归方程的假设是等价的。

作回归方程的F 检验与单因素方差分析的F 检验是等价的。

下面将刚才的例子转化为0-1型自变量的回归分析模型。

将例子的数据整理如下。

投诉次数(y ) 行业 x1x2 x3 57 零售业 1 0 0 66 零售业 1 0 0 49 零售业 1 0 0 40 零售业 1 0 0 34 零售业 1 0 0 53 零售业 1 0 0 44 零售业 1 0 0 68 旅游业 0 1 0 39 旅游业 0 1 0 29 旅游业 0 1 0 45 旅游业 0 1 0 56 旅游业 0 1 0 51 旅游业 0 1 0 31 航空公司 0 0 1 49 航空公司 0 0 1 21 航空公司 0 0 1 34 航空公司 0 0 1 40 航空公司 0 0 1 44 家电制造业 0 0 0 51 家电制造业 0 0 0 65 家电制造业 0 0 0 77 家电制造业 0 0 0 58 家电制造业 0对上面数据进行回归分析,得到结果如下所示。

SUMMARY OUTPUT回归统计Multiple R 0.591404124R Square 0.349758837Adjusted RSquare 0.24708918标准误差11.93843858观测值23方差分析df SS MS F Significance F回归分析 3 1456.609 485.5362 3.406643 0.038764525残差19 2708 142.5263总计22 4164.609Coefficients 标准误差t Stat P-value Lower 95% Upper 95% C 59 5.339032 11.05069 1.03E-09 47.82527753 70.17472 x1 -10 6.990434 -1.43053 0.168807 -24.63114617 4.631146 x2 -11 7.229084 -1.52163 0.144571 -26.13064575 4.130646 x3 -24 7.550532 -3.17858 0.004946 -39.80344407 -8.19656 从线性回归的方差分析表可以看出,单因素方差分析表和回归模型的方差分析表是一样的。

从回归系数表中还可以看出X3的回归系数与其它系数存在差异,这与方差分析的多重比较分析结果也是一样的。

所以,如果所建立的回归模型其中的自变量全是定性变量,称这样的回归模型为方差分析模型,如果模型中既包含数量变量,又包含定性变量,其中以定性自变量为主,称这样的模型为协方差模型。

三、自变量中含有定性变量的回归模型的应用1、分段回归在实际问题中,会碰到某些变量在不同的影响因素范围内变化趋势截然不同,例如经济问题涉及经济政策较大调整时,调整前与调整后的变化幅度会有很大不同。

对于这种问题,有时用多种曲线拟合效果仍不能令人满意。

如果做残差分析,会发现残差不是随机的,而具有一定的系统性。

对这类问题可以考虑分段回归的方法来处理。

例:做出y 与x1的散点图,可以看出当生产批量大于500时,成本可能服从另一种线性关系,可以考虑由两段构成的分段线性回归,这可以通过引入一个0-1型虚拟自变量实现。

假定回归直线的斜率在x=500处改变。

则可以建立回归模型:ii i i i D x x y εβββ+-++=)500(210,其中⎩⎨⎧≤=>=500,0500,1i i i i x D x D 当当,为了方便起见,引入两个新的自变量x1,x2。

这有i i x x =1,i i i D x x )500(2-=,其中x1为生产批量,x2数值列在表中,这样回归模型可以转化为i i i i x x y εβββ+++=22110,该式子可以分解为两个线性回归方程:当5001≤x 时,110)(x y E ββ+=,当5001>x 时,则得到12120)()500()(x y E ββββ++-=,于是1β和21ββ+分别是两条回归线的斜率,0β和20500ββ-是2个y 的截距。

用普通最小二乘法拟合回归方程得:yˆ=5.895-0.00395x1-0.00389x2,利用模型可说明生产批量小于500时,每增加1个单位批量,单位成本降低0.00395;生产批量大于500时,每增加1个单位批量,单位成本降低0.00395+0.00389=0.00784美元;这里只是为了说明分段回归的方法,进一步做统计检验会发现x2的系数并不显著,这里不过多讨论。

2、回归系数相等的检验在第一个例子的问题中,引入0-1型自变量的方法是假定储蓄增加额y 对家庭收入的回归斜率1β与家庭年收入无关,家庭年收入只影响回归常数项0β,这个假设是否合理,还需要作统计检验,检验方法是引入如下含有交互效应的回归模型ii i i i i x x x x y εββββ++++=21322110,其中y 为上一年家庭储蓄增加额,x1为上一年家庭总收入,x2表示家庭学历,高学历家庭x2=1,低学历家庭x2=0。

所以回归模型可以分解为对高学历和对低学历家庭的两个线性回归模型,分别为:高学历家庭x2=1: i i i x y εββββ++++=13120)()(低学历家庭x2=0: i i i x y εββ++=110 可见,高学历家庭的回归常数为20ββ+,回归系数为31ββ+;低学历家庭的回归常数为0β,回归系数为1β。

要检验这两个回归方程的回归系数相等,等价于检验回归模型参数的假设检验0:30=βH ,当拒绝0H 时,认为3β≠0,这时高学历与低学历家庭的储蓄回归模型实际上被拆分为两个不同的回归模型。

相关主题