SPSS第六讲线性回归分析
1
Reg res s io17n62.582
2 881.291 146.361
Sig . .000a
Res idu al5840.724
970
6.021
To tal 7603.305
972
a.P redictors: (Constant), Highest Year School Comp leted, M other, H ighes
• 2、如果知道X与Y有关系,根据X的值来预测Y的 值,可以减少若干误差。
• 3、X与Y的关系愈强,所能减少的预测误差就会 愈多。
• 4、 所削减的误差的多少,可以反映X与Y相关的 强弱程度 。
• 5、消减误差比例:表示用一个现象(如变量X)来 解释另一个现象(如变量Y)时能够消减的总误差的 比例,即减少的误差与原来的全部误差之比。
•
Total Sum of Squares =
yi
_
y
2
• Residual Sum of Squares = yiabx2
• Regression Sum of Squares • R2 = SSR/TSS
SPSS第六讲线性回归分析
二元线性回归方程检验
ANOVbA
M o del
Sum o f Sq uares d f Mean Sq uare F
第六讲 线性回归分析
• 一、线性回归分析的基本原理 • 二、线性回归分析操作步骤与说明 • 三、一元线性回归分析 • 四、多元线性回归分析 • 五、多元线性回归分析中共线性的含义及其后果 • 六、判断高度共线性的指标方法 • 七、高度共线性的解决思路 • 八、多元线性回归方法
SPSS第六讲线性回归分析
SPSS第六讲线性回归分析
相关类型
图1
图2
图5
图3
图4 SPSS第六讲线性回归分析
图6
讨论:
• 统计上相关与实际相关?
• 相关关系 • 统计相关 • 因果关系 • 统计因果关系 • 相关是回归的基础
SPSS第六讲线性回归分析
(二)回归分析的含义与类型
• (1)含义:自变量每改变一个单位,因变量的均 值变化情况。
• (2)回归模型设定:统计上的“因果”关系,确定 了自变量与因变量(假设)。
• (3)类型: • 根据自变量的多少,可分为一元回归分析、多元
回归分析; • 根据关系类型,可分为线性回归、非线性回归; • 本课程讲解一元线性回归、多元线性回归。
SPSS第六讲线性回归分析
一元线性回归方程求解
• Y=aX+b
1、PRE数值的取值范围是[o,1] 2、PRE=1,或E2=o,即以X预测Y不会产生任何误
差,则反映X与Y是完全相关 3、PRE=o ,或E2=E1,即以X预测Y所产生的误差相
等于不以X来预测y所产的误差,反映X与Y是不相关。 4、PRE数值越接近1,就表示以X预测Y可以减少的
误差越多,反映二者的相关程度越高;PRE值越 接近0,反映二者的相关程度越低。
x2n
x3n
…
xkn
yn
yn′
SPSS第六讲线性回归分析
SPSS第六讲线性回归分析
一元线性回归方程检验
ANOVbA
Mo d el
Sum of Squares df Mean Square F
1
Regres s io18n67.896
1 1867.896 290.715
Sig . .000a
Res idual6829.963
SPSS第六讲线性回归分析
消减误差比例表达式:
E2 E1
E1-E2
不知道X与Y的关系,在预测Y
知道X与Y之间的关系,据此
值时所产生的全部误差是E1 。 来预测Y值,误差总数是E2 。
在知道X与Y的关系模式的情况下,所消 解掉的的误差=E1-E2
PSRPSES第六E讲1 线—性回E归2 分析 E1
消减误差比例 (PRE的取值及其意义)
b.D ep endent Variable: Highest Year of School Co mp leted
•
Total Sum of Squares =
yi
_
y
2
• Residual Sum of Squares = y ia b 1 x 1 b 2 x 22
• Regression Sum of Squares
(Wonnacott,R. M. & T. H. Wonnacott, 1979)
SPSS第六讲线性回归分析
(四)多元线性回归分析的逻辑
x1
x2
x3
…
xk
y
y′
x11
x21
x31
…
xk1
y1
y1′
x12
x22
x32
…
xk2
y2
y2′
x13
x23
x33
…
xk3
y3
y3′
… … … … … ……
x1n
SPSS第六讲线性回归分析
如何判定线性拟合(fitness)
1、散点图
2、线性拟合优度指标:判定 系数R2 (0~1)
SPSS第六讲线性回归分析
调整的R2系数:
• 如果增加自变量,不管增加后的自变量是否 与因变量有关系,都会使判定系数(R2)增 大,如果自变量的数目(K)接近样本的个 案数(n), R2将会必然接近于1.0,解决 这一问题的方法是使用“校正的” R2 。
一、线性回归分析的基本原理
• (一)相关与回归的关系 • (二)回归分析的含义与类型 • (三)消减误差比例思想与判定系数 • (四)回归分析的逻辑
SPSS第六讲线性回归分析
(一)相关与回归的关系
• 1、相关与回归的关系 • (1)函数关系 • (2)统计相关:线性相关;非线性相关 • (3)因果关系
• R2 = SSR/TSS SPSS第六讲线性回归分析
三元线性697.859
1064
a.Predictors: (Constant), Highest Year School Completed, Fat her b.D ep endent Variable: H ighest Year of School Comp leted
Y
• 最小二乘法求a、b
X
最小二乘法图示
SPSS第六讲线性回归分析
二元线性回归方程
Y
Y
X1
自变量X1与Y的散点图
X2
自变量X2与Y的散点图
• Y=a1X1+a2X2+b
SPSS第六讲线性回归分析
(三)“消减误差比例”思想
——用“已知”来估计“未知”、减少犯错概率
• 1、要预测或理解社会现象Y变化的情况难免会有 误差。