当前位置:文档之家› 多元(重)线性回归分析

多元(重)线性回归分析


两自变量与应变量的散点图
两自变量与应变量的拟合面
bj 为 xj方向
的斜率
(二)多元线性回归分析的一般步骤
同济医学院卫生统计
二、采用 最小二乘法 建立多元线性回归方程
同济医学院卫生统计

15-1 32 例
40 岁 以 上 男 性 的
Quetelet 体 重 指 数

年 龄

吸 烟 与 收 缩 压 实 测 值
第三节 模型的变量筛选
根据一些准则(criterion)建立 “最优”回归模型
校正决定系数(考虑了自变量的个数) Cp准则(C即criterion,p为所选模型中变 量的个数;Cp接近(p+1)模型为最优) AIC(Akaike’s Information Criterion)准则; AIC越小越好
第十五章 多元(重)线性回归分析 Multiple linear regression
《医学统计学》 宇围 血压值与年龄、性别、劳动强度、饮食 习惯、吸烟状况、家族史 糖尿病人的血糖与胰岛素、糖化血红蛋 白、血清总胆固醇、甘油三脂 射频治疗仪定向治疗脑肿瘤过程中,脑 皮质的毁损半径与辐射的温度、与照射的 时间
同济医学院卫生统计
二、各回归系数的t检验
Parameter Variable DF Estimate 变量 自由度 回归系数 Standard Error t Value 标准误 t值 Standardized Pr > |t| Estimate P值 标准化回归系数
Intercept 28 x1 28 x2 28 x3 28
同济医学院卫生统计
表15-1 32例40岁以上男性的年龄、吸烟、 体重指数与收缩压
同济医学院卫生统计
多元回归分析数据格式
同济医学院卫生统计
第一节 多元线性回归模型
一、回归模型简介
同济医学院卫生统计
(一)多元线性回归模型的一般形式
ˆ Y b0 b1 X 1 bm X m
同济医学院卫生统计
3.962 4.01
第二节 回归方程的假设检验与评价
一、回归方程的假设检验 二、偏回归系数的假设检验 三、有关评价指标
同济医学院卫生统计
一、回归方程的方差分析
(H0:所有总体回归系数bj为0)
Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr > F Model 3 5052.61828 1684.20609 36.58 <.0001 Error 28 1289.25672 46.04488 Corrected Total 31 6341.87500
说明所有自变量能解释Y变异的百分比。 取值(0,1),越接近1模型拟合越好
同济医学院卫生统计
3. 复相关系数 ( multiple correlation coefficient)
R R 0.7967 0.8926
2
说明所有自变量与Y间的线性相关程度。 ˆ 即 Y 与Y间的相关程度。
(SS回-SS回-j) /1 F SS 残 /(32 3 1)
同济医学院卫生统计
一、 全局择优法 二、 逐步回归法
第四节 自变量的选择
同济医学院卫生统计
一、全局择优法
根据一些准则(criterion)建立 “最优”回归模型
校正决定系数(考虑了自变量的个数) Cp准则(C即criterion,p为所选模型中变 量的个数;Cp接近(p+1)模型为最优) AIC(Akaike’s Information Criterion)准则; AIC越小越好
R 2|1,2,..., j 1, j 1,..., p为X j 与其余自变量间的决定系数 j
同济医学院卫生统计
标准化回归系数 (可说明各自变量相对贡献大小)
变量
常数项 X1 X2 X3 Y
回归系数
bj
42.78878 1.43184 9.49043 5.83908
标准化 回归系数b’j
0.00000 0.68980 0.33641 0.20293
Variable Intercept x1 x2 x3
DF 1 1 1 1
28
分别为参数估计值b0、b1、b2、b3
SAS软件输出结果
data a; input no y x1-x3; cards; 1 135 45 0 2 122 41 0 。。。 31 152 62 0 32 164 65 0 ; proc reg; model y=x1-x3/stb; run; 2.876 3.251
Root MSE R-Square Adj R-Sq Dependent (剩余标准差) 6.7856 (决定系数) 0.7967 (校正决定系数) 0.7749 Mean 应变量Y 的均值=144.43750
同济医学院卫生统计
1. 剩余标准差( Root MSE ) ˆ )2 /(n p 1) S (Y Y
同济医学院卫生统计
有关计算公式
同济医学院卫生统计
有关计算公式
SSTotal (Yi Y )
i1 N N
Y
2
SS model (Yi Y )2 SSerror (Yi Yi )2
i1 i1 N
X1
X2
Total SS Model SS Residual SS
x x
1
2
32
同济医学院卫生统计
表15-1有三个自变量 ˆ 使Q (Y Y )2 [Y (b0 b1 x1 b2 x2 b3 x3 )]2 最小
也可采用矩阵计算偏回归系数向量 B X ' X X 'Y
1
同济医学院卫生统计
SAS软件输出结果
Parameter Estimates Parameter Estimate 42.78878 1.43184 9.49043 5.83908 Standard Error t Value 9.88159 0.31057 2.42174 4.28754 4.33 4.61 3.92 1.36 Standardized Pr > |t| Estimate 0.0002 <.0001 0.0005 0.1841 0 0.68980 0.33641 0.20293
1 1 0 0 1 0 0 0 1 1 0 1 0 1 0 0
3.360 3.024 3.171 3.401 3.628 3.751 3.296 3.210 3.301 3.017 2.789 2.956 3.800 4.132 3.962 4.010
同济医学院卫生统计
同济医学院卫生统计
表15-1有三个自变量 ˆ 使Q (Y Y )2 [Y (b0 b1 x1 b2 x2 b3 x3 )]2 最小
Y |12... p
SS残 (n p 1 MS残 ) 46.04488 6.78564
反映了回归方程的精度,其值越小说明回归 效果越好
同济医学院卫生统计
2.决定系数 ( determination coefficient)
SS残 SS回 R 1 SS总 SS总
2
5052.61828 1289.25672 =1 0.7967 6341.87500 6341.87500
Fj
SS回 SS回( j ) SS残 (n p 1)
; 1 1; 2 n p 1
Fj
SS回 SS回( j ) SS残 (n p 1)
; 1 1; 2 n p 1
Reduced Model Full Model
实例计算
用表 15-1 数据计算偏回归平方和,并进行 F 检验
平方和 方程的自变量 X1,X2,X3 X2,X3 X1,X3 X1,X2 方程 SS 回 5052.618 4073.880 4345.492 4967.219 SS 回-SS 回-j 978.738 707.126 85.399 SS 残 1289.257 21.256 15.357 1.855 4.61 3.92 1.36 0.0001 0.0005 0.1841 F值 t值 P值
l11b1 l12b2 l13b3 l1Y l21b1 l22b2 l23b3 l2Y l b l b l b l 31 1 32 2 33 3 3Y b0 Y (b1 x1 b2 x2 b3 x3 ) l12 l21 ( x1 x1 )( x2 x2 ) x1 x2
ljj
标准差
S
6.890561 0.507007 0.497078 14.30303
1471.875 7.969 7.660 6341.875
bj b j
l jj lYY
bj
l jj /(n 1) lYY /(n 1)
bj
Sj SY
同济医学院卫生统计
三、有关评价指标
(软件有关结果)
42.78878 1.43184 9.49043 5.83908
9.88159 0.31057 2.42174 4.28754
4.33 4.61 3.92 1.36
0.0002 <.0001 0.0005 0.1841
0 0.68980 0.33641 0.20293
t j b j Sb j b j ( SY |12... p C j ), n p 1; Cj 1 l jj (1 R 2|1,2,..., j 1, j 1,..., p ) j
如果只有一个自变量,此时 R | r |
同济医学院卫生统计
相关主题