多元回归分析与协方差分析
当某人为A型血时,令X1=1、X2=X3=0;当 某人为B型血时,令X2=1、X1=X3=0;当某人为 AB型血时,令X3=1、X1=X2=0;当某人为O型血 时,令X1=X2=X3=0。
5.变量筛选
研究者根据专业知识和经验所选定的全部自变量 并非对因变量都是有显著性影响的,故筛选变量是回 归分析中不可回避的问题。然而,筛选变量的方法很 多,详见本章第3节,这里先介绍最常用的一种变量 筛选法──逐步筛选法。
模型中的变量从无到有,根据F统计量按 SLENTRY的值(选变量进入方程的显著性水平)决定 该变量是否入选;当模型选入变量后,再根据F统计 量按SLSTAY的值(将方程中的变量剔除出去的显著性 水平)剔除各不显著的变量,依次类推。这样直到没 有变量可入选,也没有变量可剔除或入选变量就是刚 剔除的变量,则停止逐步筛选过程。
1.多元线性回归模型
Y=β0+β1X1+β2X2+...+βpXm+ε
其中X1、X2、……Xm为m个自变量(即影响因 素);β0、β1、β2、……βm为m+1个总体回归参数 (也称为回归系数);ε为随机误差。
当研究者通过试验获得了(X1,X2,…,Xm,Y) 的n组样本值后, 运用最小平方法便可求出上式中 各总体回归参数的估计值b0、b1、b2、……bm,于 是, 多元线性回归模型变成了多元线性回归方程式。 Y=b0+b1X1+b2X2+...+bpXm
2.协方差分析的模型
设定性的影响因素为A、B、C等,它们之间的交互 作用为A*B、A*C等;定量的影响因素为X或X1、 X2、…;定量的观测结果(即因变量)为Y,则有∶
(1)单因素k水平设计的协方差分析模型为∶ MODEL Y=X A / SS3;
(2)配伍组设计的协方差分析模型为∶ MODEL Y=X A B / SS3;
4.自变量为定性变量的数量
化法
设某定性变量有k个水平(如ABO血型系统有4个 水平),若分别用1、2、…、k代表k个水平的取值, 是不够合理的。因为这隐含着承认各等级之间的间隔 是相等的,其实质是假定该因素的各水平对因变量的 影响作用几乎是相同的。
比较妥当的做法是引入k-1个哑变量 (Dummy Variables),每个哑变量取值为0或1。现 以ABO血型系统为例,说明产生哑变量的具体法。
2.回归分析的任务
多元回归分析的任务就是用数理统计法估 计出各回归参数的值及其标准误差;对各回 归参数和整个回归方程作假设检验;对各回 归变量(即自变量)的作用大小作出评价;并 利用已求得的回归方程对因变量进行预测、 对自变量进行控制等等。
Hale Waihona Puke 3.标准回归系数及其意义因为各bi的值受各变量单位的影响。为便于比较, 需要求出标准化回归系数,消除仅由单位不同所带来的 差别。
设∶与一般回归系数bi对应的标准化回归系数为Bi, 则 Bi=biSXi/SY 式中的SXi、SY分别为自变量Xi和Y的标准差。
一般认为标准化回归系数的绝对值越大,所对应的自 变量对因变量的影响也就越大。但是,当自变量彼此相 关时,回归系数受模型中其他自变量的影响,解释标准 化回归系数时必须采取谨慎的态度。当然,更为妥善的 办法是通过回归诊断,了解哪些自变量之间有严重的多 重共线性,从而,舍去其中作用较小的变量, 使保留下 来的所有自变量之间尽可能互相独立。
6.回归诊断
自变量之间如果有较强的相关关系,就很 难求得较为理想的回归方程;若个别观测点 与多数观测点偏离很远或因过失误差(如抄写 或输入错误所致),它们也会对回归方程的质 量产生极坏的影响。对这两面的问题进行监 测和分析的法,称为回归诊断。前者属于共 线性诊断问题;后者属于异常点诊断问题。
第3章 协方差分析
1.什么是协方差分析 协方差分析是将回归分析与方差分析结合起来使用的 一种分析法。在这种分析中,先将定量的影响因素 (即难以控制的因素)看作自变量,或称为协变量,建 立因变量随自变量变化的回归方程,这样就可以利用 回归方程把因变量的变化中受不易控制的定量因素的 影响扣除掉,从而,能够较合理地比较定性的影响因 素处在不同水平下,经过回归分析手段修正以后的因 变量的总体均数之间是否有显著性的差别,这就是协 方差分析解决问题的基本思想。
第2章 多元线性回归分析
第1节 多元线性回归分析的概述
回归分析中所涉及的变量常分为自变量与因变量。 当因变量是非时间的连续性变量(自变量可包括连续 性的和离散性的)时,欲研究变量之间的依存关系,多 元线性回归分析是一个有力的研究工具。
但从科学性角度来说,回归问题也应从试验设计 入手考虑。因为这样做不仅可以减少回归分析中可能 遇到的很多麻烦,而且,可用较少的试验次数取得较多 的信息。
例
看书上有关协 方差分析的实例!
(3)两因素析因设计的协方差分析模型为∶ MODEL Y=X A B A*B / SS3;
3.协方差分析的应用条件
理论上要求各组资料都来自方差相同的 正态总体;各组的总体直线回归系数相等, 且都不为0。因此,严格地说,在对资料作 协方差分析之前,应先对这两个前提条件作 假设检验,若资料符合上述两个条件,或经 变量变换后符合上述条件,方可进行协方差 分析。