第 26 卷 第 4 期 2008 年 10 月
沈阳师范大学学报 (自然科学版) Jou rnal of S henyang Norm al U niversity ( N at u ral Science)
文章编号 : 1673 - 5862 (2008) 04 - 0406 - 03
Vol126 , No. 4 Oct . 2008
yi
a=
i =1
i =1
2n
n
n
6 6 1
=n
yi - b xi
i =1
i =1
= y - bx
n
n
6 6 时 , Q 取最小值·其中 y =
1 n i =1 yi , x
=
1 n i =1
xi ·
同理 , 把 Q 的展开式重新按 b 的降幂排列 , 看成是关于 b 的二次函数 ·可 以 得 到 , 当 b =
本为简单随机样本得 :
yi = a + bx i +εi ( i = 1 , …, n)
ε1 , …,εn 独立同分布 N (0 ,σ2)
(2)
称式 (1) 或式 (2) (又称为数据结构式) 所确定的模型为一元 (正态) 线性回归模型·对其进行统计分
析称为一元线性回归分析·
不难理解模型 (1) 中 E Y = a + bx , 若记 y = E Y , 则 y = z + bx , 就是所谓的一元线性回归方程 , 其
在一元线性回归中 ,有两个变量 ,其中 x 是可观测 、可控制的普通变量 , 常称它为自变量或控制变
量 , y 为随机变量 ,常称其为因变量或响应变量·通过散点或计算相关系数判定 y 与 x 之间存在着显著
的线性相关关系 ,即 y 与 x 之间存在如下关系 :
y = a + bx +ε
(1)
通常认为ε～ N (0 ,σ2) 且假设 σ2 与 x 无关·将观测数据 ( x i , yi) ( i = 1 , …, n) 代入式 (1) 再注意样
( xi - x ) 2 , lyy =
( yi - y) 2 ·
i =1
i =1
i =1
则
Q = l yy + b2 l xx - 2 bl xy + n ( y - a - bx ) 2 =
408
沈阳师范大学学报 (自然科学版) 第 26 卷
lyy (1 - r2) + b l xx - r lyy 2 + n ( y - a - bx ) 2 由上式看出 , Q 达到最小值 ,当且仅当后面两项都为 0 ,所以 a , b 的估计值为
Abstract : This article discusses t hree met hods which to determine t he regression coefficient a , b of regression equation y^ = a
+ bx^ . There are two ways in which only needs elementary mat hematical knowledge. First is expansion t he deviation square to a quadratic function wit h t he coefficient a , b , using t he extreme value t heory of quadratic function to determine ; Second is expansion t he deviation square and lead into t he correlation coefficient , using t he distribution Met hod to determine ; Third is using t he t heory of partial derivatives to determine. The research on determination t he regression coefficient of regression equation , which is contribute to study and application.
n
n
xiyi - a xi
6 6 6 i =1
i =1
n
x
2 i
时 , Q 取最小值 ·将
a
=
1 n
i =1
n
n
6 6 yi - b x i 代入 ,得 ·
i =1
i =1
6 6 b
=
l xy lxx
, 其中
,
l
xy
=
n
( xi -
i =1
x) ( yi -
n
y) , lxx = ( xi -
i =1
i =1
i =1
n
6 达到最小·使偏差平方和 Q =
yi - a + bx i) 2 最小的方法称为最小二乘法·
i =1
1 方法一
将偏差平方和展开 ,得
n
6 Q =
( yi - a) - bx i 2 =
i =1
n
n
n
n
n
6 6 6 6 6 y
2 i
-
2a
yi + na2 - 2 b
x iyi + 2 ab
i =1
i =1
i =1
n
设r=
6 ( yi - y ( xi - x)
i =1
n
n
6 6 ( x i - x ) 2 ( yi - y) 2
1 2
=
(
l
l xxl
xy
xy)
1/
2
(为相关系数)
i =1i =1来自nnn
6 6 6 其中 , l xy =
( xi - x) ( yi - y) , lxx =
当
x
=
xi ( i
= 1 ,2 ,
…, n) 时 ,对应回归直线上的
^
y
取
^
yi
=
a+
b
x i·差
yi -
^
yi
( i = 1 , 2 , …, n) 反映了实
收稿日期 : 2008205213 作者简介 : 刘连福 (1965 - ) ,男 ,辽宁庄河人 ,大连水产学院副教授·
第 4 期 刘连福 : 一元线性回归方程中回归系数的几种确定方法
2) 在模型 (1) 下检验 y 与 x 之间是否线性相关·
3) 利用求得的经验回归直线 ,通过 x 对 y 进行预测或控制·
下面给出 3 种确定一元线性回归方程中回归系数的方法 :
设在一次试验中取得 n 对数据 ( x i , yi) ( i = 1 ,2 , …, n) ,其中 yi 是随机变量 y 对应于 x i 的观察值·
种只
需初等数学知识 ,这些方法对有关教材的编写及回归方程内容的学习都有借鉴意义·
参考文献 :
[ 1 ] 曾清红 ,卢德唐. 基于移动最小二乘法的曲线曲面拟合[J ] . 工程图学学报 , 2004 ,9 (1) :89294. [ 2 ] 邓 宏 ,薛惠锋. 最小二乘法的自加权问题及其修正[J ] . 河南师范大学学报 :自然科学版 , 2002 ,22 (2) :23225. [ 3 ] 聂 翔 ,张瑞林. 最小二乘法在曲线拟合中的实现[J ] . 陕西工学院学报 , 2000 ,17 (3) :81284. [ 4 ] 顾启泰. 正交最小二乘算法及其应用[J ] . 清华大学学报 :自然科学版 , 1996 ,23 (3) :1062112. [ 5 ] 陈广义 ,吴继周 ,董德发 ,等. 模型系数的最小二乘法拟合[J ] . 石油学报 , 1994 ,11 (2) :1612165. [ 6 ] 陈希孺. 最小二乘法的历史回顾与现状[J ] . 中国科学院研究生院学报 , 1998 ,19 (1) :5212. [ 7 ] 王毅敏 ,马丽英. 传统最小二乘法曲线拟合的缺陷及其改进[J ] . 电力学报 ; 1997 ,13 (1) :51254. [ 8 ] 邵建新. 最小二乘法线性拟合中参数的确定问题[J ] . 大学物理 , 2003 ,21 (1) :23224.
图像就是回归直线 , b 为回归系数 , a 称为回归常数 ,有时也通称 a 、b 为回归系数·
对一元线性回归模型主要讨论如下的 3 项问题 :
1)
对参数
a , b 和σ2 进行估计 ,估计量
^
a
,
b^ 称为样本回归系数或经验回归系数
,而
^
y
=
^
a
+
^
bx
称为
经验回归直线方程 ,其图形相应地称为经验回归直线·
一元线性回归方程中回归系数的几种确定方法
刘连福
(大连水产学院 , 辽宁 大连 116300)
摘 要 : 探讨了回归方程 y^ = a + bx 中回归系数 a , b 的 3 种确定的方法 , 其中有 2 种只需初 等数学知识·方法一是将偏差平方和展开分别写成系数 a , b 的二次函数 ,运用二次函数的极值理 论来确定的 ;方法二是将偏差平方和展开并引入相关系数 ,用配方的方法来确定的 ;方法三是运用 偏导数的理论来确定的·对一元线性回归方程中回归系数确定方法的研究 ,有助于回归方程内容 的学习与应用· 关 键 词 : 回归方程 ;回归系数 ;确定 中图分类号 : O 212 文献标识码 : A
407
际观测值
yi
与回归直线上相应纵坐标
^