Y f ( X ) , E() 0, D( ) 2.
3. 一元回归问题与散点图
※ 一元回归问题
设 (x1, y1), (x2 , y2 ),......,(xn, yn ) 是 n 个独立观测值，利用这些样本信 息估计函数 f (x) 的具体形式。
※ 散点图
为了更好的预测 f (x) 的形式，将这些观测值描在直角坐标系中（称
16.4
Y/吨 65
63
70
75
60
55
64
69
65
58
试求 Y 与 X 的一元线性回归方程。
4. 一元线性回归模型
※ 例题
月产量
现调8查0得某种产品的月产量Y 与设备投资额 X 之间的一
75
X/万
7元0 17.1 16.3 18.4 19.0 15.8 16.0 17.5 17.8 18 16.4
为散点图），通过其可以大致了解 X 和 Y 之间的关系类型。
3. 一元回归问题与散点图
线性相关
非线性相关（曲线相关）
4. 一元线性回归模型
※ 一元线性回归模型
Y 0 1X , E() 0, D() （2 未知）0.
※ 一元线性回归方程
Y~ 0 1 X
1：回归系数 ：随机误差
0 ？ 1 ？
第 7 章 一元回归分析与方差分析 第一讲 回归分析与最小二乘法
主讲教师 黄宗媛 副教授
1. 引言
在统计学中，通过参数估计可以推断总体的相关分布特征，通过假 设 检验可以对总体的某一推断（在概率意义下）验证真伪。
之前已介绍了利用假设检验的方法推断总体的参数。在实际应用中， 人们还经常关心这样一类问题：
※ 其后，英国统计学家Pearson 进 一步描绘变量间的线性依存关系
Francis Galton（1822-1911） Karl Pearson（1857 – 1936）
2. 回归分析
为什么叫“回归”？
Yˆ 33.730.516X
2. 回归分析
※ 根据变量个数划分：一元回归 与 多元回归 ※ 根据变量间的关系划分：线性回归 与 非线性回归 ※ 回归分析的一般性模型：
例如：人的体重与身高之间的关系；
农作物产量与降水量之间的关系。
如何描述？
2. 变量之间的关系
※ 从数量角度研究非确定的相关关系
➢ 判断变量之间有无关系 ➢ 对其关系大小作数量上的估计 ➢ 推断和预测 ➢ ……
数理统计方法 回归分析
2. 回归分析
※ 1889年，由英国学者Galton 首次提出 研究祖先与后代身高之间的关系
65
Y/吨 65 63 70 75 60 55 64 69 65 58
60
试求5Y5 与 X 的一元线性回归方程。
50
15
16
17
18
19
20
设备投资额
4. 一元线性回归模型
※ 例题
由散点图知，Y 与 X 是线型相关的，故采用一元线性回归模型。
由表中数据计算可得：
x 17.23， y 64.4，Lxx 10.62，Lxy 52.68
4. 一元线性回归模型
※ 回归直线的确定
显然，直线与 n 个观测点越接近就越能反映Y 与 X 之间的内在联系。
y
(xi , yi.)
.
. .
...............
.. ..
yˆ 0 1x
..
(xi , yi )
x
y
yi yˆ i
.y i yˆ 0 1x yˆi
偏差 yi (0 1x)
55
ˆ -21.06，ˆ 4.96
0
1
50
15
16
17
18
19
20
设备投资额
5. 小结
※ 回归分析是从数量角度描述变量间的非确定性的函数关系 ※ 两变量间的线性相关关系可以采用一元线性回归模型 ※ 线性相关关系需要首先通过散点图做出预判 ※ （一元）线性回归可以用最小二乘法（OLS）对参数进行估计
➢ 变量Y 是否受其他因素（变量）X 的影响？ ➢ 如果有影响，X 是如何影响Y 的？
2. 变量之间的关系
※ 确定性关系：可以精确的用函数关系表达。
例如：长方形的面积 S 与长方形的长 a 和宽 b 之间具有确定的关系 S = a×b.
※ 非确定性关系（相关关系）：变量间相互联系但不是确定性关系。
i1
i1
回归直线必过点(x, y)
ˆ1
Lxy L
,
ˆ0
y
xx
ˆ1x.
一元线性回归方程
yˆ ˆ ˆx.
0
1
4. 一元线性回归模型
※ 例题 现调查得某种产品的月产量Y 与设备投资额 X 之间的一组数据如下：
X/万元 17.1 16.3 18.4 19.0 15.8 16.0 17.5 17.8
18
ˆ1
Lxy Lxx
,
ˆ y ˆx.
0
1
2
i1 n
2
i1
( yi ( yi
0 0
1xi 1xi
) 0 )xi
0
nnx0 0nx11nxni2y n xiyi
i1
i1
正规方程组
4. 一元线性回归模型
※ 回归直线的确定
n
n
若记 Lxx ( xi x)2 xi2 nx 2 ,
i1
i 1
n
n
Lxy (xi x)( yi y) xi yi nxy,
进而得到参数的最小二乘估计：ˆ -21.06，ˆ 4.96
0
1
于是，Y 关于 X 的一元线性回归方程为： yˆ 4.96x - 21.06
4. 一元线性回归模型
※ 例题
80
75
y = 4.96x - 21.06
70
月产量
65
x 6017.23，y 64.4，Lxx 10.62，Lxy 52.68
xi
x
4. 一元线性回归模型
※ 回归直线的确定
n
偏差平方和：Q( 0, 1) [ yi ( 0 1xi)]2
i 1
最小化？
yi yi yˆi yˆi
yˆ 0 1x
最小二乘估计法
xi
x
（O 回归直线的确定 采用微积分中求多元函数极值的方法，令
Q
n
Q0 1