有最小二乘法原理知：
2364k+42b=519.2 42k+6b=69.2
解得：k=0.497 b=8.054 3.2 实验数据的最小二乘法拟合
例 在落体运动中，物体的位移 S 与时间 t 的关系可表为 S=S0+νt＋ 1 gt2 2
S0 表出位移，v 表初速，g 为重力加速度。 在一次落体实验中，得到 如下数据：
x≠
≠
2
≠≠…
≠ ≠ ≠ ≠
x≠≠ ≠≠
≠m ≠
Σ ≠
≠ ≠
a1jx1
≠ j=1
≠ ≠
n
Σ Y=
≠ ≠
≠ ≠
j=1
a2jx2
≠ ≠
n
≠ ≠ ≠ ≠ ≠ ≠
≠≠=AX
≠ ≠ ≠ ≠
2.5
Σa x ≠
≠
≠≠
mj m ≠≠
≠ j=1
≠
282
科技信息
○职校论坛○
SCIENCE & TECHNOLOGY INFORMATION
t(秒)
0
0.1
0.2
0.3
0.4
0.5
s(厘 米 )
0.6
17.0
41.0
76.0
120.5
175.1
试根据以上数据确定 S0 和 v、g.
解 现在要用五个实验点拟合的是二次多项式（n=5,m=21）
即 S=a0+a1t+a2t2
有最小二乘法的曲线拟合原理知
2
22
221
t1
t2
12
S2
21
2 2
2 2
来表达最小二乘法，并给出最小二乘解所满足的代数条件。 令
a≠
≠ 11
≠
A＝
a≠
≠
21
≠≠…
a≠≠
≠ m1
a12 … a22 … …… am2 …
a≠ 1n ≠
≠
a2n
≠ ≠
…
≠ ≠
a ≠≠ mn ≠
b≠ ≠
≠1 ≠
≠≠
B=
b≠
≠
2
≠≠…
≠ ≠ ≠ ≠
b≠≠ ≠≠
≠m ≠
≠n
≠
x≠ ≠
≠1 ≠
≠≠
X=
2010 年 第 23 期
SCIENCE & TECHNOLOGY INFORMATION
○职校论坛○
科技信息
最小二乘法原理及其简单应用
邹乐强 （河南工程技术学校 河南 焦作 454000）
【摘 要】最小二乘法是从误差拟合角度对回归模型进行参数估计或系统辨识，并在参数估计、系统辨识以及预测、预报等众多领域中得到 极为广泛的应用。然而，最小二乘法因其抽象、难懂常常被大家所忽视。本文就最小二乘法的引入，原理的证明，简单的应用进行归纳和总结，使 读者对最小二乘法有更为清晰、系统、全面地认识。
1 问题的引入
例 已知某种材料在生产过程中的废品率 y 与某种化学成分 x 有关。 下列表中记载了某工厂生产中 y 与相应的 x 的几次数值：
y(%) 1.00
0.9
x(%)
3.6
3.7
0.9
0.81
0.6
0.56 0.35
3.8
3.9
4.0
4.1
4.2
我们想找出 y 对 x 的一个近似公式。
解 把表中数值划出图来看， 发现它的变化趋势近于一条直线。
知⑴式中 Y 有最小值，且 X 是最小值点。 由二次函数的性质得知二次
m
Σ2
函 数 aij 〉0（j=1,2,……,n），故 aij 不 全 部 为 零 （与 A 列 满 秩 的 假 设 一
i=1
致），且 X 满足：
m
Σ[aij(ai1x1+…+ai,j-1xi,j-1+ai,j+1xi,j+1+…+ainxn-bn)]
0.6
2 2
2 22
2
S2
2
2
2 2
2 17.0
2
2 2
2
221
2 2
t2
t2
2 2
2
2 2
22
221
2
21
2
0 0.1
0
2 2
2
0.01 2
2
Y=
S2
23 2
S2
2
4
S2
25
2
S2
26
2
22=
2 2
41.0
2
2 2
2 2
76.0
2 2
22120.5
22
2 2
22175.1
2
2
1 2
2
,M= 2
2
2
（*）
i=1
不等于零。
00
0
00
0
我们设法找到实数组 x1 ,x2 ,…,xs 使最小，这样的 x1 ,x2 ,…,xs 称为方
程组的最小二乘解。 这样问题就叫最小二乘法问题。 [1]
2 最小二乘法原理的证明
2.1 最小二乘法原理的初等证明 定理：X=(x1,x2,……xn)T 是矛盾方程组（1.1）的最小二乘解的充要条
2010 年 第 23 期
用 距 离 的 概 念 ，（*）就 是|Y-B|2
00
0
最小二乘法就是找 x1 ,x2 ,…,xs 使 Y 与 B 的距离最短，但从（*），知
道向量 Y 就是
a a 2 2
2 11 2
22 2 12 2
a2 2
2 1n 2
22
2
a a a 2
21
2 2
Y=x ＋x + +x … 1 2 2 22
'
'
'
α1 C＝0,α2 C＝0，…，αn C＝0
''
'
而 α1 ,α2 ,…,αn 按行正好排成矩阵 A'，上述一串等式结合起来就是
A'(B-AX)=0 或 A'AX=A'B
这就是最小二乘解所满足的代数方程， 它是一个线性方程组，系
数矩阵 A'A，常数项是 A'B
3 最小二乘法简单运用举例
3.1 用最小二乘法求中学数学中《直线型经验公式》的最佳近似解 例 一个弹簧的长度 L 和它悬挂的重量 W 间的关系如下：
aijain xn= aijbi (j=1,2,…n)
i=1
i=1
i=1
这就是方程组⑵。 不难看出方程组⑵的系数矩阵为 ATA（AT 表示
A 的转置矩阵），由 A 列满秩知|ATA|≠0，故⑵有唯一解。 必要性得证。
充 分 性 ：设 X 是 方 程 组 （2）2.2 的 解 ，由 xj( j=1,2,...,n)满 足 方 程 组
件是 X 是方程组
Σ 1Σ 1 1Σ 1 Σ m
m
m
m
2
( ai1 )x1+
ai1ai2 x2+…+
ai1ain xn= ai1bi
i=1
i=1
i=j
i=1
1 1 1 1 1 1 m
m
m
m
Σ Σ Σ Σ ai2ai1 x1+
2
ai2
x2+…+
ai2ain xn= ai2bi
2.2
i=1
i=1
i=1
i=1
W
2
4
6
8
10
12
L
8.9
10.1
11.2
12.0
13.1
13.9
求关于 L、W 的经验公式。
解 设所求的经验公式为
L=kW+b
把表中各数据代入此方程得方程组：
222k+b=6.8
2
24k+b=10.1
2
226k+b=11.2
2
228k+b=12.0 2210k+b=13.1
2
2212k+b=13.9
所以 M'M= 1.5 0.55 0.225 ，
0.55 0.225 0.0979
2 2 0.8214 -5.893 8.929
(M'M)-1＝ -5.893 72.68 -133.93 8.929 -133.93 267.86
22 2 2 a0
0.9445
即 V1= a1 =(M'M)-1M'Y= 104.327
【关键词】最小二乘法；回归模型；参数估计；系统辨识
最小二乘法作为一种传统的参数估计方法， 早已经被大家所了 解。 然而大多同学对最小二乘法的认识都比较模糊，仅仅把最小二乘 法理解为简单的线性参数估计。 事实上，最小二乘法在参数估计、系统 辨识以及预测、预报等众多领域都有着广泛的应用。 本文就最小二乘 法的引入、最小二乘法原理的简单证明、最小二乘法在线性参数估计、 欧氏空间、多项式拟合以及经济领域的模型参数估计等应用方面进行 具体的阐释。 本文的一些理论建立在学习过高等代数、数值分析及了 解简单的经济计量学的基础上。 本文的理论简明易懂，仅对现实中常 见的问题用最小二乘法理论结合阐释。
［责任编辑：翟成梁］
●
（上接第 256 页）学生预测文章的发展方向 ，通 过 找 到 文 章 的 关 键 词 、 主题句来帮助学生理解文章。 在快速阅读中，那些与问题联系最大的 句子中往往含有一定的词汇重复，如同义词、反义词、上下义词等，教 师可以利用词汇衔接对学生进行查找特定信息的训练，从而降低答案 搜索的盲目性，提高答题的速度和准确性。 4．4 教师应该把写作训练与阅读教学结合起来。 教师应 在 指 导 学 生 借助词汇衔接分析语篇的同时，引导学生运用词汇衔接手段进行英语 写作训练，从而使阅读和写作起到相辅相成的作用。