y4=20.963
《计算则正规方程组为4a04 a1
4 i1
xi
4
4 i1
yi
4
方 法 与
a0 i1 xi a1 i1 xi2 i1 xi yi
实
习
其中
4
xi 7.32
4
4
xi2 13.8434 yi 70.376
4
xi yi 132.12985
》
i1
i1
i1
i1
将以上数据代入上式正规方程组,得
xi
m i1
yi
《
计 算
a1
m i1
xi2
m
a0 xi
i1
m
xi yi
i1
例5. 1 设有某实验数据如下：
方 法
i1
2
与 实 习 》
xi
1.36
1.37
yi
14.094 16.844
(5.1)
3 1.95 18.475
4 2.28 20.963
用最小二乘法求以上数据的拟合函数
解:把表中所给数据画在坐标纸上,将会看到数据点
的分布可贵以州航用天一职条业技直术线学院来计近算似机科地学描系 述王陞,设国所制求作 的 。
第五章 曲线拟合与最小二乘法
拟解合得直线为a y0 (x )3 a.9 0a 3 1x,记7x14 =a 1 1. 367 , .x4 2=16 .372 , x36 =1.95
x4即=得2.2拟8,合y1直=线14.094y, y2=3.9 16.3 844 7 , y734 .=4186 .47x2 5, 6
N
m
Q (yi ajxij)2
i1
j0
由于Q可以看作是关于 ( j=0,1,2,…, m)的多
《 元函数, 故上述拟合多项式的构造问题可归
计
算 结为多元函数的极值问题。令
方
法
与 实
Q0,k0,1,2,,m
习
》得
ak
即有
N
m
(yi ajxij)xik0, k0,1,,m
i1
j0
贵州航天职业技术学院计算机科学系 王陞国 制作
74.a30 2a07 .312a3.18473a0.1347163.122985
贵州航天职业技术学院计算机科学系 王陞国 制作
（2）多项式拟合
第五章 曲线拟合与最小二乘法
有时所给数据点的分布并不一定近似地呈一条直
线,这时仍用直线拟合显然是不合适的,可用多项式
拟合。对于给定的一组数据 x i,y i ,i 1 ,2 , ,N
换句话说:求一条曲线,使数据第点五章均曲在线离拟合此与曲最小线二的乘上法
为方此或,我下们方不希远望处从,所给求定的的曲数线据称为(xi拟,yi)合出曲发线,构,它造既一能个
近反似映函数数据的 (总x),体不分要布求,又函不数至于( x出) 完现全局通部较过大所的有波的
数动据,更点能，反只映要被求逼近所函得数的的近特似性曲,使线求能得反的逼映近数函据数的
《 基与本已趋知势函，数如从总图体5-上1所来示说。其偏差按某种方法度量达
计
算 方
到最小,这就是最小二乘法。
法 与
y
•
实
••
习
••
》 图5-1
•
• •
曲线拟合示意图
••
•
•
•
•
••
贵州航天职业技术o 学院计算机科学系 王陞国 制作x
第五章 曲线拟合与最小二乘法
与函数插值问题不同,曲线拟合不要求曲线通过
两边取对数得.lnylnab令x
a0lna,a1b 得 a0lna,a1b
则就得到线性模型 ya0a1x
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
则于由正是规a1得方到6程ab0拟6组得合a为1 i指61bx数i 6函ai611数yi为60.772282
y1.754e70 8 《
n i0
(xi)f(xi)2 2
》即
n
n
2
e2 2 i2 (xi)f(xi)
i0
i0
为最小。这种要求误差（偏差）平方和最小的拟合
称为曲线拟合的最小二乘法。
贵州航天职业技术学院计算机科学系 王陞国 制作
（1）直线拟合
第五章 曲线拟合与最小二乘法
设已知数据点 x i,y i,i 1 ,2 , ,m ,分布大致为一条直线
与 实
，如果要求所得的近似函数曲线精确无误地通过所有的
习 》
点(xi,yi),就会使曲线保留着一切测试误差。当个别数据
的误差较大时,插值效果显然是不理想的。此外,由实验
或观测提供的数据个数往往很多,如果用插值法,势必得
到次数较高的插值多项式，这样计算起来很烦琐。
贵州航天职业技术学院计算机科学系 王陞国 制作
15a0 55a1 225a2 30 55a0 225a1 979a2 122
解之得 a 0 4 .71 ,a 14 2 3 .78 ,a 25 0 .7 5000
所求的多项式为 y4.714 2.738x 50.7 50x2 00 贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
习
》 两种逼近概念:
插值: 在节点处函数值相同.
拟合: 在数据点处误差平方和最小
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
函数插值是插值函数P(x)与被插函数f(x)在节处函数值
相同,即 P(xi)f(xi)(i0 ,1 , ,n )而曲线拟合函数(x)不
要求严格地通过所有数据点 (xi,也yi)就是说拟合函数(x)在
《 xi 处的偏差(亦称残差）
计 算
i (xi)f(xi) (i 0 ,1 , ,n )
方
法 不都严格地等于零。但是,为了使近似曲线能尽量反
与
实 习
映所给数据点的变化趋势,要求 i
按某种度量标准
》 最小。若记向量e0,1,,nT,即要求向量e的某种
范数 e
最小,如 e的1-范数
e
或∞-范数
1
e
即
所有已知点,而是要求得到的近似函数能反映数据的
基本关系。在某种意义上,曲线拟合更有实用价值。
《
在对给出的实验(或观测)数据 (x i,yi)i( 0 ,1 , ,n )
计 算
作曲线拟合时,怎样才算拟合得最好呢
？一般希望各
方 法
实验(或观测)数据与拟合曲线的偏差的平方和最小,这
与 实
就是最小二乘原理。
》 ，故 a 0 和 a 1 应满足下列条件：
F(a0,a1)
a0
m
2 (a0
i1
a1xi
yi ) 0
贵州F航(a 天a01 职,a 业1技) 术学2院im 计1 (算a机0科学a系1x王i 陞国yi
)xi 0
制作
第五章 曲线拟合与最小二乘法
即得如下正规方程组
a0m
a1
m i1
《 计 算 方
N=6
6
6
6
6
6
6
6
x i 1 , x 5 i 2 5 , x 5 i 3 2,2 x i 4 7 5 ,9 y i 1 7 , x 4 iy i 3 , x 0 i 2 y i 12
i 1
i 1
i 1
i 1
i 1
i 1
i 1
法其法方程组为
与
6a0 15a1 55a2 14
实 习 》
》 还原为原变量所表示的曲线拟合方程。
表5-1列举了几类经适当变换后化为线性拟合求解的
曲线拟合方程及变换关系
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
表5-1
曲线拟合方程 变换关系 变换后线性拟合方程
y axb yln y,xln x ya b x(aln a )
几种常见的数据拟合情况。图 ( a ) 表示数据接近于
直线，故宜采用线性函数 ya0a1x拟合；图(b)数
据分布接近于抛物线。可采拟合；二次多项式
《 ya0a1xa2x2拟合；
计
算 方
y
y
法
与
实
习
》
O
(a)
x
O
(b)
x
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
图 ( c ) 的数据分布特点是开始曲线上升较快随后逐
计 算 方 法 与
其中 6 i 1
xi
a0
7.5
xi a1 xi2 xi yi
i1 6
i1
xi2
i1
13.75
60.7i1 722x862
lnyi 2.043302 xi lnyi
i1
i1
将以上数据代入上式正规方程组，得
5.714112
实
习 》
6a0 7.5a1 2.043302 7.5a0 13.75a1 5.714112
解得 a00.562, 3a0 120.772282
由 a0 lna 得 aea0 e0.562, 3012.754708
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
（4）超定方程组的最小二乘解
设线性方程组Ax=b中，A(aij)mn ,b 是m维已知向
量，x是n维解向量，当m＞n，即方程组中方程
实
习 》
i1 2 3 4 5
6
xi 0 1 2 3