还原为原变量所表示的曲线拟合方程。
表5-1列举了几类经适当变换后化为线性拟合求解的 曲线拟合方程及变换关系
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
曲线拟合方程
y axb
表5-1 变换关系 变换后线性拟合方程 y ln y, x ln x y a bx (a ln a)
y 4.7143 2.7857x 0.5000x 2
第五章 曲线拟合与最小二乘法
（3）可化为线性拟合的非线性拟合
有些非线性拟合曲线可以通过适当的变量替换转化
为线性曲线，从而用线性拟合进行处理，对于一个实
《 计 算 方 法 与 实 习 》
际的曲线拟合问题，一般先按观测值在直角坐标平面 上描出散点图，看一看散点的分布同哪类曲线图形接 近，然后选用相接近的曲线拟合方程。再通过适当的 变量替换转化为线性拟合问题，按线性拟合解出后再
计 算 方 法 与 实 习 》
换句话说:求一条曲线,使数据点均在离此曲线的上
第五章 曲线拟合与最小二乘法
与已知函数从总体上来说其偏差按某种方法度量达 到最小,这就是最小二乘法。
y
图5-1
曲线拟合示意图

o 贵州航天职业技术学院计算机科学系 王陞国 制作 x
《 计 算 方 法 与 实 习 》
e max i max ( xi ) f ( x i )
i i
1 2
最小。为了便于计算、分析与应用，通常要求 e的
2-范数
e
2
i2 i 0
n
1 2
2 n ( xi ) f ( x i ) i 0
i
xi
1 1.36 14.094
2 1.37 16.844
3 1.95 18.475
4 2.28 20.963
yi
用最小二乘法求以上数据的拟合函数 解:把表中所给数据画在坐标纸上,将会看到数据点 的分布可以用一条直线来近似地描述,设所求的 。 贵州航天职业技术学院计算机科学系 王陞国 制作
《 计 算 方 法 与 实 习 》
将以上数据代入上式正规方程组,得
贵州航天职业技术学院计算机科学系 王陞国 制作
4a0 7.32a1 70.376 7.32a0 13.8434a1 132.12985
第五章 曲线拟合与最小二乘法
（2）多项式拟合
有时所给数据点的分布并不一定近似地呈一条直
线,这时仍用直线拟合显然是不合适的,可用多项式
,yi ) 要求严格地通过所有数据点 ( xi ,也就是说拟合函数 (x) 在
《 计 算 方 法 与 实 习 》
xi 处的偏差(亦称残差）
i ( xi ) f ( xi )
(i 0,1,, n)
不都严格地等于零。但是,为了使近似曲线能尽量反
映所给数据点的变化趋势,要求 i 按某种度量标准
i
1
2
3
4
5
6
5 3
xi 0 1 2 3 4 yi 5 2 1 1 2 用最小二乘法求一个多项式拟合这组数据
贵州航天职业技术学院计算机科学系 王陞国 制作
解：将已给数据点描在坐标系中，可以看出这些点 接近一条抛物线，因此设所求的多项式为
第五章 曲线拟合与最小二乘法
y a0 a1 x a2 x
1 y y
x y y
y ax2 bx c
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
几种常见的数据拟合情况。图 ( a ) 表示数据接近于
直线，故宜采用线性函数 y a0 a1 x 拟合；图(b)数 据分布接近于抛物线。可采拟合；二次多项式
《 计 算 方 y 法 与 实 习 》
习 》
两种逼近概念: 插值: 在节点处函数值相同. 拟合: 在数据点处误差平方和最小
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
函数插值是插值函数P(x)与被插函数f(x)在节处函数值 相同,即 P( xi ) f ( xi ) (i 0,1,, n) 而曲线拟合函数 (x) 不
m F ( a 0 , a1 ) 2 ( a 0 a1 xi y i ) 0 a 0 i 1 m F ( a 0 , a1 ) 2 (a 0 a1 xi y i )xi 0 a1 i 1 贵州航天职业技术学院计算机科学系 王陞国 制作
, 解得 拟合直线为a0 x a9374 1=1.36, .4626 x3 =1.95 记x a1 7x2=1.37, y( ) 3. 0 a1 x x4 即得拟合直线 =2.28, y1 =14.094, 2=.9374 y3.=18.475, y y 3 16.844, 7 4626x y4=20.963 4 4 则正规方程组为4a0 a1 xi yi
是由实验或观测得到的数据，不可避免地带有测量误差
，如果要求所得的近似函数曲线精确无误地通过所有的 点(xi,yi),就会使曲线保留着一切测试误差。当个别数据 的误差较大时,插值效果显然是不理想的。此外,由实验 或观测提供的数据个数往往很多,如果用插值法,势必得
到次数较高的插值多项式，这样计算起来很烦琐。
即
e
2 2

i2 ( xi ) f ( x i )
i 0 i 0
n
n
2
为最小。这种要求误差（偏差）平方和最小的拟合
称为曲线拟合的最小二乘法。
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
（1）直线拟合 设已知数据点 xi , yi , i 1,2,, m,分布大致为一条直线
最小。若记向量 e 0 , 1 ,, n T ,即要求向量 e 的某种
范数 e 最小,如 e的1-范数 e 1或∞-范数 e 即
贵州航天职业技术学院计算机科学系 王陞国 制作

第五章 曲线拟合与最小二乘法e1 Nhomakorabea

i 0
n
i

(x )
i 0 i
n
f (xi )
或
第五章 曲线拟合与最小二乘法
与函数插值问题不同,曲线拟合不要求曲线通过 所有已知点,而是要求得到的近似函数能反映数据的 基本关系。在某种意义上,曲线拟合更有实用价值。 在对给出的实验(或观测)数据 ( xi , y i )(i 0,1,, n) 《 计 算 作曲线拟合时,怎样才算拟合得最好呢？一般希望各 方 法 实验(或观测)数据与拟合曲线的偏差的平方和最小,这 与 实 就是最小二乘原理。
y a0 a1 x a2 x 2 拟合；
y
O
(a)
x
O
(b)
x
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
图 ( c ) 的数据分布特点是开始曲线上升较快随后逐
渐变慢,宜采用双曲线型函数
b x
x y a bx
或指数型函
数 y ae 图 ( d ) 的数据分布特点是开始曲线下降快,随
。作拟合直线 y( x) a0 a1 x ,该直线不是通过所有的 数据点 xi , yi ,而是使偏差平方和
《 计 算 方 法 与 实 习 》
F (a0 , a1 ) (a0 a1 xi yi ) 2
m
为最小，其中每组数据与拟合曲线的偏差为
i 1
y( xi ) yi a0 a1 xi yi i 1,2,, m 根据最小二乘原理，应取 a0 和 a1 使 F (a0 , a1 ) 有极小值 ，故 a0 和 a1 应满足下列条件：
由法方程组（5.2）, 经计算得
6a 15a 55a 14 15a 55a 225a 30 55a 225a 979a 122 1 2 0 解之得 a0 4.7143 a1 2.7857 a2 0.5000 , ,
所求的多项式为
贵州航天职业技术学院计算机科学系 王陞国 制作
《 计 算 方 法 与 实 习 》
后逐渐变慢,宜采用
j N m 2 i 1 j 0
为最小
贵州航天职业技术学院计算机科学系 王陞国 制作
第五章 曲线拟合与最小二乘法
Q
( y i a j xi j ) 2
i 1 j 0
N
m
《 计 算 方 法 与 实 习 》
由于Q可以看作是关于 ( j=0,1,2,…, m)的多 元函数, 故上述拟合多项式的构造问题可归 结为多元函数的极值问题。令
第五章 曲线拟合与最小二乘法
i 1 i 1 4 4 4 a xi a1 xi2 xi y i 0 i 1 i 1 i 1
4
其中
x
i 1
4
i
7.32
xi2 13.8434
i 1
y
i 1
4
i
70.376
x y
i 1 i
4
i
132.12985
2
《 6 6 6 6 6 6 6 2 3 4 计 xi 15, xi 55, xi 225, xi 797, yi 14, xi yi 30, xi2 yi 122 算 N=6 i 1 i 1 i 1 i 1 i 1 i 1 i 1 方 法其法方程组为 0 1 2 与 实 习 0 1 2 》
《 计 算 方 法 与 实 习 》
拟合。对于给定的一组数据 xi , yi , i 1,2,, N 寻求次数不超过m (m<<N ) 的多项式，