越接近越好.
必须找到一种度量标准来衡量什么曲线最接近所有数据点。
1、数据拟合问题
研究内容：从一大堆看上去杂乱无章的数据中找出规
律性来，即设法构造一条曲线（拟合曲线）反映所给
数据点总的趋势，以消除其局部波动。这种要求曲线
尽可能逼近给定数据的过程称“拟合”。
给定一组值： x
x1
x2 … … xm
求函数
即
m
m
a0 k ( xi )0 ( xi ) a1 k ( xi )1( xi )
i 1
i 1
m
m
an k ( xi )n ( xi ) k ( xi ) yi
i 1
i 1
(k 0,1, , n)
上式为由n+1个方程组成的方程组，称正规方程组。
引入记号 r (r (x1),r (x2 ), ,r (xm ))
（3）求解正规方程组Dx=f。
例1 用多项式函数拟合下述给定数据：
x 12
34
y 4 10 18 26
解： 设 P(x) a0 a1x a2 x2
得
a0 a1 a2 4 a0 2a1 4a2 10 即 a0 3a1 9a2 18 a0 4a1 16a2 26
1 1 1
考虑正规方程组
nm
m
[ k (xi ) j (xi )]a j k (xi ) yi
j0 i1
i 1
（k=0,1,…n）
可知：
（1）未知数aj的系数
m
k (xi ) j (xi )
i 1
为超定方程组中系数阵第k列与第j列对应积之和
（即内积( k, j)）；
m
（2）右端向量
k (xi ) yi
解:
1
1
1
0
(
x
)
1
(
x
)dx
1 xdx 0
1
所以 0(x)与 1(x)在[ –1, 1]上正交。
例2 证明:当m≠n时,cos(m ) 和 cos(n)在区间[-, ]
上正交。
证
cos(m )cos(n )d
1
[cos(m n) cos(m n) ]d 0
2
所以, cos, cos2, cos3,···, cos(n),······ 是正交函数系。
第六章 数据拟合方法
第六章 数据拟合方法
▪ 数据拟合的最小二乘法 ▪ Bezier曲线 ▪ 正交多项式 ▪ 最佳平方逼近
6.1 数据拟合的最小二乘法
一、 曲线拟合的数学描述与问题求解
例：考察某种纤维的强度与其拉伸倍数的关系,下表是实 际测定的24个纤维样品的强度与相应的拉伸倍数的记录:
编 号 拉伸倍数 xi
强 度 yi
5.5 5
5.5
6.4 6
5.3 6.5
7 8.5
8 8.1 8.1
24个点大致分布 在一条直线附近。
故可认为强度y 与拉伸倍数x的 主要关系应为线 性关系：
y(x) 0 1x
9
8
7
6
5
4
3
2
1
1
2
3
4
5
6
7
8
9
10
其中0 , 1为待定参数
我们希望y(x) 0 1x与所有的数据点(样本点)(xi , yi )
（3）函数类的选取：
据实验数据分布特点选取，可选幂函数类、 指数函数类、三角函数类等。
2、最小二乘法：
以残差平方和最小问题的解来确定拟合函数的 方法。
令 i ( xi ) yi (i=1,2,…m)
－－在回归分析中称为残差
残差向量：
残差向量的各分量平方和记为：
S(a0 , a1, , an )
4
1 2 1 3
4 9
a0
a1
10
18
1 4 16a2 26
记系数矩阵为，则
4 10 30 T 10 30 100
30 100 354
故正规方程组为
58 T y 182
622
4 10 30 a0 58
10
30
100
a1
182
30 100 354a2 622
（2）二次Bezier曲线（m=2）：通过平面上三点
P0 ,P1 ,P2的抛物线。
P(t) (1 t)2 P0 2(1 t)tP1 t 2P2
(0 t 1)
（3）三次Bezier曲线（m=3）：通过平面上四点 P0 ,P1 ,P2 ,P3的三次曲线。
P(t) (1 t)3 P0 3(1 t)2 tP1 3(1 t)t 2P2 t3P3
k )!
若记
x(t )
P(t)
y(t)
Pk
xk
yk
(k=0,1,…m)
则有
m
P(t) cmk t k (1 t)mk Pk
k 0
——矢量表示
▪下面给出m=1,2,3时，Bezier曲线数学表达式：
（1）一次Bezier曲线（m=1）：通过平面上两点 P0 ,P1 的直线段。
P(t) (1 t)P0 tP1 (0 t 1)
i 1
为系数阵第k列与m个函数值对应积之和。
故正规方程组矩阵形式为： T a T y
若有唯一解，称其为超定方程组的最小二乘解。
注：最小二乘解并不能满足超定方程组中每个方程， 但要求尽可能接近给定数据，即允许每个等式可以稍 有偏差（即残差）。
求一般超定方程组Ax=b的主要过程：
（1）求出系数矩阵A的转置矩阵AT； （2）计算矩阵D=ATA和向量f=ATb；
若记 Bk (t) cmk t k (1 t)mk
(0 t 1)
则m次Bezier多项式可表示为
m
P(t) Bk (t)Pk k 0
▪ Bezier多项式性质：
（1）
m
Bk (t) 1,
k 0
Bk (t) 0, t [0,1] (k 0,1, , m)
（2） P(0) P0, P(1) Pm
所以正规方程组的系数矩阵非奇异,即
det[( i , j )nn ] 0
根据Crame法则，正规方程组有唯一解，称其为最小二乘解。
作为一种简单的情况，常使用多项式函数Pn(x)作为(xi,yi) (i=1,2,…,m)的拟合函数。
拟合函数φ(x)=Pn(x)的基函数为：
0 (x) 1,1(x) x, ,k (x) xk , ,n (x) xn
解得
a0
3 2
, a1
49 10
, a2
1 2
拟合曲线：
P(x) 3 49 x 1 x2 2 10 2
▪ 注：具体用几次多项式拟合，可据实际情况 而定。可先画草图，将已知点描上去，看与 什么函数相近，就以什么函数拟合。
6.2 Bezier曲线
▪ Bezier曲线：由一组多边形折线的各顶点P0 , P1 ,……, Pm定义 。只有第一点和最后一点在曲 线上，其余点用以定义曲线的阶次与导数，多 边折线的第一段与最后一段表示出曲线在起点 和终点处的切线方向。
定义：设 n(x)是[a,b]上首项系数an≠0的n次多项式，
ρ(x)为[a,b]上的权函数，如果多项式序列{ k(x)} (k=0,1,2,……) 满足关系式
b a
(
x)
j
(
x)k
(
x)dx
0 Ak
0
jk jk
则称k (x)是[a,b]上带权ρ(x)的正交函数系。
若Ak≡1，则称之为标准正交函数系。
例：三角函数系 1,cos x,sin x,L ,cos nx,sin nx,L
在区间[-, ]上是正交函数系。
例1 验证 0(x)=1, 1(x)=x 在[ –1, 1]上正交。
f ( y1, y2, , ym )
则由内积的概念可知
m
(k , j ) k (xi ) j (xi ), i 1
m
(k , f ) k (xi )yi i 1
显然内积满足交换律 ( k , j ) ( j ,k )
正规方程组便可化为
a0 (k ,0 ) a1(k ,1 ) an (k ,n ) (k , f )
mn
m
a jk (xi ) j (xi ) k (xi )yi
i1 j 0
i 1
mn
m
由
a jk (xi ) j (xi ) k (xi )yi
i1 j 0
i 1
得
nm
m
[ k (xi ) j (xi )]a j k (xi ) yi
j0 i1
i 1
(k 0,1, , n)
定义2 设 f(x), g(x)∈C[a, b], ρ(x)是区间[a,b]上的权函数， 若
b
( f , g) a ( x) f ( x)g( x)dx 0
成立，则称f(x), g(x)在[a, b]上带权ρ(x)正交。当ρ(x)=1 时，简称正交。
若函数系
满足关系
j (x),k (x)
f(x) y1 y2 …… ym
使得 m
mn
[ (xi ) yi ]2 [ a j j (xi ) yi ]2
最小。 i1
i1 j0
说明：
（1）若(x)为一元函数，则函数曲线为平面图
形，称曲线拟合。
（2）(x)为拟合函数，上式最小为拟合条件
（即要求拟合曲线与各数据点在y方向的误差平 方和最小）。
解得 a0 0.1505 a1 0.8587
故 y(x) 0.1505 0.858*
2 2
5.6615
9