x m 1 1
x m 1 2
a1 a2
1 x1
x m 1 n
am
x m 1 1
1 x2
x m 1 2
1 y1
xn
y2
x m 1 n
yn
拟 合
即
n
n
xi
i 1
n
x m1 i
i1
n
xi
i 1
n
xi2
i 1
n
xim
i 1
n
xm1 i
i 1 n
xim
线 拟
{a1,…am}有唯一解
QTQ 可逆
Rank (QTQ) = m
合
Rank(Q)=m
Q列满秩 {r1(x), …rm(x)}线性无关
r1( x1 ) rm ( x1 )
Q
特别地取
r1( xn ) rm ( xn )nm
{r1( x), r2 ( x)...rm ( x)} {1, x, x2 , ...xm1}
( x, y) x1 y1 x2 y2 ... xn yn
引入记号
n
n
(rk , rj ) rk ( xi )rj ( xi ), ( y, rj ) yirj ( xi )
i 1
i 1
则方程组(1)的矩阵形式为：
曲 线
(r1, r1 )
(r2
,
r1
)
(r1, r2 ) (r2 , r2 )
第 三
函数插逼近值与曲法线拟合
章
主讲教师：刘春凤
1
函数逼近
2
正交多项式
3
曲线的拟合
4
最佳一致逼近
5
最佳平方逼近
曲线拟合的一般提法 曲线拟合的常用解法 线性最小二乘法的求解
曲线拟合的一般提法
问题描述
y
曲
y f (x)
f (x0 )
线
拟
合
0
x0
x
y
y f (x)
a o x1
x2
x3
x4
b x5
+ + ++
a1 a2u
u 1 x
a1ea2x ln ln a1 a2 x
情形分析
例 3.1 根据离散数据做出线性拟合并计算均方误差：
xi
-1.00
-0.50
0
0.75
1.00
曲 线
yi
0.2200 0.8000 2.0000 2.5000 3.7500
拟
设拟合直线 p( x) a0 a1 x
近似函数求得的近似值
y
* i
与观测值
yi
之差
i
yi
yi*
称为残差。
曲线拟合的残差
近似函数求得的近似值 yi*与观测值 yi之差 i yi yi* 称为残差。
残差的大小可反映近似函数的好坏, 常用的准则有以下三种
曲
（1）使残差的绝对值之和最小，即 i min
线
i
拟
（2）使残差的最大绝对值最小，即
令 ( x) a1r1( x) a2r2 ( x) ... amrm ( x)
(a1 , a2 , am 待定）
曲
确定 a1, a2 , am ，使得：
线 拟
i2 min
i
i yi yi*
(i 1, 2, ...m)
合
n
n
记 J (a1, a2 , am )
2 i
[ f ( xi ) yi ]2
i 1
i 1
nm
[ ak rk ( xi ) yi ]2 i 1 k 1
问题归结为，求 a1, a2 , am 使J (a1 , a2 , am ) 最小。
最小二乘法原理
n
m
r1 ( xi )[ ak rk ( xi ) yi ] 0
曲
J
0 ak (k 1,m)
i 1
k 1
i 1
n
x 2m2 i
i 1
a1 a2
am
n
yi
i 1 n
yi xi
i 1
n
yi xi m1
i 1
最小二乘法原理
思考
(QTQ)a QT y
(3)
当 (QTQ可) 逆时，（3）有唯一解：
a (QTQ)1QT y
(4)
曲
怎样选择 {r1(x), …rm(x)}，以保证系数 {a1,…am} 有唯一解？
情形分析
将数据 ( xi , yi ) i=1, …n 作图，通过直观判断确定 ( x) ：
a1 a2 x
+
曲
++
线
++
拟
合
a1
a2
1 x
+
+++ +
a1 a2 x a3 x2
+
+
+ +
+
a1ea2x +
+
++ +
a1 a2 x a3 x2
++ +
+ +
+ a1ea2x
rm ( x1 )
rm ( xn )
a1
y1
a
,
y
am
yn
(QT Q)a QT y (3)
称为正则方程或法方程
最小二乘法原理
此时正则方程组为: (QT Q)a QT y
曲 线
1
x1
x m 1 1
1 x2
x m 1 2
1 1
xn
1
x1 x2
x m 1 n
1
xn
合
写出法方程
(QT Q)a QT y
1 1 R 1 1 1
1.00
0.50
0
0.75
1.00
a
a0
a1
0.2200 0.8000 Y 2.0000 2.5000 3.7500
例题分析
n
m
i 1
rm
(
xi
)[
k 1
ak rk
( xi
)
yi ] 0
线
拟
m
n
n
ak r1 ( xi )rk ( xi )
yi r1 ( xi )
合
k 1
i 1
i 1
(1)
m
n
n
k
1
ak
i 1
rm ( xi )rk ( xi )
i 1
yi rm ( xi )
最小二乘法原理
内积 ( x, y) x1 y1 x2 y2 x3 y3
(r1, rm ) a1 ( y, r1 )
(r2 ,
rm
)
a2
(
y,
r2
)
(rk , rj ) (rj , rk )
(2)
拟 合
(rm , r1 ) (rm , r2 )
(rm , rm ) am ( y, rm )
若记
r1( x1 )
Q
r1( xn )
max i
i
min
合
（3）使残差的平方和最小，即 i 2 min
i
准则（1）有绝对值，使用不方便。 准则（2）求近似函数的方法称为函数的最佳一致逼近。 准则（3）确定参数求近似函数的方法称为函数的最佳平方逼近，也称曲线拟合的最小二乘法。
最小二乘法原理
先选定一组函数 r1(x), r2(x), …rm(x), m<n,
x6
x
曲线拟合的一般提法
已知一组（二维）数据，即平面上 n个点 y ( x) , 使( x) 在某种准则下与所有数据点最为接近，
即曲线拟合得最好。
y
曲
+
线 拟
+
++ +
i
+
y (x)
合
+
+
( xi , yi )
+
x
i 为点 ( xi , yi ) 与曲线 y f ( x) 的距离。