第六章 函数逼近
§1 数据拟合的最小二乘法 §2 正交多项式 §3 函数的最佳平方逼近
1
➢ Lagrange插值与最 小二乘逼近的图像描述
2
➢ 为什么要用最小二乘逼近. 例 给定一组实验数据如下
xi 2
4
yi 1.1
2.8
求x, y的函数关系.
方法1: 用3次 Lagrange插值 多项式近似x, y 的函数关系.
17
例 给定一组实验数据如下
xi 1
2
34
6
yi 2
3
67
5
求x, y的函数关系.
(1) 作散点分布图
78 32
点的分布近似为抛物线
18
(2)确定近似表达式 设拟合曲线为二次多项式
y P2( x) a0 a1x a2 x2
(3) 建立正则方程组
n 7,
7
xi 31,
i 1
7
xi2 179,
a0
Байду номын сангаас
a1 xi xi
na0
n
xi a1
n
yi
n i 1
i1 xi a0
n
i1
i 1
xi2
a1
n i 1
xi yi
正则方程组
7
n
n
n
n
设 Sxx xi2 , Sx xi , Sxy xi yi , S y yi
i 1
i 1
i 1
i 1
n S x
Sx a0 Sxx a1
其解为 ans=
a0
1.73,
a1 2.89.
故所求拟-2合.88曲83线为 I 1.7e2ln8I3 e1.732.89t 5.64e2.89t . 23
➢ 求数据组的最小二乘拟合函数的步骤 (1) 由给定数据确定近似函数的表达式, 一般可 通过描点观察或经验估计得到 (2) 按最小二乘原则确定表达式中的参数, 即由 残差平方和最小导出正则方程组, 求解得参数.
i a0 a1 xi
yi
4
衡量近似函数好坏的标准：残差向量的大小
(1) 使残差的绝对值之和最小, 即
n
min ||
a0 ,a1
||1
min
a0 ,a1
| i
i 1
|
(2) 使残差的最大绝对值最小, 即
min
a0 ,a1
||
||
min max
a0 ,a1
i
| i
|
最佳一致逼近
(3) 使残差的平方和最小, 即
b
0, j k,
f j , fk a f j ( x) fk ( x)dx k ,
( j,k 0,1,2, ) jk
则称此函数系为区间[a, b]上的正交函数系. 特别地,
若k=1 ( k=0, 1, 2,…), 则称其为标准正交函数系
28
例如三角函数系
1,cos x,sin x,cos2x,sin 2x, ,cosnx,sin nx,
1.1 1.02
9
直线拟合误差很大 抛物线拟合效果更好
10
➢ 最小二乘二次多项式拟合
问题: 给定n个数据点 (xi , yi ) (i=1, 2, …, n)
xi x1 x2
xn
yi y1 y2
yn
求 y a0 a1x a2 x2 , 使得
n yi (a0 a1xi a2 xi2 ) 2 达到最小.
i 1
7
xi3 1171,
i 1
7
xi4 8147,
i 1
7
yi 28,
i 1
7
xi yi 121,
i 1
7
yi xi2 635,
i 1
19
故正则方程组为
7 31 179 a0 28
31
179
1171
a1
121
179 1171 8147a2 635
(4) 求解正则方程组得
P~2 (
x)
1 2
(3t 2
1)
6x2
6x
1,
33
§3 函数的最佳平方逼近
➢ 最小平方线性多项式逼近
设 f (x)是区间[a, b]上的连续函数, 求线性多项式
函数 (x)=a0+a1x 使得,
b f ( x) ( x)2dx a
b
a
f
a0 1.3185, a1 3.4321, a3 0.3864, 故所求拟合曲线为
y P2( x) 1.3182 3.4318x 0.3864x2.
20
例 给定一组实验数据如下
xi 1
2
34
6
yi 2
3
67
5
求x, y的函数关系.
78 32
Matlab解法:
polyfit([1, 2, 3, 4, 6, 7, 8], [2, 3, 6, 7, 5, 3, 2], 2)
xi
i 1 n
yi
i1
xi4
i 1
xi2
yi
正则方程组
用 Cholesky分解法求此对称正定阵
用 MATLAB 函数 z = A\r
由上式求得a0, a1, a2, 得到最小二乘拟合二次多项式
13
➢ 最小二乘三次多项式拟合
P3( x) a0 a1 x a2 x2 a3 x3
可以考虑用指数函数近似
t
22
列数据表 ti 0.2 0.3 0.4 0.5 0.6
0.7 0.8
Ii 3.16 2.38 1.75 1.34 1.00 0.74 0.56
lnIi 1.1506 0.8671 0.5596 0.2927 0 0.3011 0.5798
求MlnaI与tlatb的解最法小: 二乘直线. 将上表数据代入正则方程组 p得o[l1y.1fi5t(0[60,.20,.806.3377.,510, .042.,35.00.55.3956,,0aa0.106.2, 902.77,10, 0..091.,888-]950,18….3011, -0.5798], 1)
31
➢ 任意区间上的正交多项式系
当x在区间[a, b]上变化时, 令 x b a b at, 22
对应的 t 在[－1, 1]上变化, 则
Pn (t ),
即
Pn
2
x
b
(b a
a
)
是区间[a, b]上的正交多项式系.
32
➢ [0, 1]区间上的正交多项式系
t 2x 1
P~0( x) 1, P~1( x) t 2x 1,
n
F (a0 ,a1, ,am ) ( yi a0 a1 xi am xim )2
i 1
n
n
xi
i 1
n
i 1
xim
n
xi
i 1
n
xi2
i 1
n
xim1
i 1
n
xim
i 1
n
xim1
i 1
n
xi2m
i 1
a0
a1
am
i 1
11
n
令 F (a0 ,a1,a2 )
yi (a0 a1 xi a2 xi2 ) 2
i 1
则原问题等价于求a0, a1 , a2, 使F(a0, a1 , a2 )达到最小.
利用多元函数取极值的必要条件得
F
a0
0
n
2
i 1
yi
a0
a1 xi
a2 xi2
F
a1
n
yi
i 1 n
xi yi
i 1
n
xim yi
i 1
正则方程组 15
➢ 指数拟合
如果数据点(xi , yi ) (i=1, 2, …, n)的分布近似指数 曲线, 则可考虑用指数函数
y beax 去拟合数据. 但是这是一个关于a, b的非线性模型, 故应通过适当变换, 将其化为线性模型, 然后利用 最小二乘法求解. 为此, 对指数函数两端取对数, 得
0
n
2
i 1
yi
a0
a1 xi
a2 xi2
xi
F
a2
n
0 2
i 1
yi
a0 a1 xi a2 xi2
xi2
12
n
n
i 1 n
xi
i 1
xi2
n
xi
i 1
n
xi2
i 1
n
xi3
i 1
n
xi2
n
yi
i1 n
i 1 n
a0
xi3
a1
a2
i 1 n
n yi (a0 a1xi ) 2 达到最小.
i 1
6
令 F (a0 ,a1) n yi (a0 a1xi ) 2
i 1
则原问题等价于求a0, a1使F(a0, a1)达到最小.
利用多元函数取极值的必要条件得
F
a0
0
n
i 1
2 yi
a0
a1 xi
F a1
0
n i 1
2 yi
b
( f , g) a f ( x)g( x)dx.
26
➢ 函数正交
设 f (x), g (x)是区间[a, b]上的连续函数, 若 f 与 g 的内积为0, 则称 f 与 g 在区间[a, b]上正交.
f与g在区间[a,b]上正交
b
f ( x)g( x)dx 0.