i 1
i 1
m
m
[F(xi ) P(xi ) P(xi ) yi ]2 [P(xi ) yi ]2
i 1
i 1
0 m
m
[F(xi ) P(xi )]2 2 [F(xi ) P(xi )][P(xi ) yi ]
i 1
i 1
注： L-S method 首先要求设定 P(x) 的形式。若设
第六章 曲线拟合与函数逼近
/* Approximation Theory */
仍然是已知 x1 … xm ; y1 … ym, 求一个简单易 算的近似函数 P(x) f(x)。
但是 ① m 很大； ② yi 本身是测量值，不准确，即 yi f (xi)
这时没必要取 P(xi) = yi , 而要使 P(xi) yi 总体上尽可能小。
x
方案一：设
y
P(x)
x ax b
求
a
和
b
使得
(a,b)
m i 1
(axixi
b
yi )2
最小。
线性化
/*
leiBqnuuetaaThthriaaieozkvyna,eesttiifhtoooeernlaisany*se/ysa：at!nerdmiW令zebeoiiftjsYu…st
1 y
,
X
2
ak
0
ak
m
2 [P(xi )
i 1
yi
]
P( xi ak
)
mn
2
[
a
j
x
j i
yi ]
x
k i
i1 j0
n
m
m
2
aj
x jk i
yi xik
j0
i 1
i 1
m
m
记 bk xik , ck yi xik
i1
i1
b00
...
bn0
... b0n a0 c0
...
...
1 x
，则
Y a bX n就on是lin个ear线! 性问题
将( xi , yi ) 化为( X i ,Yi ) 后易解 a 和b。
例 用 p( x) x 来拟合 x 1 2 3 4 。
ax b
y 4 10 18 26
§1 L-S Approximating Polynomials
方案二：设 y P( x) a eb/ x ( a > 0, b > 0 )
常见做法：
不可导，求解困难 太复杂
➢
使
max |
1 i m
P( xi
)
yi
|
最小
/*
minimax
problem
*/
m
➢ 使 | P( xi ) yi | 最小
i 1
m
➢ 使 | P( xi ) yi |2 最小 /* Least-Squares method */ i 1
§1 最小二乘拟合多项式 /* L-S approximating polynomials */
... ...
x1n ...
... xmn
则 uT B u uTΦTΦ u || Φ u ||22 0
B为正定阵，若则不非然奇，异则，所以法方程组存在唯一解。 存在一个 u 0 Rn1 使得 Φ u 0 …
n
即
j0
x
j k
uYj ou0on,Wlyakgitavae1s,emc..eo. n,admc!ritical
y 4 10 18 26
§2 正交多项式与最小二乘拟合
/* Orthogonal Polynomials & Least-Squares Approximation */
已知 x1 … xm ; y1 … ym, 求一个简单易算的近
似函数
P(x)
f(x)
使得
m
|
P(xi )
yi
|2
最小。
i 1
已知 [a, b]上定义的 f(x)，求一个简单易算的
确定多项式 P( x) a0 a1 x ... an xn，对于一组数 m
据(xi, yi) (i = 1, 2, …, n) 使得 [P( xi ) yi ]2 达到极小， i 1
这里 n << m。
实际上是 a0, a1, …, an 的多元函数，即
[ ] (a0
在
,的a1 极, ...值, a点n )应 法有i/m*1/方r*enag程o0rre组msa0sa回(1,il或oxe归nkiq正cu系o0.a规.,e.t数.if.o方.f,inacnsn程iex*n/in组ts)*y/ i
近似函数
P(x)
使得
b
a[P(x)
f ( x)]2dx
最小。
定义 线 性 无 关 /* linearly independent */ 函 数 族 { 0(x),
n
意 b = (b0 b1 … bn )T 对应的多项式 F(x) bj x j 必有
j0
m
m
(a ) [P( xi ) yi ]2 [F ( xi ) yi ]2 (b)
i 1
i 1
m
m
证明：(b) (a) [F ( xi ) yi ]2 [P( xi ) yi ]2
n=m1，则可取 P(x) 为过 m 个点的m1阶插值多
项式，这时 = 0。
P(x) 不一定是多项式，通常根据经验确定。
例
用p( x) a0 a1 x a2 x2 来拟合
x y
1234 4 10 18 26
。
例： y
§1 L-S Approximating Polynomials
(xi , yi) , i = 1, 2, …, m
point,
x1, ... , xm 是butnit’阶s n多ot 项nec式essarily a
P( x) u0 u1 x ..m. inuinmxnu的m p根oint !
§1 L-S Approximating Polynomials
定理 Ba = c 的解确是 的极小点。即：设 a 为解，则任
...
...
...
bn n
an
cn
§1 L-S Approximating Polynomials
定理 L-S 拟合多项式存在唯一 (n < m)。
证明：记法方程组为 Ba = c .
则有
B ΦTΦ c ΦT y
其中
Φ 1...
x1 ...
x12 ...
1 xm xm2
对任意 u 0 Rn1 ，必有 Φ u 0。
线性化：由
ln
y
ln
a
b x
可做变换
Y ln y ,
X
1 x
,
A ln a ,
B b
Y yi ) 化为( X i ,Yi ) 后易解 A 和B
a eA , b B , P(x) a eb/x
HW: p.233 #7，#9, #10,#11
例 用 p( x) aeb/ x 来拟合 x 1 2 3 4 。