数值分析34(最小二乘法)
S (x ) a 0 a 1 x . .a .n x n ( n m )
3. 一般定义
已知: 一组数据(xi,yi)(i=0,1,…,m),
求: 在函数类 sp {0 ,a 1 ,n .n .} 中.找,一
个函数 yS(x),使误差平方和最小,
即
m
m
2 2
i2
[S(xi ) yi ]2
根据这些条件,可设想两种形式的函数关系:
y = F(t) 是双曲线型
1ab,即 y t
yt
(a t b)
y = F(t) 是指数形式 yaeb/t
b<0
y = F(t) 是双曲线型
1ab,即 y t
yt
(a t b)
为了确定a、b,令
y 1, x1
y
t
于是可用 x 的线性函数 S1(x)abx拟合 数据 (x i,y i) (i 1 ,.1 .)。.6 (,xi, yi) 可由原始 数据 (ti , yi ) 计算出来。
这 0 ( x ) 里 1 ,1 ( x ) x
可求得 (k ,j)(y ,,j)j,,k 0 ,1代入法方程得
1a63.38b 01 7.8337 132 0 3.38a 01 7.538b 43 0.552 818 306
解得
a8.6 06 , 2 b 1 1.6 61 822
请回答: 怎样比较这两个数学模型的好坏呢?
答:只要分别计算这两个数学模型的误差, 从中挑选误差较小的模型即可。
例2. 在某化学反应里,根据实验所得生成物的 浓度与时间关系如下表,求浓度y与时间t的拟 合曲线y=F(t).
t 12345678 Y 4.00 6.40 8.00 8.80 9.22 9.50 9.70 9.86 t 9 10 11 12 13 14 15 16 y 10.00 10.20 10.32 10.42 10.50 10.55 10.58 10.60
i0
i0
m
Sm(x)in i0[S(xi ) yi ]2
这里
S ( x ) a 0 0 ( x ) a 1 1 ( x ) . a . n n ( x . ) ( n m )
4. 广义定义
通常把最小二乘法
2 都考虑为加权平方和
2
即
m
2 2 (x i)S [ (x i)y i]2 (x ) 0
ei2 min i
最小二乘法
2. 多项式拟合的一般定义
已知: 一组数据(xi,yi)(i=0,1,…,m),
求: 在函数类 sp{ a 1,x n,..x.n} , 中找一
个函数 yS(x),使误差平方和最小,
即
m
m
2 2
i2
[S(xi ) yi ]2
i0
i0
这里
m
Sm(x)in i0[S(xi ) yi ]2
i F ( x i) y i ( i 0 , 1 ,. m ) ..,
按某种标准最小。
度量标准不同,将导致不同的拟合结果,常用 的准则有如下三种:
(1)使残差的最大绝对值为最小
m i a ei x m i ayix F(xi)min
(2)使残差的绝对值之和为最小
ei min i
(3)使残差的平方和为最小
ωi
21311
解 根据所给数据,在坐标纸上标出,从图 中看到各点在一条直线附近,故可选择 线性函数作拟合曲线,即令
S 1(x )a 0 a 1x
得法方程为
82a2a00272a41a14174.5
解得
a 02 .7,a 7 1 1 .13
于是所求拟合曲线为
S 1 (x )2 .7 7 1 .1x 3
S1(x)Abx
得法方程
1A 63.380 b77 3.5 26394 3.380A 71.3 584 b31 5.6 82229
解得
A 4 .48,0 b 7 1 .0 2567
从而得到 a e A 1.3 12 15 3 03
y 1 . 3 1 2 1 3 e 5 0 1 . 0t5 3 F 6 ( 2 ) ( t 7 )
解 根据所给数据,在坐标纸上标出,得下图 y
t 从图中可以看出开始时浓度增加较快,后来 逐渐减弱,到一定时间就基本稳定在一个数 值上,即当t→∞时,y趋于某个常数,故有一 水平渐近线。另外 t = 0 时,反应未开始,浓 度为0。概括起来为
(1)y是t的增函数 ; (2)当t 0时,y 0; (3)t 时,y趋于一个定值
有唯 ak 一 ak (k 解 0,1,.n .).,
则 S(x)a0 0(x)a1 1(x).. .an n(x)
ห้องสมุดไป่ตู้
三、求解步骤
确定拟合曲线的形式
最困难!
确定变量对应的数据
确定法方程
求解法方程
四、举例
例1. 已知一组实验数据如下,求它的拟合曲线.
xi 1 2 3 4 5
fi 4 4.5 6 8 8.5
从而得到
y
t
F (1 )(t)
8.6 06 t 1 2.6 11 822
y = F(t) 是指数形式 yabe /t (b0)
为了确定a 与b,对上式两边取对数得
lnylnab
令
yˆlny,Aln ta,x1
t
于是由 (ti , yi ) 计算出 (xi, yˆi) ,拟合数 据 (xi, yˆi) 的曲线仍设为
第3章 函数逼近与曲线拟合 §4 曲线拟合的最小二乘法
一、最小二乘法的定义 二、求解方法 三、求解步骤 四、举例
一、最小二乘法的定义
1. “曲线拟合”问题 已知:一组实验数据(xi,yi)(i=0,1,…,m), 且观测数据有误差
求:自变量x与因变量y之间的函数关系 y=F(x) ,不要求y=F(x)经过所有点,而只要 求在给定点上误差
i 0
其中
S ( x ) a 0 0 ( x ) a 1 1 ( x ) . a . n n ( x . ) ( n m )
注:权函数在实际问题中有重要作用!
二、求解方法
求S*(x)
求如下多元函数的最小值
m
n
I(a 0,a 1,.a .n.) , (xi)[aj j(xi)f(xi)2]
i 0
j 0
由多元函数 求极值的必 要条件
I 0, (k0,1,,n) 即 ak
I
ak
m
n
2 (xi)[ ajj(xi)f(xi)]k(xi)
i0
j0
展开
n m
m
a j (x i)j(x i)k (x i) (x i)f(x i)k (x i)
j 0 i 0
i 0
法方程
解方程组