当前位置:
文档之家› 最小二乘法LSQ(least square)_计算公式
最小二乘法LSQ(least square)_计算公式
的一个二元函数, 把 M 看成自变量 a 和 b 的一个二元函数, 那么问题就可归结为求函数 M = M ( a , b ) 在那 些点处取得最小值. 些点处取得最小值
7 ∂M ∂a = −2∑ [ yi − (at i + b )]t i = 0, i =0 令 7 ∂M = −2∑ [ yi − (at i + b )] = 0; ∂b i =0
7 7 7
(1)
计算得
∑t
i =0 7 i =0
7
i
= 28, = 208.5,
∑t
i =0 7 i =0
7
2 i
= 140, = 717.0
∑y
i
∑yt
i i
代入方程组( ) 代入方程组(1)得
140a + 28b = 717, 28a + 8b = 208.5.
解此方程组, 解此方程组,得到 a = −0.3036, b = 27.125. 这样便得到所求经验公式(回归方程 为 这样便得到所求经验公式 回归方程 )为
在研究单分子化学反应速度时,得到下列数据: 例2 在研究单分子化学反应速度时,得到下列数据:
i
1 3
2 6
3 9
4 12
5 15
6 18
7 21 8.9
8 24 6.5
τi
yi
57.6 41.9 31.0 22.7 16.6 12.2
y 表示从实验开始算起的时间, 其中 τ 表示从实验开始算起的时间, 表示时刻τ 反应物的量. 反应物的量.试定出经验公式 y = f (τ ).
试根据上面的试验数据建立 y 和 t 之间的经验公 式 y = f (t ).
解 首先确定 f (t ) 的类型.y 的类型. 如图, 如图,在坐标纸上画出
27
这些点, 这些点,观察可以认为
y = f (t ) 是 线 性 函 数 ,
并设 f ( t ) = at + b, 其中
26
25
a 和 b 是待定常数. 是待定常数.
二、最小二乘法
为了测定刀具的磨损速度, 例1 为了测定刀具的磨损速度,我们做这样的 实验:经过一定时间(如每隔一小时) 实验:经过一定时间(如每隔一小时),测量一 次刀具的厚度,得到一组试验数据如下: 次刀具的厚度,得到一组试验数据如下:
0 1 2 3 4 5 6 7 顺序编号i 0 1 2 3 4 5 6 7 小时) 时间t i (小时 小时 刀具厚度 yi (毫米 27.0 26.8 26.5 26.3 26.1 25.7 25.3 24.3 毫米) 毫米
由化学反应速度的理论知道, 解 由化学反应速度的理论知道, y = f (τ ) 应是 指数函数: 指数函数: y = ke mτ , 其中 k 和 m 是待定常数 是待定常数.
讨论: 讨论: 由于 lg y = aτ + b, 所以仿照例1中的讨论 通过求方程组 所以仿照例 中的讨论,通过求方程组 中的讨论 8 8 8 2 a ∑ τ i + b∑ τ i = ∑ τ i lg yi , i =1 i =1 i =1 8 8 a ∑ τ + 8b = ∑ lg y i i =1 i i =1 的解,把 确定出来. 的解 把 a, b 确定出来 通过计算得
7 24.3
yi
算得
27.125 26.821 26.518 26.214 25.911 25.607 25.303 25.000
f (ti )
偏差
-0.125 -0.021 -0.018 -0.086 0.189 0.093 -0.003 -0.200
偏差的平方和 M = 0.108165, 它的平方根 M = 0.329 . 我们把 M 称为均方误差,它的大小在一定 称为均方误差, 均方误差 程度上反映了用经验公式来近似表达原来函数关 系的近似程度的好坏. 系的近似程度的好坏.
即
7 [ y − (at + b )]t = 0, i i ∑ i i =0 7 ∑ [ yi − (at i + b )] = 0. i =0
将括号内各项进行整理合并, 将括号内各项进行整理合并,并把未知数 a 分离出来, 和 b 分离出来,便得
a t 2 + b t = y t , ∑i ∑ ii ∑ i i =0 i =0 i =0 7 7 a ∑ t i + 8b = ∑ yi . i =0 i =0
y = f ( t ) = −0.3036t + 27.125.
( 2)
由(2)式算出的函数值 f ( t i ) 与实测 yi 的有 ) 一定的偏差.现列表比较如下 现列表比较如下: 一定的偏差 现列表比较如下:
ti
实测
0 27.0
1 26.8
2 26.5
3 26.3
4 26.1
5 25.7
6 25.3
达到最小. 求 f ( t ),使 M = ∑ [ yi − (at i + b )] 达到最小.
2 i =1
n
注意:计算机与数据拟合. 注意:计算机与数据拟合.
(参看高等数学实验课讲义 郭锡伯 徐安农编) 徐安农编)
∴ m = −0.1036, k = 78.78.
因此所求经验公式为 y = 78.78e − 0.1036τ .
三、小结
给定平面上一组点 ( xi , yi ) ( i = 1,2,3,⋯, n), 作曲线拟合有多种方法 ,其中最小二乘法是常 用的一种. 用的一种.
最小二乘法的原理: 最小二乘法的原理:
( 3)
∑ τ = 108, ∑ τ ∑ lg y = 10.3, ∑ τ
i 1 8= i i =1 8 i =1 i i =1
8
8
2
i
= 1836, lg yi = 122.
i
将他们代入方程组( ) 将他们代入方程组(3)得
1836a + 108b = 122, 108a + 8b = 10.3. a = 0.4343m = −0.045, 解这方程组, 解这方程组,得 b = lg k = 1.8964.
最小二乘法
一、经验公式
在工程问题中,常常需要根据两个变量的 在工程问题中, 几组实验数值——实验数据,来找出这两个变 实验数据, 几组实验数值 实验数据 量的函数关系到 的函数的近似表达式叫做经验公式 经验公式. 的函数的近似表达式叫做经验公式. 问题:如何得到经验公式,常用的方法是什么? 问题:如何得到经验公式,常用的方法是什么?
24
o
1 2 3 4 5 6 7 8
t
因为这些点本来不在一条直线上, 因为这些点本来不在一条直线上,我们只 能要求选取这样的 a, b ,使得 f ( t ) = at + b 在 t 0 , t1 ,⋯, t 7 处的函数值与实验数据 y0 , y1 ⋯, y7 相 差都很小. 差都很小.
就是要使偏差
yi − f ( t i )
7
( i = 0,1,2,⋯,7 ) 都很小 都很小.
2
因此可以考虑选取常数 a, b ,使得
M = ∑ [ yi − (at i + b )]
i =0
最小来保证每个偏差的绝对值都很小. 最小来保证每个偏差的绝对值都很小. 定义 这种根据偏差的平方和为最小的条件来选 最小二乘法. 的方法叫做最小二乘法 择常数 a, b 的方法叫做最小二乘法. 这种确定常数的方法是通常所采用的. 这种确定常数的方法是通常所采用的