2 i
i0
最小，其中
n
i aij x j bi j1
i 1, 2,L , m
则称 x*为该超定方程组的最小二乘解。
2
令
J ( x1 , x2 ,L , xn )
m
2 i
m
n
aij x j bi
i 1
i1 j1
求其最小值。 由多元函数取极值的必要条件有
J 0
xk
k 1, 2,L , n
设线性方程组为 Amn x b
a11 x1 a12 x2 L a1n xn b1 a21 x1 a22 x2 L a2n xn b2 am1 x1 am2 x2 L amn xn bm
9
2020/4/21
m
若能找到一组向量 x* ( x1* , x2* ,L , xn* )T 使得
第一步:先选定一组函数 ( x) ( x) {0( x),1( x),L ,n( x)}
使
( x) a00 ( x) a11( x) L ann ( x)
其中 a1,a2, …an 为待定系数。
第二步: 确定a1,a2, …an 的准则（最小二乘准则）：
使n个点（xi,yi) 与曲线 y=φ(x) 的距离i 的平方和最小 。
i ( xi ) f ( xi ), i 1, 2,L , m
按某种度量标准为最小。
常用原则：残差平方和最小
m
m
min 2 2
2 i
[ ( xi ) yi ]2
i0
i0
6
2020/4/21
线性最小二乘拟合函数的选取
( x) a00 ( x) a11( x) L ann ( x) 1. 通过机理分析建立数学模型来确定 (；x)
LLL
amk (am1 x1 am2 x2 L amn xn ) amkbm 0
11
2020/4/21
a1k (a11 x1 a12 x2 L a1n xn ) a1kb1
a2k (a21 x1 a22 x2 L a2n xn ) a2kb2
LLL
J 0 xk
amk (am1 x1 am2 x2 L amn xn ) amkbm 0 k 1, 2,L , n
记
m
m
J (a1 , a2 ,L an )
2 i
[ ( xi ) yi ]2
i 1
i 1
问题归结为，求 a1,a2, …an 使 J(a1,a2, …an) 最小。
8
2020/4/21
最小二乘法的求解：预备知识
当线性方程组的方程个数多于未知数的个数时， 方程组没有通常意义下的解，这类方程组称为超定方 程组或矛盾方程组。
2. 将数据 (xi,yi) i=1, …n 作图，通过直观判断确定( x：)
φ=a1+a2x +
++
++
φ=a1+a2x+a3x2 +
+
+ +
+
φ=a1+a2x+a3x2
++ +
+ +
φ=a1+a2/x +
+++ +
7
φ=aebx + +
++ +
+ φ=ae-bx + + ++
2020/4/21
曲线拟合问题最常用的解法——线性最小二乘法的基本思路
求600C时的电阻R。
1100
1000
设 R=at+b
900
a,b为待定系数
800
700
20
406080 Nhomakorabea100
4
2020/4/21
拟合问题引例2
已知一室模型快速静脉注射下的血药浓度数据(t=0注射300mg) t (h) 0.25 0.5 1 1.5 2 3 4 6 8
c (g/ml) 19.21 18.15 15.36 14.10 12.89 9.32 7.45 5.24 3.01
函数插值与曲线拟合都是要根据一组数据构造一个函数作为近似， 由于近似的要求不同，二者的数学方法上是完全不同的。
本专题的目的之一是：了解插值和拟合的基本内容及 方法；
2
2020/4/21
一、拟合问题
假设已获得某函数关系的成批离散实验数据或观 测数据，拟合问题就是为这样的大量离散数据建立对 应的、近似的连续模型的一种应用基础问题。所建立 的模型的基本形式是一条曲线（一元曲线），称为拟 合曲线或经验公式。
[a1k , a2k ,L
amk
]
a11 a21
a12 a22
L L
M M L
am1 am2 L
2a2k (a21 x1 a22 x2 L a2n xn b2 )
LLL
2amk (am1 x1 am2 x2 L amn xn bm ) 0
即
a1k (a11 x1 a12 x2 L a1n xn ) a1kb1
a2k (a21 x1 a22 x2 L a2n xn ) a2kb2
求血药浓度随时间的变化规律c(t).
作半对数坐标系(semilogy)下的图形
2
10
c(t) c0ekt
101
c0 , k为待定系数
0
10
0
2
4
6
8
5
2020/4/21
曲线拟合问题的提法
已知一组观测数据： ( xi , yi ) i 1, 2,L , m 要求在某特定函数类( x) 中寻找一个函数(x)作为 y f (x) 的近似函数，使得二者在节点产生的残差
它不要求目标模型（即拟合曲线）精确地过已知 的各离散点，只要求目标模型符合已知离散点分布的 总体轮廓，并与已知离散点的误差按某种意义尽量地 小。
通常采用“误差的平方和最小”的原则，即最小 二乘拟合问题。
3
2020/4/21
拟合问题引例1
已知热敏电阻数据：温度t(0C) 20.5 32.7 51.0 73.0 95.7 电阻R() 765 826 873 942 1032
数学建模教程
拟 合与 插 值
1
2020/4/21
在大量的应用领域中，人们经常面临这样的问题： 给定一批数据点，需确定满足特定要求的曲线或 曲面。对这个问题有两种方法。
一种是插值法，数据假定是正确的，要求以某种方法描述数 据点之间所发生的情况。
另一种方法是曲线拟合或回归。人们设法找出某条光滑曲线， 它最佳地拟合数据，但不必要经过任何数据点。
10
2020/4/21
m
J
2 i
(a11 x1 a12 x2 L
a1n xn
b1 )2
i 1
(a21 x1 a22 x2 L a2n xn b2 )2
LLL
(am1 x1 am2 x2 L amn xn bm )2
J xk 2a1k (a11 x1 a12 x2 L a1n xn b1 )