连续函数，且有连续的一阶及二阶偏导数。
因为
Q
xk
n
2a1k ( a1 j x j
j 1
b1)
n
n
2a2k ( a2 j x j b2 ) 2aNk ( aNj x j bN )
j 1
j 1
n a1 j x j b1
j1
n
2 a1k
a2k
aNk
a2 j x j
N
ai1ai2
i 1
N
ai22
i 1
N
ai2ain
i 1
N
ai1ai3
i 1 N
ai2ai3
i 1
N
ai3ain
i 1
N
ai1ain
i1 N i 1
ai 2 ain
2 AT
A
N
ai2n
i 1
由引理2知，当rankA=n时，矩阵M是对称正定阵， M满足引理1的条件（2），故由引理1知，二次函数 Q存在极小值。
实际中需要寻N求矛盾方程组的一组解，以使得偏差的
绝对值之和 尽i 可能地小。为了便于分析 i 1
计算和应用，常采用使偏差的平方和
2
Q
N
2 i
N
n
aij x j bi
i 1
i1 j 1
达到最小值，这一条件称为最小二乘原则。
按照最小二乘原则来选择未知数x1,x2,…,xn的一
组取值的方法称为求解矛盾方程组的最小二乘法。 符合条件的一组取值称为矛盾方程组的最小二乘解。
rankA＝n（A的秩为n）的矛盾方程组（N>n），
我们寻求其最小二乘意义下的解。
二、用最小二乘法求解矛盾方程组
1.最小二乘原则
由于矛盾方程组的精确解不存在，我们转而
寻求其某种意义下，即最小二乘意义下的解。
n
令
i aij x j bi
(i 1,2,, N )
称i为偏差。 j1
工程实际中的许多问题都可以归结为矛盾方程组，
引理2说明,在条件RankA=n下,无论线性方程组
Ax=b是否有解,构造的n阶方程组ATAx=ATb一定有
定理：设矛盾方程组的唯系一数解矩。阵的秩为n，则二次
函数
Q f (x1, x2 ,, xn ) N n aij x j bi 2
i1 j 1
一定存在最小值。
证明：因为Q是x1,x2,…,xn的二次函数，故Q不仅是
即二元函数Q存在点P0，使xQk
1的条件（1）。
P0
0
(k 。1,2故, 满,n足) 引理
因为
2Q xk xt
2(a1k a1t
a2k a2t
aNk aNt )
N
2 aikait i 1
(k,t 1,2,, n)
故
N
ai21
M
2
i 1 N
ai1ai
i 1
2
N
i 1
ai1ain
引理1：设n元实函数f(x1,x2,…,xn)在点P0(a1,a2,…,an)
的某个邻域内连续，且有一阶及二阶连续的偏导数，如
果 (1) (2)矩阵
f
0
(k 1,2,, n)
xk P0
2 f
x12
P0
2 f x1x2 P0
2 f
x1xn
P0
M
2 f
x2x1
P0
2 f x22 P0
2 f
或写为 其矩阵形式为
a11x1 a12x2 a1n xn b1 a21x1 a22x2 a2n xn b2
aN1x1 aN 2 x2 aNn xn bN
n
aij x j bi ( j 1,2,, N )
j 1
Ax b
当方程组的系数矩阵与增广矩阵的秩不相等时， 方程组无解，此时方程组称为矛盾方程组。对于
j 1
b2
n
aNj x j
bN
j1
2a1k
a2k
a
Nk
(
Ax
b)
Q
故
x1
Q
x2
Q
2
AT
(
Ax
b)
2(
AT
Ax
AT
b)
xn
令
Q 0
(k 1,2,, n)
即
ATxAk x
AT b
（*）
因为rankA=n，故由引理2知，上式有唯一解。设
解为x1=a1, x2=a2,…, xn=an，记为点P0(a1,a2,…,an)，
3.最小二乘法解矛盾方程组
从给定的一组试验数据出发，寻求函数的一个近似
表达式y=(x)，要求近似表达式能够反映数据的基本 趋势而又不一定过全部的点(xi,yi)，这就是曲线拟合 问题，函数的近似表达式y=(x)称为拟合曲线。本章
介绍用最小二乘法求拟合曲线。
§5.1 用最小二乘法求解矛盾方程组
一、矛盾方程组的定义
设线性方程组
优选最小二乘法与曲线拟合
§5.0 问题的提出
如果实际问题要求解在[a,b]区间的每一点都“很 好地” 逼近f(x)的话，运用插值函数有时就要失败。
另外，插值所需的数据往往来源于观察测量，本身有 一定的误差。要求插值曲线通过这些本身有误差的点， 势必使插值结果更加不准确。
如果由试验提供的数据量比较大，又必然使得插值 多项式的次数过高而效果不理想。
又因方程组（*）式有唯一解，故Q存在的极小值就
是最小值，线性方程组（*）式的解就是最小值点。
证毕 Remark1：线性方程组（*）式称为正则方程组。 Remark2：该定理说明，只要矛盾方程组的系数矩
阵A的秩rankA=n，则
（1）矛盾方程组的最小二乘解存在；
（2）正则方程组有唯一解，此解就是矛盾方程组的 最小二乘解。
把Q看成是n个自变量x1,x2,…,xn的二次函数， 记为Q＝f(x1,x2,…,xn)，因此，求矛盾方程组的最 小二乘解就是求二次函数Q＝f(x1,x2,…,xn)的最小
值点。
问题：二次函数Q＝f(x1,x2,…,xn)是否存在最小值？
若最小值存在，如何求出该最小值点？
2.最小二乘解的存在唯一性
证设明齐：次（线1性）方矩程阵组ATAA显x 然0是对称矩阵。
因因为 此( Ar，xa)n对T k( A于Ax=任)n，意x故T的( A齐xT A次)0x方，程有0 组Ax有唯0，一从零而解。
故矩阵ATA是对称正定矩阵。 (从2而)因线为性矩方阵程A组TAAT是A正x 定A矩有T b阵唯，一故的r解an。k(ATA证)=毕n，
x2xn
P0
ቤተ መጻሕፍቲ ባይዱ
2 f
2 f
2 f
xnx1 P0 xnx2 P0
xn2 P0
是正（负）定矩阵，则f(a1,a2,…,an)是n元实函 数f(x1,x2,…,xn)的极小（大）值。
引理2：设非齐次线性方程组
Ax
的b 系数矩阵
A=(aij)N×n，若rankA=n，则
((12))矩n阶阵线AT性A是方对程称组正AT 定Ax矩 阵有AT；唯b 一的解。