---------------------------------------------------------------最新资料推荐------------------------------------------------------ 最小二乘法的基本原理和多项式拟合matlab实现最小二乘法的基本原理和多项式拟合 matlab 实现最小二乘法的基本原理和多项式拟合一、最小二乘法的基本原理从整体上考虑近似函数 p(x) 同所给数据点(xi, yi) (i=0, 1, , m) 误差 ri p(xi) yi(i=0, 1, , m) 的大小,常用的方法有以下三种:一是误差 riri p(xi) yi(i=0, 1, , m) 绝对值的最大值max0 i m,即误差向量 r (r0, r1, rm) T 的范数;二是误差绝对值的和i 0mri,即误差向量 r 的 1范数;三是误差平方和 i 0 rm2i 的算术平方根,即误差向量 r 的 2范数;前两种方法简单、自然,但不便于微分运算,后一种方法相当于考虑 2范数的平方,因此在曲线拟合中常采用误差平方和 i 0 体大小。
rm2i 来度量误差 ri(i=0, 1,, m) 的整数据拟合的具体作法是:对给定数据 (xi, yi) (i=0, 1, , m) ,在取定的函数类中,求 p(x) , 使误差 ri p(xi) yi(i=0, 1, , m)的平方和最小,即 i 0 rm2i i 0 p(x) y iim2 min 从几何意义上讲,就是寻求与给定点(xi, yi) (i=0, 1, , m) 的距离平方和为最小的曲线y p(x) (图 6-1)。
函数 p(x) 称为拟合函数或最小二乘解,求拟合函数 p(x) 的1 / 15方法称为曲线拟合的最小二乘法。
在曲线拟合中,函数类可有不同的选取方法 .61 二多项式拟合为所有次数不超过 n(n m) 的多项式构假设给定数据点(xi, yi) (i=0, 1, , m) , pn(x) akxkk 0n 成的函数类,现求一 m , 使得 2 I pn(xi) yi i 0 2 n akxik yi mini 0 k0 (1) m 当拟合函数为多项式时,称为多项式拟合,满足式(1)的 pn(x) 称为最小二乘拟合多项式。
特别地,当 n=1 时,称为线性拟合或直线拟合。
显然 I ( akxik yi) 2 i 0 k 0m n 为 a0, a1, an 的多元函数,因此上述问题即为求 I I(a0, a1, an) 的极值问题。
由多元函数求极值的必要条件,得mn I 2 ( akxik yi) xij 0, aji 0k 0 j 0, 1, , n (2) 即k 0 ( x i 0 nm j ki ) ak xijyi, i 0 m j 0, 1, , n (3) (3)是关于 a0, a1, an的线性方程组,用矩阵表示为m 1 m x i i0 m xin i 0 x x i 0i 0 m m i 2i n 1x ii 0m m x y i ai 0i 00 m m xin 1 a1 xiyi i0 i 0 a m m n2nn xiyi xi i 0 (4) i 0 n i---------------------------------------------------------------最新资料推荐------------------------------------------------------m 式(3)或式(4)称为正规方程组或法方程组。
可以证明,方程组(4)的系数矩阵是一个对称正定矩阵,故存在唯一解。
从式(4)中解出 ak(k=0, 1, , n) ,从而可得多项式npn(x) akxk k 0 (5) 可以证明,式(5)中的 pn(x)满足式(1),即 pn(x) 为所求的拟合多项式。
我们把 i 0 p m n (xi) yi 2 称为最小二乘拟合多项式 pn(x) 的平方误差,记作 r 22 pn(xi) yi i 0 m 2 由式(2) 可得 r 22 y ak(xikyi) 2ii0 k0 i0 mnm (6)多项式拟合的一般方法可归纳为以下几步:(1) 由已知数据画出函数粗略的图形散点图,确定拟合多项式的次数 n; (2) 列表计算 i 0 x m ji (j0, 1, , 2n) 和 i 0 x m ji yi (j 0, 1, ,2n) ; (3) 写出正规方程组,求出 a0, a1, an;pn(x) akxk k 0n (4) 写出拟合多项式。
在实际应用中, n m 或 n m;当 n m 时所得的拟合多项式就是拉格朗日或牛顿插值多项式。
例 1 测得铜导线在温度Ti(℃) 时的电阻 Ri( ) 如表6-1,求电阻 R 与温度 T 的近似函数关系。
数为 R a0 a1T 列表如下 245. 3a03 / 15565. 5 7 245. 39325 a 20199. 83. 445 1解方程组得 a0 70. 572, 故得 R 与 T 的拟合直线为a1 0. 921 R 70. 572 0. 921T 利用上述关系式,可以预测不同温度时铜导线的电阻值。
例如,由 R=0 得 T=-242. 5,即预测温度T=-242. 5℃时,铜导线无电阻。
6-2 例 2 例 2 已知实验数据如下表解设拟合曲线方程为 2 y a ax ax012 列表如下 52381a0329 523813017a147 1 381301725317 a2 1025 解得 a0 13. 4597, 故拟合多项式为 a1 3. 6053 a2 0. 2676 y 13. 4597 3. 6053 0. 2676x2 *三最小二乘拟合多项式的存在唯一性定理 1 设节点 x0, x1, , xn 互异,则法方程组(4)的解存在唯一。
证由克莱姆法则,只需证明方程组(4)的系数矩阵非奇异即可。
用反证法,设方程组(4)的系数矩阵奇异,则其所对应的齐次方程组m 1 m x i i 0 m xin i 0 x x i 0i 0 m m i 2i xi 0 m n 1i m x y i ai 0 i 00 m m n 1 a xi 1 xiyi i 0 i0 a m m n2n n---------------------------------------------------------------最新资料推荐------------------------------------------------------xiyi xi i 0 (7) i 0 n i m 有非零解。
式(7) 可写为( x k 0 i 0 nm j ki ) ak 0, j 0, 1, , n (8)将式(8)中第 j 个方程乘以 aj(j=0, 1, ,n) ,然后将新得到的 n+1 个方程左nmj k aj ( xi) ak0 0 右两端分别相加,得 j 0 k 0i 0 因为 mnnm nmj k mnn2j kjk aj ( xi) ak akajxi ( ajxi) ( akxi) pn(xi) j 0i 0j 0k 0i 0 k 0i 0 i 0j 0k 0 n n 其中pn(x) akxk k 0n 所以 pn(xi) 0 (i=0, 1, , m) pn(x) 是次数不超过 n 的多项式,它有 m+1>n 个相异零点,由代数基本定理,必须有a0 a1 an 0,与齐次方程组有非零解的假设矛盾。
因此正规方程组(4)必有唯一解。
定理 2 设 a0, a1, , an 是正规方程组(4)的解,则是满足式(1)的最小二乘拟合多项式。
证只需证明,对任意一组数 b0, b1, , bn 组成的多项式 Qn(x) bkxk k 0n pn(x) akxk k 0 n ,恒有Q(x) y p 2 n i i i 0 i 0 mm n (xi) yi 2 即可。
Q(x) y p2 nii i 0i 0 m2 i5 / 150mmn(xi) yi m2Qn(xi) pn(xi) 2Qn(xi) pn(xi) pn(xi) yi i 0 0 2 i 0j 0mn n m n n j kk(bj aj) xi akxi yi 2 bj aj akxi yi xi j0i0k0k0 j 因为 ak(k=0, 1, , n) 是正规方程组(4)的解,所以满足式(2),因此有 2 Q(x) y p(x) y nii nii 02 i 0i 0mm 故 pn(x) 为最小二乘拟合多项式。
*四多项式拟合中克服正规方程组的病态在多项式拟合中,当拟合多项式的次数较高时,其正规方程组往往是病态的。
而且①正规方程组系数矩阵的阶数越高,病态越严重;②拟合节点分布的区间x0, xm 偏离原点越远,病态越严重;③xi(i=0, 1, , m) 的数量级相差越大,病态越严重。
为了克服以上缺点,一般采用以下措施:①尽量少作高次拟合多项式,而作不同的分段低次拟合;②不使用原始节点作拟合,将节点分布区间作平移,使新的节点 xi 关于原点对称,可大大降低正规方程组的条件数,从而减低病态程度。
平移公式为:xi xi x0 xm, 2i 0, 1, , m (9) ③对平移后的节点 xi(i=0, 1, , m) , 再作压缩或扩张处理:xi pxi, p (m 1) 其中i 0, 1, , m (10)(x) i i 0m2r, (r 是拟合次数)(11)经---------------------------------------------------------------最新资料推荐------------------------------------------------------过这样调整可以使 xi 的数量级不太大也不太小,特别对于等距节点xi x0 ih(i 0, 1, , m) ,作式(10)和式(11)两项变换后,其正规方程组的系数矩阵设为 A,则对 1~4 次多项式拟合,条件数都不太大,都可以得到满意的结果。
变换后的条件数上限表如下:④在实际应用中还可以利用正交多项式求拟合多项式。
一种方法是构造离散正交多项式;另一种方法是利用切比雪夫节点求出函数值后再使用正交多项式。
这两种方法都使正规方程组的系数矩阵为对角矩阵,从而避免了正规方程组的病态。
我们只介绍第一种,见第三节。
例如 m=19, x0=328, h=1, x1=x0+ih, i=0, 1, , 19,即节点分布在[328, 347],作二次多项式拟合时① 直接用 xi 构造正规方程组系数矩阵 A0,计算可得 cond2(A0) 2.25 1016 严重病态,拟合结果完全不能用。