Δyi Δx1i 2 Δx1i Δx2i Δx2i 2 2 2 σy σx σx n n
2 2 2
1
2
误差概论和最小二乘法
3. 4.
y k1 x1 k 2 x2 σ y 2 k12 σ x 2 k 2 2 σ x
1
k1 , k 2 : 常数 x1 , x2 : 观测值且互相独立
ρkj : 相关系数
误差概论和最小二乘法
三 等精度和非等精度测量
n 1 2 p v ii 非等精度 σ n 1 pi : 权，对观测结果的重视程度 σ1 2 σ 2 2 σ 3 2 2 等精度 σ
vi
2
pi 1 / σ i
2
p1 σ12 / σ12 1 p2 σ1 2 / σ 2 2 0.5 p3 σ12 / σ 3 2 0.25
第二章 误差概论和最小二乘法
§ 误差的定义和分类
绝对误差 Δ x a x：测量值 absolute error 误差定义 相对误差 r Δ / a a：真值 relative error
系统误差 变化规律 误差的 随机误差 不可预测 表现形式 过失误差 明显不符
systematic error random error gross error
[ pb j bk ] pi bij bik
i
误差概论和最小二乘法
二 非线性情况
黑体辐射 观测量
2 Ahc 2 1 Bλ (T , A, λ) λ5 e hc / kTλ 1 (,B) (T,A)
非线性关系
yi f i ( x1 , x2 , , xm ) f x k Δyi yi y0 k 1 x k 0 m f x k vi Δyi k 1 x k 0
1
误差概论和最小二乘法
§ 最小二乘曲线拟合
一 目标函数
y f ( x, c1 , c2 , , cm ) 根据n对观测值(xi,yi)，确定参数ck使得目标函数 d d ( x1 , x2 , , xn ; y1 , y 2 , , y n ; c1 , c2 , , cm ) 取极值。
Q vi (li bik xk ) 2 min
2 i 1
n
m
引入高斯符号 [b j bk ] bij bik
i
Q / x j 0
(li bik xk )bij 0b2 ]x2 [b1bm ]xm [b1l ] [b2 b1 ]x1 [b2 b2 ]x2 [b2 bm ]xm [b2 l ] 正规方程 normal equations [bm b1 ]x1 [bm b2 ]x2 [bm bm ]xm [bm l ]
误差概论表 |i||≤ 置信水平 50.0% 68.3% 95.0% 误差限 0.674 1 1.96 置信水平 95.5% 99.0% 99.7% 误差限 2 2.58 3
误差概论和最小二乘法
通常，误差值大于3的观测值会被舍去，这种取舍观测值的 原则称为拉依达准则(3准则)。 标准误差 平均误差 残差绝对值的算术平均 精度的好坏 概率误差 误差绝对值序列的中位数 半峰宽度 极大值半高度处的全宽 most 最靠近真值的观测值x0称为最或然值。通常， x0 x probable value v x x i 观测值与最或然值之差称为残差 i Δi xi a ( xi x ) ( x a ) vi Δ
通常，目标函数可选为：
1)
d max yi f ( xi , c)
1 i n n i 1 n
2) d min yi f ( xi , c) 3) d min [ yi f ( xi , c)]2
i 1
误差概论和最小二乘法
二 最小二乘曲线拟合 least square fitting
迭代收敛，否则发散
三 最或然值的标准偏差
[ Δ 2 ] [v 2 ] 2 2 [ Δ ] [ v ] 2 σ i : 待定常数 n ni [v 2 ] 2 无偏估计 σ ˆ nm σx σ ˆ / px
k k
[b1 l ], [b2 l ],, [bm l ] 1,0, ,0 解出x1 p x 1 / x1
2 2
误差概论和最小二乘法
二 误差传递公式
1. y kx k : 常数 x : 观测值 y Δy k ( x Δx ) Δyi k Δxi
Δyi k 2 Δxi 2 2 σy k 2σ x n n σ y kσ x
2 2
2.
y x1 x2 x1 , x2 : 观测值且互相独立 y Δy ( x1 Δx1 ) ( x2 Δx2 ) Δyi Δx1i Δx2i
1
误差概论和最小二乘法
§ 间接观测量的最或然值及标准偏差
一 线性情况
1. 等精度观测列
观测站到月面的距离0 地球自转参数 li bi1 x1 bi 2 x2 bim xm error equation 误差方程 由于残差存在 vi li (bi1 x1 bi 2 x2 bim xm )
误差概论和最小二乘法
ˆ) E (c （F T Py F ) 1 F T Py E (y y 0 ) （F T Py F ) 1 F T Py Fc c 广义误差传递公式 ˆ y ˆ y 0 Fc
D(y ˆ ) E{[ y ˆ E (y ˆ )][y ˆ E (y ˆ )]T } ˆ y 0 E (F c ˆ )][y 0 Fc ˆ y 0 E (Fc ˆ )]T } E{[ y 0 Fc ˆ E (F c ˆ )][Fc ˆ E (Fc ˆ )]T } E{[Fc ˆ E (c ˆ )][c ˆ E (c ˆ )]T F T } E{F[c ˆ E (c ˆ )][c ˆ E (c ˆ )]T } F T F E{[c ˆ) FT F D (c ˆ 的方差 Vc c [ F T Py F ) 1 F T Py ]V y（ [ F T Py F ) 1 F T Py ]T ˆ （ （F T Py F ) 1 这里
σ1 min σ i pi σ1 / σ i
2 2
i 1,2,, n
max i
权：相对概念 weight
x1 单位权观测值
误差概论和最小二乘法
§ 直接观测量的最或然值及标准偏差
1. 等精度情况
vi xi x0 Q vi min
2
最小二乘 最或然值
vi σ2 2 σ x0 n n( n 1)
2 i
正规方程 [ pb1b1 ]x1 [ pb1b2 ]x2 [ pb1bm ]xm [ pb1l ] [ pb2 b1 ] x1 [ pb2 b2 ]x2 [ pb2 bm ] xm [ pb2 l ] [ pbm b1 ]x1 [ pbm b2 ] x2 [ pbm bm ]xm [ pbm l ] 其中
这种选取各观测点的残差平方和作为目标函数的拟合称为 最小二乘曲线拟合。拟合量记为 2，为目标函数
χ pi [ yi f ( xi , c)]2 pi δi 2 i 1 n f ( xi , c) n 2 –2 pδ 2 pi [ yi f ( xi , c)] 0 k 1~ m c j i 1 i i c i 1 j
m
( xk xk 0 ) 0
( xk xk 0 ) 0
m 2
σ2 y
m
f Δyi ( x x ) k k0 / n n k 1 xk 0
2 2
m f 2 f f σ 2 x x ρkj σ xk σ x j x xk k 1 k 1 k 0 k j j k
2
n
1. 线性情况
y y 0 ( x) ck f k ( x)
k 1
m
得到未知参数c的线性方程组
k 1
ck pi f k ( xi ) f j ( xi ) pi [ yi y0 ( xi )] f j ( xi ) j 1 ~ m
i 1 i 1
m
n
n
写成矩阵形式 （F T Py F )c FT Py (y y 0 ) 解得 ˆ c （F T Py F ) 1 F T Py (y y 0 )
2 2 Δ v Δ 2 Δ v v n Δ i i i i 2 2 2
residual error
1 nΔ 2 2 D( x ) E[( x a ) ] ( x a ) P ( x ) ( x a ) Δ2 n n 2 vi 2 2 σx σ / n σ 标准偏差standard deviation n 1
2
2
一般非线性函数形式 y f ( x1 , x2 ,, xm )
y Δy f ( x1 Δx1 , x2 Δx2 ,, xm Δxm )
f y f ( x10 , x20 ,, xm 0 ) k 1 xk
m
泰勒级数展开 f Δyi k 1 xk
2
1 Q 0 x0 xi x x0 n
2. 非等精度情况
Q pi vi min
2
pi xi Q 0 x0 x0 pi p σ p
2 i i 2 xi 2
加权平均
2
2 σx 0