1 正则化方法在变形监测中的应用 摘 要 病态问题广泛存在于实际测量中，并且其危害十分严重。在变形监测中，往往因为测量数据不足或平差时过多选择附加参数，使未知参数最小二乘估值偏差太大且不稳定。 本文依据MATLAB软件，结合实际测量数据，比较了各种不同正则化方法和直接解算方法削弱病态性的能力。根据比较结果，在设计矩阵病态性严重的情况下，常规最小二乘解根本不可靠，其变化规律为随着常数项误差扰动的大小而变化，误差越大，参数解扰动越大；常数项扰动误差不同，正则参数值不同。误差越小，所求的正则化参数越小，反之越大。求解效果好坏与法矩阵条件数大小不是完全对应的，常数项误差大时正则化参数值大，而法矩阵条件数小，但求解效果不如误差小的情况。即降低法矩阵条件数的同时应该兼顾考虑降低常数项扰动大小。最后以东山煤矿71505工作面变形监测数据为例，论述了正则化方法在测量实际中的应用。
关键词：正则化方法，病态性，变形监测，方法比较 1 绪论
通常称“解不连续依赖数据”的问题为不适定问题。它不满足：（1）解存在；（2）解唯一；（3）解稳定中的任何一个。而不满足条件(3)的问题，称为病态问题。 病态问题的研究主要有以下几个方面： 1.病态问题机理分析 对于GaussMarkov模型[1]：
21()0,()LAXEDP
（1-1）
通常采用最小二乘估计可以得到最优解[2]。但是，在一些情况下，如设计矩阵存在病态时，LS估计解并不一定好，有时可能很不好。 2
病态性设计矩阵引起的病态效应主要表现在两个方面：一是计算方面，二是统计方面[3]。当条件数较大时，设计矩阵微小扰动造成LS解大的变化；同时法矩阵中最小特征值相对于最大特征值较小，使得LS估计值方差膨胀，影响LS估计估值精度。 2.病态诊断方法研究 最小二乘估计在病态问题求解中变劣的原因主要为：矩阵TAA存在很小的特征值和矩阵TAA的最大特征值远远大于其最小特征值，即()condN远远大于1[4-9]，设计矩阵的列向量间存在严重的复共线性，LS估计显著变劣，因此，在病态性的诊断中，主要在于确定设计矩阵复共线性存在位置。 3.病态减弱方法研究 病态问题减弱方法主要包括两大类：利用法方程解算[10-13]和设计矩阵直接解算[14-16]。利用法方程解算平差模型方法主要位岭估计。从设计矩阵直接解算平差模型，主要包括正交化方法和奇异值分解技术。
2 病态问题减弱方法研究
2.1 解的正则化表达 对于线性化模型： LCZ （2-1）
式中Z为待估参数；C是系数阵。为使上式有唯一的稳定的解，构造光滑泛函： 2(,)()nPMZLCZLZ （2-2）
求解： 22=()minnnTZPPCZLZCZLZPZ （2-3）
令0Z，得到： 1ˆ()TTnznZCPCPCPL （2-4）
对于病态问题： LAXV （2-5） 3
其最小二乘解为： 1ˆ()TTXAPAAPL （2-6）
岭估计解为： 1ˆ()TTXAPAkIAPL （2-7）
广义岭估计解为： 1ˆ()TTTXAPAQKQAPL （2-8）
对应正则化解的一般形式，可知病态方程的解为正则化统一解的特例。 2.2 正则化方法比较 2.2.1 算例分析 算例2-1：以1010阶Hilbert矩阵为设计矩阵A，权阵PE。易知其法矩阵()TNAA的条件数18()1.043210condN，为严重病态问题。
A1.0000 0.5000 0.3333 0.2500 0.2000 0.1667 0.1429 0.1250 0.1111 0.10000.5000 0.3333 0.2500 0.2000 0.1667 0.1429 0.1250 0.1111 0.1000 0.09090.3333 0.2500 0.2000 0.1667 0.1429 0.1250 0.1111 0.1000 0.0909 0.08330.2500 0.2000 0.1667 0.1429 0.1250 0.1111 0.1000 0.0909 0.0833 0.07690.2000 0.1667 0.1429 0.1250 0.1111 0.1000 0.0909 0.0833 0.0769 0.07140.1667 0.1429 0.1250 0.1111 0.1000 0.0909 0.0833 0.0769 0.0714 0.06670.1429 0.1250 0.1111 0.1000 0.0909 0.0833 0.0769 0.0714 0.0667 0.06250.1250 0.1111 0.1000 0.0909 0.0833 0.0769 0.0714 0.0667 0.0625 0.05880.1111 0.1000 0.0909 0.0833 0.0769 0.0714 0.0667 0.0625 0.0588 0.05560.1000 0.0909 0.0833 0.0769 0.0714 0.0667 0.0625 0.0588 0.0556 0.0526
假设参数真值为1，即1111111111TX，根据LAX，可知L=2.9290 2.0199 1.6032 1.3468 1.1682 1.0349 0.9307 0.8467 0.7773 0.7188T
为无误差的观测值，利用随机误差模拟函数生成随机误差，用观测值的真值减去相应的随机误差即得到模拟观测值，利用最小二乘法解算，结果见表2-1。 表2-1观测数据最小二乘解算结果 Table 2-1 Least square results of observation data 序号 观测值 LS解 序号 观测值 LS解 4
1 2.929 0.9988 6 1.0349 -0.5508 2 2.0199 1.0528 7 0.9307 4.5313 3 1.6032 0.4735 8 0.8467 3.3652 4 1.3468 2.8799 9 0.7773 -5.4258 5 1.1682 -1.3164 10 0.7188 3.8975
对第七个观测值人为进行0.001u的扰动，仍用最小二乘法对观测数据进行解算，得到的结果如表2-2。 表2-2观测数据加入一个扰动后最小二乘解算结果 Table 2-2 Least square results of adding one disturbance observation data 序号 观测值 LS解 序号 观测值 LS解 1 2.929 0 6 1.0349 5244.3 2 2.0199 52.2 7 0.9308 315.1 3 1.6032 -599.1 8 0.8467 -3007.9 4 1.3468 2803 9 0.7773 985.2 5 1.1682 -5985.5 10 0.7188 203.3
变形量与点位关系见图2-1：
图2-1 变形量与点位关系 Figure 2-1 Relationship between deformation and point 从表2-2和图2-1可以看出，由于扰动的存在，LS解的结果发生了很大的变化，说明在病态条件下，微小的扰动会造成LS解巨大的变化。在实际运算中，需要找到一种或几种相对有效的方法，使得数据处理时得到较好的结果。 5
表2-3不同病态处理方法求得的平差解 Table 2-3 Adjust values of observation data by different ill-posed estimation methods 序号 LS 岭迹法 Cov GCV L曲线 MSVD 1 0 1.4022 1.2241 0.9509 1.0757 0.9847
2 52.2 1.0862 1.1685 1.0639 1.0415 1.0649
3 -599.1 0.9010 1.0397 1.0988 0.9014 1.0784
4 2803 0.7747 0.9273 1.0839 0.7824 1.0553
5 -5985.5 0.6817 0.8349 1.0480 0.6882 1.0178
6 5244.3 0.6098 0.7588 1.0042 0.6131 0.9758
7 315.1 0.5523 0.6953 0.9586 0.5523 0.9428
8 -3007.9 0.5051 0.6416 0.9139 0.5023 0.8880
9 985.2 0.4656 0.5957 0.8714 0.4605 0.8457
10 203.3 0.4320 0.5559 0.8315 0.4250 0.8063
正则化参数 0 0.25 0.083 0.4214 0.6633 0
表2-3中，分别表示了用岭迹法，HK法，GCV法，L曲线法以及MSVD法在第七个观测值加入0.001u扰动的情况下，计算出的平差值。从中可以看出，不同的方法对病态性有一定的减弱作用，并使得平差值向真值方向靠近。 2.2.2 诊断指标 1.均方误差（MSE） 定义： 22011ˆˆˆˆ()()(()())nT
iiMSEXEXXEXXXX
（2-9）
其中i为法矩阵N的特征值，由此可看出MSE可以说明参数估计方法的有效性。 2.估计效率（） 为了比较不同方法的求解效果，在计算均方误差的同时，引入参数真值的估计效率，定义：
22
()XkXX （2-10）
易知，其可从实质上说明两种参数估计方法哪个更为有效。 根据上述不同病态处理方法，分别计算均方误差MSE和估计效率，结果见表2-4。