第4章 矩阵分解与表示(I)高斯消去法假设矩阵A 的顺序主子式i D ≠0 (i=1,…,n-1),则我们可以进行以下的顺序消元过程1.消元过程n k k i b m b b nk k j i a m a a k k ik k i k i k kj ik k ij k ij ,,2,1,,,2,1,,)()()1()()()1( ++=-=++=-=++等价于用初等矩阵T k k k e l I L -=分别左乘)(k A 和)(k b ,即)()1(k k k A L A =+ (1)其中,T k n k k k k k m m m l ),,,,0,,0(,,2,1 ++=,n k i a a m k kk k ik ik ,,1,/)()( +==我们称ik m 为消元因子,)(k kk a 为主元素;消元过程的一个重要性质是:消元过程不改变矩阵的顺序主子矩阵的行列式(顺序主子式)的值。
例⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---=012131121A ,顺序主子式为,1,5,-10 ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡--−−−−−→−++250050121)1*(2)3(),1()2(,顺序主子式为,1,5,-10 ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡--−−→−-200050121)2()3(,顺序主子式为,1,5,-10 引理:约化的主元素)(i ii a ≠0的充要条件是矩阵A 的顺序主子式i D ≠0 (i=1,…,k);推论:若矩阵A 的顺序主子式i D ≠0(i=1,…,k),则 1)1(11D a =,k i D D a i i i ii,,2,1,/1)( ==-; 由此有若A 对称正定或严格对角占优,而它们的顺序主子矩阵也是对称正定或严格对角占优,从而顺序主子式不为0,顺序高斯消去过程可进行;2.回代过程:()()()()()1/()/,1,2,,1n n n n nnn k k k k k kj kk j k x b a x b a a k n n =+⎧=⎪⎪=-⎨⎪⎪=--⎩∑设⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---=012131121A ,⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡-=311b , 用高斯消去法解线性方程Ax=b.增广矩阵为 ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡----301211311121 ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---−−−−−→−++125000501121)1*(2)3(),1()2(⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---−−→−-120000501121)2()3(⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---−−→−-2/1100005011212/)3( ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---−−→−2/1100001011215/)2(⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡--−−−−→−-+2/110000102/3001)2*(2)3()1(, 因此,问题的解为⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡--=2/102/3x 3. 数值稳定性1)选列主元;2)选全主元;3)高斯若当(Gauss-Jordan)消去法,求矩阵的逆;⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---=012131121A , 求A -1.增广矩阵为 ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---100012010********* ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡--−−−−−→−++102250011050001121)1*(2)3(),1()2(⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---−−−−→−-11120005/15/10100011215/)2(),2()3( ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---−−−−→−+-2/12/12/110005/15/10102/12/12/1021)3()1(,2/)3( ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---−−−→−-2/12/12/110005/15/10102/110/110/10012)*2()1( 从而⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---=-5550225111011A 4.高斯顺序消元法解方程的计算量1)乘除次数:3/3/23n n n -+2)加减次数:6/52/3/23n n n -+3)求矩阵的逆的计算量为o(4n )(II) 顺序消元过程与矩阵的三角分解(1) T k k T k k k e l I e l I L +=-=--11)((2) 若 ,j i ≤则有0=j T i l e ,从而T j j T i i T j j T i i e l e l I e l I e l I ++=++))((,L e l e l e l I L L L T n n T T n =++++=------112211111211(3) 由)()1(k k k A L A =+ 有)(111211)1(n n A L L L A A ----==故有 A =LU ,其中)(n A U =,T n n T T e l e l e l I L 112211--++++= .这时L 为单位下三角矩阵。
矩阵的三角分解A =(a 1,a 2,…,a n )T =PR =(p 1,p 2,…,p n )R(a) LU 分解(Doolittle 分解)(1) 存在唯一的条件;(顺序主子式不为0)(2) 公式推导;(矩阵乘法)定义4.1 如果方阵A 可分解成一个下三角矩阵L 和一个上三角矩阵U 的乘积,则称A 可作三角分解. 如果方阵A 可分解成A=LDU,其中L 为一个单位下三角矩阵,D 为对角矩阵,U 是一个单位上三角矩阵,则称A 可作LDU 分解。
推论:若矩阵A 的顺序主子式∆k ≠0(k=1,…,n),则A 可唯一分解为A=LDU, 其中L 为一个单位下三角矩阵,D 为对角矩阵,U 是一个单位上三角矩阵。
d k =∆k /∆k -1 (∆0=1)。
定理4.2 设A 是n 阶非奇异矩阵,则存在置换矩阵P 使得PA=LDU, 其中L 为一个单位下三角矩阵,D 为对角矩阵,U 是一个单位上三角矩阵。
定义4.2 设A 存在唯一的LDU 分解.若把A=LDU 中的D 和U 结合起来,并且用U ’表示,则得到唯一的LU 分解A=LU ’称为Doolittle 分解;若把A=LDU 中的L 和D结合成L ’,就得到A=L ’U称为Crout 分解。
LU 分解的公式:l ik =a ik -(l i1u 1k +…+l i,k-1u k-1,k )u kj = [a kj -(l k1u 1j +…+l k,k-1u k-1,j )]/l kkCrout 分解类似。
(b)平方根法(1)对称矩阵的三角分解定理;T LDL A =(2)对称正定矩阵的三角分解(Cholesky 分解)T LL A =递推公式g ii =(a ii -∑-=112i k ik g)1/2g ij =[a ij -(g i 1g j 1+g i 2g j 2+…+g i,j -1g j,j -1)]/g ii , i>jg ij =0 i<j四、分块矩阵的拟LU 分解和拟LDU 分解⎥⎦⎤⎢⎣⎡=22211211A A A A A 若A 11可逆,作⎥⎦⎤⎢⎣⎡-=-21112110n n I A A I L则 11121222111120A A LA A A A A -⎡⎤=⎢⎥-⎣⎦从而det(A)=det(A 11)⋅det(121112122A A A A --) 同样若A 22可逆,可得类似结果。
推论:设A ∈R m ⨯n ,B ∈R n ⨯m .则det(I m +AB )= det(I n +BA )矩阵求逆引理(Woodbury 公式)(A +BC )-1=A -1- A -1B (I +CA -1B )-1CA -1证明: 求方程(A +BC )x = b,令y =Cx, 则有 Ax +By =b-Cx +y =0写成矩阵为 ⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡-0b y x I C B A ,利用高斯消去法有⎥⎦⎤⎢⎣⎡-0I C b B A ⎥⎦⎤⎢⎣⎡+−−−−→−--+-b CA B CA I b B A CA 11)1*()2(01 ⎥⎦⎤⎢⎣⎡+−−−−−→−---+--b CA B CA I I b B A B CA I 111)2*()()(011 ⎥⎦⎤⎢⎣⎡++-−−−→−-------b CA B CA I Ib CA B CA I B I A B 111111)2*()1()(0))((0 ⎥⎦⎤⎢⎣⎡++-−−→−---------b CA B CA I I b CA B CA I B A A I A 11111111)1*()(0))((01 因此可得x = (A -1- A -1B (I +CA -1B )-1CA -1)b,而由(A +BC )x = b 可得x = (A +BC )-1b由于b 的任意性可得(A +BC )-1=A -1- A -1B (I +CA -1B )-1CA -1从而命题得证。
推论:(A +BD -1C )-1=A -1- A -1B (D +CA -1B )-1CA -1例⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡-----=321151120A =⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡------+⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡-121121121200030001 =[]121111200030001-⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---+⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡-由于[]611112000300011211=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---利用矩阵求逆引理有 []11111100030002100110010301112103060021002-----⎡⎤⎢⎥=-⎢⎥⎢⎥-⎣⎦-⎡⎤⎡⎤⎡⎤⎛⎫⎢⎥⎢⎥⎢⎥-+- ⎪⎢⎥⎢⎥⎢⎥⎝⎭⎢⎥⎢⎥⎢⎥---⎣⎦⎣⎦⎣⎦A []2/13/212/13/11762/10003/10001--⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡-= []2/13/212/13/11762/10003/10001--⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡-=Schur 补设矩阵A ∈C n ⨯n 为非奇异,I,J ⊂{1,2,…,n}为有序的指标集,I ≠∅, I ≠{1,2,…,n}。
令R={1,2,…,n}/I, S={1,2,…,n}/J 。
假定A I , A I,J 非奇异,则Schur 补A/A I 定义为:A/A I =A R -A R,I (A I )-1A I,RA/A I,J =A R,S -A R,J (A I,J )-1A I,S(当A I,J 不可逆时,使用广义逆(A I,J )+)其中,A I 表示由矩阵A 的元素其行数和列数在I 中组成主子矩阵,其余类似。
定理:假设A I 非奇异,那么 A 非奇异的充要条件为A/A I 非奇异,此时我们有:(A -1)R =(A/A I ) -1 (1)(A -1)R,I = -(A/A I ) -1A R,I (A I )-1 (2)(A -1)I,R = - (A I )-1A I,R (A/A I ) -1 (3)(A -1)I = (A I )-1- (A I )-1A I,R (A/A I ) -1 A R,I (A I )-1 (4)从定理的条件看我们发现I 和R的位置可以完全互换,因此交换I 和R 时等式一定成立。