(k ) (k ) (k ) m a / a a 0 Step k：设 kk ，计算因子 ik ik kk (i k 1, ..., n)
( k 1 ) (k ) (k ) a ij a ij m ik a kj 且计算 ( k 1) (k ) (k ) b b m b i ik k i ( i , j k 1, ..., n )
进行到底，得到唯一解。
1 存在，则可通过逐 注：事实上，只要 A 非奇异，即 A de t(Ai ) ... ... ... 次消元及行交换，将方程组化为三角形方程组，求出 a i 1 ... a ii 唯一解。
a11
... a1i
定理（矩阵的 LU 分解） 设A为n阶矩阵，如果A的顺序主子式Di 0( i 1, 2, , n 1)， 则A可分解为一个下三角矩阵L和一个上三角矩阵U 的乘积， 且这种分解是唯一的.
1步 共进行 n ？
(1) (1) ) (1) a11 x a12 ... a1(1 b 1 n 1 ( 2) ( 2) ( 2) a22 ... a2 n x2 b2 . . . . . ... . . . . ( n) ( n) ann xn bn

x2 1,
x1 0
全主元消去法 /* Complete Pivoting */
每一步选绝对值最大的元素为主元素，保证 Step k: ① 选取 | ai
k
| mik | 1 。
jk
| max | aij | 0 ;
k i , jn
② If ik k then 交换第 k 行与第 ik 行; If jk k then 交换第 k 列与第 jk 列; ③ 消元 注：列交换改变了 xi 的顺序，须记录交换次序，解完后 再换回来。 列主元消去法 /* Partial Pivoting, or maximal column pivoting */ 省去换列的步骤，每次仅选一列中最大的元。
将增广矩阵/* augmented matrix */ 第 i 行 mi1 第1 行，得到 其中 ( 2 ) ( 1) ( 1) ( 1) ( 1) (1)
a11 a12 ... a1n
A
( 2)
(2) b
b1
(1) a ij a ij m i 1a1 j (2) (1) (1) b b m b i i1 1 i ( i , j 2, ..., n )
ai j
min( i , j ) k 1
l
ik
uk j
§2 Matrix Factorization – Choleski
平方根法 /* Choleski’s Method */： ——对称 /* symmetric */ 正定 /* positive definite */ 矩阵的分解法 定义 一个矩阵 A = ( aij )nn 称为对称阵，如果 aij = aji 。 T x A 称为正定阵，如果 Ax 0 对任意非 定义 一个矩阵 零向量 x 都成立。 回顾：对称正定阵的几个重要性质 A1 亦对称正定，且 aii >0 A 的顺序主子阵 /* leading principal submatrices */ Ak 亦对 称正定 1 10 T TT 1 Tx 1 T A y A x 存在非零解，即 x 0 y 0 对任意 , 存在 , 使得 , x ( 0 ... 1 ... 0) a x A x 0 若不然，则 AA I , ( A ) A I ( A ) A 其中 ii 1 T 1 T 1 T A 的特征值 value */ >y 0 AA Ay y Ay 0 /* A x T yeigen i x A x 即 。 x Ax 0 存在非零解。 第 i 位 k x 0 R 对称性显然。对任意 有 k A 的全部顺序主子式 det ( Ak ) > 0 xk n T T 设对应特征值 的非零特征向量 x 0 R xk Ak xk x A x 0 , 其中 。 0 2 n T T 0 x) Ax x x x 。 为 x因为 ，则de t(A i
. a nk
si
注：稳定性介于列主元法和全主元法之间。
§2 三角分解法 /* Matrix Factorization */
高斯消元法的矩阵形式 /* Matrix Form of G.E. */：
Step 1: mi 1 ai 1 / a11
1 m21 1 . . . m n1
| a i k , k | max | a ik | 0
k in
§1 Gaussian Elimination – Pivoting Strategies
9 10 例： 1
1 1
1 2


1 109
1 2 1 1
x1 1
1 1 2 0 1 1
L L ... L
1
1 1
1 2
1 n1

1
记为
mi , j
L
1
a
(1) 11
a a
记U=
(1) 12 ( 2) 22
Hey hasn’t GE given me 单位下三角阵 (1) Factorize A first, then When you have to ... /* a1unitary lower-triangular n headache? enough Why matrix */ Could you be more for (every you only have to solve the system for ) b know its aI 2 do have to ... 2n solve two simple triangular specific, please? different with a fixed b matrix form??! . systems and L ... . A .y b . Ux y .
Ch5 解线性方程组的直接方法
求解 A x b
高斯消元法：
思 首先将A化为上三角阵 /* upper-triangular matrix */， 路 再回代求解 /* backward substitution */。
=
(1) b1 (1) (1) (1) . 记 A A (aij )nn , b b . . 消元 (1) bn (1) (1) ( 1) m a / a (i 2, ..., n) a 0 i 1 i 1 11 Step 1：设 11 ，计算因子
选主元消去法
例：单精度解方程组 /* 精确解为 x1
1 1 109
109 x1 x1 x2 x2 1 2
8个 8个 1.00...0100... 和 x 2 2 x1 0.99 ... 9899 ... */
用Gaussian Elimination计算：


b1(1) b2( 2 ) . . . ( n) bn
1
其中
Lk =
1 m k 1, k . . . m n ,k
1
§2 Matrix Factorization – Matrix Form of G.E.
1
1
1 L k
1 m k 1, k . . . m n ,k
思 通过比较法直接导出L 和 U 的计算公式。 路 反复计算, a1n 1 a11 ... …… u11 ... u1n 很浪费哦
l . . . . . 21 1 . . . . . ... . . . . . an1 ... ann l n1 ... 1 ... . . . . . . unn
注： L 为一般下三角阵而 U 为单位上三角阵的分解称为 Crout 分解。 ~~ 实际上只要考虑 A* 的 LU 分解，即A* LU ，则 ~ ~ A U * L * 即是 A 的 Crout 分解。
§2 Matrix Factorization – Doolittle
道立特分解法 /* Doolittle Factorization */： —— LU 分解的紧凑格式 /* compact form */
x2 1 ,

注：列主元法没有全主元法稳定。
9 1 10 例： 1 1
10 9 2

1 109 9 0 10
109 x2 1 , x1 0 9 10
标度化列主元消去法 /* Scaled Partial Pivoting */
max | a ij | 。为省时间，si 只在初始时计 对每一行计算 si 注意：这两个方程组 1 j n 在数学上严格等价。 a kk a 算一次。以后每一步考虑子列 .. 中 ik 最大的 aik 为主元。
§1 Gaussian Elimination – The Method
回代
( n) ( n) xn bn / ann
bi( i ) xi
a
j i 1 (i ) ii
(i ) a ij x j
n
( i n 1, ..., 1)
Then must find the Whatwe if we can’t (n i) smallest integer k i with ( ) 0 定理 若A的所有顺序主子式 a /* determinant of leading What if ? find such k ? ii No No unique unique a 0 What if ? (i ) nn , and interchange a ki 0 exists. solution solution exists. principal submatrices */ k 均不为 ，则高斯消元无需换行即可 the -th row0 with the i-th row.