常用矩阵范数： 矩阵 ATA 的最大 特征根 /* eigenvalue */ 算子范数
/* operator norm */
由向量范数 || · ||p 导出关于矩阵 A Rnn 的 p 范数:
|| Ax || p || A || p max max || A x || p x0 | |x | |p 1 || x || p
矩阵范数 /* matrix norms */
定义 Rmn空间的矩阵范数 || · || 对任意
A, B R mn 满足：
(1) || A || 0 ; || A || 0 A 0 （正定性 /* positive definite */ )
(2) || A || | | || A || 对任意 C (齐次性 /* homogeneous */ )

定理
定理
若A对称，则有 || A ||2 ( A) T 2 || A || ( A A ) ( A ) 证明： 2 max max
A对称
若 是 A 的一个特征根，则2 必是 A2 的特征根。
max ( A2 ) 2 ( A) 对某个 A 的特征根 成立
又：对称矩阵的特征根为实数，即 2(A) 为非负实数， 所以2-范数亦称为 故得证。 谱范数。
向量范数 /* vector norms */
定义 Rn空间的向量范数 || · || 对任意 x , y R n 满足下列条件：
(1) || x || 0 ; || x || 0 x 0 （正定性 /* positive definite */ ) (2) || x || | | || x || 对任意 C (齐次性 /* homogeneous */ )

常用条件数有：
cond d (A)2
max ( AT A) / min ( AT A)
max | | 特别地，若 A 对称，则 cond ( A)2 min | |
条件数的性质：
A可逆，则 cond (A)p 1； A可逆， R 则 cond ( A) = cond (A) ； A正交，则 cond (A)2=1； A可逆，R正交，则 cond (RA)2 = cond (AR)2 = cond (A)2 。
|| x || || b || 1 || A || || A || || x || || b ||
§2
1 || A || || A || 是关键 设 b 精确，A有误差 A ，得到的解为 x x ，即 的误差放大因子，称为 A的条件数，记为 cond (A ), ( A A)( x x ) b 越大 则 A 越病态， 难得准确解。 ( A A) x ( A A)x b A( x x ) A( x x ) b ( A A)x Ax x A1A( x x ) 1 A( I A A)x Ax || x || 1 || A || || A || || x x || x ( I A1A)1 A1Ax || A || 1 || A || || A || (只要 A充分小，使得
(3) || A B || || A || || B || （三角不等式
/* triangle inequality */ )
(4)* || AB || || A || · || B || （相容 /* consistent */ 当 m = n 时)
§1 Norms of Vectors and Matrices – Matrix Norms
计算精度可控，特别适用于求解系数为大型稀疏 矩阵 /* sparse matrices */ 的方程组。 研究 内容： 如何建立迭代格式？ 向量序列的收敛条件？
收敛速度？ 误差估计？
§1 向量和矩阵范数 /* Norms of Vectors and Matrices */ —— 为了误差的度量
解线性方程组的迭代法
/* Iterative Techniques for Solving Linear Systems */
求解 A x b
x)=0 的不动点迭代相似 ，将 …… A x b 等价 思 与解 f ( ( k 1 ) (k ) Bx f 。 路 改写为 x B x f 形式，建立迭代 x (k ) ( 0) { x }。 从初值 x 出发，得到序列
给 b 一个扰动 b ，其相对误差为 0.106 10 3
4

3 || b ||2 4 0.513 10 0.01% 此时精确解为 x* || b ||2 1.0203
|| x ||2 2.0102 > 200% || x ||2
1 j n
i 1
|| A ||2 max ( AT A) （谱范数 /* spectral norm */ ）
§1 Norms of Vectors and Matrices – Matrix Norms
谱半径 /* spectral radius */
定义 矩阵A的谱半径记为
A 的特征根。
解：考察 A 的特征根 det( I A) 0 1 1.980050504 2 0.000050504
cond ( A) 2
测试病态程度： 0.97 10
2 x x * x 2.0203
1 39206 >> 1 2
§2
Error Analysis for Ax b .
1 例： A 0.99
1.99 0.99 , b 0.98 1 . 97
计算cond (A)2 。
1 精确解为 x 1 . 9900 9800 1 A = 9900 10000
2.9 106
注：一般判断矩阵是否病态，并不计算A1，而由经验 得出。
行列式很大或很小（如某些行、列近似相关）； 元素间相差大数量级，且无规则； 主元消去过程中出现小主元； 特征值相差大数量级。
§2
Error Analysis for Ax b .
近似解的误差估计及改善： 设 Ax b 的近似解为 x * ，则一般有 r b Ax* 0 || x x* || cond (A) || r || || x || b
|| A1A || || A1 || || A || 1 ) || A || 1 || A || || A || || x || || A1 || || A || || A || || x || 1 || A1 || || A || 1 || A || || A1 || || A || || A ||
| i |，其中i 为 (A) = max 1 i n
Im
(A)





Re

§1 Norms of Vectors and Matrices – Spectral Radius
对任意算子范数 || · || 有 ( A) || A || 证明： 由算子范数的相容性，得到 || Ax || || A || || x || 将任意一个特征根 所对应的特征向量 u 代入 | | || u || || u || || Au || || A || || u ||
k
定义 若存在常数 C1、C2 > 0 使得 C1 || x ||B || x ||A C2 || x ||B ，
则称 || · ||A 和|| · ||B 等价。



定理
Rn 上一切范数都等价。
§1 Norms of Vectors and Matrices – Matrix Norms
(3) || x y || || x || || y || （三角不等式
常用向量范数：
|| x ||1
/* triangle inequality */ )
|x
i 1
n
i
|
|| x || 2

n
i1
| xi |
2
|| x || p

n
1/ p
i 1
| xi |p
|| x || max | x i |
1 i n
|| x || p || x || 注： lim p
Norms of Vectors and Matrices – Vector Norms
(k ) { x } 收敛于向量 x 定义 向量序列 *是指对每一个 1 i n 都 有 lim x i( k ) x i* 。 可以理解为 || x ( k ) x* || 0
Error Analysis for Ax b .
|| A ||
§2
Error Analysis for Ax b .
注:
cond (A) 的具体大小与 || · || 的取法有关，但相对
大小一致。 cond (A) 取决于A，与解题方法无关。
|| A || || b || || x || cond ( A) || x || 1 cond ( A) || A || || A || || A || || b ||
1 xA b
绝对误差放大因子
1 || x || || A || || b ||