2范数和条件数病态方程组
由于
( I A)( I A)1 I ( I A)1 A( I A)1 I
( I A)1 I A( I A)1
在最后一式两端取范数,得
( I A) 1 I A ( I A) 1
1 A
( I A) 1 I 1.
练习:计算矩阵
1 2 A 3 4 的各种范数.
答案 : 6,7, 15 221 , 30
§2.3 矩阵的条件数与病态线性方程组
2.3.1
矩阵的条件数与线性方程组的性态
给定线性方程组 Ax =b,现在考察,系数矩阵 A 和常数列 b 有了微小变化 △A,△b ,它如何影 响解向量 x,即,解向量 x 的变化量 △x 何样? 由于A (或 b)的元素是测量得到的,或者是 计算的结果,在前种情况下, A (或 b)常常带有 某些观测误差,在后种情况下, A (或 b)包含舍 入误差,因此我们处理的实际矩阵是A + △A (或 b+ △b )。
n×n矩阵 A,式(1.2)中定义的函数是一种矩阵范 数,并且它与给定的向量范数是相容的.
A max Ax
单位球上的 最大像值
x 1
(1.2)
证明 先证相容性. 对任意的n×n矩阵A和n维非零向
量 y. 由于
y 1 max Ax A Ay . x 1 y y
所以有
Ay y max Ax y A ,
考察方程组 Ax = b, 当 A 或 b 有微小扰动时, 对解的影响, 首先看一个例子:
1 x1 2 1 , 1 1.0001 x2 2 1 x1 2 1 x 1 1.0001 2.0001 2
Ax 2 ( Ax)T ( Ax) xT AT Ax.
因为,ATA是正定或半正定的, 故它的全部特征值 i 非 负, 设
2
1 2
n
设 (ATA) 相应的规范正交特征向量为 u1,u2,…,un,
因而存在实数 k1, k2,…, kn, 使
x ki ui ,
i 1
lim xk x .
xk x 证 依据范数的等价定义,可设 lim k
0,
即,有 故
k
lim max ( xk )i ( x )i 0,
k 1i n
lim xk x .
xk ( xk )1 ,
, ( xk )n
任2种范数在刻画收敛性时等价
i k i2 max .
i 1
T T Ax u x 1 x u 取 , 以及 1 A Au1 max , 1 , 则有 2 2 2
n
所以
A 2 max Ax 2 max ( AT A) .
x 1
证毕
▼1,∞-范数 公式证明
单位矩阵 I 的任何一种算子范数都有
y || || x || || y || .
3种常用的范数
定理1.1 对 R 中的任一向量 x ( x1 , x2 ,
n
n i 1
, xn )T,
1 i n
记 || x ||1 | xi | || x ||2
,
x
i 1
n
2 i
,
|| x || max | xi |
1 i n
, xn yn ) ||
max{| xi | | yi |}
1i n
max{| xi |} max{| yi |}
1 i n 1 i n
|| x || || y ||
证毕
|| ||1
叫1-范数, (列范数); 叫2-范数, (Euclid(欧几里得)范数) ;
因为 A 1 ,故
( I A)
1
1 . 1 A 1 . 1 A
同理可证
( I A)
1
证毕
例6
1 5 2 2 1 0 T A 设 x (3, 5,1) , 3 8 2
求 x p , A p ( p 1, 2, ) 以及
1 j n i 1 n
|| A ||2 = max ( AT A) (2范数) || A || max | aij | (行范数)
1 i n j 1 n
其中,max ( AT A) 表示 AT A 的最大特征值。
证明 对于2-范数, 设 n 维向量 x 满足 ||x||2 = 1. 注意到
A p max Ax p .
x p 1
上式中矩阵范数 ||A||p 也叫 A的 p -范数. 矩阵的p 范数与向量的p -范数相容,即,
||Ax||p≤ ||A||p· ||x||p
.
定理1.4(几种常用的范数)
当 p 1, 2, 时 || A ||1 max | aij | (列范数)
AB max ( AB) x max A Bx
x 1Βιβλιοθήκη x 1 A max Bx A B .
x 1
证毕
A max Ax
x 1
(1.2)
上式所定义的矩阵范数叫做从属于所给定向量范 数的矩阵范数,又称为矩阵的算子范数. 设给定的向量范数为||·||p, 则从属于向量范数 的矩阵范数为:
n
并且有 由此可得
x 2 xT x ki2 1,
2 i 1
n
Ax 2 xT AT Ax ( AT Ax, x )
n n T A A kiu i , kiui i 1 i 1
2
n n i ki ui , kiui i 1 i 1
2 2 1
x 1,
A A A
x
,
2 F
x 2, x 2.
定理1.5 设矩阵 A∈Rn×n 的某种范数 ||A||<1,
则 I±A 为非奇异矩阵,并且当该种范数为算子 范数时,还有下式成立。 1 1 . I A 1 A 证明 假定 I±A 奇异,则齐次线性方程组 (I±A)x =0 有非零解 x 0, 使 x Ax. 在上式两边同取与所用矩阵范数数相容的向量范 x Ax A x 数,得 因 x 0 ,故由上式得 A 1 。与已知条件矛盾, 因而 I A 必非奇异。
112,
14 21 4 AT A 21 90 26 4 26 8
特征多项式为
det( AT A I ) 3 112 2 959 16,
最大的根为 max 102.66,
A 2 max 10.132 .
x 1 x 1
.
(3) 对任意的n×n矩阵 A 和 B, 有
A B max ( A B) x max Ax Bx
x 1 x 1
max Ax Bx
x 1
max Ax max Bx A B
x 1 x 1
(4) 对任意的n×n矩阵 A 和 B, 有
I max Ix 1.
x 1
还有一种常用的矩阵范数,
AF
2 a ij n
i , j 1
称为Frobrnius(佛罗贝尼乌斯)范数,又称为 Euclid 范数。
注: F 不从属于任何向量范数,即 F不是算子范数.
几种常用的相容关系
Ax 1 A Ax Ax Ax
正定性 齐次性 三角不等式
积的范数小于等 于范数的积
矩阵范数与向量范数的相容性
定义 给定向量范数||·||和矩阵范数||·||, 如果对任 意的 n 维向量 x 和任意的n×n矩阵A,它们总满足
Ax A x , 则称所给的矩阵范数与向量范数是相容的。
定理1.3 设在Rn中给定一种向量范数,对任意的
则 || ||1 , || ||2 和 证明 仅证
|| || 都是向量范数.
|| || 是向量范数.
(1) || || 满足正定性是显然的.
(2) 对任意的实数 k , 有
|| kx || || ( kx1 , kx2 ,
1i n
, kxn ) || max | kxi |
2 矩阵范数
矩阵的范数是刻画矩阵大小的量,又叫矩阵的模.
定义 Rn×n上的实值函数‖·‖称为矩阵范数,如果 对任意的矩阵 A 和 B, 它均满足下列4条性质:
(1) A 0, 且 A 0 A 0; (2) 对k R, kA k A ; (3) A B A B ; (4) AB A B ;
向量序列收敛的定义:向量序列
x , x , x ,, x
( 0)
(1)
( 2)
(k )
若存在常数向量 x* ,使 lim
k
x(k ) x *
,则称该向量序列
lim x x 0, 有 k k
收敛,否则,称其不收敛或发散。
定理 若有常数向量
则必有
k
x*,使对某种范数,
1 5 2 A 2 1 0 3 8 2
A
|1| | 5 | | 2 |, max | 2 | |1| | 0 |, |3| |8| | 2|
13,
AF
12 2 2 32 2 2 2 5 1 8 2 2 2 2 0 2
解 x 1 | 3| | 5| |1| 9,
x 2 32 (5) 2 12 35