迭代矩阵谱半径
1 1 / 2 A 1 / 3 1 / 4 1/ 2 1/ 3 1/ 4 1/ 5 1/ 3 1/ 4 1/ 5 1/ 6 1 / 4 1 / 5 1 / 6 1 / 7
阶数 条件数 条件数2 条件数∞
4 19.4×105 1.5×104 9.4×105
5 2.9×107 4.7×105 2.9×107
B = P –1 J P
其中, J 为B的 Jordan 标准型
J1 J J2 Jr nn
其中, Ji 为Jordan块
i 1 Ji 1 i ni ni
6/15
其中,λi 是矩阵B的特征值, 由 B = P –1 J P B k = (P –1 J P) (P –1 J P) · · · (P –1 J P)= P –1 J k P 迭代法 x(k+1)
k
=B
k
x(k)
+ f 收敛 <=> lim B 0
k k
lim J 0
lim i 0
k k
(i = 1, 2,· · · , r) (i = 1, 2,· · · , r) 谱半径 (B) < 1
7/15
| i | 1
max | i | 1
1 i r
k
x(k+1)–x* =(Bx(k)+f ) – (Bx*+f ) =B(x(k) – x* ) || x(k+1) – x* || ≤ ||B|| || x(k) – x* ||
所以
||x(k+1) – x(k) ||= ||(x*– x(k)) – (x* – x(k+1))|| ≥||(x*– x(k)) || – ||(x* – x(k+1))|| ≥ ||(x*– x(k))|| –||B|| ||(x* – x(k))|| = ( 1 - || B ||) ||(x* – x(k))||
j 1 ji
n
9 1 1 9 x x x 7 1 2 3 例4.1 x1 10 x 2 x 3 8 A 1 10 1 x x 15 x 13 2 3 1 1 1 15
9 > |-1| + |-1|
DL=tril(A1) B1=DL\(DL-A1) max(abs(eig(B1))) Ans= 2
( BS ) 2
(2) A2=[2, -1, 1; 1, 1, 1; 1, 1, -2]
0 1 / 2 1 / 2 BJ 1 0 1 0 1 / 2 1 / 2
|| x |||| ( I A A) || || A || || A || || x || 1 || x || || A || || A || || A || 1 || x || 1 || A A || || A ||
14/16
A famous example of a badly conditioned matrix
x* = B x* + f
x(k+1) – x*= B(x(k) – x*) 记 (k) = x(k) – x* ( k = 0, 1, 2, 3, · · · · · ·) 则有 (k+1) = B (k) (k) = B (k-1) ( k = 1, 2, 3, · · · · · ·)
| a ii | | a ij |
j 1 ji n
1 n | aij | 1 | aii | j 1
ji
由A矩阵构造Jacobi迭代矩阵BJ = D-1(D – A) n 1 第i行绝对值求和 | a ij | | a ii | j 1 ji n 1 | aij |} 1 所以 || BJ || max { 1 i n | a | ii j 1
|| B || (k ) ( k 1) || x x* || || x x || 1 || B || k || B || (k ) (1) (0) || x x* || || x x || 1 || B ||
(k )
13/15
定义4.1 A=(aij)n×n, 如果 | a ii | | a ij | 则称A为严格对角占优阵.
10 > |-1| + |-1|
|a11| > |a12| + |a13|
|a22| > |a21| + |a23|
15 > |-1| + |-1|
|a33| > |a31| + |a32|
14/15
定理4.3 若Ax=b的系数矩阵A是严格对角占优 矩阵,则Jacobi迭代和Seidel迭代均收敛 证: 由于矩阵A严格对角占优
( A) max | k |
1 k n
注1: 当A是对称矩阵时, ||A||2 = (A) 注2: 对 Rn×n 中的范数|| ·||,有
(A) ≤ || A ||
5/15
定理4.1 迭代法 <=>
x(k+1) = B x(k) + f 收敛
谱半径ρ(B) < 1
证: 对任何 n 阶矩阵B都存在非奇矩阵P使
12/15
所以
|| x
(k )
1 x* || || x ( k 1) x ( k ) || 1 || B ||
x(k+1)–x(k) =(Bx(k)–f ) – (Bx(k-1)–f ) =B(x(k) – x(k-1) ) ||x(k+1)–x(k)|| ≤ ||B || || x(k) – x(k-1) || 误差估计:
(1) || x (2)
(k )
|| B || x* || || x ( k ) x ( k 1) || 1 || B ||
k || B || || x ( k ) x* || || x (1) x ( 0 ) || 1 || B ||
11/15
证 由||B||<1,有
lim x ( k ) x *
6 9.8×108 1.4×107 9.8×108
15/16
A=hilb(4);
b=[1 2 1.41 2]';
b1=[1 2 1.42 2]';
A\b-A\b1
for k=3:8
H=hilb(k);
cond(H) end
ans= -2.4000 27.0000 -64.8000 42.0000 ans = 524.0568 1.5514e+004 4.7661e+005 1.4951e+007 4.7537e+008 1.5258e+010
0 2 2 (1) BJ 1 0 1 2 2 0
( BJ ) 1
D=diag(diag(A1)); B1=D\(D-A1); max(abs(eig(B1)))
8/15
Ans= 1.2604e-005
0 2 2 B S 0 2 3 2 0 0
由 Ax = b 得 || b |||| A || || x || 所以
|| x || || b || 1 (|| A || || A ||) || x || || b ||
1 || A || || x || || b ||
12/16
定义条件数: Cond(A) = ||A–1 || ||A|| 或 C(A) = ||A–1 || ||A|| 当条件数很大时,方程组 Ax = b是病态问题; 当条件数较小时,方程组 Ax = b是良态问题
类似,设方程组 Ax = b,矩阵A 有一扰动 将引起方程组解x的扰动
A
时,
x
设 x 是方程组 Ax = b 的解,则有
( A A)( x x ) b
化简,得
取范数
( A A)x Ax 1 1 1 x ( I A A) A Ax
1 1 1
《数值分析》10
迭代法的收敛性
Convergence of iterative method
迭代矩阵谱半径
Spectral radius
对角占优矩阵
diagonally dominant matrix
原始方程: A x = b 迭代格式: x(k+1) = B x(k) + f
设方程组的精确解为 x*,则有
( BS ) 1 / 2
两种迭代法之间没有直接联系
对矩阵A1,求A1 x = b 的Jacobi迭代法收敛, 而Gauss-Seidel迭代法发散;
对矩阵A2,求A2 x = b 的Jacobi迭代法发散, 而Gauss-Seidel迭代法收敛.
10/15
误差估计定理 定理4.2 :设x*为方程组 Ax=b 的解 若||B||<1,则对迭代格式 x(k+1) = B x(k) + f 有
ji
15/15
矩阵的条件数概念 方程组 Ax = b, 右端项 b 有一扰动 引起方程组解 x 的扰动 x 设 x 是方程组 Ax = b 的解,则有 化简,得
b
A( x x ) b b
Ax b
x A b
1
|| x |||| A1 || || b ||
注:
( I A A)(I A A) I
1 1 1 1 1 1 1 1 1 1 1 1 1
( I A A) I A A( I A A)
|| ( I A A) || 1 || A A || || ( I A A) || 1 1 1 || ( I A A) || 1 1 || A A || 13/16