（2）||kA||＝|k| || A||，k∈R
（3）||A＋B|| ≤ || A ||＋|| B ||
则称 N ( x ) A 为R nn (或x C nn ) 上的一个矩阵范数 ，|| A ||的值为矩阵A的范数。
设 n 阶矩阵 A＝（aij），常用的矩阵范数有：
矩阵1-范数： A
x 引理2.1：迭代法(2.2.3)式对任何初始近似
0
均收敛的充分必要条件是
H k 0k
引理2.2： H k 0 k 的充要条件是 ( H ) 1 定理2.4：迭代法(2.2.3)式对任何初始近似 x 0 均收敛的充分必要条件是迭代矩阵H的谱半径
理论上存在多种多样的向量范数，但最常用的是 如下三种。 设向量x＝(x1，x2，…，xn)T，定义
向量1-范数：
向量2-范数：
x
1


i 1
n
xi
1 2
x
2
n 2 xi i 1
1 i n
向量无穷范数：
x
max xi
容易验证，以上三种范数都满足向量范数的三个条件。
0.9 0 g , 其中 H ， 0.3 0.8
讨论该迭代法的收敛性。
2.2.3 迭代法的收敛速度
定理2.5 当 H 1 时，由迭代法（2.2.3）式 所定义的序列 {x ( k ) } 满足如下估计式：
x
(k )
x
*
H 1 H
H
k
x ( k ) x ( k 1)
1
max
1 j n
| a
i 1
n
ij
|
1 2
列和
矩阵2-范数： A 2 AT A的最大特征值 矩阵无穷范数： A

max
1 i n
| a
j 1
n
ij
| 行和
以上三种范数都满足矩阵范数的条件，通常将这 三种矩阵范数统一表示为|| A ||p，P＝1，2，∞。
1 2 例2.2 设矩阵 A 3 4
Hx g ,
k
x Hx g
* *
k *
两式相减，知误差向量 x x 满足下列迭代关系：
x ( k 1) x * H ( x ( k ) x * ) x ( k 1) x * H k 1 ( x ( 0) x * ), k 0,1,2, 由此递推：
定义2.2 对于向量序列
( ( ( x ( k ) ( x1k ) , x2k ) ,, xnk ) )T , k 1,2,, * * * x * ( x1 , x 2 , , x n )T 及向量
如果
k 则称向量序列 x(k)
lim x i
(k )
xi
*
*
收敛于向量 x* 。记作 或
T
则它的特征方程为:
10 14 I A A 2 30 4 0 14 20
T
此方程的根为矩阵ATA的特征值，解得
1 15 221
因此
A
2
2 15 221
221
15


1 2
5.46
在线性方程组的研究中，经常遇到矩阵与向量的 乘积运算，若将矩阵范数与向量范数关联起来，将给 问题的分析带来许多方便。设||· ||是一种向量范数，由 此范数派生的矩阵范数定义为 Ax p A p max x 0 x p 注意，此式左端||A||表示矩阵范数，而右端是向量 Ax 和 x 的范数，利用向量范数所具有的性质不难验 证，由上式定义的矩阵范数满足矩阵范数的条件。
max A
x
p
1
P
Bx
p
A P max Bx p A P B
x
p
1
P
2.1.3 矩阵的谱半径
矩阵范数同矩阵特征值之间有密切的联系，设λ 是矩阵A相应于特征向量x的特征值，即 Ax＝λx,于 是利用向量-矩阵范数的相容性，得到 |λ| || x ||=||λx|| =|| Ax|| ≤ || A || ||x|| 从而，对A的任何特征值λ均成立 |λ|≤|| A || （3）
x
(k )
x
*
1 H
x (1) x (0)
现在讨论使误差减少初始误差的 倍所需的最 少迭代次数。
x
(k )
x H
*
k
x (0) x *
若要求 则
H
k
x ( k ) x * x (0) x *
( H )
k
两边取对数得:
ln k ln ( H ) ln k ln ( H )
(H ) 1
推论：若 H 1 ( 允许为任何一种相容的矩阵范 数) ，则迭代法(2.2.3)式收敛。
例1 设 x
k 1
Hx
k
0.1 0.5 g , 其中 H ， 0.8 0.1
讨论该迭代法的收敛性。
例2 设 x
k 1
Hx
k
后算出来的值有更好的近似，因此可用这些新值来计算
x
( k 1) i
hij x
j 1
i 1
( k 1) j
hij x (jk ) gi
j i
n
利用最新值进行计算的方法称为Seidel迭代法。
对Jacabi迭代法运用Seidel技巧得到
xi
k 1
n 1 i 1 k 1 k aij x j aij x j bi i 1, 2, n aii j 1 j i 1
x D 1 L U x D 1b
k＝0， (2.3.4) 1，
x I D 1 A x D 1b


迭代矩阵为
H J I D 1 A D 1 ( L U )
分量形式为
xi
k 1
1 aii
i 1 aij x j k j 1
定义: ln ( H ) 为迭代法(2.2.3)的渐进收敛速度。
2.3 Jacabi方法与Gauss-Seidel方法
2.3.1 Jacabi方法
设A=D-L-U, 则 D L U x b Dx b L U x 即迭代格式为 k 1 k x D 1 L U x D 1b 也可改写为
其矩阵形式为
x
k 1
D 1 Lx

k 1
Ux b
k

k＝0， 1，
整理成一般迭代法的形式为
x
k 1
( D L) Ux
1
k
( D L)1 b
例2.3 用Jacobi迭代法和Gauss-Seidel迭代法解下列 方程组, 已知方程组得精确解为 x*=(1，1，1)T 。 10 x1 3 x2 x3 14 2 x1 10 x2 3 x3 5 x 3 x 10 x 14 2 3 1 解：先改写方程如下
第2章 解线性代数方程组的迭代法
求解线性代数方程组主要有直接法和迭代 法两种常见方法。直接法一般适合小型的系数 矩阵，为了求解现实当中常见的大型稀疏矩阵， 下面我们将重点介绍迭代法。它是一种不断套 用一个迭代公式，逐步逼近方程的解的方法。 将讨论两类主要方法，一类是逐步逼近法，另 一类是下降法，包括最速下降法和共轭梯度法。
通过向量范数定义的矩阵范数，满足不等式关系：
Ax A x ,
x R , A R
n
nn
(1)
AB A B , A, B R nn
(2)
通常将满足上式的矩阵范数称相容范数。
由向量范数|| x ||p派生出的矩阵范数：
A
p
max
x 0
Ax x
p
p
max Ax
2.1 向量、矩阵范数与谱半径
为了对线性方程组数值解的精确程度，以及方 程 组 本 身 的 性 态 进 行 分 析 ， 需 要 对 向 量 和 矩 阵的 “大小”引进某种度量，范数就是一种度量尺度， 向量和矩阵的范数在线性方程组数值方法的研究中 起着重要的作用。
2.2.1
向量的范数
n n 定义2.1 设 x R (或x C )，N ( x ) x 是x的实 值函数，且满足条件
设n阶矩阵A的n个特征值为λ1,λ2，…λn，称 ( A) max i
1 i n
为矩阵A的谱半径。
从(3)式得知，对矩阵A的任何一种相容范数 都有 ρ(A)≤||A||。
2.2 迭代法的一般形式与收敛性定理
2.2.1 迭代法的一般形式 已知线性代数方程组
Ax b x Hx g (2.2.1)
x
p
1
p
称之为矩阵A的算子范数，其中 p＝1，2或∞。
定理2.2 由上式所定义的矩阵范数为相容范数。 证明： 当x=0时，(1)式显然成立。
x 0,
Ax x
p p
max
y 0
Ay y
p
p
A
p
Ax
p
A
p
x
p
A, B R nn ,
AB
p
max ABx
x
p
1
p
n
范数的等价性表明，一个向量若按某种范数是一 个小量，则它按任何一种范数也将是一个小量。容 易证明，常用的三种向量范数满足下述等价关系。 || x ||∞ ≤|| x ||1 ≤ n|| x ||∞ || x ||∞ ≤|| x ||2 ≤|| x ||∞