补充定理1 设A∈Rn×n，则 (A) A 其中||A||为Rn×n上 的任一范数。
证 设λi为A的任意一个特征值，xi为对应的特征向量，则有
ixi Axi
两边取范数得
i xi ixi Axi A xi
i A
λi为A的任意一个特征值
2
(A) A
定理12 迭代法基本定理 迭代格式
14
例1. 用简单迭代法解方程组

4 x1 x1

x2 4 x2
0.1e x12
x1 1 /8 0
解: 作迭代格式

x1( k
1)

1 4
(1
x(k ) 2
0.1ex1(k ) )
x2(k 1)

1 4
[
x1( k
)

1 8
(
x1(
k
)
)2
]
取
x(0)

(
x(0) 1
,
x(0) 2
)T
(0, 0)T
令 k 0,1, 2,

x(1) 1

1 4
(1
x(0) 2
0.1ex1(0) )

0.225

x(1) 2

1 4
[
x1(
0)

1 8
(
x(0) 1
)2
]

0
15

x(1) 1

1 4
(1
x(0) 2
0.1ex1(0) )
J

D1 (L

U)



0
0
1 0
0

1

1 2
0 2
1 0



0 1 2
2 0 2
2 1 0

7
6.8.5 迭代法的收敛性(续）
det(I J)

det


1 2
2

2
2 1



3

0
所以 1,2,3 0 (J) max(| |) 0 1
作成迭代格式
x(k 1) i
i ( x1(k ) , x2(k ) ,
选取初始向量
xn(k ) ), i 1 n
x(0)

(
x1(
0)
,
x(0) 2
,
,
x(0) i
,
可得向量序列{x(k)}。
,
x(0) n
)T
令 k 0,1, 2,
如果方程组只有唯一解，且{x(k)}收敛，则得 逐次收敛于x的近似解x(k)。

[ x 1 (k 1)
41

1 8
( x1( k
1)
)2
]
18
取
x(0)

(
x(0) 1
,
x(0) 2
)T
(0, 0)T
令 k 0,1, 2,

x(1) 1

1 4
(1
x(0) 2
0.1ex1(0) )

0.225

x(1) 2

1 4
[
x(1) 1

1 8
(
x(1) 1
即Jaobi迭代法收敛
(2) 求高斯-赛德尔法的迭代矩阵
1 0 0 1 0 2 2
G

(D

L)1 U


1
2
1 2
0

1
0 0
0 0
1

0
8
G

0 0 0
2 2 0
2 3 2

1 0 2,3 2
F(X) 0
--------(3)
求解非线性方程组式（3），即求一个向量 X * (x1*, x2*, ..., xn*)T ，使得多元向量函数F( X ) 满足F ( X *) 0 。
为了简单起见，不对解非线性方程组的牛顿－拉夫逊方 法的收敛性进行分析（有兴趣的同学可以参考其他课本）， 仅讲授牛顿－拉夫逊方法的基本原理和步骤。
定理16 设解Ax = b 的SOR法收敛，则0<ω<2
11
6.9 非线性方程组的迭代解法 k 1,2,3,
12
3.9 非线性方程组的迭代解法
线性方程组存在直接解法（如高斯消元法，三角分解法 等），但是非线性方程组没有直接的解法，只能通过数值 迭代的方法加以求解。本节介绍非线性方程组的迭代解法：
3
6.8.5 迭代法的收敛性(续）
ε(k ) x * x(k ) Bkε(0) (k 1, 2, )
(B) 1时，lim Bk 0 limε(k) 0
k
k
即 lim x(k) x * k
必要性：设lim x(k) x * ，其中 x(k1) Bx(k) f k
(G) max(| |) 2 1
6.8.5 迭代法的收敛性(续）
所以高斯-赛德尔迭代法发散
或 特征方程为
det(I G) det[I (D L)1U] det(D L)1 det[(D L) U] 0 det(D L)1 0 det[(D L) U] 0
故x≈x(7)。
19
6.9.2 牛顿迭代法
是牛顿法向多元函数的扩展，其基本原理与解非线 性方程的牛顿法几乎一样。 设有非线性方程组
f1( x1, x2 , ..., xn ) 0

f2 ( x1,
x2 ,
...,
xn )

0
fn ( x1, x2 , ..., xn ) 0
设有非线性方程组
f1(x1, x2, ..., xn ) 0

f2
(
x1,
x2
,
...,
xn
)

0
fn (x1, x2 , ..., xn ) 0
--------(6.9.1)
13
6.9.1 简单迭代法
仿照方程求根的简单迭代法，将方程组（6.9.1）改写为
xi i (x1, x2 , xn ), i 1 n --------(6.9.2)
x1 x2
1
xn

2
xn


n

xn
则可证明， (x) L 1 时简单迭代收敛
17
类似于线性方程组的高斯赛德尔迭代法，非线性方程组高 斯赛德尔迭代格式为：
x(k 1) i

i ( x1(k 1) , x2(k 1) ,
,
x(k 1) i 1
6.8.5 迭代法的收敛性 设线性方程组 Ax b
等价方程组
x Bx f
相应的迭代格式是
x(k1) Bx(k) f (k 0,1, 2, )
问题：迭代矩阵B满足什么条件时，由迭代格式产生的向量 序列{x(k)}收敛到x*?
1
定理11
设B Rnn ,则lim Bk 0的充分必要条件是(B) 1 k
两边取极限得 x* Bx*f
从而有误差向量
ε(k) x * x(k) (Bx * f ) (Bx(k1) f ) Bε(k1) Bkε(0) (k 1, 2, )
定理11 设B Rnn,则lim Bk 4 0的充分必要条件是(B) 1 k
10
6.8.5 迭代法的收敛性(续）
定理14 设 Ax = b，如果A为严格对角占优阵，则Jacobi迭
代法和Gauss-Seidel 迭代法均收敛。
n
| aii | | aij |, (i 1, 2, , n) j 1 ji
A的每一行对角元素的绝对值都严格大于同行 其他元素绝对值之和。称A为严格对角占优 定理15 设Ax = b，如果A为对称正定矩阵，且0<ω<2，则 SOR 迭代法收敛。
( x2

x(k) 2
)

...

fi (xk x j
)
(xj

x(jk ) )


fi (xk xn
)
(
xn

xn( k
)
)]

...

fi (x(k))
n j1
fi (x(k ) x j
)
(xj
x(jk ) )
, i 1~ n
均取到线性项，得近似方程组
21
设 X (k ) ( x1(k ), x2(k ), ..., xn(k ) )T 为式（3）的一个近似估计解，将 函数F ( X ) 在X (k)处用多元函数泰勒级数展开。
fi(x)
fi
(x(k ) )
[ fi (x(k ) x1
)
( x1

x1(k ) )

fi (x(k ) ) x2
--------(1)
其中x1,x2,…,xn为未知变量，fi(x1,x2,…,xn)是关于未知 变量的非线性实函数，i=1,2,…n。
记
X ( x1, x2, ..., xn )T
F ( X ) ( f1( X ), f202( X ), ..., fn ( X ) )T
则式（1）可以改写为：
6.8.5 迭代法的收敛性(续）
ε(k ) x * x(k ) Bkε(0) (k 1, 2, )