左奇异向量
V=[v 1，v2，…，vr ，… ，v n] =[V1 V2]∈C n×n的列向 量是空间C 的标准正交基。 量是空间C n的标准正交基。 U=[u 1，u2，…，ur ，… ，u m] =[U1 U2]∈C m×m的列 向量是空间C 的标准正交基。 向量是空间C m的标准正交基。
U1 的列向量是R(A)的标准正交基。 的列向量是R(A)的标准正交基 的标准正交基。 U2的列向量是R ⊥ (A)的标准正交基。 的列向量是R (A)的标准正交基 的标准正交基。 右奇异向量 V2的列向量是空间N(A)的标准正交基。 的列向量是空间N(A)的标准正交基 的标准正交基。 V1的列向量是空间 N ⊥ (A) 的标准正交基。 的标准正交基。
2. 奇异值的定义：(P.197) 奇异值的定义： A∈C m×n，秩(A)=r，设AHA的特征值λ1 ≥ λ2 ≥… ≥ )=r， 的特征值λ λr > 0，λr+1= λr+2 =…=λ n =0.，则矩阵的奇异值 =0.
σi = λi , i =1,2,...,r.
3. 特殊矩阵的奇异值： 特殊矩阵的奇异值：
σr
0
0

O
σr
证明思想： 证明思想： 2 ∆ ，⇒酉矩阵V。 AHA正规，VHAHAV= 正规， 酉矩阵V 0
• 令 ui =
Avi
σi
，i=1，2，…，r，得U1=[u1，u2， … ，ur] =1， 扩充为标准正交基 ⇒酉矩阵U。 酉矩阵U
二、矩阵的奇异值分解
1. 定理3.14 定理3 14(P.201)
任何矩阵A 任何矩阵A∈C m×n，秩(A)=r，则存在酉矩阵 (A)=r， U∈C m×m，V∈C n×n，使得 σ1 σ1 σ σ2 H 0 2 A =U V ∆ = O

3 2 5 2
3 2 − 1 2
1 2 3 2
σ 1 x1 σ x 2 2 M σ r xr 0
变换T 在单位球上的象： 变换TA在单位球上的象： 定理3 定理3.16 (P.88)
四、矩阵的极分解(Polar Decomposition) 矩阵的极分解(Polar
方阵的极分解
设矩阵A 设矩阵A∈C n×n ，则矩阵A的奇异值分解: 则矩阵A的奇异值分解: A=UΣ A=UΣVH=U Σ(UH U)VH = (U Σ UH)UVH=PQ P是半正定的Hermite 矩阵，P相似于Σ 。 是半正定的Hermite 矩阵， 相似于Σ Q是酉矩阵
σ1 σ2 ∆= O σr
0 0 m×n
奇异值分解基本适用于内积空间 奇异值分解基本适用于内积空间中与矩阵秩相关 内积空间中与矩阵秩相关 的问题 A的奇异值分解依赖于正规矩阵A HA 的酉相似分 的奇异值分解依赖于正规矩阵A 解。
一、矩阵A的奇异值及其性质 矩阵A
§3.3 矩阵的奇异值分解
Singular value decomposition (SVD)
§3.3 矩阵的奇异值分解
概述： 概述
矩阵的奇异值分解是酉等价型的分解: 矩阵的奇异值分解是酉等价型的分解: A∈C m×n， 酉等价型的分解 酉矩阵U V∈ 使得A=U ∃酉矩阵U∈C m×m, V∈C n×n , 使得A=U ΣVH。 矩阵A等价于Σ 矩阵A等价于Σ= ∆ 0
1. 矩阵AHA和AAH的性质： 矩阵A 的性质：
A∈C m×n ⇒ Hermite矩阵: AHA∈C n×n， Hermite矩阵 矩阵: AAH∈Cm×m ， 定理3 12 定理3.12(P.197)
1. 秩(A)＝秩(AHA)=秩(AAH)。 (A)＝ A)=秩 2. AHA 和AAH 的非零特征值相等。 的非零特征值相等。 3. AHA和AAH 是半正定矩阵。 是半正定矩阵。 AHA和AAH 的特征值是非负实数：λ1 ≥ λ2 ≥… ≥ λn 的特征值是非负实数：
方阵极分解的意义和应用
描述变换Y=AX的拉伸和扭曲 描述变换Y=AX的拉伸和扭曲
3 2 例题1 求矩阵A= 的极分解， 例题1 求矩阵A= 的极分解， 0 3
依此讨论变换Y=AX的几何特性。 依此讨论变换Y=AX的几何特性。 的几何特性
解:
5 A = PQ = 2 3 2
3. 奇异值分解的展开形式及其应用
H H H A =σ1u1v1 +σ2u2v2 +L σrurvr +
例题：图像的数字化技术与矩阵的奇异值分解 例题 图像的数字化技术与矩阵的奇异值分解
计算机处理图像技术的第一步是图像的数字化 存储技术，即将图像转换成矩阵来存储。 存储技术，即将图像转换成矩阵来存储。 转换的原理是将图形分解成象素(pixels)的一个 转换的原理是将图形分解成象素(pixels)的一个 矩形的数阵， 矩形的数阵，其中的信息就可以用一个矩阵 A=(a A=(a ij)m×n来存储。矩阵A的元素a ij是一个正的 来存储。矩阵A的元素a 它相应于象素的灰度水平(gray 数，它相应于象素的灰度水平(gray level) 的度 量值。 量值。 由于一般来讲， 由于一般来讲，相邻的象素会产生相近的灰度 水平值， 水平值，因此有可能在满足图像清晰度要求的 条件下，将存储一个m 条件下，将存储一个m×n阶矩阵需要存储的 m×n个数减少到n+m+1的一个倍数。 个数减少到n+m+1的一个倍数 的一个倍数。
H r r r
压缩矩阵A的方法是取一个秩为k (k≤r)的矩阵 压缩矩阵A的方法是取一个秩为k (k≤r)的矩阵Ak来 的矩阵A 矩阵A 逼近 矩阵A。 Ak按如下方法选取： 按如下方法选取：
A =σ u v +σ u v +L+σ u v k
H 1 1 1 H 2 2 2
H k k k
有在秩为k (k≤n)的所有矩阵中 矩阵A 有在秩为k (k≤n)的所有矩阵中，矩阵Ak所对应的图象和矩 的所有矩阵中， 所对应的图象最相近。一般的， 越大图象就越清晰。 阵A所对应的图象最相近。一般的，k越大图象就越清晰。经 典的方法是选取接近k 的存储量比A 典的方法是选取接近 k， 使 Ak 的存储量比 A 的存储量减少 20% 20%。
矩阵的奇异值分解和线性变换T 三、矩阵的奇异值分解和线性变换TA
矩阵A 矩阵A∈C m×n可以定义线性变换 TA ： C n →C m 设矩阵的奇异值分解A=U 则将U 设矩阵的奇异值分解A=U ΣVH ，则将U和V的列分 别取做空间C 的基，则变换T 的矩阵为Σ 别取做空间C m 、C n的基，则变换TA的矩阵为Σ: ∀α=VX ∀α=VX ∈C m ,则TAX=(U ΣVH)VX=U(ΣX)=U X=(U VX=U(Σ
正规矩阵A的奇异值等于A的特征值的模长。 正规矩阵A的奇异值等于A的特征值的模长。 正定的Hermite矩阵 的奇异值就是A的特征值。 矩阵A 正定的Hermite矩阵A的奇异值就是A的特征值。 酉等价矩阵的奇异值相等。 酉等价矩阵的奇异值相等。
A和B酉等价，则AHA和BHB酉相似。 酉等价， 酉相似。 奇异值是酉等价的不变性质。(P.198, 例1) 奇异值是酉等价的不变性质。
压缩数字化图形存储量的方法主要是应用矩阵的 奇异值分解和矩阵范数下的逼近。 奇异值分解和矩阵范数下的逼近。如果图象的数 字矩阵A的奇异值分解为：A=UΣ 其展开式： 字矩阵 A的奇异值分解为 ： A=UΣVT， 其展开式：
A =σ u v +σ u v +L+σ u v
H 1 1 1 H 2 2 2
存储矩阵A 只需要存储k个奇异值， 存储矩阵Ak只需要存储k个奇异值，k个m维向 维向量v 的所有分量，共计k(m+n+1)个 量ui和n维向量vj的所有分量，共计k(m+n+1)个 元素。 元素。 如果m=n=1000，存储原矩阵A 如果m=n=1000，存储原矩阵A需要存储 1000×1000个元素 1000×1000个元素。取k=100时，图象已经非 个元素。 k=100时 常清晰了， 常清晰了，这时的存储量是 100(2000+1)=200100个数 100(2000+1)=200100个数。 个数。 和矩阵A比较，存储量减少了80%。 和矩阵较，存储量减少了80%。
例题1 例题1 (P.202，例3) 求矩阵A的奇异值分解， 求矩阵A的奇异值分解，
1 1 A= 0 0 。 −1 −1
T
1 0 1 0 1 1 求矩阵A的奇异值分解， 求矩阵A的奇异值分解，A= 0 0 0
例题2 例题2
2. 矩阵U，V的空间性质 矩阵U 的空间性质：