《线性代数与矩阵分析》课程小论文矩阵分解及其应用学生姓名:******专业:*******学号:*******指导教师:********2015年12月Little Paper about the Course of "Linear Algebra and MatrixAnalysis"Matrix Decomposition and its ApplicationCandidate:******Major:*********StudentID:******Supervisor:******12,2015中文摘要将特定类型的矩阵拆解为几个矩阵的乘机称为矩阵的分解。
本文主要介绍几种矩阵的分解方法,它们分别是矩阵的等价分解、三角分解、谱分解、奇异值分解和 Fitting 分解等。
矩阵的分解理论和方法是矩阵分析中重要的部分,在求解矩阵的特征值、解线性方程组以及实际工程中有着广泛的运用。
因此,本文将介绍矩阵等价分解、三角分解、奇异值分解的理论运用以及三角分解的工程运用。
关键词:等价分解,三角分解,奇异值分解,运用AbstractMany particular types of matrix are split into the product of a matrix of several matrices, which is called decomposition of matrix. In this paper, we introduce some methods of matrix decomposition, which are equivalent decomposition, triangular decomposition, spectral decomposition, singular value decomposition, Fitting decomposition and so on. The decomposition theory and method of matrix is an important part of matrix analysis, which is widely used in solving the characteristic value, solving linear equations and the practical engineering. In this paper, we will introduce the theory of matrix equivalence decomposition, triangular decomposition, singular value decomposition and the engineering application of triangular decomposition.Key words:Equivalent Decomposition, Triangular Decomposition, Singular Value Decomposition, Application目录中文摘要 (1)ABSTRACT (1)1 绪论 (1)2 矩阵分解的常用方法 (1)2.1矩阵的等价分解 (1)2.2矩阵的三角分解 (2)2.2.1 矩阵的三角分解 (2)2.2.2 矩阵的正三角分解 (2)2.3矩阵的谱分解 (5)2.3.1 单纯形矩阵的谱分解 (5)2.3.2 正规矩阵与酉对角化 (6)2.3.3 正规矩阵的谱分解 (6)2.4矩阵的奇异值分解 (7)2.4.1 矩阵的奇异值分解(SVD分解) (7)2.5矩阵的FITTING分解 (7)3矩阵分解的理论应用 (8)3.1矩阵等价分解的理论应用 (8)3.2矩阵三角分解的理论应用 (8)3.3矩阵奇异值分解的理论应用 (9)4 矩阵分解在递推系统辨识中的应用 (10)4.1递推系统辨识中的困难 (10)4.1.1 病态问题 (10)4.1.2 效率和计算量问题 (10)4.2QR分解的实现方法 (11)4.2.1 GIVENS变换 (13)4.3递推算法 (13)5 结论 (18)6 参考文献 (18)1 绪论矩阵的分解是将一个矩阵分解为较为简单的或具有某种特性的若干矩阵的乘积,这是矩阵理论及其应用中比较常见的方法。
由于矩阵的这些特殊的分解形式,一方面反映了原矩阵的某些数值特性,如矩阵的秩、特征值、奇异值等;另一方面矩阵分解方法与过程往往为某些有效的数值计算方法和理论分析提供了重要的依据,因而使其对分解矩阵的讨论和计算带来极大的方便,这在矩阵理论研究及其应用中都有非常重要的理论意义和应用价值。
在实际应用中,利用矩阵的某些分解来解决一些实际的工程数学问题有明显的效果。
如计算某些特大、特殊矩阵时,矩阵的三角分解非常有作用,可以大大简化很多计算过程。
矩阵的QR (正交三角)分解在状态估计具有很好的计算效率。
谱分解作为一种强有力的工具,在处理矩阵等式和矩阵不等式的过程中有着非常重要的作用。
奇异值分解是研究数学的一种重要方法,并在最优化问题、特征值问题、广义逆矩阵计算、谱估计、控制理论等领域,有极其重要的作用。
矩阵的 Fitting 分解可看作是复矩阵的Jordan 分解在一般域上的推广,它在运筹与控制论方面有至关重要的作用。
2 矩阵分解的常用方法矩阵分解大致可以分为等价分解、三角分解、谱分解、奇异值分解和Fitting 分解等五大类。
2.1矩阵的等价分解定理 1.1:(等价分解)若m nA R⨯∈,则存在m 阶的可逆阵P 及n 阶可逆阵Q 使得r Pdiag(E 0)Q ,,其中r=rank(A) 。
证明:设x r+1,…,x n 是N(A)的基,将其扩充成R m 的基1,,,,r n x x x ,因为Ax 1,…,Ax r 是线性无关的,所以将其扩充成R m 的基11,,,,r r m Ax Ax y y +。
令[]11r r m P Ax Ax y y +=,并且[]110rAQ Ax Ax -=。
于是(,0)r A Pdiag E Q =。
定理 1.2:(满秩分解)若m nA R⨯∈,则存在列满秩阵BϵR mxr 和行满秩阵CϵR rxn 使得A BC =,其中r =rank (A )。
2.2矩阵的三角分解2.2.1 矩阵的三角分解(1)LU 分解三角分解法是将方阵分解成为一个上三角阵和一个下三角阵,这样的分解法称为LU 分解法。
定理2.1:(LU 分解)对一任意方阵n nA C ⨯∈,均可分解为两个三角阵的乘积,即:PA-LU,其中P 为置换阵,下三角形矩阵n nL C⨯∈,上三角形矩阵n nU C⨯∈。
定理2.2:方阵n nA C⨯∈,rankA n =,则A 可以作LU 分解的充要条件是A 的K 阶(K=1,2,…,n-1)的顺序主子式不为零。
定理2.3:方阵n nA C⨯∈,rankA r n =≤,A 的K 阶(K=1,2,…,r )的顺序主子式不为零,则可以作LU 分解(Doolittle 分解)。
证明:当矩阵的阶数为n 时,用数字归纳法来证。
当1n =时,结论显然成立。
假设对n-1阶矩阵结论成立,下面证明对于n 阶矩阵结论也成立。
将A 分块可以得A =[A n−1ECa nn ],令L 1=[E n−10CA n−1−11] 易见A =L 1[A n−1Ba nn −CA n−1−1B ]令a nn −CA n−1−1B =b ,由归纳假设有A n−1=L 2U 2,其中2L 为单位下三角阵,U 2为上三角阵。
于是A =L 1[L 2U2B 0b ]=L 1[L 2001][U 2L 2−1B 0b],令L =L 1[L 201],U =[U 2L 2−1B 0b],则L 为单位下三角阵,U 为上三角阵,故A LU =。
(2)对称阵的Cholesky 分解定理2.4:设A 为对称阵,则存在唯一分解:TA LL =,其中L 为单位下三角阵。
证明:由Doolittle 分解,A 有唯一分解:A LU =;则 A =LU =A T =U T L T ,即LU =U T L T ,有TL U =;所以 A =LL T 。
定理2.5:设A 为对称正定阵,则存在唯一分解:TA LDL =,其中L 为单位下三角阵,D 为对角线元素大于零的对角阵。
2.2.2 矩阵的正三角分解(1)QR 分解若n 阶实非奇异矩阵A 可以分解为正交矩阵Q 与实非奇异上三角矩阵R 的乘积,即A QR =,则称该分解式为矩阵A 的QR 分解;进而A 是m n ⨯列满秩矩阵,若A=QR ,其中Q 是m ×n 矩阵,TQ Q E =(称Q 为列正交矩阵),R 为非奇异上三角矩阵,也称为矩阵A 的QR 分解。
(ⅰ)利用Schmidt 正交化求矩阵的QR 分解Schmidt 正交化方法是矩阵的QR 。
分解最常用的方法,主要依据下面的两个结论: 结论2.6:设A 是n 阶实非奇异矩阵,则存在正交矩阵Q 和实非奇异上三角矩阵R 使A 有QR 分解;且除去相差一个对角元素的绝对值(模)全等于1的对角矩阵因子外,分解是唯一的。
结论2.7:设A 是m n ⨯m ×n 实矩阵,且其n 个列线性无关,则A 有分解A=QR,其中Q 是m ×n 实矩阵,且满足TQ Q E =,R 是n 阶实非奇异上三角矩阵该分解除去相差一个对角元素的绝对值(模)全等于1的对角矩阵因子外是唯一的。
(ⅱ)利用初等变换求矩阵的QR 分解矩阵的初等变换共有三种,其中把数域P 上矩阵的某一行(列)的k 倍加到另一行(列),这种初等变换称为第3种行(列)初等变换(其中k 是P 中任意一个数)。
结论2.8:设A 是一个m ×n 实矩阵,若A 是列满秩矩阵,则T A A 对称正定,因而TA A有唯一的三角分解,式T TA A LDL =,其中L 是单位下三角矩阵;D 是对角元全为正数的对角矩阵。
结论2.9:若m nA R⨯∈是一个列满秩矩阵,则A 总可经过一对第3种行和列的初等变换分解为A QR =的形式。
其中Q 是一个列正交矩阵,R 是一个非奇异上三角矩阵。
(ⅲ)利用Givens(吉文斯)变换求矩阵的QR 分解 一般地,在n 维Euclid 空间n R 中,令12e ,e ,,e n 是它的一个标准正交基,于是在平面i j e e ⎡⎤⎣⎦中的Givens 变换定义如下:定义2.10:设实数c 与s 满足221c s +=,称111111ij csT sc ⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥-⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦(i<j )为Givens 矩阵,也记作(,)ij ij T T c s =。