「特征值分解」和「奇异值分解」的几何意义
发布网友
共1个回答
热心网友
在矩阵分解领域，特征值分解与奇异值分解是两种常见的技术。特征值分解可以视为奇异值分解的特殊情况。我们从变换的角度来解析这两种分解的实际含义。
1. 特征值分解
在大部分教材中，特征值分解的推导通常直接通过公式移项得到，这种证明方法简洁但可能会让读者疑惑：为何通过特定等式就能得到一种普遍的分解方式？简而言之，这种证明方法似乎并未直接解释分解的意义。
回归矩阵变换的本质，当我们证明两个变换相同时，可以通过证明特定关系来实现。因此，我们尝试直接证明相关性质。
证明过程如下：设矩阵A为方阵，一组特征向量为v，且线性无关。显然，v可作为A维线性空间中的基。因此，存在唯一λ，使得A*v=λ*v。根据特征向量的定义，我们得到A*v与λ*v之间的关系。通过一系列推导，最终证明了特征值分解的成立。
解释过程揭示，矩阵A实际上通过三次基变换实现了特征向量的分解。第一次变换将原特征向量组转化为标准正交基，此时基的长度各自拉伸至λ倍，旋转至水平垂直。第二次变换将标准正交基按照特征值进行拉伸，此时基的长度再次拉伸λ倍，角度保持不变。第三次变换将基旋转至原来的位置，长度不变。整个过程中，基的长度总拉伸λ倍，没有进行旋转，这与特征向量的变换完全一致。
2. 奇异值分解
理解了特征值分解后，再探讨奇异值分解变得相对容易。当无法找到在变换前后方向不变的向量时，我们引入奇异向量的概念。我们期望找到一组标准正交的向量，在矩阵变换前后保持正交性质，仅发生长度伸缩。通过引入引理，我们证明了存在一组标准正交向量组，使得矩阵变换后仍保持正交性，且向量的长度按照奇异值进行伸缩。
通过奇异值分解，我们实现了矩阵变换的角度解释。其中，A的变换意义是将右奇异向量转化为标准正交基；B的变换意义是将标准正交基转换为标准正交基并进行拉伸操作；C的变换意义是对拉伸后的标准正交基进行旋转至左奇异向量。
特征向量为何从矩阵A中得到？通过奇异值分解的结论，我们揭示了这一问题的答案。通过变换过程，我们将矩阵A分解为两次变换，第一次将右奇异向量转换为左奇异向量，长度伸长λ倍，第二次将左奇异向量转换回右奇异向量，长度再次伸长λ倍。在两次变换后，右奇异向量的位置不变，长度总伸长λ倍，这与特征向量的定义一致。
值得一提的是，在特征值与奇异值的比较中，发现它们在旋转变换上存在相反的关系。当矩阵为满秩方阵且正奇异值均为1时，恰好有特征值等于奇异值的平方。
