SVD分解(奇异值分解),本应是本科生就掌握的方法,然而却经常被忽视.实际上,SVD分解不但很直观,而且极其有用.SVD分解提供了一种方法将一个矩阵拆分成简单的,并且有意义的几块.它的几何解释可以看做将一个空间进行旋转,尺度拉伸,再旋转三步过程. 首先来看一个对角矩阵, 几何上, 我们将一个矩阵理解为对于点 (x, y) 从一个平面到另一个平面的映射: 下图显示了这个映射的效果: 平面被横向拉伸了3倍,纵向没有变化. 对于另一个矩阵 它的效果是 这样一个变化并不是很好描述,然而当我们将坐标系旋转