推荐算法之SVD算法

特征值与奇异值

1）特征值

2）奇异值

推荐系统中的SVD算法

SVD算法优缺点

通过SVD对数据的处理，我们可以使用小得多的数据集来表示原始数据集，这样做实际上是去除了噪声和冗余信息，以此达到了优化数据、提高结果的目的。

隐形语义索引：最早的SVD应用之一就是信息检索，我们称利用SVD的方法为隐性语义检索（LSI）或隐形语义分析（LSA）。
推荐系统：SVD的另一个应用就是推荐系统，较为先进的推荐系统先利用SVD从数据中构建一个主题空间，然后再在该空间下计算相似度，以此提高推荐的效果。

特征值与奇异值

特征值分解和奇异值分解在机器学习领域都是属于常用的方法，两者有着很紧密的关系。特征值分解和奇异值分解的目的都是一样，就是提取出一个矩阵最重要的特征。

1）特征值

首先，要明确的是，一个矩阵其实就是一个线性变换。因为一个矩阵乘以一个向量后得到的向量，其实就相当于将这个向量进行了线性变换，举例如下：

矩阵M乘以一个向量(x,y)的结果是

由于矩阵M是对称的，所以矩阵M相当于一个对x、y轴的方向一个拉伸变换。每一个对角线上的元素将会对一个维度进行拉伸变换，当值>1时是拉长，当值<1时是缩短：

当矩阵M不对称时，矩阵M相当于平面上对一个轴进行的拉伸变换：

矩阵M描述的坐标轴变化如下：

在上图中，可以看到可以用多种方式描述变化的方向，但蓝色的箭头是一个最主要的变化方向。如果我们想要描述好一个变换，那我们就描述好这个变换主要的变化方向就好了。

如果说一个向量v是方阵A的特征向量，将一定可以表示成下面的形式：

λ就被称为特征向量v对应的特征值，一个矩阵的一组特征向量是一组正交向量。特征值分解是将一个方阵A分解成下面的形式：

其中Q是这个矩阵A的特征向量组成的矩阵；Σ是一个对角阵，每一个对角线上的元素就是一个特征值。

在特征值分解的式子，分解得到的Σ矩阵是一个对角矩阵，里面的特征值是由大到小排列的，而这些特征值所对应的特征向量就是描述了这个矩阵从主要到次要的变化排列。

当矩阵是高维的情况下，那么矩阵可以认为是高维空间下的一个线性变换。这个变换也同样有很多的变换方向，我们通过特征值分解得到的前N个特征向量，那么就对应了这个矩阵最主要的N个变化方向。我们利用这前N个变化方向，就可以近似这个矩阵作出的变换，也就是之前说的，提取这个矩阵最重要的特征。

总结一下，特征值分解可以得到特征值与特征向量。特征值表示的是这个特征到底有多重要，而特征向量表示这个特征具体是什么。可以将每一个特征向量理解为一个线性的子空间，我们可以利用这些线性的子空间干很多的事情。不过，特征值分解也有很多的局限，比如说变换的矩阵必须是方阵。

2）奇异值

特征值分解是一个提取矩阵特征很不错的方法，但是它只能作用于方阵。在现实的世界中，我们看到的大部分矩阵都不是方阵，比如说有N个学生，每个学生有M科成绩，这样形成的一个N * M的矩阵就不可能是方阵。我们怎样才能描述这样普通的矩阵的重要特征呢？奇异值分解可以用来干这个事情，奇异值分解是一个能适用于任意的矩阵的一种分解的方法。假设A是一个N * M的矩阵：