特征分解与奇异值分解：例子说明

每次百度别人的解释说明都感觉理解起来比较麻烦，可能是专业词汇太多而我不懂吧，我还是喜欢用数值的例子来说明一些问题，可以不懂具体原理，只需要知道结果是什么样的就好啦！（代码都是用matlab写的）

给定一个2*3 (m*n) 的矩阵A，

$A=\begin{bmatrix} 4 & 4& 4\\ -3& 2& 3 \end{bmatrix}$

计算它的奇异值分解 $A=U\Sigma V^T$

 [U,S,V] =svd(A);

得到 $U(m*m), \Sigma (m*n), V(n*n)$

$U=\begin{bmatrix} -0.9622 & -0.2723 \\ -0.2723 & 0.9622 \end{bmatrix}$

$\Sigma =\begin{bmatrix} 7.0897 & 0 &0\\ 0 & 4.4425 & 0 \end{bmatrix}$

$V=\begin{bmatrix} -0.4276 & -0.8950 & 0.1270 \\ -0.6197 & 0.1880 & -0.7620\\ -0.6581 & 0.4046 & 0.6350 \end{bmatrix}$

然后再来看看 $AA^T$ 的特征分解

[P,D] = eig(A*A')

$P=\begin{bmatrix} 0.2723 &-0.9622 \\ -0.9622 & -0.2723 \end{bmatrix}$

$D=\begin{bmatrix} 19.7357 & 0\\ 0 & 50.2643 \end{bmatrix}$

发现P其实就是U，D中对角线元素等于 $\Sigma$ 对角元素的平方

再看看 $A^TA$ 的特征分解

[Q,D] = eig(A'*A)

$Q=\begin{bmatrix} -0.1270 & 0.8950 & 0.4276 \\ 0.7620 & -0.1880 & 0.6197 \\ -0.6350 & -0.4046 & 0.6581 \end{bmatrix}$

$D=\begin{bmatrix} 0 & 0 &0 \\ 0 & 19.7357 & 0 \\ 0& 0& 50.2643 \end{bmatrix}$

然后又发现Q其实就是V，D中对角元素也等于 $\Sigma$ 对角元素的平方。

所以特征值其实就是奇异值的平方，只不过特征值的顺序是从小到大排的，奇异值的顺序是从大到小排。按同样的顺序看的话， $A^TA$ 的特征向量就是A的右奇异向量， $AA^T$ 的特征向量就是A的左奇异向量。

这也是为什么在网上找到的主成分分析(principal component analysis, PCA)程序里用特征分解eig有的用奇异值分解svd,从根本上来说这俩其实是一样的。

特征分解与奇异值分解：例子说明相关推荐

计算机图形学一(补充)：特征分解和奇异值分解的几何解释
特征分解与奇异值分解的几何解释在计算机图形学一中介绍了一些具体的变换矩阵,如旋转,缩放,位移等等,但这些矩阵都有特定的形式,那么如何去理解一个任意的2维或3维变换矩阵的几何意义呢,在本节中将会利用特 ...
特征分解和奇异值分解
特征分解和奇异值分解在机器学习的应用中经常出现,在学习线性代数的时候也学习过.线性代数学完之后,之后去按照步骤去求解特征值和特征向量,也没搞明白特征值和特征向量究竟有什么作用.这篇文章的主要内容包括: ...
矩阵分析之实矩阵分解（1）特征分解与奇异值分解SVD
矩阵分析之实矩阵分解(1)特征分解与奇异值分解前言特征分解(又称谱分解.对角化) 奇异值分解SVD SVD的进一步理解前言本篇开始学习记录矩阵分解内容.需要说明的是,目前我所触及的矩阵基本上 ...
机器学习的数学基础 - 特征分解与奇异值分解
特征分解奇异值分解(Singular Value Decomposition, SVD)
特征分解与奇异值分解
特征分解特征分解是针对方阵的,奇异值分解是应用于矩阵的. 方阵AAA的特征向量是指与AAA相乘后相当于对原向量进行缩放的非0向量vvv: Av=λvAv = \lambda v Av=λv 标量λ\ ...
特征分解，奇异值分解（SVD）和隐语义模型（LFM）
[摘要] 特征分解-->奇异值分解(SVD)-->隐语义模型(LFM),三个算法在前者的基础上推导而成,按顺序先后出现.三者均用于矩阵降维.其中: 特征分解可用于主成分分析.(可参考博主文 ...
人工智能基础-特征分解与奇异值分解的的几何意义
https://www.toutiao.com/a6705374672046785038/ 特征分解(Eigendecomposition),又称谱分解(Spectral decomposition) ...
聊聊特征分解和SVD分解
矩阵分解矩阵分解(decomposition,factorization):将矩阵拆分为多个矩阵的乘积的运算.矩阵的分解包括以下几种: 特征分解 SVD分解 PCA QR分解 LU分解极分解矩阵 ...
串糖葫芦了：矩阵乘法/线性变换 + 特征分解/奇异值分解（SVD） + PCA（请假设中间串了一根棍儿O(∩_∩)O）
文章目录写在前面可以开始串山楂了第一个山楂:矩阵变换对应旋转例子第二个山楂:矩阵变换对应缩放的例子第三个山楂:只有方阵才有的特征分解 Eigen Decomposition 第四个山楂:从方 ...

特征分解与奇异值分解：例子说明

特征分解与奇异值分解：例子说明相关推荐

最新文章

热门文章