数据降维——主成分分析

2024-06-05 22:17:36

1、作用

主成分分析将多个有一定相关性的指标进行线性组合，以最少的维度解释原数据中尽可能多的信息为目标进行降维，降维后的各变量间彼此线性无关，最终确定的新变量是原始变量的线性组合，且越往后主成分在方差中的比重也小，综合原信息的能力越弱，与因子分析不同的是，因子分析是利用少数几个公共因子去解释较多个要观测变量中存在的关系，它不是对原始变量的重新组合。

2、输入输出描述

输入：2 个或两个以上的定量变量（假设为 N 个变量）
输出:最低可降维成 1 维（一个变量，一般用于综合评价），最多可降维成 N 个变量（一般用于数据脱敏），同时可以获取降维后各个变量的组成权重，用于代表原先变量的数据保留情况。

3、案例示例

现在某银行有一张100个变量的用户属性数据表，需要在保证数据的原有信息的损失率最小情况，进行脱敏与降维。

4、建模步骤

主成分分析法是运用“降维”思想，把多个指标变换成少数综合指标的多元统计方法，这里的综合指标就是主成分。每个主成分都是原始变量的线性组合，彼此相互独立，并保留了原始变量绝大部分信息。其本质是通过原始变量的相关性，寻求相关变量的综合替代对象，并且保证了转化过程中的信息损失最小。
根据标准化后的数据集计算协方差矩阵Ｒ:

计算矩阵Ｒ的特征值 λ１ ≥λ２ ≥…≥λｎ ≥ ０及对应的特征向量 u１ ,ｕ２ ,…,ｕｎ ,其中ｕｊ＝ (u１ j,ｕ２ j, …,ｕnj) ,ｕ nj 表示第 j 个特征向量的第 n 个分量; 由特征向量组成 n 个新的指标变量:

式中,ｙ 1 是第 1 主成分,ｙ 2 是第 2 主成分,…,ｙ n 是第 n 主成分。计算各主成分ｙ j 贡献率ｂ j(j=1,2,...,n) 及ｙ 1,ｙ 2 ,…,ｙ n (ｐ ≤ ｎ)的累计贡献率 $\alpha _{p}$ 。

数据降维——主成分分析相关推荐

数据降维--------主成分分析（PCA）算法原理和实现学习笔记
1 主成分分析背景 '''PCA计算步骤(思想是把数据投影到方向向量使数据集的特征向量到方向向量的垂线长度最短) 1.去平均 2.计算协方差矩阵 3.计算协方差矩阵的特征向量和特征值 4.将特征值从小 ...
多元统计分析——数据降维——因子分析（FA）
一.因子分析简介 1.定义 1904年,英国心理学家CharlesSpearman研究了33名学生在古典语.法语和英语三门成绩,三门成绩的相关性系数如下: 三门成绩的高度相关会不会是由于它们三个成绩的 ...
matlab 数据降维和重构_核主成分分析（Kernel PCA, KPCA）的MATLAB 实现
前言核主成分分析 (KPCA) 是一种非线性数据处理方法,其核心思想是通过一个非线性映射把原始空间的数据投影到高维特征空间, 然后在高维特征空间中进行基于主成分分析 (PCA) 的数据处理.KPCA ...
对pca降维后的手写体数字图片数据分类_python机器学习API介绍13: 数据降维及主成分分析...
数据降维概述:数据降维是机器学习领域中重要的内容,所谓的降维就是采用某种映射方法,将高维空间中的数据点映射到低维的空间中.其本质是学习一个映射函数f: x->y.其中x是原始数据点的表述,目前多 ...
stats | 数据降维之主成分分析（PCA）
在使用数据建模时,过多的变量会增加计算复杂性,同时也使结果解释变得困难.主成分分析(Principal Components Analysis,PCA)通过对原变量进行线性组合生成新的变量,可以使得纳 ...
python图像压缩主成分分析实例_python机器学习API介绍13: 数据降维及主成分分析...
数据降维概述:数据降维是机器学习领域中重要的内容,所谓的降维就是采用某种映射方法,将高维空间中的数据点映射到低维的空间中.其本质是学习一个映射函数f: x->y.其中x是原始数据点的表述,目前多 ...
主成分分析实战篇：南极考察站检测数据降维
1.主成分分析应用背景及目标: 1.1 背景分析我们希望可以从南极洲站点监测数据中得到南极洲地表温度的计算公式,进而解释分析气候变暖的内在原因.为了能够得带南极洲地表温度更多方面,更完整的信息,需要 ...
机器学习：基于主成分分析（PCA）对数据降维
机器学习:基于主成分分析(PCA)对数据降维作者:AOAIYI 作者简介:Python领域新星作者.多项比赛获奖者:AOAIYI首页
数据降维1：主成分分析法思想及原理（配图版）
0x01 什么是主成分分析法 PCA(Principal Component Analysis),即主成分分析方法,是一种使用最广泛的数据降维算法(非监督的机器学习方法). 其最主要的用途在于&quo ...

最新文章

热门文章