机器学习之CPA降维

主成分分析降维

from sklearn.datasets import load_iris
from sklearn.decomposition import PCA
import pylab as pl
from itertools import cycleiris = load_iris()  # 再熟悉不过的数据集鸢尾花numSamples, numFeatures = iris.data.shape
print(numSamples)
print(numFeatures)  # 花萼长度，花萼宽度，花瓣长度，花瓣宽度4个属性(4D)
print(list(iris.target_names))

150
4
['setosa', 'versicolor', 'virginica']

X = iris.data
pca = PCA(n_components=2, whiten=True).fit(X)
X_pca = pca.transform(X)

X = iris.data
pca = PCA(n_components=2, whiten=True).fit(X) # 降维到2D
X_pca = pca.transform(X)

n_components：这个参数可以帮我们指定希望PCA降维后的特征维度数目。最常用的做法是直接指定降维到的维度数目，此时n_components是一个大于等于1的整数。当然，我们也可以指定主成分的方差和所占的最小比例阈值，让PCA类自己去根据样本特征方差来决定降维到的维度数，此时n_components是一个（0，1]之间的数。当然，我们还可以将参数设置为"mle", 此时PCA类会用MLE算法根据特征的方差分布情况自己去选择一定数量的主成分特征来降维。我们也可以用默认值，即不输入n_components，此时n_components=min(样本数，特征数)。

whiten ：判断是否进行白化。所谓白化，就是对降维后的数据的每个特征进行归一化，让方差都为1.对于PCA降维本身来说，一般不需要白化。如果你PCA降维后有后续的数据处理动作，可以考虑白化。默认值是False，即不进行白化。

https://blog.csdn.net/cxmscb/article/details/66473130

print(pca.components_) #返回模型的各个特征向量

[[ 0.36138659 -0.08452251  0.85667061  0.3582892 ][ 0.65658877  0.73016143 -0.17337266 -0.07548102]]

print(pca.explained_variance_ratio_)  #返回各个成分各自的方差百分比，第1个投影特征的方差占比高达0.91
print(sum(pca.explained_variance_ratio_))

[0.92461872 0.05306648]
0.9776852063187949

%matplotlib inline
from pylab import *colors = cycle('rgb')
target_ids = range(len(iris.target_names))
pl.figure()
for i, c, label in zip(target_ids, colors, iris.target_names):pl.scatter(X_pca[iris.target == i, 0], X_pca[iris.target == i, 1],c=c, label=label)
pl.legend()
pl.show()

机器学习之CPA降维相关推荐

机器学习算法-PCA降维技术
机器学习算法-PCA降维一.引言在实际的数据分析问题中我们遇到的问题通常有较高维数的特征,在进行实际的数据分析的时候,我们并不会将所有的特征都用于算法的训练,而是挑选出我们认为可能对目标有影响的特 ...
【火炉炼AI】机器学习053-数据降维绝招-PCA和核PCA
[火炉炼AI]机器学习053-数据降维绝招-PCA和核PCA (本文所使用的Python库和版本号: Python 3.6, Numpy 1.14, scikit-learn 0.19, matplo ...
机器学习之三：降维技术
机器学习之三:降维技术如果想了解更多的知识,可以去我的机器学习之路 The Road To Machine Learning通道 1. 基本概念机器学习领域中所谓的降维就是指采用某种映射方法,将原 ...
机器学习笔记之降维(一)维数灾难
机器学习笔记之降维--维数灾难引言回顾:过拟合维度灾难从数值角度观察维数灾难从几何角度观察维度灾难示例1 示例2 引言本节将介绍降维算法,并介绍降维算法的相关背景. 回顾:过拟合我们在 ...
机器学习-Sklearn-04（降维算法PCA和SVD）
机器学习-Sklearn-04(降维算法PCA和SVD) 学习04 1 概述 1.1 从什么叫"维度"说开来对于数组和Series来说,维度就是功能shape返回的结果,shap ...
机器学习笔记之降维(二)样本均值与样本方差的矩阵表示
机器学习笔记之降维--样本均值与样本方差的矩阵表示引言场景介绍样本均值与样本方差样本均值与样本方差的矩阵表示样本均值的矩阵表达样本方差的矩阵表达中心矩阵的性质引言上一节介绍了维数灾难 ...
【机器学习】【降维】局部保持投影（LPP Locality Preserving Projections）
文章目录局部保持投影(LPP) 一.摘要: 二.主要思想三.算法步骤四.算法详解局部保持投影(LPP) 论文:<Locality Preserving Projections>作者 ...
机器学习基础-数据降维
http://blog.itpub.net/29829936/viewspace-2643140/ 2019-05-01 10:06:00 首先需要了解下:什么叫做数据降维,为什么要对数据进行降维,如 ...
机器学习笔记(十)降维和度量学习
10.降维和度量学习 10.1k近邻学习 k近邻(k-NearestNeighbor,简称kNN)学习是一种常用的监督学习方法,其原理是:给定测试样本,基于某种距离度量找出训练集中与其最靠近的k个训练 ...

机器学习之CPA降维

机器学习之CPA降维相关推荐

最新文章

热门文章