数据归一化的原因

如下图所示:

样本间的距离被发现时间所主导。这样就会使数据不准确,因此我们的解决方案就是将所有的数据映射到同一尺寸,接下来我们介绍两种方法。

最值归一化(normalization)

定义:把所有数据映射到0-1之间。

注:适用于分布有明显边界的情况,但是受outlier影响较大。
代码:

import numpy as np
import matplotlib.pyplot as plt
X = np.random.randint(0, 100, (50, 2))
X = np.array(X, dtype = float)
X[:,0] = (X[:,0] - np.min(X[:,0])) / (np.max(X[:,0]) - np.min(X[:,0]))
X[:,1] = (X[:,1] - np.min(X[:,1])) / (np.max(X[:,1]) - np.min(X[:,1]))

注:由于numpy只能存在一种数据类型,所以我们需要将数据类型转化为float,否则归一化完的数据无法正确显示。

然后我们将归一化的数据绘图:

plt.scatter(X[:,0], X[:,1])
plt.show()


可以明显的看出所有数据在0-1之间。

均值方差归一化(standardization)

定义:把所有数据归一到均值为0方差为1的分布中

适用条件:数据分布没有明显的边界;有可能存在极端数据值。
代码:

X2 = np.random.randint(0, 100, (50, 2))
X2 = np.array(X, dtype = float)
X2[:,0] = (X2[:,0] - np.mean(X2[:,0])) / np.std(X2[:,0])
X2[:,1] = (X2[:,1] - np.mean(X2[:,1])) / np.std(X2[:,1])

然后我们绘图可得:

plt.scatter(X2[:,0],X2[:,1])
plt.show()


可以看出数据并不是在0-1之间。
接下来我们看下他的均值与标准差:

可以很明确的看出均值几乎等于0,而标准差就是为1。

机器学习之数据归一化(Feature Scaling)相关推荐

  1. CS229 1 .线性回归与特征归一化(feature scaling)

    线性回归是一种回归分析技术,回归分析本质上就是一个函数估计的问题(函数估计包括参数估计和非参数估计),就是找出因变量和自变量之间的因果关系.回归分析的因变量是应该是连续变量,若因变量为离散变量,则问题 ...

  2. 机器学习之数据归一化

    为何要经常对数据做归一化: 归一化后加快了梯度下降求最优解的速度: 归一化有可能提高精度. 加快了梯度下降  如下图所示,蓝色的圈圈图代表的是两个特征的等高线.其中左图两个特征X1和X2的区间相差非常 ...

  3. 机器学习(一)- feature scaling

    feature scaling feature scaling(特征缩放) 的思想就是将所选特征的value都缩放到一个大致相似的范围.这样做的目的是为了加快收敛,减少采用梯度下降算法迭代的次数.那么 ...

  4. 机器学习 之数据归一化

    文章目录 一.为什么要进行数据归一化 二.解决方法:将所有数据映射到同一个尺度 1.最值归一化 normalization 2.均值方差归一化 standardization 1.公式 2.公式说明: ...

  5. 机器学习数据处理-数据归一化

    目录 方差 标准差 相对标准偏差 正态分布 数据归一化 方差 概念 描述了一组数据距离他们平均值的离散程度 场景 如果一个班的平均分是50分,可能有两种极端情况: 大部分人都在50分左右附近徘徊 一半 ...

  6. 【机器学习】数据归一化全方法总结:Max-Min归一化、Z-score归一化、数据类型归一化、标准差归一化等

    数据标准化(归一化)处理是数据挖掘的一项基础工作,不同评价指标往往具有不同的量纲和量纲单位,这样的情况会影响到数据分析的结果,为了消除指标之间的量纲影响,需要进行数据标准化处理,以解决数据指标之间的可 ...

  7. 机器学习之数据的偏态分布和数据的标准化

    目录 一.偏态分布 1.何为数据的偏态分布? 2.构建模型时为什么要尽量将偏态数据转换为正态分布数据? 3.如何检验样本是否服从正态分布? 4 .如果不是正态分布怎么办? 5.采用库函数skew进行数 ...

  8. 机器学习中数据预处理——标准化/归一化方法(scaler)

    由于工作问题比较忙,有两周没有总结一下工作学习中遇到的问题. 这篇主要是关于机器学习中的数据预处理的scaler变化. 工作中遇到的问题是:流量预测问题,拿到的数据差距非常大,凌晨的通话流量很少几乎为 ...

  9. 机器学习中的特征缩放(feature scaling)浅谈

    引言 在运用一些机器学习算法的时候不可避免地要对数据进行特征缩放(feature scaling),比如:在随机梯度下降(stochastic gradient descent)算法中,特征缩放有时能 ...

最新文章

  1. LeetCode: Search a 2D Matrix
  2. ThinkPad L440 FN键设置
  3. CRM business roles and PFCG roles
  4. linux下des加密命令,linux下的DES加密
  5. Linux原始网络编程,Linux操作系统网络编程 原始套接字 (1)
  6. android数据持久化框架,Android:数据持久化、Environment、SharedPreferences、内部存储internalStorage...
  7. java图片转ASCII码_将图片转化成对应的Ascii字符图片
  8. 微软开始受到越来越多尊重 谁是幕后功臣?
  9. vue3开启eslint之后报错:error Parsing error: ‘>‘ expected
  10. 扔物线新一期 HenCoder Plus 高级进阶课程开课喽!
  11. 手动保存刷新微星主板BIOS图解教程
  12. 敏捷测试的方法和实践
  13. android studio静态界面设计,2.3 使用Android Studio 简单设计UI界面
  14. spring boot电影院售票与管理系统 毕业设计源码论文+答辩PPT
  15. 悬浮窗java_Android悬浮窗示例(floatingwindow)
  16. 大数据分析案例-基于逻辑回归算法构建垃圾邮件分类器模型
  17. 半导体器件物理【8】平衡半导体 —— 平衡状态、统计力学
  18. word图文混排复制到xhEditor图片不显示
  19. ice通信原理_通信原理_知到网课答案
  20. ⼤⼚H5 开发概述-H5 开发及其前世今⽣

热门文章

  1. 关于企业微信中开发第三方应用遇到的退出问题
  2. 全球与中国触摸屏IC市场现状及未来发展趋势
  3. 04-JavaScript的操作
  4. JMeter Sampler之BeanShellSampler的使用
  5. 机器学习有哪些应用?可以用来做什么?
  6. 以太坊区块链浏览器(一)拿来就用主义
  7. 网易云音乐 2.1.0
  8. 第二章 基本Bean的装载
  9. 详谈软件架构设计(一)之软件架构的概念以及风格-上
  10. 分治算法,逆序对,三维偏序与CDQ分治