平均值、标准差、相关系数、回归线及最小二乘法

相关性

线性相关

数据在一条直线附近波动,则变量间是线性相关

非线性相关

数据在一条曲线附近波动,则变量间是非线性相关

不相关

数据在图中没有显示任何关系,则不相关

平均值

N个数据 的平均值计算公式:

标准差

标准差表示了所有数据与平均值的平均距离,表示了数据的散度,如果标准差小,表示数据集中在平均值附近,如果标准差大则表示数据离标准差比较远,比较分散。标准差计算公式:

x、y两个变量组成了笛卡尔坐标系中的一个坐标(x,y),这个坐标标识了一个的位置。

各包含n个常量的X,Y两组数据在笛卡尔坐标系中以n个点来进行表示。

相关系数

相关系数用字母r来表示,表示两组数据线性相关的程度(同时增大或减小的程度),从另一方面度量了点相对于标准差的散布情况,它没有单位。包含n个数值的X、Y两组数据的相关系数r的计算方法:

简单的说,就是 r=[(以标准单位表示的 x )X(以标准单位表示的 y )]的平均数

根据上面点的定义,将X、Y两组数据的关系以点的形式在笛卡尔坐标系中画出,SD线表示了经过中心点(以数据组X、Y平均值为坐标的点),当r>0时,斜率=X的标准差/Y的标准差;当r<0时,斜率=-X的标准差/Y的标准差;的直线。通常用SD线来直观的表示数据的走向:

1、当r<0时,SD线的斜率小于0时,则说明数据负相关,即当x增大时y减少。

2、当r>0时,SD线的斜率大于0时,则说明数据正相关,此时当x增大时y增大。

3、相关系数r的范围在[-1,1]之间,当r=0时表示数据相关系数为0(不相关)。当r=正负1时,表示数据负相关,此(x,y)点数据都在SD线上。

4、r的值越接近正负1说明(x,y)越靠拢SD线,说明数据相关性越强,r的值越接近0说明(x,y)点到SD线的散度越大(越分散),数据相关性越小。

回归方法主要描述一个变量如何依赖于另一个变量。y对应于x的回归线描述了在不同的x值下y的平均值情况,它是这些平均值的光滑形式,如果这些平均值刚好在一条直线上,则这些平均值刚好和回归线重合。通过回归线,我们可以通过x值来预测y值(已知x值下y值的平均值)。下面是y对应于x的回归线方程:

简单的说,就是当x每增加1个SD,平均而言,相应的y增加r个SD。

从方程可以看出:

1、回归线是一条经过点 ,斜率为 的直线。

2、回归线的斜率比SD线小,当r=1或-1时,回归线和SD线重合。

当用回归线从x预测y时,实际值与预测值之间的差异叫预测误差。而均方根误差就是预测误差的均方根。它度量回归预测的精确程度。y关于x的回归线的均方根误差用下面的公式进行计算:

由公式可以看出,当r越接近1或-1时,点越聚集在回归线附近,均方根误差越小;反之r越接近0时,点越分散,均方根误差越大。

最小二乘法寻找一条直线来拟合所有的点,使得这条直线到所有的点之间的均方根误差最小。可以看到,当求两个变量之间的关系时,最小二乘法求出的直线实际上就是回归线。只不过表述的侧重点不同:

1、最小二乘法强调求出所有点的最佳拟合直线。

2、回归线则是在SD线的基础上求出的线,表示了样本中已知变量x的情况下变量y的平均值。

由以上可知,一个散点图可以用五个统计量来描述:

1、所有点x值的平均数,描述了所有点在x轴上的中心点。

2、所有点x值的SD,描述了所有点距离x中心点的散度。

3、所有点y值的平均数,描述了所有点在y轴上的中心点。

4、所有点y值的SD,描述了所有点距离y中心点的散度。

5、相关系数r,基于标准单位,描述了所有点x值和y值之间的关系。

相关系数r将平均值、标准差、回归线这几个概念联系起来:

1、r描述了相对于标准差,点沿SD线的群集程度。

2、r说明了y的平均数如何的依赖于x --- x每增加1个x标准差,平均来说,y将只增加r个y标准差。

3、r通过均方根误差公式,确定了回归预测的精确度。

注意:以上相关系数、回归线、最小二乘法的计算要在以下两个条件下才能成立:

1、x、y两组样本数据是线性的,如果不是线性的先要做转换。

2、被研究的两组样本数据之间的关系必须有意义。

相关性、平均值、标准差、相关系数、回归线及最小二乘法相关推荐

  1. 均方根误差(RMSE),平均绝对误差(MAE),标准差(Standard Deviation);平均值、标准差、相关系数、回归线及最小二乘法

    均方根误差(RMSE),平均绝对误差(MAE),标准差(Standard Deviation) RMSE Root Mean Square Error,均方根误差 是观测值与真值偏差的平方和与观测次数 ...

  2. 平均值、标准差、相关系数、回归线及最小二乘法

    相关性 线性相关 数据在一条直线附近波动,则变量间是线性相关 非线性相关 数据在一条曲线附近波动,则变量间是非线性相关 不相关 数据在图中没有显示任何关系,则不相关 平均值 N个数据 的平均值计算公式 ...

  3. 典型相关分析(Canonical correlation analysis)(二):原始变量与典型变量之间的相关性 、典型相关系数的检验

    典型相关分析系列博文: 典型相关分析(Canonical correlation analysis)(一):基本思想 .复相关系数.偏相关系数 典型相关分析(Canonical correlation ...

  4. r语言三倍标准差法去除异常值,再计算平均值标准差

    博主自己没能找到好的函数去除异常值,于是自己写好了一个简单实用的包.可以通过三倍标准差法删去每一行的异常值,然后计算出平均值标准差. 函数总共四个参数: file=  要计算的文件路径,在工作目录可以 ...

  5. 特征选择 | MATLAB实现特征变量相关性分析(Pearson相关系数,Kendall相关系数和Spearman相关系数)

    特征选择 | MATLAB实现特征变量相关性分析(Pearson相关系数,Kendall相关系数和Spearman相关系数) 目录 特征选择 | MATLAB实现特征变量相关性分析(Pearson相关 ...

  6. 分析数据相关性的三大相关系数

    需要一种方法评价两组数据之间的相关性,有皮尔森(pearson)相关系数,斯皮尔曼(spearman)相关系数和肯德尔(kendall)相关系数.在这三大相关系数中,spearman和kendall属 ...

  7. 相关性分析 协方差 相关系数

    在机器学习当中,进行特征选择.特征筛选时都会使用特征之间的相关性分析.比如有两个特征相关程度非常大,几乎都是同一个意思,那么就可以只保留一个特征.简单总结一下一些计算变量之间相关性的指标. 协方差 协 ...

  8. python有哪些软件包用来考察变量之间的相关性_Python计算数据相关系数(person、Kendall、spearman)...

    pandas中DataFrame对象corr()方法的用法,该方法用来计算DataFrame对象中所有列之间的相关系数(包括pearson相关系数.Kendall Tau相关系数和spearman秩相 ...

  9. python计算平均值标准差和中位数_如何使用python求平均数、方差、中位数

    python求平均数.方差.中位数的例子 CalStatistics.py def getNum(): #获取用户不定长度的输入 nums = [] iNumStr = input("请输入 ...

最新文章

  1. as死机了怎么办_Acer AS574/G开机死机故障排除手记
  2. python爬虫(二)_HTTP的请求和响应
  3. WCF 第八章 安全 基于证书的加密
  4. 栈,堆,值类型,引用类型,装箱,拆箱 .NET中 6个重要的概念
  5. android 反射调用方法可不可以重载,使用Java进行反射投射和重载方法调度
  6. 解读设计模式----简单工厂模式(SimpleFactory Pattern),你要什么我就给你什么
  7. 什么是CDN ,CDN的作用
  8. 华为确认与三家EDA公司停止合作;开源安卓恶意软件窃取用户隐私信息;三星高通回应7纳米EUV工艺问题……...
  9. WAMP + Zend Framework + Zend Studio For Eclipse 开发环境搭建
  10. iphone使用linux命令apt-get也没有问题
  11. 获取MOSS页面中控件使用的样式(转)
  12. 攻防世界 Web_php_include write up
  13. 总结:计算机组成与设计(硬件/软件接口)-第四章 处理器
  14. 拼多多打印订单有哪些软件?哪个软件好用呢?
  15. 常用Win32 API函数
  16. vue遍历Map集合
  17. java 方法重载 应用举例,Java中的方法重载应用
  18. 三菱FX3G和台达,施耐德两台变频器的通讯示例
  19. react 最佳入门_详解React-Todos入门例子
  20. eclipse vail_屏幕快照:Windows Home Server Beta“ Vail”安装过程

热门文章

  1. 闭区间套定理(Nested intervals theorem)讲解1
  2. Linux应用程序解决方案
  3. 移动H5首屏秒开优化方案
  4. 小不点需要修改的地址
  5. 14、详解java同步工具类CountDownLatch
  6. redis实现抢红包功能
  7. dedecms网银在线支付接口
  8. oracle序时账是什么,序时账和明细账到底有什么区别
  9. 指尖上行--移动前端开发进阶之路(读书笔记)----1.3常用库和框架
  10. 基于JSP的汽车销售管理系统设计