相关性、平均值、标准差、相关系数、回归线及最小二乘法
平均值、标准差、相关系数、回归线及最小二乘法
相关性
线性相关
数据在一条直线附近波动,则变量间是线性相关
非线性相关
数据在一条曲线附近波动,则变量间是非线性相关
不相关
数据在图中没有显示任何关系,则不相关
平均值
N个数据 的平均值计算公式:
标准差
标准差表示了所有数据与平均值的平均距离,表示了数据的散度,如果标准差小,表示数据集中在平均值附近,如果标准差大则表示数据离标准差比较远,比较分散。标准差计算公式:
x、y两个变量组成了笛卡尔坐标系中的一个坐标(x,y),这个坐标标识了一个点的位置。
各包含n个常量的X,Y两组数据在笛卡尔坐标系中以n个点来进行表示。
相关系数
相关系数用字母r来表示,表示两组数据线性相关的程度(同时增大或减小的程度),从另一方面度量了点相对于标准差的散布情况,它没有单位。包含n个数值的X、Y两组数据的相关系数r的计算方法:
简单的说,就是 r=[(以标准单位表示的 x )X(以标准单位表示的 y )]的平均数
根据上面点的定义,将X、Y两组数据的关系以点的形式在笛卡尔坐标系中画出,SD线表示了经过中心点(以数据组X、Y平均值为坐标的点),当r>0时,斜率=X的标准差/Y的标准差;当r<0时,斜率=-X的标准差/Y的标准差;的直线。通常用SD线来直观的表示数据的走向:
1、当r<0时,SD线的斜率小于0时,则说明数据负相关,即当x增大时y减少。
2、当r>0时,SD线的斜率大于0时,则说明数据正相关,此时当x增大时y增大。
3、相关系数r的范围在[-1,1]之间,当r=0时表示数据相关系数为0(不相关)。当r=正负1时,表示数据负相关,此(x,y)点数据都在SD线上。
4、r的值越接近正负1说明(x,y)越靠拢SD线,说明数据相关性越强,r的值越接近0说明(x,y)点到SD线的散度越大(越分散),数据相关性越小。
回归方法主要描述一个变量如何依赖于另一个变量。y对应于x的回归线描述了在不同的x值下y的平均值情况,它是这些平均值的光滑形式,如果这些平均值刚好在一条直线上,则这些平均值刚好和回归线重合。通过回归线,我们可以通过x值来预测y值(已知x值下y值的平均值)。下面是y对应于x的回归线方程:
简单的说,就是当x每增加1个SD,平均而言,相应的y增加r个SD。
从方程可以看出:
1、回归线是一条经过点 ,斜率为 的直线。
2、回归线的斜率比SD线小,当r=1或-1时,回归线和SD线重合。
当用回归线从x预测y时,实际值与预测值之间的差异叫预测误差。而均方根误差就是预测误差的均方根。它度量回归预测的精确程度。y关于x的回归线的均方根误差用下面的公式进行计算:
由公式可以看出,当r越接近1或-1时,点越聚集在回归线附近,均方根误差越小;反之r越接近0时,点越分散,均方根误差越大。
最小二乘法寻找一条直线来拟合所有的点,使得这条直线到所有的点之间的均方根误差最小。可以看到,当求两个变量之间的关系时,最小二乘法求出的直线实际上就是回归线。只不过表述的侧重点不同:
1、最小二乘法强调求出所有点的最佳拟合直线。
2、回归线则是在SD线的基础上求出的线,表示了样本中已知变量x的情况下变量y的平均值。
由以上可知,一个散点图可以用五个统计量来描述:
1、所有点x值的平均数,描述了所有点在x轴上的中心点。
2、所有点x值的SD,描述了所有点距离x中心点的散度。
3、所有点y值的平均数,描述了所有点在y轴上的中心点。
4、所有点y值的SD,描述了所有点距离y中心点的散度。
5、相关系数r,基于标准单位,描述了所有点x值和y值之间的关系。
相关系数r将平均值、标准差、回归线这几个概念联系起来:
1、r描述了相对于标准差,点沿SD线的群集程度。
2、r说明了y的平均数如何的依赖于x --- x每增加1个x标准差,平均来说,y将只增加r个y标准差。
3、r通过均方根误差公式,确定了回归预测的精确度。
注意:以上相关系数、回归线、最小二乘法的计算要在以下两个条件下才能成立:
1、x、y两组样本数据是线性的,如果不是线性的先要做转换。
2、被研究的两组样本数据之间的关系必须有意义。
相关性、平均值、标准差、相关系数、回归线及最小二乘法相关推荐
- 均方根误差(RMSE),平均绝对误差(MAE),标准差(Standard Deviation);平均值、标准差、相关系数、回归线及最小二乘法
均方根误差(RMSE),平均绝对误差(MAE),标准差(Standard Deviation) RMSE Root Mean Square Error,均方根误差 是观测值与真值偏差的平方和与观测次数 ...
- 平均值、标准差、相关系数、回归线及最小二乘法
相关性 线性相关 数据在一条直线附近波动,则变量间是线性相关 非线性相关 数据在一条曲线附近波动,则变量间是非线性相关 不相关 数据在图中没有显示任何关系,则不相关 平均值 N个数据 的平均值计算公式 ...
- 典型相关分析(Canonical correlation analysis)(二):原始变量与典型变量之间的相关性 、典型相关系数的检验
典型相关分析系列博文: 典型相关分析(Canonical correlation analysis)(一):基本思想 .复相关系数.偏相关系数 典型相关分析(Canonical correlation ...
- r语言三倍标准差法去除异常值,再计算平均值标准差
博主自己没能找到好的函数去除异常值,于是自己写好了一个简单实用的包.可以通过三倍标准差法删去每一行的异常值,然后计算出平均值标准差. 函数总共四个参数: file= 要计算的文件路径,在工作目录可以 ...
- 特征选择 | MATLAB实现特征变量相关性分析(Pearson相关系数,Kendall相关系数和Spearman相关系数)
特征选择 | MATLAB实现特征变量相关性分析(Pearson相关系数,Kendall相关系数和Spearman相关系数) 目录 特征选择 | MATLAB实现特征变量相关性分析(Pearson相关 ...
- 分析数据相关性的三大相关系数
需要一种方法评价两组数据之间的相关性,有皮尔森(pearson)相关系数,斯皮尔曼(spearman)相关系数和肯德尔(kendall)相关系数.在这三大相关系数中,spearman和kendall属 ...
- 相关性分析 协方差 相关系数
在机器学习当中,进行特征选择.特征筛选时都会使用特征之间的相关性分析.比如有两个特征相关程度非常大,几乎都是同一个意思,那么就可以只保留一个特征.简单总结一下一些计算变量之间相关性的指标. 协方差 协 ...
- python有哪些软件包用来考察变量之间的相关性_Python计算数据相关系数(person、Kendall、spearman)...
pandas中DataFrame对象corr()方法的用法,该方法用来计算DataFrame对象中所有列之间的相关系数(包括pearson相关系数.Kendall Tau相关系数和spearman秩相 ...
- python计算平均值标准差和中位数_如何使用python求平均数、方差、中位数
python求平均数.方差.中位数的例子 CalStatistics.py def getNum(): #获取用户不定长度的输入 nums = [] iNumStr = input("请输入 ...
最新文章
- as死机了怎么办_Acer AS574/G开机死机故障排除手记
- python爬虫(二)_HTTP的请求和响应
- WCF 第八章 安全 基于证书的加密
- 栈,堆,值类型,引用类型,装箱,拆箱 .NET中 6个重要的概念
- android 反射调用方法可不可以重载,使用Java进行反射投射和重载方法调度
- 解读设计模式----简单工厂模式(SimpleFactory Pattern),你要什么我就给你什么
- 什么是CDN ,CDN的作用
- 华为确认与三家EDA公司停止合作;开源安卓恶意软件窃取用户隐私信息;三星高通回应7纳米EUV工艺问题……...
- WAMP + Zend Framework + Zend Studio For Eclipse 开发环境搭建
- iphone使用linux命令apt-get也没有问题
- 获取MOSS页面中控件使用的样式(转)
- 攻防世界 Web_php_include write up
- 总结:计算机组成与设计(硬件/软件接口)-第四章 处理器
- 拼多多打印订单有哪些软件?哪个软件好用呢?
- 常用Win32 API函数
- vue遍历Map集合
- java 方法重载 应用举例,Java中的方法重载应用
- 三菱FX3G和台达,施耐德两台变频器的通讯示例
- react 最佳入门_详解React-Todos入门例子
- eclipse vail_屏幕快照:Windows Home Server Beta“ Vail”安装过程