1.协方差

笔记来源：Covariance, Clearly Explained!!!

在概率论与统计学中用于衡量两个随机变量的联合变化程度

协方差衡量的是一个变量的变化会如何影响另一个变量的变化，测量的是两个变量之间的线性相关程度

1.1 相关性

以细胞中的基因X和基因Y的数量为例，下面给出了5个细胞中，每个细胞分别含有的基因X和基因Y的数量，我们计算出了这5个细胞含基因X数量的样本均值 xˉ\bar{x}xˉ 和含基因Y数量的样本均值 yˉ\bar{y}yˉ，我们观察这细胞中基因X的数量和基因Y的数量有没有什么相关性

显然，如下图所示，大体上当细胞中基因X的数量增加时，基因Y的数量也在增加，这表现出一种正相关性

我们来看一看另一组样本数据

显然，如下图所示，大体上当细胞中基因X的数量增加时，基因Y的数量却在减小，这表现出一种负相关性

我们再来看另外两组样本数据
第一组样本数据：大体上当基因X的数量增加时，基因Y的数量基本保持不变，即二者几乎无相关性
第二组样本数据：大体上当基因Y的数量增加时，基因X的数量基本保持不变，即二者几乎无相关性

1.2 计算协方差

每个细胞中基因X的数量为 xxx、基因Y的数量为 yyy
5个细胞中所有基因X数量的平均值 xˉ\bar{x}xˉ、所有基因Y数量的平均值 yˉ\bar{y}yˉ
细胞数量为 nnn
无偏估计要除以 n−1n-1n−1，详见本人博客：有偏样本方差、无偏样本方差

由上我们观察到，这5个细胞中的基因X的数量和基因Y的数量呈现正相关性，而计算得到的协方差也为正，即我们得到：当协方差 >0\gt 0>0时，数据呈现正相关性

类似的，当协方差 <0\lt 0<0时，数据呈现负相关性

当协方差=0= 0=0时，数据没有相关性

无相关性的三种情况

1.3 协方差与相关性

协方差之正负号显示着变量的相关性

两组数据呈现正相关性，协方差 cov(X,Y)>0\text{cov}(X,Y)\gt 0cov(X,Y)>0
两组数据呈现负相关性，协方差 cov(X,Y)<0\text{cov}(X,Y)\lt 0cov(X,Y)<0
两组数据呈现无相关性，协方差 cov(X,Y)≈0\text{cov}(X,Y)\approx 0cov(X,Y)≈0

1.4 协方差能让我们知道些什么信息？

协方差的值可以告诉我们样本数据与拟合直线的接近程度

协方差的值越大，样本数据离拟合直线越远

1.5 协方差无法让我们知道哪些信息？

协方差无法告知我们拟合直线的斜率大小

协方差无法告知我们样本数据的集中程度

协方差的应用之一：主成分分析（Principal Component Analysis，PCA）

协方差（Covariance）相关推荐

用计算机算协方差,协方差(Covariance)计算公式与在线计算器_三贝计算网_23bei.com...
在输入框录入用空格.制表符.回车符或(英文半角)逗号隔开的数据序列X和数据序列Y,点击计算按钮,本计算软件将快速求出输入序列元素的个数.平均值Mx.平均值My.协方差(X,Y)等结果. 操作步骤:直接 ...
协方差Covariance 相关系数correlation coefficient 和方差-协方差矩阵variance-covariance matrix
一协方差 Covariance 协方差一般刻画两个随机变量的相似程度.方差是协方差的一种特殊情况,即当两个变量是相同的情况.计算公式如下. 取值范围 R域当协方差Cov(X,Y)>0时,称X与 ...
概率论-协方差Covariance相关系数Correlation Coefficient
目录协方差Covariance 定义性质相关系数Correlation Coefficient 定义性质独立和相关相关公式协方差Covariance 定义定义:Gov(X,Y)=E[( ...
MSE均方误差、RMSE均方根误差、MAE平均绝对误差、方差、SD标准差、协方差Covariance
均方误差MSE(Mean Square Error) MSE=1m∑i=1m(hi(x)−yi)2MSE = \frac{1}{m}\sum_{i=1}^m (h_i(x) - y_i)^2MSE=m ...
协方差(covariance)和相关系数(correlation coefficient)
相关系数和协方差实际上是相同的概念,都是用来描述两个随机变量之间的相似程度的.这篇文章将详细说明协方差和相关系数的相关知识. 首先声明,此篇的内容是来自"马同学高等数学"微信公众号 ...
python求协方差矩阵_用numpy计算协方差（covariance）
numpy.cov函数计算协方差(covariance),不过函数返回的是一个对称矩阵.协方差的数学定义如下: 协方差(covariance) numpy.cov函数在输入1D数据的时候,等于是在计算 ...
python 计算协方差_Python3Numpy——相关性协方差应用
基本理论 Correlation Are there correlations between variables? Correlation measures the strength of the ...
协方差和相关系数的关系
协方差(covariance): 协方差可以反应两个变量的协同关系, 变化趋势是否一致.同向还是方向变化. 相关系数(correlation): 相关系数是协发差的归一化(normalization ...
协方差与皮尔森相关性系数
协方差定义随机变量X.Y 的协方差Cov(X,Y): Cov(X,Y) = E[(X-E(X))(Y-E(Y))]= E[XY] - E[Y]E[X] 从直观上来看,协方差表示的是两个变量总体误差 ...
【机器学习】【线性代数】均值，无偏估计，总体/样本方差，样本标准差，矩阵中心化/标准化、协方差，正/不/负相关等，协方差矩阵
本篇是概念讲解,协方差以及协方差矩阵的Python实现代码详见:[机器学习][线性代数]协方差+协方差矩阵的多种求解方法的Python实现(公式法 + 样本集中心化方法 + np.cov()法等) 0 ...

协方差（Covariance）

协方差