1、期望值

函数 f(x)f(x)f(x)关于某分布P(x)P(x)P(x)的期望(expectation)或者期望值(expected value)是指，当xxx由PPP产生时，fff作用于xxx的平均值。其实可以简单理解为f(x)f(x)f(x)在某种分布P(x)P(x)P(x)下的加权平均值。

对于离散型随机变量，可以通过求和得到期望值：

Ex−P[f(x)]=∑xP(x)f(x)E_{x-P}[f(x)] = \sum_x P(x)f(x) Ex−P[f(x)]=x∑P(x)f(x)
举个简单的例子，P(x)的值只有0和1 2种，而出现的概率都为1/2，而f(x)=2x+1f(x)=2x+1f(x)=2x+1，则

Ex−P[f(x)]=12∗f(0)+12∗f(1)=2E_{x-P}[f(x)] = \frac{1}{2} * f(0) + \frac{1}{2} * f(1) = 2 Ex−P[f(x)]=21∗f(0)+21∗f(1)=2

对于连续型随机变量可以通过求积分得到

Ex−P[f(x)]=∫p(x)f(x)dxE_{x-P}[f(x)] = \int p(x)f(x)dx Ex−P[f(x)]=∫p(x)f(x)dx

2、方差、标准差

方差是指当我们对xxx依据它的概率分布进行采样时，随机变量xxx的函数值会呈现多大的差异：

Var(f(x)=E[(f(x)−E[f(x)])2]Var(f(x) = E[(f(x)-E[f(x)])^2] Var(f(x)=E[(f(x)−E[f(x)])2]
当方差很小时，f(x)f(x)f(x)的值形成的簇比较接近它们的期望值。
方差的平方根就是标准差。

其实对于随机分布的xxx,f(x)f(x)f(x)的方差就是每个值减去均值的平方和，即：

1n∑nfn(x)−f(x)‾\frac{1}{n} \sum_n f_n(x)- \overline {f(x)} n1n∑fn(x)−f(x)

3、协方差

协方差在某种意义上给出来2个变量线性相关性的强度以及这些变量的尺度：

见《深度学习》P51
协方差的绝对值如果很大则意味着变量值变化很大并且它们同时距离各自的均值很远。如果协方差是正的，那么两个变量都倾向于同时取得相对较大的值。如果协方差是负的，那么其中一个变量倾向于取得相对较大的值的同时，另一个变量倾向于取得相对较小的值，反之亦然。其他的衡量指标如相关系数（correlation）将每个变量的贡献归一化，为了只衡量变量的相关性而不受各个变量尺度大小的影响。

期望值、方差、标准差、协方差相关推荐

数理统计-方差标准差协方差相关系数
Q1. 方差.标准差.协方差.有什么区别方差(样本方差)是每个样本值与全体样本值的平均数之差的平方值的平均数,描述样本偏离均值的平均程度或者说是样本的分散程度: 标准差是总体各单位标准值与其平均数离 ...
期望值、方差、协方差、相关系数，numpy 计算均值、方差、协方差，相关系数
文章目录期望值.方差.协方差.相关系数一.期望值二.方差 1. 概念: 2. 示例: 三.协方差 1. 概念: 2. 示例: 四.协方差矩阵 1. 概念: 2. 示例: 五.协方差的相关系数 1 ...
方差、协方差、标准差、均方差、均方根值、均方误差、均方根
转载自https://blog.csdn.net/cqfdcw/article/details/78173839 方差(Variance) 方差用于衡量随机变量或一组数据的离散程度,方差在在统计描述和 ...
方差、协方差、标准差、均方差、均方根值、均方误差、均方根误差对比分析
方差.协方差.标准差(标准偏差/均方差).均方误差.均方根误差(标准误差).均方根值本文由博主经过查阅网上资料整理总结后编写,如存在错误或不恰当之处请留言以便更正,内容仅供大家参考学习. 方差(Va ...
方差、协方差、标准差、均方差、均方根值、均方误差、均方根误差
方差(Variance) 方差用于衡量随机变量或一组数据的离散程度,方差在在统计描述和概率分布中有不同的定义和计算公式.①概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏离程度:②统计中的方 ...
期望，方差，协方差，标准差
#期望, 方差, 协方差,标准差期望概率论中描述一个随机事件中的随机变量的平均值的大小可以用数学期望这个概念,数学期望的定义是实验中可能的结果的概率乘以其结果的总和. 定义设P(x) 是一个离散 ...
标准差、方差、协方差的简单说明
在一个样本中,样本的无偏估计的均值.标准差和方差如下: 对于单个变量,它的协方差可以表示为: 其实它即是方差,所以呢,当只有一个变量时,方差是协方差的一种特殊情况: 举例:有一个变量 X的样本为:0. ...
求均值方差_协方差，方差，标准差
要深度理解定义!!!要深度理解定义!!!要深度理解定义!!! 协方差,如下定义: 方差如下定义: 标准差就是sqrt(方差) 之前总是有个混淆的点. 故在这里mark一下.(要理解好定义的想表达的深层 ...
标准差、方差、协方差的区别
公式: 标准差: 方差: 协方差: 意义: 方差(Variance):度量随机变量和其数学期望(即均值)之间的偏离程度.针对一维数据. 标准差:方差开根号.标准差和方差一般是用来描述一维数据的. 协方 ...
标准差、方差、协方差三者的表示意义
三者都是统计学中,对于样本的集合描述. 定义公式标准差: 方差: 协方差: 协方差相关系数: 数学实际含义方差(Variance):用来度量随机变量和其数学期望(即均值)之间的偏离程度. 标准差: ...

期望值、方差、标准差、协方差

1、期望值

2、方差、标准差

3、协方差

期望值、方差、标准差、协方差相关推荐

最新文章

热门文章