离散分布的分布函数_条件分布与条件期望

这一节我们讲条件分布与条件期望。同之前的文章一样，先给出理论，后给出习题和解答。

所谓条件分布就是对于二维随机变量

，在给定其中一个变量的情况下，另一个随机变量的分布，它的定义由

条件概率给出。同样地，分为离散型和连续型两种情况分别讨论：

离散型随机变量的条件分布

设二维随机变量

的联合分布列为：

仿照条件概率，给出离散型随机变量的条件分布：

给定

，对于一切使

的

，称：

为在

的条件下

的条件分布列

。

同理，在

的条件下

的条件分布列：

也许式子不好记，但是还是比较容易理解的。

连续型随机变量的条件分布

我们知道对于连续型随机变量，讨论其在单点的概率是没有意义的，其条件分布的给出过程利用了极限的思想，具体参见教材。下面直接给出条件密度函数和条件分布函数：

设二维随机变量

的联合密度函数为

，边际密度函数分别为

。

在

的条件下，

的条件密度函数

：

在

的条件下，

的条件分布函数：

在

的条件下，

的条件密度函数：

在

的条件下，

的条件分布函数：

要注意的是，条件密度函数

和条件分布函数

都是关于

的二元函数

，即他们都依赖于

两个变元。

不同，条件不同，所得的条件密度函数和条件分布函数自然不同；

不同，在不同点的条件密度和条件分布也不同。同理，

条件密度函数

和条件分布函数

都是关于

的二元函数。

连续场合下的全概率公式和贝叶斯公式

将(1)和(3)分别改写为：

上面两式说明由边际分布和条件分布可以得到联合分布。

对上面两式分别求

和

的边际密度函数，我们就得到了

连续场合下的全概率公式：

再分别将(5)和(7)带入(1)，将(6)(8)带入(2)，即得连续场合下的贝叶斯公式：

公式确实不好记，但只要熟练过后，就知道怎么推导了。尤其是贝叶斯公式的推导过程，先算出边际分布，再结合条件概率的定义，导出贝叶斯公式。实则体现了贝叶斯统计的修正思想。

这里可以结合离散场合下的贝叶斯公式加以理解和记忆：

条件期望

顾名思义，条件期望就是条件分布的数学期望。定义如下：

在

的条件下，

的期望：

在

的条件下，

的期望：

要特别注意的是，与条件密度函数和条件分布函数不同，条件期望是只依赖于一个变元的函数，且与惯性思维不同的是，

是

的函数，

是

的函数！这一点要特别注意！

条件期望的本质是期望，因而具有期望的一切性质。

重期望公式

设二维随机变量

，

存在，则：

证明：

1.连续场合

我们首先看

。上面说到，

是

的函数，我们将

看作随机变量，给定一个条件

，该随机变量就有一个确定的值，说明该随机变量的概率依赖于

，则其概率密度函数为

。从而

的期望即为：

再利用

的定义即可推导出(14)：

2.离散场合

重期望公式是概率论中较为深刻的一个结论，一句话概括：全部的平均等于各部分平均的平均。在实际中很有用，譬如，当我们要算在一个取值于很大范围内的指标

的均值

，可能会遇到计算上的困难。但倘若这时我们利用重期望公式，换一种思维，先找一个与

有关的量

，利用

的取值将区域划分为若干个小区域，先在这些小区域上求

的均值，再对这些均值求加权平均，即得

，这里的权重依赖于

。譬如，若要求某社区的人均收入，可先求出社区中每个小区的人均收入，再对各小区的人均收入做加权平均，这里的权重就是小区人数占社区总人数的比例。

重期望公式的具体使用如下：

1.若

是离散型随机变量，则：

1.若

是连续型随机变量，则：

引申：条件方差

依据方差和条件分布的定义，不难得到给定

的条件下，

的方差：

条件方差公式

证明：

从而：

条件方差可参考：条件方差公式的直观解释？、https://www.jianshu.com/p/e4c0a6db8a86

e.g.1

设随机变量

独立，

。在已知

的条件下，求

的条件分布。

解：

因为泊松分布具有可加性，则

。利用条件分布的定义：

易见在

的条件下，

。

e.g.2

设在一段时间内进入某商店的顾客人数

，每个顾客购买商品的概率为

，且每个顾客是否购买商品相互独立。求进入商店购买商品的人数

的分布。

从而

。

e.g.3

设随机变量

独立同分布于

，求

解：

因

独立同分布，则

从而：

e.g.4

设随机变量

，在

的条件下，随机变量

，证明：

。

证明：

的密度函数为：

在

的条件下，

的密度函数为：

则

的联合密度函数为：

设

，

当

时，

。

当

时：

则

的概率密度函数：

从而

。

e.g.5

设

相互独立，且

。求

。

解：

要求条件期望，我们先求条件分布。

由 e.g.1 知在

的条件下，

。

从而：

e.g.6（重期望公式的应用）

一矿工被困在有三个门的矿井里。第一个门通往一个坑道，沿此坑道走3小时可到达安全区；第二个门通往一个坑道，沿此坑道走5小时又回到原处；第三个门通往一个坑道，沿此坑道走7小时也回到原处。假定此矿工总是等可能地在三个门中选择一个,试求他平均要用多少时间才能到达安全区。

解：

设该矿工需要

小时到达安全区。则

的可能取值为：

的分布列无法穷举，因此直接求

是困难的。我们考虑利用重期望公式。以

表示第一次选取的门，则

，且

。

选第一个门后三小时可到达安全区，则：

选第二个门后五小时回到原处，则：

选第三个门后七小时回到原处，则：

再由重期望公式：

解得：

即该矿工平均需要15小时到达安全区。