图与概率

图的符号与术语

图由顶点集（或节点集）VVV和连接顶点对的边集（或链接集）EEE组成。图中的顶点对应用于变量，边表示变量对之间的某种关系。由边连接的两个变量称为相邻变量。
我们会使用“双向”边来表示未观察到的共同原因（有时称为混杂因子）
有向图可以包含有向环（例如，X→Y,Y→XX \to Y,\ \ Y \to XX→Y, Y→X）,表示相互因果关系或反馈过程，但不包含自循环（例如，X→XX \to XX→X）
如果有向图中的节点没有父节点，称其为根节点，若没有子节点，则称其为汇聚节点
每个节点最多有一个子节点的树称为链。
每对节点均有边相连的图称为完全图。

贝叶斯网络

图在概率与统计建模中的作用有三个方面：
- 提供便捷的方法在表示众多的假定
- 便于联合概率函数的简约表示
- 便于从观察中进行有效推断
无向图有时称为马尔可夫网络，主要用于表示对称的空间关系。
有向图，尤其是无环图，用于表示因果关系或时间关系，这种图称为贝叶斯网络。
贝叶斯网络强调3个方面：
- 输入信息的主观属性
- 依赖贝叶斯条件作为信息更新的基础
- 区分推理的因果模式和证据模式
假设我们有一个定义在n个离散变量上的分布P，我们可以将变量任意排序为X1,X2,⋯,XnX_1,X_2,\cdots,X_nX1,X2,⋯,Xn。根据概率演算的链式法则允许我们将PPP分解为nnn个条件分布的乘积：
P(x1,⋯,xn)=∏jP(xj∣x1,⋯,xj−1)P(x_1,\cdots,x_n) = \prod_{j}P(x_j|x_1,\cdots,x_{j-1}) P(x1,⋯,xn)=j∏P(xj∣x1,⋯,xj−1)
现在假设某些变量XjX_jXj的条件概率不是对XjX_jXj的所有前驱变量敏感，而仅对其中的小部分敏感。我们将这部分敏感的前驱变量记为PAjPA_jPAj，那么可以将乘积写为：
P(xj∣x1,⋯,xj−1)=P(xj∣paj)P(x_j|x_1,\cdots,x_{j-1}) = P(x_j|pa_j) P(xj∣x1,⋯,xj−1)=P(xj∣paj)
我们仅需要关注集合PAjPA_jPAj的可能情况，而不需要将XjX_jXj的所有前驱变量X1,⋯,Xj−1X_1,\cdots,X_{j-1}X1,⋯,Xj−1的可能情况作为条件来确定XjX_jXj的概率。
集合PAjPA_jPAj称为XjX_jXj的马尔可夫父代变量集合。
概率分布PPP的贝叶斯网络是有向无环图GGG的一个必要条件是PPP容许图GGG所确定的乘积分解。
马尔可夫相容性：如果概率函数PPP容许有向无环图G所确定的乘积分解，那么我们认为GGG表示PPP、GGG与PPP 相容，PPP与GGG马尔可夫相关。
在统计建模中，确定DAG和概率之间的相容性非常重要，主要是因为相容性是有向无环图GGG解释PPP表示的经验数据的充分必要条件。

d\ d d-分离准则

路径ppp被节点集ZdZ\ dZ d-分离（或阻断），当且仅当：
- ppp包含了一个链i→m→ji \to m \to ji→m→j或一个分叉i←m→ji \gets m \to ji←m→j，而中间节点mmm在ZZZ中，或者
- ppp包含一个反向分叉（或对撞）i→m←ji \to m \gets ji→m←j，而中间节点mmm以及mmm的任何后代节点都不在ZZZ中。
集合ZZZ将XXX与YYY d\ d d-分离当且仅当ZZZ阻断了从XXX中每个节点到YYY中每个节点的所有路径。
对两个独立原因的共同结果的观察会使这两个原因相关，因为如果结果已经发生，其中一个原因的信息会使另一个原因的可能性变大或变小。
d\ d d-分离的概率含义：如果XXX和YYY在有向无环图GGG中被ZdZ\ dZ d-分离，那么在每一个与GGG相容的分布中，以ZZZ为条件时，XXX独立于YYY。反之，如果XXX和YYY在有向无环图GGG中未被ZdZ\ dZ d-分离，那么至少存在一个与GGG相容的分布，以ZZZ为条件时，XXX与YYY相关。

贝叶斯网络推断

因果论 —— 模型、推理和推断（概率、图及因果模型）②相关推荐

er图转换成关系模型的例题,将ER图转换为关系模型
I know how to convert an entity set, relationship, etc. into the relational model but what i wonder ...
【模型推理加速系列】05: 推理加速格式TorchScript简介及其应用
简介本文紧接前文:模型推理加速系列|04:BERT模型推理加速 TorchScript vs. ONNX 实验结果:在动态文本长度且大batch size的场景下,TorchScript 格式的in ...
深度学习实战——模型推理优化（模型压缩与加速）
忆如完整项目/代码详见github:https://github.com/yiru1225(转载标明出处勿白嫖 star for projects thanks) 目录系列文章目录一.实验思路综 ...
MindSpore模型推理
MindSpore模型推理如果想在应用中使用自定义的MindSpore Lite模型,需要告知推理器模型所在的位置.推理器加载模型的方式有以下三种: • 加载本地模型. • 加载远程模型. • 混合 ...
ML之回归预测：利用Lasso、ElasticNet、GBDT等算法构建集成学习算法AvgModelsR对国内某平台上海2020年6月份房价数据集【12+1】进行回归预测(模型评估、模型推理)
ML之回归预测:利用Lasso.ElasticNet.GBDT等算法构建集成学习算法AvgModelsR对国内某平台上海2020年6月份房价数据集[12+1]进行回归预测(模型评估.模型推理) 目录 ...
【模型推理加速系列】06: 基于resnet18加速方案评测
简介花雪随风不厌看,更多还肯失林峦.愁人正在书窗下,一片飞来一片寒.小伙伴们好,我是微信公众号小窗幽记机器学习的首席称重师:卖麻辣烫的小男孩.今天这篇文章以resnet18模型为例,对比Pytorc ...
机器学习-白板推导-系列（九）笔记：概率图模型: 贝叶斯网络/马尔可夫随机场/推断/道德图/因子图
文章目录 0 笔记说明 1 背景介绍 1.1 概率公式 1.2 概率图简介 1.2.1 表示 1.2.2 推断 1.2.3 学习 1.2.4 决策 1.3 图 2 贝叶斯网络 2.1 条件独立性 2. ...
因果推断(二)-Causal effect 因果效应推理
1.因果效应推理定义套用一个发券和购买转化率的关系,已知发优惠券与购买转化率有因果关系,发优惠券是因,购买转化率是果,我们想知道,当发券的情况下,购买转化率会增加多少? 2.因果效应推理估计对象估 ...
NLP —— 图模型（三）pLSA（Probabilistic latent semantic analysis，概率隐性语义分析）模型...
LSA(Latent semantic analysis,隐性语义分析).pLSA(Probabilistic latent semantic analysis,概率隐性语义分析)和 LDA(Late ...

因果论 —— 模型、推理和推断（概率、图及因果模型）②

图与概率

图的符号与术语

贝叶斯网络

d\ d d-分离准则

贝叶斯网络推断

因果论 —— 模型、推理和推断（概率、图及因果模型）②相关推荐

最新文章

热门文章