机器学习-贝叶斯公式

贝叶斯公式

学习机器学习和模式识别的人一定都听过贝叶斯公式(Bayes’ Theorem)：

P ( A ∣ B ) = P ( B ∣ A ) P ( A ) P ( B ) P(A|B) = \frac{P(B|A)P(A)}{P(B)}P(A∣B)=
P(B)
P(B∣A)P(A)

【式1】

贝叶斯公式看起来很简单，无非是倒了倒条件概率和联合概率的公式。

把B展开，可以写成：

P ( A ∣ B ) = P ( B ∣ A ) P ( A ) P ( B ∣ A ) P ( A ) + P ( B ∣ ∼ A ) P ( ∼ A ) P(A|B) = \frac{P(B|A)P(A)}{P(B|A)P(A) + P(B|\sim A)P(\sim A)}P(A∣B)=
P(B∣A)P(A)+P(B∣∼A)P(∼A)
P(B∣A)P(A)

【式2】（∼ A \sim A∼A表示"非A"）

这个式子就很有意思了。

想想这个情况。一辆汽车（或者电瓶车）的警报响了，你通常是什么反应？有小偷？撞车了？不。。你通常什么反应都没有。因为汽车警报响一响实在是太正常了！每天都要发生好多次。本来，汽车警报设置的功能是，出现了异常情况，需要人关注。然而，由于虚警实在是太多，人们渐渐不相信警报的功能了。

贝叶斯公式就是在描述，你有多大把握能相信一件证据？（how much you can trust the evidence）

我们假设响警报的目的就是想说汽车被砸了。把A计作“汽车被砸了”，B计作“警报响了”，带进贝叶斯公式里看。我们想求等式左边发生A ∣ B A|BA∣B的概率，这是在说警报响了，汽车也确实被砸了。汽车被砸**引起（trigger）**警报响，即B ∣ A B|AB∣A。但是，也有可能是汽车被小孩子皮球踢了一下、被行人碰了一下等其他原因（统统计作∼ A \sim A∼A），其他原因引起汽车警报响了，即B ∣ ∼ A B|\sim AB∣∼A。那么，现在突然听见警报响了，这时汽车已经被砸了的概率是多少呢（这即是说，警报响这个证据有了，多大把握能相信它确实是在报警说汽车被砸了）？想一想，应当这样来计算。用警报响起、汽车也被砸了这事件的数量，除以响警报事件的数量（这即【式1】）。进一步展开，即警报响起、汽车也被砸了的事件的数量，除以警报响起、汽车被砸了的事件数量加上警报响起、汽车没被砸的事件数量（这即【式2】）。

可能有点绕，请稍稍想一想。
可能有点绕，请稍稍想一想。

再思考【式2】。想让P ( A ∣ B ) = 1 P(A|B) = 1P(A∣B)=1，即警报响了，汽车一定被砸了，该怎么做呢？让$ P(B|\sim A)P(\sim A) = 0即可。很容易想清楚，假若让即可。很容易想清楚，假若让即可。很容易想清楚，假若让P(\sim A) = 0$，即杜绝了汽车被球踢、被行人碰到等等其他所有情况，那自然，警报响了，只剩下一种可能——汽车被砸了。这即是提高了响警报这个证据的说服力。

从这个角度总结贝叶斯公式：做判断的时候，要考虑所有的因素。老板骂你，不一定是你把什么工作搞砸了，可能只是他今天出门前和太太吵了一架。

再思考【式2】。观察【式2】右边的分子，P ( B ∣ A ) P(B|A)P(B∣A)为汽车被砸后响警报的概率。姑且仍为这是1吧。但是，若P ( A ) P(A)P(A)很小，即汽车被砸的概率本身就很小，则P ( B ∣ A ) P ( A ) P(B|A)P(A)P(B∣A)P(A)仍然很小，即【式2】右边分子仍然很小，$P(A|B) $ 还是大不起来。这里，P ( A ) P(A)P(A)即是常说的先验概率，如果A的先验概率很小，就算P ( B ∣ A ) P(B|A)P(B∣A)较大，可能A的后验概率P ( A ∣ B ) P(A|B)P(A∣B)还是不会大（假设P ( B ∣ ∼ A ) P ( ∼ A ) P(B|\sim A)P(\sim A)P(B∣∼A)P(∼A)不变的情况下）。

从这个角度思考贝叶斯公式：一个本来就难以发生的事情，就算出现某个证据和他强烈相关，也要谨慎。证据很可能来自别的虽然不是很相关，但发生概率较高的事情。发现刚才写的代码编译报错，可是我今天状态特别好，这语言我也很熟悉，犯错的概率很低。因此觉得是编译器出错了。 ————别，还是先再检查下自己的代码吧。

看来生活中碰到贝叶斯概率的场景到处都是；
——————————————
版权声明：本文为CSDN博主「nebulaf91」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/u011508640/article/details/72815981

机器学习-贝叶斯公式相关推荐

【机器学习基本理论】详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解
[机器学习基本理论]详解最大似然估计(MLE).最大后验概率估计(MAP),以及贝叶斯公式的理解 https://mp.weixin.qq.com/s/6H0gmMWvTExySMraroLVlQ 最 ...
机器学习--详解贝叶斯公式、朴素贝叶斯的来龙去脉（附上多方式代码实现)
贝叶斯公式: 提到贝叶斯公式,首先需要从条件概率说起,因为他们都是基于条件概率发展而来的,既然条件概率那么重要,那么什么是条件概率呢? 条件概率是概率论中的一个重要而时用的概念,生活中我们总是无意识的 ...
全概率公式与贝叶斯公式-机器学习
转载自:点击打开链接在概率论与数理统计中,有两个相当重要的公式--全概率公式与贝叶斯公式.然而很多人对这两个公式感到非常迷茫.一来不知道公式背后的意义所在,二来不知道这些冰冷的公式能有什么现实应用. ...
机器学习数学基础——全概率公式与贝叶斯公式
概率论在机器学习中有很重要的地位,本篇总结一下我对贝叶斯公式和全概率公式的理解. 1.全概率公式的定义因为公式本身就比较抽象,一开始就列举公式很不友好,因此先举个栗子抛砖引玉: [问题1]现追捕某犯 ...
机器学习十大经典算法：深入浅出聊贝叶斯决策（贝叶斯公式，最小风险贝叶斯，最小错误贝叶斯）
前言常听人说,在学习一个东西时,如果能够深入浅出的讲给别人听,才算是真的懂了.最近正好在学模式识别,于是就用它来练笔了.贝叶斯决策(Bayes Decision) 是十大经典机器学习算法之一, ...
白话贝叶斯公式_【白话机器学习】算法理论+实战之朴素贝叶斯
来自于: AI蜗牛车团队(作者:Miracle8070) 公众号: AI蜗牛车原文链接:[白话机器学习]算法理论+实战之朴素贝叶斯mp.weixin.qq.com 有兴趣的同学可以关注我的公众号: ...
【机器学习】先验概率、后验概率、贝叶斯公式、似然函数
一.先验概率.后验概率.贝叶斯公式. 似然函数在机器学习中,这些概念总会涉及到,但从来没有真正理解透彻他们之间的联系.下面打算好好从头捋一下这些概念,备忘. 1.先验概率先验概率仅仅依赖于主观上的 ...
机器学习入门--带着贝叶斯公式一步步实现单词拼写纠正器，这一篇就够了
开篇先看几张张熟悉的图: 很多朋友可能都熟悉这种界面,那今天我们就揭开其中奥秘一.贝叶斯公式是什么回忆里想起小时候,不对, 应该是高中的时候咱都学过一些概率知识 ,什么排列.组合,古典概型...等 ...
【机器学习】贝叶斯公式： P(B|A)=P(B)P(A|B)/P(A)
贝叶斯公式: P(B|A)=P(B)P(A|B)/P(A) P(AB):AB同时发生的概率 P(A|B): 在B发生的条件下,A发生的概率一.病人分类的例子让我从一个例子开始讲起,你会看到贝叶斯分 ...

机器学习-贝叶斯公式

贝叶斯公式

机器学习-贝叶斯公式相关推荐

最新文章

热门文章