贝叶斯分类（Bayesian）

2024-07-06 00:53:35

贝叶斯分类（Bayesian）

贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。
贝叶斯方法是在解决归类和回归问题中应用了贝叶斯定理的方法。
参考资料：https://www.cnblogs.com/nxld/p/6607943.html

贝叶斯定理

条件概率公式：**P(A|B) = P(AB)/P(B) = P(B|A)*P(A)/P(B)

从公式中可知，如果要计算B条件下A发生的概率，只需要计算出后面等式的三个部分：
1）B事件的概率（P(B)），是B的先验概率；
2）A属于某类的概率（P(A)），是A的先验概率；
3）已知A的某个分类下，事件B的概率（P(B|A)），是后验概率。
朴素贝叶斯最核心的部分是贝叶斯法则，而贝叶斯法则的基石是条件概率。

如果要确定某个样本归属于哪一类，则需要计算出归属不同类的概率，再从中挑选出最大的概率。
我们把上面的贝叶斯公式写出这样，也许你能更好的理解：*MAX(P(Ai|B))=MAX(P(B|Ai)P(Ai)/P(B))
这个公式告诉我们，需要计算最大的后验概率，只需要计算出分子的最大值即可，而不同水平的概率P©非常容易获得，故难点就在于P(X|C)的概率计算。而问题的解决，正是聪明之处，即贝叶斯假设变量X间是条件独立的，故而P(X|C)的概率就可以计算为：**P(B|Ai) =P(B1/Ai)*P(B2/Ai)P(B3/Ai)…*P(Bn/Ai) **

全概率公式：**P(X)=∑[P(X|Y=Yk)*P(Yk)] 其中∑P(Yk)=1

贝叶斯公式：

根据概率P(Bi) 及 P(A|Bi) （i=1,2,…,n），计算P(Bi|A) ，P(Bi|A) = P(ABi)|P(A) = P(Bi)P(A|Bi)/(ΣP(Bj)P(A|Bj)) （j从1到n）
简单来说也就是说贝叶斯公式完成了从P（A|B）到P（B|A）的转换。
把P(A)称为"“先验概率”"（Prior probability），即在B事件发生之前，我们对A事件概率的一个判断。
P(A|B)称为"“后验概率”"（Posterior probability），即在B事件发生之后，我们对A事件概率的重新评估。
P(B|A)/P(B)称为"“似然函数”"（Likelyhood），这是一个调整因子，使得预估概率更接近真实概率。

所以，条件概率可以理解成下面的式子：后验概率　＝　先验概率ｘ调整因子
后验概率 = (似然度 * 先验概率)/标准化常量
后验概率 = 标准似然度 * 先验概率
这就是贝叶斯推断的含义。我们先预估一个"“先验概率”"，然后加入实验结果，看这个实验到底是增强还是削弱了"“先验概率”"，由此得到更接近事实的"“后验概率”"。

各种贝叶斯

朴素贝叶斯 Naive Bayes
高斯贝叶斯 Gaussian Naive Bayes
多项朴素贝叶斯 Multinomial Naive Bayes
Averaged One-Dependence Estimators (AODE)
贝叶斯信念网络（BNN） Bayesian Belief Network(BBN)
贝叶斯网络（BN） Bayesian Network(BN)

参考资料：https://blog.csdn.net/syoya1997/article/details/78618885

贝叶斯分类（Bayesian）相关推荐

机器学习（十一）-Naïve Bayes Classifier朴素贝叶斯分类器及Python实现
原创不易,转载前请注明博主的链接地址:Blessy_Zhu https://blog.csdn.net/weixin_42555080 本次代码的环境: 运行平台: Windows Python版本: ...
遥感相关专业英语词汇汇总
对网络上英语专业词汇进行汇总整理,如下表: 序号英语基础词汇摄影测量与遥感专业英语词汇英语基础词汇英语基础词汇-生态环境与遥感 1 Absorbed photosynthetically ac ...
摄影测量与遥感专业英语词汇
摄影测量与遥感专业英语词汇: 001摄影测量学photogrammetry 002卫星摄影测量satellite photogrammetry 003摄影学photography 004航天摄影spa ...
贝叶斯理论与朴素贝叶斯分类理论（Naive Bayesian Model，NBM）
贝叶斯理论与朴素贝叶斯分类理论(Naive Bayesian Model,NBM) 贝叶斯统计理论是英国数学家托马斯´贝叶斯于18世纪中叶提出并逐步完善的一种数学理论.基于贝叶斯统计理论的贝叶斯决策是 ...
朴素贝叶斯分类器（Naive Bayesian Classifier）
写作本博文只为学习与分享知识.所以如果本系列教程对你有帮助,麻烦不吝在github的项目上点个star吧!非常感谢! 本博客是基于对周志华教授所著的<机器学习>的"第7章贝叶斯 ...
分类算法之朴素贝叶斯分类(Naive Bayesian classification)
1.1.摘要贝叶斯分类是一类分类算法的总称,这类算法均以贝叶斯定理为基础,故统称为贝叶斯分类.本文作为分类算法的第一篇,将首先介绍分类问题,对分类问题进行一个正式的定义.然后,介绍贝叶斯分类算法的 ...
算法杂货铺——分类算法之朴素贝叶斯分类(Naive Bayesian classification)
FROM: http://www.cnblogs.com/leoo2sk/archive/2010/09/17/1829190.html 0.写在前面的话我个人一直很喜欢算法一类的东西,在我看来算法 ...
朴素贝叶斯分类器(Navie Bayesian Classifier)中的几个要点(一)
关键字: 拉普拉斯修正(Laplacian correction) 懒惰学习(lazy leanring) 对数似然(log-likelihood) 拉普拉斯修正(Laplacian correcti ...
sklearn朴素贝叶斯分类器_手撕朴素贝叶斯分类器源码(Naive Bayesian)
鋌~(最近压力略大,好久没有更新,xixixi),今天的主题是朴素贝叶斯分类器,NB这个缩写真是绝了,确实值得这个缩写,哈哈哈.今天跟大家聊一聊朴素贝叶斯分类器的基本原理和代码编写.贝叶斯分类器的基本 ...

最新文章

热门文章