贝叶斯、先验概率后验概率

贝叶斯定理

https://www.matongxue.com/madocs/301/

例子：
开车的时候，如果前面的挡风玻璃坏了，那我们怎么判断什么时候右转，
已知这条道路

所我们可以通过后视镜观察后面车的动向居然是否右转
新的信息出现了，此时如果右转，错误的概率就比之前小很多。这就是贝叶斯定理所阐述的思考方法。

数学描述

本质理解

贝叶斯与人脑机制类似

先验概率、后验概率

先验概率是以全事件为背景下,A事件发生的概率，P(A|Ω)
全事件一般是统计获得的，所以称为先验概率，没有实验前的概率
后验概率是以新事件B为背景下,A事件发生的概率， P(A|B)
新事件一般是实验，如试验B，此时的事件背景从全事件变成了B，该事件B可能对A的概率有影响，那么需要对A现在的概率进行一个修正，从P(A|Ω)变成 P(A|B)，所以称 P(A|B)为后验概率，也就是试验(事件B发生)后的概率

朴素贝叶斯分类算法

传送门

贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。而朴素朴素贝叶斯分类是贝叶斯分类中最简单，也是常见的一种分类方法

核心算法：

例子分析
给定数据
问题

现在给我们的问题是，如果一对男女朋友，男生想女生求婚，男生的四个特点分别是不帅，性格不好，身高矮，不上进，请你判断一下女生是嫁还是不嫁？

转化为数学公式
成立条件

这个等式成立的条件需要特征之间相互独立。这也就是为什么朴素贝叶斯分类有朴素一词的来源，朴素贝叶斯算法是假设各个特征之间相互独立，那么这个等式就成立了！

为什么需要假设特征之间相互独立？

如果特征不独立，我们这个例子有4个特征，其中帅包括{帅，不帅}，性格包括{不好，好，爆好}，身高包括{高，矮，中}，上进包括{不上进，上进}，那么四个特征的联合概率分布总共是4维空间，总个数为233*2=36个。现实情况往往更复杂，这样我们无法通过样例来统计出概率
而独立的条件下，上述公式就可以拆成分开连乘形式
这样子就可以根据上面的表格求出各个条件概率代入计算

朴素贝叶斯分类的优缺点

优点：
- 算法逻辑简单,易于实现
- 分类过程中时空开销小
缺点：
- 理论上，朴素贝叶斯模型与其他分类方法相比具有最小的误差率。但是实际上并非总是如此，这是因为朴素贝叶斯模型假设属性之间相互独立，这个假设在实际应用中往往是不成立的，在属性个数比较多或者属性之间相关性较大时，分类效果不好。
而在属性相关性较小时，朴素贝叶斯性能最为良好。对于这一点，有半朴素贝叶斯之类的算法通过考虑部分关联性适度改进。

贝叶斯、先验概率后验概率相关推荐

机器学习34:贝叶斯先验概率
机器学习34:贝叶斯先验概率: 理解贝叶斯先验概率是为了更好的理解正则化的概念. (1)贝叶斯先验概率和贝叶斯后验概率: 1.先验概率是指根据以往经验和分析得到的概率,即在事情发生之前事情发生的概率. ...
matlab贝叶斯判别后验概率,贝叶斯公式的直观理解(先验概率/后验概率)
博客转自:https://www.cnblogs.com/yemanxiaozu/p/7680761.html 前言以前在许学习贝叶斯方法的时候一直不得要领,什么先验概率,什么后验概率,完全是跟想象 ...
matlab贝叶斯判别后验概率,统计学习方法——朴素贝叶斯法、先验概率、后验概率(示例代码)...
朴素贝叶斯法,就是使用贝叶斯公式的学习方法,朴素就是它假设输入变量(向量)的各个分量之间是相互独立的.所以对于分量之间不独立的分布,如果使用它学习和预测效果就不会很好. 简化策略它是目标是通过训练数 ...
朴素贝叶斯先验概率公式推导
1.朴素贝叶斯模型朴素贝叶斯是基于贝叶斯定理和特征条件独立性假设的分类模型:他将待预测的样本划分到后验概率 P(Y|X ) 最大的类别中模型建立过程如下: 现在我们的问题是如何求解P(Y=Ck), ...
matlab贝叶斯判别后验概率,贝叶斯公式、先验概率、后验概率
先验概率: 在缺少某个前提下的变量概率,在机器学习中就是没有训练样本,在训练之前的初始概率:P(w) 后验概率: 在有了样本数据以后,对变量进行概率的修正,得到的概率就是后验概率,,例如g是样本,则后 ...
第九课.朴素贝叶斯分类器
目录朴素贝叶斯算法原理朴素贝叶斯参数估计极大似然估计贝叶斯估计朴素贝叶斯算法流程实验:Numpy实现朴素贝叶斯分类器朴素贝叶斯算法原理若P(X)P(X)P(X)表示事件XXX发生的概率 ...
西瓜书笔记7:贝叶斯分类器
目录相关概率知识贝叶斯-全概率公式先验概率.后验概率.似然概率 7.1 贝叶斯决策论 7.2 极大似然估计极大似然估计公式均值方差估计公式推导概率知识复习高斯分布最大似然估计 7.3 ...
机器学习__04__朴素贝叶斯算法
文章目录朴素贝叶斯 1.0 概述 2.0 相关原理 2.1后验概率最大化含义 2.2拉普拉斯平滑 3.0 朴素贝叶斯的三种形式和实现 3.1高斯型 3.2多项式型 3.3伯努利型 4.0 中文文本分 ...
机器学习之朴素贝叶斯三、拉普拉斯平滑技术、优化改进情感分析
文章目录一.前文问题 1. 先看下改进前我们的代码计算部分 2. `问题分析`: 二.针对问题进行解决 1. 什么是`拉普拉斯平滑`技术 2. 拉普拉斯优化-下溢上溢问题 3. 改进地方分析: 4. ...
【机器学习】贝叶斯模型（Bayesian Model）
贝叶斯模型最小错误率贝叶斯先验概率似然概率二类判决问题最小错误率贝叶斯公式误差例题极大似然估计例题最小风险贝叶斯癌症诊断分类器设计生成模型(Generative Model) ...

贝叶斯、先验概率后验概率

贝叶斯定理

先验概率、后验概率

朴素贝叶斯分类算法

贝叶斯、先验概率后验概率相关推荐

最新文章

热门文章

贝叶斯、先验概率后验概率

贝叶斯定理

先验概率 、后验概率

朴素贝叶斯分类算法

贝叶斯、先验概率后验概率相关推荐

最新文章

热门文章

先验概率、后验概率