生成式模型和判别式模型区别
两者都是进行分类(classification)的模型。生成模型(generative model)通过学习先验分布来推导后验分布而进行分类，而判定模型(discriminative model)直接学习后验分布来进行分类。
对于分类模型，一般有三种建模方法：生成模型，判定模型和直接学习决策边界。举例来说，如果信用卡公司需要通过建模学习如何通过个人收入(X)来检测其是否会成为坏账(Y)。一种建模的方法是先学习整体的坏账率(P(Y))以及在坏账与非坏账的群体中，个人收入是如何分布的(P(X|Y))。在学习这两种概率后，通过Bayes theorem得到后验分布(P(Y|X))，即所有收入在某个区间的贷款人成为坏账的概率。这种方法被称为生成模型：通过对于先验分布的学习与建模来得到后验分布，从而对其进行分类。而另一种更加直观的建模方法是直接对后验分布进行学习，例如如果我们假设坏账率与个人收入是线性的关系，我们可以通过logistic regression来直接预测在该收入范围内的坏账率。这种方法则被称为判定模型：直接学习后验分布P(Y|X)而不在乎X与Y的联合分布甚至先验分布。当然，我们也可以直接学习决策边界(decision boundary)，SVM便是直接学习边界的例子。
虽然都是分类模型，但三种建模方法又有以下的区别：
生成模型与判定模型可以阐述猜错的概率，从而提供可信程度。因为它们两者都通过后验分布进行判断，所以可以通过输出后验分布告知判断的可信程度。例如这个人有60%的可能性成为坏账。然而直接学习决策边界的模型只能告诉你它更可能是那个类别，而不能告诉你它的可信程度。
只有生成模型能检测异常值。由于生成模型完全学习了所有的分布，所以它可以用来检测某个值是否异常：P(X)是否太小。
生成模型的模型准确度不高。也是由于生成模型学习了所有的分布，而且在每个分布的学习中，很难保证学习是准确的，因此分布很少情况下会完全与显示匹配。
生成式模型和判别式模型区别相关推荐
- 生成式模型、判别式模型的区别？
生成式模型.判别式模型的区别? 对于机器学习模型,我们可以根据模型对数据的建模方式将模型分为两大类,生成式模型和判别式模型.如果我们要训练一个关于猫狗分类的模型, 对于判别式模型,只需要学习二者差 ...
- 【机器学习】生成式模型和判别式模型
在机器学习中,对于有监督学习可以将其分为两类模型:判别式模型和生成式模型.判别式模型是针对条件分布建模,而生成式模型则针对联合分布进行建模. 1.抛砖引玉 假设有训练数据(X,Y),X是属性集合,Y是 ...
- 生成式模型与判别式模型
生成式模型与判别式模型的区别 生成式模型(Generative Model)与判别式模型(Discriminative Model)是分类器常遇到的问题 对于判别式模型来说求得P(Y|X),对未见示例 ...
- 机器学习 之 生成式模型 VS 判别式模型
[摘要] 判别式模型,就是只有一个模型,你把测试用例往里面一丢,label就出来了,如SVM.生成式模型,有多个模型(一般有多少类就有多少个),你得把测试用例分别丢到各个模型里面,最后比较其结果,选择 ...
- 机器学习：生成式模型和判别式模型
决策函数Y=f(X)与条件概率分布P(Y|X) 决策函数Y=f(x):输入一个x,它就输出一个y值,这个y与一个阈值比较,根据比较结果判定x属于哪个类别. 条件概率分布P(y|x):输入一个x,它通过 ...
- 机器学习中的生成式模型VS判别式模型，分类，特点
机器学习中的生成式模型VS判别式模型,分类,特点 提示: 本文将从生成式模型与判别式模型的概念, 适用环境 具体模型 三个方面分析比较这两个模型, 并在最后对列出模型范例,进行范例比较. 基础知识: ...
- 生成式模型 vs 判别式模型
点击上方"Datawhale",选择"星标"公众号 第一时间获取价值内容 生成式模型和判别式模型的概念是机器学习领域非常重要的基础知识,但能准确区分开二者并不是 ...
- 生成式模型和判别式模型（通俗易懂）
原文链接:https://blog.csdn.net/qq_14997473/article/details/85219353 决策函数Y=f(X)与条件概率分布P(Y|X) 决策函数Y=f(x):输 ...
- 机器学习小问题 -- 生成式模型与判别式模型
本篇博文总结最近学习到的生成式模型与判别式模型的知识. 1. 简介 就像之前在总结分类和聚类时说的一样,机器学习基本在做的事情就是在分类.打标签,我们的模型也就像一个个分类机器(个人看法,欢迎指正). ...
- NLP --- 产生式模型VS判别式模型
上一节我们介绍了概率图模型,这将在隐马尔可夫和条件随机场使用到,还会使用到的另外一个概念就是产生式模型和判别式模型,那么什么是产生式模型,什么是判别式模型呢?下面我们详细介绍这两种模型的区别. 他们的 ...
最新文章
- Java核心技术第五章——2.Object类
- Nature Methods | TooManyCells:单细胞聚类和可视化方法
- Spring+SpringMVC+Log4J
- python实现scp功能_转python实现ftp，scp的实现
- 执行Shell脚本的4种方法
- 电脑硬件检测_好用的电脑硬件型号有哪些_江西南昌顺同谦科技|电脑||笔记本|...
- Linux Boot，Kernel 和 Service 介绍
- Linux入门笔记——cal、date、free、clear、history、man、whatis、uname
- mongodb的架构 副本集搭建
- 【codevs1001】舒适的路线，心累的冰茶几
- 万字长文带你看尽深度学习中的12种卷积网络
- 用C#实现基于TCP协议的网络通讯(2)
- 改变权限Linux,Linux chmod改变权限属性命令
- 52. N-Queens II (Array; Back-Track)
- 实测 ? 2019 史上最全 28个国外国内免费虚拟手机号平台
- 《管理的常识》7-“什么是计划”读后感及读书笔记
- Mac 无法打开淘宝,天猫,京东等
- TP-LINK路由器如何设置上网
- 学习笔记与练习 | SQL入门（三）| 复杂一点的查询
- 关于马尔科夫随机场（MRF）在图像分割中应用的个人理解