Platt scaling

在机器学习中，platt scaling 或者 platt calibration 是把模型的输出转化成一种基于类别的概率分布的方法。这个方法代替了早期的Vapnik提出的方法，但是这个方法可以应用于其他的分类模型。platt是把一个逻辑回归模型拟合分类分数的方法。

在二分类中，对于输入x，我们想要知道它属于两类中的哪一类，我们假定这个分类任务可以用一个函数f解决，预测y=sign(f(x)),对于many问题，很方便获得P(y=1|x),例如一个分类器不仅给出预测的结果，而且给出置信度。但是有的模型却没有给出。

platt scaling 是一个解决上述问题的算法：

对分类的分数f(x)进行了逻辑回归转化，A和B是分类器学习得到的两个参数。转化后，由P(y=1|x)>0.5

可以预测y=1，如果B不等于0，和之前的y=sign(f(x))相比，概率估计包含了一个纠正项，

使用最大似然法估计A和B，和分类器f用同样的训练集，为了防止过拟合，可以保留calibration set 或者使用交叉验证，并且应该把标签y转化成目标概率：

N+和N-分别表示正样本和负样本的个数，This transformation follows by applying Bayes' rule to a model of out-of-sample data that has a uniform prior over the labels.^[1]

Platt scaling相关推荐

几种经典概率校准方法（Platt scaling、 histogram binning、 isotonic regression、 temperature scaling）
1. Platt scaling Platt scaling本质上是对模型sigmoid输出的分数做概率变化.在此基础上引入了两个参数a, b,假设输入样本为$X_i$,模型输出分数为$f(X_i)$ ...
2020年，图机器学习的趋势有哪些？
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 2020 年已经过去了2个多月,但我们已经可以从最近的研究论文中一窥图机器学习(G ...
机器学习笔记(八)集成学习
8.集成学习 8.1个体与集成集成学习(ansemblelearning)通过构建并结合多个学习器来完成学习任务,也称为多分类器系统(multi-classifiersystem).基于委员会的学习 ...
smote算法_支持向量机算法的可解释和可视化
SVM通常被认为是"黑匣子".在本文中,我们将介绍可视化学习的SVM模型及其在真实世界数据上的性能的技术. 本文包含以下部分: 线性模型,SVM和内核简介利用SVM内核解释高维特 ...
【Scikit-Learn 中文文档】支持向量机 - 监督学习 - 用户指南 | ApacheCN
中文文档: http://sklearn.apachecn.org/cn/0.19.0/modules/svm.html 英文文档: http://sklearn.apachecn.org/en/0. ...
2020年，图机器学习将走向何方？
点击我爱计算机视觉标星,更快获取CVML新技术本文转载自机器之心. 选自towardsdatascience 作者:Sergei Ivanov 机器之心编译参与:魔王.杜伟 2020 年已经过去了 ...
[PMLR 2017] On calibration of modern neural networks
Contents Introduction Calibration Metrics Observing Miscalibration Calibration Methods Calibrating B ...
我们如何在Pinterest Ads中使用AutoML，多任务学习和多塔模型
Ernest Wang | Software Engineer, Ads Ranking 欧内斯特·王| 软件工程师,广告排名 People come to Pinterest in an explo ...
监督分类：SVM即支持向量机实现遥感影像监督分类（更新：添加机器学习模型存储、大影像划框拼接）
前面已经有一个版本了,但是影像太大内存顶不住,而且训练和预测没有分离,后面批量用这个不可能每次每张影像都训练了再预测,这次正好有需求,我就最后把这个整理一下,算是终版吧,以后也不会再花时间整这个了这 ...

Platt scaling

Platt scaling相关推荐

最新文章

热门文章