多分类学习

基本思想

“拆解法”，即:将多分类任务拆分为多个二分类任务。
先对任务进行拆分，然后为拆分出的每个二分类任务训练一个分类器；在测试时，对这些分类器的结果进行集成以获得最终的多分类结果。

拆分策略

一对一：将N个类别两两配对，从而产生N(N-1)/2个二分类任务，由此训练得到N(N-1)/2个分类器。测试时，测试数据会被送入所有的分类器中，把预测的最多的类别作为最终的结果；
一对多：每次将一个类作为正例、其它类的样例作为反例来训练N个分类器；测试时如果只有一个分类器被预测为正例，则对应的类别作为最终的分类结果，如果有多个分类器预测为正例，则要检测分类器的预测值置信度，置信度最大的类别作为分类结果；
多对多：若干个类作为正例、若干个作为反例进行训练。常用技术是：纠错输出码。

纠错输出码

编码阶段：对N个类别做M次划分，每次将一部分作为正例、一部分作为反例，从而形成一个二分类训练集，总共形成M个分类器；
解码阶段：M个分类器分别对测试数据进行预测，这些预测标记组成一个编码。将这个预测编码与每个类别各自的编码进行比较，返回其中距离最小的类别作为最终的预测结果。

机器学习--多分类学习相关推荐

机器学习实验——分类学习算法
一.目的和要求 1.理解监督学习和分类学习的基本概念. 2.掌握分类学习五种算法的算法流程. 3.学会编写分类学习五种算法的Python编程方法. 4.会使用分类学习评价方法测评不同的算法性能二.设 ...
机器学习6-多分类学习器拆分策略
文章目录 1.一对一(One vs. One,简称OvO) 2.一对其余(One vs. Rest,简称OVR) 3.多对多(Many vs. Many,简称MvM) 参考文章: 多分类问题学习器 ...
机器学习 --- 多分类学习
第1关:OvO多分类策略本关任务:根据所学知识完成基于 OvO 策略的多分类模型训练与预测,实现多分类任务. import numpy as np# 逻辑回归 class tiny_logistic ...
educoder机器学习 --- 多分类学习
第1关:OvO多分类策略 import numpy as np# 逻辑回归 class tiny_logistic_regression(object):def __init__(self):#Wse ...
新闻上的文本分类：机器学习大乱斗王岳王院长王岳王院长 5 个月前目标从头开始实践中文短文本分类，记录一下实验流程与遇到的坑运用多种机器学习（深度学习 + 传统机器学习）方法比较短文本分类处
新闻上的文本分类:机器学习大乱斗王岳王院长 5 个月前目标从头开始实践中文短文本分类,记录一下实验流程与遇到的坑运用多种机器学习(深度学习 + 传统机器学习)方法比较短文本分类处理过程与结果差 ...
【机器学习】多分类学习的拆分策略
[机器学习]多分类学习现实中常遇到多分类学习任务.有些二分类学习方法可直接推广到多分类,但在更多情形下,我们是基于一些基本策略,利用二分类学习器来解决多分类问题.所以多分类问题的根本方法依然是二分类 ...
机器学习笔记-多分类学习，类别不平衡，决策树
读书笔记多分类学习基本思想:拆解法:将多分类任务拆解为若干个二分类任务求解,先对这些问题经拆分,为拆分出的每个二分类任务训练一个分类器,测试时,对这些分类器的预测结果进行集成以获得最终的多分类结果 ...
《机器学习实战》学习笔记（四）：基于概率论的分类方法 - 朴素贝叶斯
欢迎关注WX公众号:[程序员管小亮] [机器学习]<机器学习实战>读书笔记及代码总目录 https://blog.csdn.net/TeFuirnever/article/details ...
文本分类学习（五）机器学习SVM的前奏-特征提取（卡方检验续集）
前言: 上一篇比较详细的介绍了卡方检验和卡方分布.这篇我们就实际操刀,找到一些训练集,正所谓纸上得来终觉浅,绝知此事要躬行.然而我在躬行的时候,发现了卡方检验对于文本分类来说应该把公式再变形一般,那样 ...

机器学习--多分类学习

多分类学习

基本思想

拆分策略

纠错输出码

机器学习--多分类学习相关推荐

最新文章

热门文章