Adaboost例题

参考哔哩哔哩

题干：给定二分类训练集，如下，

定义基学习器 $G(x)=\left\{ \begin{matrix} 1,x>k & \\-1 ,x<k & \end{matrix}\right.$ ，我们需要用 adaboost 训练出一个二分类学习器。

训练流程：

[ m = 1 ]

1.初始化

$D_{1}=(w_{11},w_{12},...w_{110})$ ， $w_{1i}=0.1$

2.训练基分类器

在x中划分出各候选阈值，构建 $G_{m}(x)$ ，选择其中分类误差率 $e_{m}$ 最小的 $G_{m}(x)$ ，作为本轮的基分类器。

经计算，阈值为3.5时误差最低，则 $G_{1}(x)=\left\{ \begin{matrix} 1,x>3.5 & \\-1 ,x<3.5 & \end{matrix}\right.$

3.计算当前基分类器的权值

误差率等于分类结果不同的样本权重之和。

得到 $G_{1}(x )$ 在训练集上的误差率

根据 $e_{m}$ 计算 $G_{m}(x)$ 的权重系数 $\alpha _{m}=0.4236$

4.更新加法模型

5.判断循环条件

假定我设定的终止循环条件为：全部分类正确。不满足该条件，继续循环。

[ m = 2 ]

1.更新权

根据

得到

2.训练基分类器

经计算，阈值为8.5时误差最低，则 $G_{1}(x)=\left\{ \begin{matrix} 1,x>8.5 & \\-1 ,x<8.5 & \end{matrix}\right.$

3.计算当前基分类器的权值

4.更新加法模型

5.判断循环条件

假定我设定的终止循环条件为：全部分类正确。不满足该条件，继续循环。

[ m = 3 ]

假定我设定的终止循环条件为：全部分类正确。满足该条件，终止循环。

Adaboost例题相关推荐

机器学习【期末复习总结】——知识点和算法例题（详细整理）
机器学习[期末复习总结]--知识点和算法例题(详细整理) 1.什么是机器学习,什么是训练集,验证集和测试集?(摘自ML科普系列(一)) 机器学习: 对计算机一部分数据进行学习,然后对另外一些数据进行预 ...
Adaboost算法的原理推导及解释
文章目录 Adaboost算法的原理推导及解释前置知识:Boosting概述 Boosting方法的基本思想 Boosting方法的的学习方法核心部分:Adaboost算法的原理推导和解释 Ada ...
机器学习基础集成学习基础（Boosting+Adaboost+GBDT）
文章目录一.Boosting 1. 什么是boosting 2. 实现过程: 3. bagging集成与boosting集成的区别: 4. AdaBoost介绍 4.1 构造过程细节 4.2 关键点 ...
分解例题及解析_【高考物理】考前梳理，高中物理经典常考例题（带解析），收藏起来考试不低于90+！...
物理应该是理综里最让同学们头疼的一科.最后的压轴大题更是让很多人不知道该怎么下手,题型复杂难理解,简直是丢分"小能手". 别怕!学姐来拯救你们了!高中物理经典常考例题(带解析),考 ...
python动态规划详解_经典动态规划例题整理（Python版）
由于本人的算法基础较为薄弱,所以在这里整理一下自己的做过的题,使自己能够随时随地回顾温习. 然后,本篇文章将会持续更新自己遇到的一些比较经典动态规划的题目,大家如果对代码有任何问题,直接在文章下面评论 ...
for语句内嵌例题与个人理解
例题1:画出一个高度为3的等腰三角形. 编写程序: #include<stdio.h> main() { int a,b,c,h; h=3; ...
＜软件过程与改进＞计算大题考点总结与例题
1.PSP_PROBE估算法常见考法:给历史数据,需要选择代理规模的估算值和程序规模/所需资源的实际值,用以下公式求得拟合公式参数然后使用公式计算出未知的程序规模/所需资源例题 2.PSP过程质 ...
04 集成学习 - Boosting - AdaBoost算法构建
03 集成学习 - Boosting - AdaBoost算法原理十.AdaBoost算法构建上一章最后说明了每个基模型的权值α是如何求得的,于是我就可以对模型进行更新操作了. 构建过程一 1.假 ...
基于Adaboost算法的人脸检测分类器！
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货作者:陈锴,Datawhale优秀学习者,中山大学数学系人脸检测属于计 ...

Adaboost例题

[ m = 1 ]

[ m = 2 ]

[ m = 3 ]

Adaboost例题相关推荐

最新文章

热门文章