机器学习基础 之 规则学习
文章目录
- 序贯覆盖
- 剪枝优化
- 一阶规则学习
- 归纳逻辑程序设计
转自： https://www.zhenxiangsimple.com/2019/04/12/tech-ml-gzxx
规则学习就是指通过样本学习一个明确的规则，用以对待分类样本进行分类，目标是产生一个能覆盖尽可能多的样本的规则集。规则常分为命题规则和一阶规则，命题规则指使用具体原子命题和逻辑关系组合成的简单陈述句，一阶规则是由可以描述属性的原子公式，从描述来看命题规则属于一阶规则的特殊情况。
由于一个样本有多个属性，所以会出现同一个样本被多条规则覆盖，如果发生则常使用投票法、排序法和元规则法进行解决，投票法是选择分类最多的规则数，排序法指预先对规则本身的优先级进行排序，选择优先级最高的规则，元规则法指预先为规则的执行指定一个原则，根据原则来确定规则的选择。
序贯覆盖
序贯覆盖指基于样本集进行规则学习，而每学习得到一条规则，就从样本集中将规则可以覆盖的样本去除，直到所有样本集为空或仅剩一种分类，则所有样本都有规则被覆盖。
规则的学习有自顶向下和自底向上两种思路，自顶向下是先使用一般性的规则描述，然后增加细化描述用来覆盖更具体的分类，这种从大到小的方式具有较强的泛化能力，适合本身具体的命题规则；自底向上策略则相反，是先使用特殊的规则开始，然后不断减少约束条件来增加对样本的覆盖率，适合一半特性的一阶规则。
剪枝优化
由序贯覆盖的过程可知这是一个贪心的搜索过程，容易导致局部最优或出现过拟合，类似决策树中的对过拟合的处理，需要增加剪枝。剪枝分为预剪枝和后剪枝，前者指规则学习过程中进行剪枝，后者指规则学习完成后进行剪枝。
一阶规则学习
由于常规的命题逻辑表达能力有限，所以使用一阶逻辑来表示，称为一阶规则学习，即使用更一般的一阶公式代替具体的一维命题进行表达。一阶规则可以表达递归概念即：
更好(X,Y)⟵更好(X,Z)∧更好(Z,Y)更好(X,Y) \longleftarrow 更好(X,Z) \wedge 更好(Z,Y)更好(X,Y)⟵更好(X,Z)∧更好(Z,Y)
归纳逻辑程序设计
归纳逻辑程序设计是采用自底向上的规则生成方式，基于一阶规则增加了更复杂的逻辑表达式嵌套和函数，有了更强的表达能力，但也会由于函数的嵌套导致规则有无穷多个，因此为了简化也有一些常用的策略有最小一般泛化和逆归结。
点击查看 (人工智能) 系列文章
机器学习基础 之 规则学习相关推荐
- 2.机器学习基础（一）
文章目录 第二章 机器学习基础 2.1 基本概念 2.1.1 什么是神经网络 2.1.2 各种常见算法图示 2.1.3 计算图的导数计算 2.1.4 理解局部最优与全局最优 2.1.5 大数据与深度学 ...
- 机器学习基础与实践（二）----数据转换
------------------------------------本博客所有内容以学习.研究和分享为主,如需转载,请联系本人,标明作者和出处,并且是非商业用途,谢谢!-------------- ...
- 机器学习基础（一）--基本概念和分类
机器学习基础(一) 更多信息·可以关注本人博客:https://www.cnblogs.com/zhoubindut/ 机器学习 机器学习基础(一) 1 基本概念 1.1 ML各种常见算法图示 1.2 ...
- 第二章_机器学习基础
文章目录 第二章 机器学习基础 2.1 各种常见算法图示 2.2 监督学习.非监督学习.半监督学习.弱监督学习? 2.3 监督学习有哪些步骤 2.4 多实例学习? 2.5 分类网络和回归的区别? 2. ...
- review2：机器学习基础
review2:机器学习基础 第二章 机器学习基础 2.1 大话理解机器学习本质 2.2 各种常见算法图示 2.3 监督学习.非监督学习.半监督学习.弱监督学习? 2.4 监督学习有哪些步骤 2.5 ...
- 深度学习 - 第二章 - 机器学习基础
深度学习 - 第二章 - 机器学习基础 第二章 机器学习基础 2.1 各种常见算法图示 2.2 监督学习.非监督学习.半监督学习.弱监督学习? 2.3 监督学习有哪些步骤 2.4 多实例学习? 2.5 ...
- 机器学习（1）机器学习基础 鸢尾花数据集
目录 一.机器学习基础理论 1.机器学习过程 2.机器学习分类 3.数据集返回值介绍 二.鸢尾花数据集(实战) 1.首先是获取数据集 2.显示数据集信息(可以不要) 三.数据集划分 1.数据集划分AP ...
- 【直播】陈信达：零基础计算机视觉之机器学习基础
零基础计算机视觉之机器学习基础 直播信息 分享嘉宾:陈信达,Datawhale成员,上海科技大学硕士. 直播时间:2021年07月30日 20:00 直播内容: 线性回归与指针读数识别 逻辑回归原理与 ...
- 资源 | Intel发布AI免费系列课程3部曲：机器学习基础、深度学习基础以及TensorFlow基础
翻译 | AI科技大本营(公众号ID:rgznai100) 校对 | 成龙 编辑 | 明明 Intel于近期发布了三门AI系列的免费课程,分别是关于机器学习基础.深度学习基础.TensorFlow基础 ...
最新文章
- java完整程序_求一个完整的java程序
- 毕业5年，我是怎么成为年薪30W的运维工程师
- 弧度转为角分秒的c语言程序_用弧度表示角度
- python算法与数据结构-选择排序算法
- php的toast,使用toast组件实现提示用户忘记输入用户名或密码功能
- HDU 3966 Aragorn's Story (树链点权剖分，成段修改单点查询)
- 计算机鼠标介绍教学反思,《玩转鼠标》教学反思
- [Jmeter]Jmeter环境搭建
- mysql key_mysql 索引 key 的用法
- linux centos6 mvn,CentOS 6.3 安装Maven3
- 盘一盘 Thread源码
- 华为云 EI 打造城市智能体，共筑数字政府基石
- labview 快捷键
- 微信H5框架：WEUI
- js 图片上传时加水印
- 中标麒麟桌面操作系统6.0安装步骤
- PicGo 安装及配置
- 用Python把PDF文件转换成Word文档
- 腾讯成立技术委员会，地位高于 6 大事业群
- Jinja2渲染的两种方式