机器学习基础（二十九）—— 径向基核函数（RBF）

尽管最佳核函数的选择一般与问题自身有关，但对普遍问题还是有规律可循的，建议初学者在通常情况下，优先考虑径向基核函数（RBF）：

K(x,y)=exp(−γ∥x−y∥2)

K(\mathbf x,\mathbf y)=\exp(-\gamma\|\mathbf x-\mathbf y\|^2)

主要基于以下考虑：

（1）作为一种对应于非线性映射的核函数，RBF 能够处理非线性可分的问题
（2）线性核函数时 RBF 核函数的一种特例，即通过适当地选择参数 (γ,C)(\gamma, C)，RBF 核函数总可以得到与错误代价参数 C 的线性核函数相同的效果，反之当然不成立
（3）在选择某些参数的情况下，Sigmoid 核函数 K(x,y)=tanh(bxTy−c)K(\mathbf x,\mathbf y)=\tanh(b\:\mathbf x^T\mathbf y-c) 的行为也类似于 RBF 核函数，而且选择 Sigmoid 核函数就有 2 个与之有关的参数 b、c 需要确定。
（4）多项式核函数需要计算内积，而这有可能产生溢出之类的计算问题。

机器学习基础（二十九）—— 径向基核函数（RBF）相关推荐

机器学习--支持向量机（六）径向基核函数（RBF）详解
前面讲解了什么是核函数,以及有效核函数的要求,到这里基本上就结束了,很多博客也是如此,但是呢这些只是理解支持向量机的原理,如何使用它讲解的却很少,尤其是如何选择核函数更没有人讲,不讲也是有原因的,因为 ...
(转载)机器学习知识点(二十九)LDA入门级学习笔记
入门级学习笔记 1.1文本建模相关统计文本建模的目的其实很简单:就是估算一组参数,这组参数使得整个语料库出现的概率最大.这是很简单的极大似然的思想了,就是认为观测到的样本的概率是最大的. 建模的目标 ...
机器学习（二十九）——Temporal-Difference Learning
https://antkillerfarm.github.io/ Temporal-Difference Learning(续) TD vs. MC-3 再来看如下示例: 已现有两个状态(A和B),M ...
吴恩达机器学习（二十九）大规模机器学习
目录 1.随机梯度下降 2.Mini-Batch梯度下降 3.随机梯度下降收敛 4.减少映射与数据并行 1.随机梯度下降对很多机器学习算法,例如线性回归.逻辑回归和神经网络,推导算法的方法是提出 ...
机器学习基础（十九）—— Trick
Trick 1:权值初始化 weights = np.ones(N)/N 应用场景: (1)由一堆 decision stump 构成的 weak classifiers 用于AdaBoost 时的的 ...
机器学习中的数学——距离定义（二十九）：点间互信息（Pointwise Mutual Information, PMI）
分类目录:<机器学习中的数学>总目录相关文章: · 距离定义:基础知识 · 距离定义(一):欧几里得距离(Euclidean Distance) · 距离定义(二):曼哈顿距离(Manh ...
【零基础学Java】—final关键字与四种用法（二十九）
[零基础学Java]-final关键字与四种用法(二十九) 一.final关键字 final关键字代表最终.不可改变的常见的四种用法: 可以用来修饰一个类可以用来修饰一个方法可以用来修饰一个局部 ...
C/C++基础讲解(二十九)之数值计算与趣味数学篇(百钱百鸡问题、爱因斯坦的数学题、三色球问题与马克思手稿中的数学题)
C/C++基础讲解(二十九)之数值计算与趣味数学篇(百钱百鸡问题.爱因斯坦的数学题.三色球问题与马克思手稿中的数学题) 程序之美前言很多时候,特别是刚步入大学的学子们,对于刚刚开展的计算机课程基本 ...
【机器学习】径向基（RBF）神经网络的tensorflow实现
[机器学习]径向基(RBF)神经网络的tensorflow实现一.tensorflow简介 1.1.基础概念 1.1.1计算图 1.1.2 Session会话 1.2.应用流程二.RBF神经网络的 ...

机器学习基础（二十九）—— 径向基核函数（RBF）

机器学习基础（二十九）—— 径向基核函数（RBF）相关推荐

最新文章

热门文章