1、经常使用的核函数

核函数的定义并不困难,根据泛函的有关理论,只要一种函数K(xi,xj)满足Mercer条件,它就对应某一变换空间的内积.对于判断哪些函数是核函数到目前为止也取得了重要的突破,得到Mercer定理和以下常用的核函数类型:

(1)线性核函数

K(x,xi)=x⋅xi

(2)多项式核

K(x,xi)=((x⋅xi)+1)d

(3)径向基核(RBF)

K(x,xi)=exp(−∥x−xi∥2σ2)

Gauss径向基函数则是局部性强的核函数,其外推能力随着参数σ的增大而减弱。多项式形式的核函数具有良好的全局性质。局部性较差。

(4)傅里叶核

K(x,xi)=1−q22(1−2qcos(x−xi)+q2)

(5)样条核

K(x,xi)=B2n+1(x−xi)

(6)Sigmoid核函数

K(x,xi)=tanh(κ(x,xi)−δ)

采用Sigmoid函数作为核函数时,支持向量机实现的就是一种多层感知器神经网络,应用SVM方法,隐含层节点数目(它确定神经网络的结构)、隐含层节点对输入节点的权值都是在设计(训练)的过程中自动确定的。而且支持向量机的理论基础决定了它最终求得的是全局最优值而不是局部最小值,也保证了它对于未知样本的良好泛化能力而不会出现过学习现象。

2、核函数的选择

在选取核函数解决实际问题时,通常采用的方法有:一是利用专家的先验知识预先选定核函数;二是采用Cross-Validation方法,即在进行核函数选取时,分别试用不同的核函数,归纳误差最小的核函数就是最好的核函数.如针对傅立叶核、RBF核,结合信号处理问题中的函数回归问题,通过仿真实验,对比分析了在相同数据条件下,采用傅立叶核的SVM要比采用RBF核
的SVM误差小很多.三是采用由Smits等人提出的混合核函数方法,该方法较之前两者是目前选取核函数的主流方法,也是关于如何构造核函数的又一开创性的工作.将不同的核函数结合起来后会有更好的特性,这是混合核函数方法的基本思想.

http://www.zhizhihu.com/html/y2010/2113.html

SVM 核函数的选择相关推荐

  1. 核函数及SVM核函数的选择

    核函数: 实际应用中,我们经常遇到数据线性不可分问题,可将数据从低维空间映射到高维空间,使数据在高维空间线性可分,之后在优化时需要计算内积,复杂度很高.这个时候就可以使用核函数,而核函数准确地说是一种 ...

  2. svm常用核函数及选择核函数的方法

    SVM核函数的选择对于其性能的表现有至关重要的作用,尤其是针对那些线性不可分的数据,因此核函数的选择在SVM算法中就显得至关重要.对于核技巧我们知道,其目的是希望通过将输入空间内线性不可分的数据映射到 ...

  3. 百题突击12:1,SVM算法的优缺点 2,SVM的超参数C如何调节 3,SVM的核函数如何选择 4,简述SVM硬间隔推导过程 5,简述SVM软间隔推导过程

    1,SVM算法的优缺点 优点 可以解决高维问题,即大型特征空间: 解决小样本下机器学习问题: 能够处理非线性特征的相互作用: 无局部极小值问题:(相对于神经网络等算法) 无需依赖整个数据: 泛化能力比 ...

  4. matlab svm核函数选择,SVM分类核函数及参数选择比较.pdf

    Compu~r Engineering口 4 胁日ff0 计算机工程与应用 SVM分类核函数及参数选择比较 奉国和 FENG Guohe 华南师范大学 经济管理学院 信息管理系,广州 5 10006 ...

  5. svm核函数的理解和选择

    特征空间的隐式映射:核函数 咱们首先给出核函数的来头:在上文中,我们已经了解到了SVM处理线性可分的情况,而对于非线性的情况,SVM 的处理方法是选择一个核函数 κ(⋅,⋅) ,通过将数据映射到高维空 ...

  6. 使用SVM分类如何选择核函数类型

    先粘贴一下,以后有经验了再自己总结. 如果如果特征数远远大于样本数的情况下,使用线性核就可以了. 如果特征数和样本数都很大,例如文档分类,一般使用线性核, LIBLINEAR比LIBSVM速度要快很多 ...

  7. 【机器学习系列】之SVM核函数和SMO算法

    作者:張張張張 github地址:https://github.com/zhanghekai [转载请注明出处,谢谢!] [机器学习系列]之SVM硬间隔和软间隔 [机器学习系列]之SVM核函数和SMO ...

  8. 机器学习实战-之SVM核函数与案例

    在现实任务中,原始样本空间中可能不存在这样可以将样本正确分为两类的超平面,但是我们知道如果原始空间的维数是有限的,也就是说属性数是有限的,则一定存在一个高维特征空间能够将样本划分. 事实上,在做任务中 ...

  9. matlab二分类svm高斯核 实例,16 SVM - 代码案例三 - 不同SVM核函数效果比较

    SVM的章节已经讲完,具体内容请参考:<01 SVM - 大纲> 常规操作: 1.头文件引入SVM相关的包 2.防止中文乱码 3.读取数据 4.数据分割训练集和测试集 6:4 import ...

最新文章

  1. codeforces 650D. Zip-line 线段树
  2. 【深度学习入门到精通系列】留一交叉验证法Python实现(看不懂你来打我~!)
  3. mysql scope runtime_Maven依赖scope属性详解-一个报错引发的问题 - 老郭种树
  4. mysql 界面 创建用户名和密码是什么_PLSQL操作Oracle创建用户和表(含创建用户名和密码)...
  5. zookeeper中展示所有节点_分布式协调服务之Zookeeper
  6. 磁盘阵列——RAID0制作方法
  7. 游戏项目中观察者模式解析
  8. 数据科学家在“新常态”下发生了怎样的转变?
  9. C++面试题-指针-指针数组与数组指针
  10. Android模拟器图形绘原理(二十二)
  11. Qt利用avilib实现录屏功能_如何找到电脑录屏功能?4种方法教你一键打开,不会用来学一学...
  12. c语言 五个学生学号 姓名 三门,有五个学生,每个学生的数据包括学号、姓名、三门课的成绩,从键盘输入五个学生的数据,要求打印三门课总平均...
  13. Java多线程之二(Synchronized)
  14. Java实现SQL格式化
  15. 并行计算之路5——CUDA的硬件架构
  16. 《数据挖掘概念与技术》第八章 分类:基本概念
  17. 重磅宣布|强强联合,腾讯云携手Veeam提供云上数据存储服务
  18. 20多年老码农的IT学习之路
  19. OpenCV-Python实现有参照物条件下的长方形物体尺寸推算(可实时、附源码)
  20. Python enumerate,iter的用法

热门文章

  1. 看它72变,不仅能随时“变身”、还能游泳滑翔的“Prime”机器人
  2. 『原创』教你如何使用Sandcastle Help File Builder建立MSDN风格的代码文档
  3. 医院病房听音与定点寻呼广播系统方案
  4. 学生HTML旅游景点网页作业作品 (HTML+CSS 制作江苏盐城家乡主题网站)
  5. mysql 主从复制讲解_mysql主从复制 详解
  6. 科创板|西部超导虹软科技等今日申购 网上申购上限最高9500股
  7. TCP/IP 七层协议
  8. SpringBoot JdbcTemplate
  9. opencv-图像的空间域处理之点运算
  10. 基于 HTML5 WebGL 的 3D 仓储管理系统