Coursera吴恩达机器学习week4笔记
Large Margin Classification
Optimization Objective
svm:
Large margin intuition
Mathematics Behind Large Margin Classification
Kernels
Kernels1
定义决策边界对应的函数是Θ0+Θ1f1+Θ2f2+Θ3f3,其中f1、f2和f3就是相似度函数。
下图给定新的x点,计算该点与标记的3个标记点(landmark)l(1)、l(2)和l(3)之间的相似度f1、f2和f3。**相似度函数就是所谓的核函数。**在这里,就是高斯核函数,实际还有许多不同的核函数。这个相似度函数也可以写成K(x,l(i)),这里的x和l是向量。
Kernels2
如何得到l(1)、l(2)、l(3)等标记点(landmark):选取所有训练样本为标记点。这说明特征向量是在描述新样本距离每一个测试样本的距离。
已知Θ向量,如何对样本做出预测:给定x,计算特征向量f,只要当ΘTf>=0时就预测y=1,;否则,就预测y=0。其中的参数向量Θ是m+1维的(f0=1),这里有m+1个特征,额外的1是因为截距的原因。许多SVM软件包自动设置x0=1,自动设置截距Θ0。因此,实现SVM时,不用像逻辑回归那样添加x0=1这样的向量。
SVMs in Practice
Using an svm
如果选择高斯核函数,那么要实现函数来计算核函数的特定特征。注意,如果特征变量取值范围很不一样,在使用高斯核函数之前,对它们进行归一化是很重要的。
不常用的核函数如下:
1.多项式核函数。k(x,l)=(xTl+b)^n(b为常数,n为指数),x和l很接近的时候,k(x,l)会很大。这个核函数有2个参数:b和n。效果要比高斯核函数差一些。用在x和l都是严格非负数的时候,保证两者的内积非负。
2.字符串核函数。用于字符串相关,比如文本分类。
3.卡方核函数。
4.直方图交叉核函数。
1.多类分类问题。许多SVM软件包已经内置用于多类分类的函数,可以直接使用;也可以使用逻辑回归中提及的一对多的方法进行分类(k个类别,k个参数theta)。
实际上,SVM是一个凸优化问题,有全局最小值。有时候,选择模型确实重要,但更重要的是数据是否充足,是否熟练,是否擅长做误差分析和调试学习算法,如何设计新的特征变量等等。
Coursera吴恩达机器学习week4笔记相关推荐
- 【CV】吴恩达机器学习课程笔记 | 第1-2章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 1 介绍 1-3 监督学习 1-4 无监督学习 2 单变量 ...
- 【CV】吴恩达机器学习课程笔记第18章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 18 应用案例:照片OCR 18-1 问题描述与流程(pi ...
- 【CV】吴恩达机器学习课程笔记第17章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 17 大规模机器学习 17-1 学习大数据集 17-2 随 ...
- 【CV】吴恩达机器学习课程笔记第16章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 16 推荐系统 16-1 问题规划 16-2 基于内容的推 ...
- 【CV】吴恩达机器学习课程笔记第10章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 10 应用机器学习的建议 10-1 决定下一步做什么 10 ...
- 【CV】吴恩达机器学习课程笔记第11章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 11 机器学习系统设计 11-1 确定执行的优先级:以垃圾 ...
- 吴恩达机器学习学习笔记第七章:逻辑回归
分类Classification分为正类和负类 (规定谁是正谁是负无所谓) 吴恩达老师举例几个例子:判断邮箱是否是垃圾邮箱 一个在线交易是否是诈骗 一个肿瘤是良性的还是恶性 如果我们用之前学习的lin ...
- 吴恩达机器学习课程笔记一
吴恩达机器学习课程笔记 前言 监督学习---`Supervised learning` 无监督学习---`Unsupervised learning` 聚类 异常检测 降维 增强学习---`Reinf ...
- Github标星24300!吴恩达机器学习课程笔记.pdf
个人认为:吴恩达老师的机器学习课程,是初学者入门机器学习的最好的课程!我们整理了笔记(336页),复现的Python代码等资源,文末提供下载. 课程简介 课程地址:https://www.course ...
最新文章
- 【 Vivado 】基本的时序约束、分析的概念
- OpenGL中投影变换矩阵的反向推导
- Oracle - Log buffer 的相关设置
- Flask web开发之路二
- java中的strictfp的作用
- 黄聪: 50 个 Bootstrap 插件
- .典型用户 - 场景
- Google Analytics Advanced Configuration - Google Analytics 高级配置
- synchronized原理_synchronized 底层原理与内存屏障
- ewsa 字典_湖南字典头条胖U
- 为什么工程师要掌握FPGA开发知识?
- ospf避免环路_13、OSPF的选路规则及路由控制
- base64编码以及b' '前缀的去除
- 计算机如何写上大于符号,电脑大于等于号怎么打出来
- 大数据毕设选题 - 深度学习植物识别系统(cnn opencv python)
- 软件测试中的集成测试到底是什么?集成的方法又有哪些?
- jmeter--上传图片类接口
- 网络变压器在以太网中的作用
- 267019条猫眼数据加持,原来你是这样的《流浪地球》——python数据分析全流程代码实现!
- MOOC浙大数据结构课后题记录——PTA数据结构题目集(全)
热门文章
- matlab最基础教程(四):常用的系统自带函数,符号变量与字符串篇
- ion-slides广告轮播
- 微信小程序 老男孩课程(day1-2.5 到django不会了..要学Pythone)
- 使用O2OA二次开发搭建企业办公平台(十三)流程开发篇:报销审批流程表单开发
- 服务器无限刷石机推荐,【红石技巧】-世界上最快的刷石机
- 上市4天暴降1500元,iPhone14创下了苹果降价最快纪录
- [图论] 平面图 平面性的判定
- 在Centos系统下创建与Windows的共享文件夹
- 基于FPGA的UART串口通信实验(VHDL语言实现)
- android SoundPool 音效播放