深度学习之神经网络与支持向量机

　　引言：神经网络(Neural Network)与支持向量机(Support Vector Machines，SVM)是统计学习的代表方法。可以认为神经网络与支持向量机都源自于感知机(Perceptron)。感知机是1958年由Rosenblatt发明的线性分类模型。感知机对线性分类有效，但现实中的分类问题通常是非线性的。

　　神经网络与支持向量机(包含核方法)都是非线性分类模型。1986年，Rummelhart与McClelland发明了神经网络的学习算法Back Propagation。后来，Vapnik等人于1992年提出了支持向量机。神经网络是多层(通常是三层)的非线性模型，支持向量机利用核技巧把非线性问题转换成线性问题。

　　神经网络与支持向量机一直处于“竞争”关系。

　　Scholkopf 是Vapnik的大弟子，支持向量机与核方法研究的领军人物。据Scholkopf说，Vapnik当初发明支持向量机就是想"干掉"神经网络(He wanted to kill Neural Network)。支持向量机确实很有效，一段时间支持向量机一派占了上风。

　　近年来，神经网络一派的大师Hinton又提出了神经网络的Deep Learning算法(2006年)，使神经网络的能力大大提高，可与支持向量机一比。

　　Deep Learning假设神经网络是多层的，首先用Boltzman Machine(非监督学习)学习网络的结构，然后再通过Back Propagation(监督学习)学习网络的权值。

　　关于Deep Learning的命名，Hinton曾开玩笑地说: I want to call SVM shallow learning. (注：shallow 有肤浅的意思)。其实Deep Learning本身的意思是深层学习，因为它假设神经网络有多层。

　　总之，Deep Learning是值得关注的统计学习新算法。

　　深度学习(Deep Learning)是ML研究中的一个新的领域，它被引入到ML中使ML更接近于其原始的目标：AI。查看a brief introduction to Machine Learning for AI 和 an introduction to Deep Learning algorithms.

　　深度学习是关于学习多个表示和抽象层次，这些层次帮助解释数据，例如图像，声音和文本。

　　对于更多的关于深度学习算法的知识，可以参看：

　　The monograph or review paper Learning Deep Architectures for AI (Foundations & Trends in Machin

深度学习之神经网络与支持向量机相关推荐

人工智能、机器学习、深度学习和神经网络的区别
人工智能背景:人工智能最初可以追溯至1956年,当时多名计算机科学家在达特茅斯会议上共同提出了人工智能的概念.在随后几十年中,人工智能一方面被认为是人类文明未来的发展方向,另一方面也被认为是难以企及 ...
深度学习与神经网络概述
本文将简单介绍:人工智能(Artificial Intelligence).机器学习(Machine Learning).深度学习(Deep Learning),并介绍神经网络的发展,以及三个在线演示 ...
人工智能：通俗易懂理解深度学习与神经网络
前言初入学习人工智能领域,为方便对该领域有一个快速清晰的认识,因此收集了相关资料并整理了各位前辈们在此领域的研究现状.由浅入深.循序渐进理解什么是深度学习和神经网络,二者的联系和区别是什么,以及什么 ...
人工智能、机器学习、深度学习、神经网络概念说明
目录 1.机器学习的范围 2.机器学习的方法 2.1回归算法 2.2神经网络 2.3 SVM(支持向量机) 2.4聚类算法 2.5降维算法 2.6推荐算法 2.7总结 3 机器学习的分类 3.1 监督 ...
深度学习（1）基础1 -- 深度学习与神经网络基础
目录一.深度学习与神经网络 1.深度学习定义 2.神经网络 3.深度学习过程 4.深度学习功能二.深度学习应用三.分类数据集推荐一.深度学习与神经网络 1.深度学习定义深度学习(deep l ...
从神经元到神经网络、从神经网络到深度学习：神经网络、深度学习、神经元、神经元模型、感知机、感知机困境、深度网络
从神经元到神经网络.从神经网络到深度学习:神经网络.深度学习.神经元.神经元模型.感知机.感知机困境.深度网络目录从神经元到神经网络.从神经网络到深度学习神经网络:
针对深度学习（神经网络）的AI框架调研
针对深度学习(神经网络)的AI框架调研在我们的AI安全引擎中未来会使用深度学习(神经网络),后续将引入AI芯片,因此重点看了下业界AI芯片厂商和对应芯片的AI框架,包括Intel(MKL CPU). ...
DL：听着歌曲《成都》三分钟看遍主流的深度学习的神经网络的发展框架(1950~2018)
DL:听着歌曲<成都>三分钟看遍主流的深度学习的神经网络的发展框架(1950~2018) 视频链接:听着歌曲<成都>三分钟看遍主流的深度神经网络的发展框架(1950~2018) ...
深度学习（神经网络） —— BP神经网络原理推导及python实现
深度学习(神经网络) -- BP神经网络原理推导及python实现摘要 (一)BP神经网络简介 1.神经网络权值调整的一般形式为: 2.BP神经网络中关于学习信号的求取方法: (二)BP神经网络原理 ...

深度学习之神经网络与支持向量机

深度学习之神经网络与支持向量机

深度学习之神经网络与支持向量机相关推荐

最新文章

热门文章