深度学习五大神经网络 1
深度学习五大神经网络(CNN、RNN、GAN、GNN、LSTM)
参考7-前向传播整体流程_哔哩哔哩_bilibili
目录
一、深度学习要解决的问题
二、计算机视觉任务
◼ 图形分类任务:
◼ 计算机视觉面临的挑战:
◼ K近邻算法
三、得分函数
◼ 线性函数
四、损失函数的作用
一、深度学习要解决的问题
机器学习的流程:
- 数据获取
- 特征工程(重要)
- 建立模型
- 评估与应用
问题:为什么需要深度学习?
深度学习会自动学习,自动特征工程提取。去学什么样的特征是最合适的。
二、计算机视觉任务
◼ 图形分类任务:
图形表示:计算机眼中的图像,一张图片被表示成三维数组的形式,每个像素值为0-255(亮),例如:300*100*3为H*W*颜色通道。
◼ 计算机视觉面临的挑战:
◼ K近邻算法
数据:两类点:方块,三角
那么绿色的点是属于方块还是三角?K=3还是K=5?结果是一样的吗?
K近邻算法的计算流程:
- 计算已知类别的数据集中的点与当前点的距离;
- 安装距离依次排序;
- 选取与当前点距离最小的K个点;
- 确定前K个点所在类别的出现概率;
- 返回前K个点出现频率最高的类别作为当前点的预测分类;
那么使用K近邻算法来进行图像分类任务,
测试结果:部分结果还可以,但是没有分类对的图像,问题出在哪里呢?
问题:为什么K近邻算法不适合用来图像分类任务?
得到的结果当中,把北京相同相似的图像都放到了一起。因为我们现在拿到的数据,有些它是个主题,比如一个马,一个马只占到图像的一部分,但是K近邻算法不知道什么是主体,什么是背景,没有一个学习的过程。背景主导是一个最大的问题,我们关注的其实是主体(主要成分)。
那么如何才能让机器学习学习到哪些是重要的成分呢?
三、得分函数
◼ 线性函数
从输入到输出的映射:
猫是由32x32x3=3072个像素点来决定的,那么猫眼睛和耳朵,与背景的影响肯定是不一样的,有些像素点对于是猫起到一个促进作用,有些像素点对于是猫起到一个抑制作用。------权重参数W
比如说我要算一个10分类任务,那就需要算它属于10个类别各自的得分值,
我们一共需要几组权重参数,是根据分类任务得到的。也就是说W一共需要10个。
此处的b:偏置参数,微调,每一组进行w权重计算之后,都要分别进行能微调,各自类别各自微调。
四、损失函数的作用
比如说我要算一个3分类任务,
- 3x4:3代表3个类别,4代表猫有4个像素点;
- 当权重参数的值比较大时,当前的结果对当前的类别影响比较大。
- 权重参数正值代表促进作用,负值代表抑制作用;
我们刚开始随机给定一个3x4的权重,分类结果显示把图像错误判断成了狗,
问题:那么为什么会产生这样一个现象?
是因为数据不好吗,肯定不是,数据x不会变,说明W不好。那么就需要在迭代过程中,用一种优化方法来不断去改进参数。
那么损失函数如何衡量分类的结果呢?结果的得分有着明显的差异,我们需要明确的指导模型的当前效果,有多好或者有多差。
当它做第一个分类时,效果不好则损失函数为2.9,较高。当它做第2个分类时,效果还行,4.9比1.3和2.0高出了至少1,那么则损失函数为0,无损失。当它做第3个分类时,效果非常不好则损失函数为10.9。
深度学习五大神经网络 1相关推荐
- 深度学习(1)基础1 -- 深度学习与神经网络基础
目录 一.深度学习与神经网络 1.深度学习定义 2.神经网络 3.深度学习过程 4.深度学习功能 二.深度学习应用 三.分类数据集推荐 一.深度学习与神经网络 1.深度学习定义 深度学习(deep l ...
- 从神经元到神经网络、从神经网络到深度学习:神经网络、深度学习、神经元、神经元模型、感知机、感知机困境、深度网络
从神经元到神经网络.从神经网络到深度学习:神经网络.深度学习.神经元.神经元模型.感知机.感知机困境.深度网络 目录 从神经元到神经网络.从神经网络到深度学习 神经网络:
- 针对深度学习(神经网络)的AI框架调研
针对深度学习(神经网络)的AI框架调研 在我们的AI安全引擎中未来会使用深度学习(神经网络),后续将引入AI芯片,因此重点看了下业界AI芯片厂商和对应芯片的AI框架,包括Intel(MKL CPU). ...
- DL:听着歌曲《成都》三分钟看遍主流的深度学习的神经网络的发展框架(1950~2018)
DL:听着歌曲<成都>三分钟看遍主流的深度学习的神经网络的发展框架(1950~2018) 视频链接:听着歌曲<成都>三分钟看遍主流的深度神经网络的发展框架(1950~2018) ...
- 深度学习(神经网络) —— BP神经网络原理推导及python实现
深度学习(神经网络) -- BP神经网络原理推导及python实现 摘要 (一)BP神经网络简介 1.神经网络权值调整的一般形式为: 2.BP神经网络中关于学习信号的求取方法: (二)BP神经网络原理 ...
- 深度学习(神经网络)[1]——单层感知器
深度学习(神经网络)[1] -- 单层感知器 算法描述 python实现 示例运行结果 可视化 算法描述 最原始的神经网络模型,类似于神经网络中的单个神经元,该算法局限性也很大,只适用于解决线性可分的 ...
- 人工智能、机器学习、深度学习和神经网络的区别
人工智能 背景:人工智能最初可以追溯至1956年,当时多名计算机科学家在达特茅斯会议上共同提出了人工智能的概念.在随后几十年中,人工智能一方面被认为是人类文明未来的发展方向,另一方面也被认为是难以企及 ...
- python神经网络教程16_Python深度学习之神经网络视频
Python深度学习之神经网络视频 课程简介 该阶段是深度学习的入门课程,主要介绍经典的深度学习框架TensorFlow的使用,IO操作,以及神经网络基础.卷积神经网络的相关知识,并用卷积神经网络原理 ...
- 01.神经网络和深度学习 W2.神经网络基础
文章目录 1. 二分类 2. 逻辑回归 3. 逻辑回归损失函数 4. 梯度下降 5. 导数 6. 计算图导数计算 7. 逻辑回归中的梯度下降 8. m个样本的梯度下降 9. 向量化 10. 向量化的更 ...
最新文章
- [Prism]Composite Application Guidance for WPF(8)——事件
- MySQL 深入浅出索引(上)
- Intel qsv + ffmpeg 硬解h264
- java 把URL中的中文转换成utf-8编码
- maven安装以及eclipse配置maven
- DeepLesion 更新下载
- java用户输入_如何用Java获取用户输入?
- 和整数相乘_人教版五年级上册第1单元《小数乘整数》课件及同步练习
- 程序员如何在未来之路寻找自己的“龙椅”
- 20190415 - iOS11 无法连接到 App Store 的解决办法
- python对文件的操作
- 【Python】第七篇:模块化编程及第三方模块的安装
- 技术交底书(二)-----一种基于移动终端的安全防护系统
- 如何参加java开源项目_有哪些适合大学生的开源项目?怎么参与?
- 2019中国脑科学与神经调控技术发展高峰论坛
- Vs2008编译vtk5.10详细教程
- 怎么将图片的背景抠掉?
- Oracle-数据库组件invalid问题处理
- 诺基亚安卓手机_神速!HMD公布诺基亚手机安卓10升级计划
- 百度ERNIE-Gram: Pre-Training with Explicitly N-Gram Masked Language Modeling