CV领域常用词及其含义

  • 一、backbone
  • 二、head
  • 三、neck
  • 四、bottleneck
  • 五、GAP
  • 六、embedding
  • 七、pretext task和downstream task
  • 八、warm up
  • 九、end to end
  • 十、pipeline
  • 十一、baseline

一、backbone

在神经网络中,尤其是CV领域,一般先对图像进行特征提取(常见的有vggnet,resnet,inception等等),这一部分是整个CV任务的根基,因为后续的下游任务都是基于提取出来的图像特征去做文章(比如分类,生成等等)。所以将这一部分网络结构称为backbone十分形象,仿佛是一个人站起来的支柱。

详细说backbone是用来做特征提取的网络,代表网络的一部分,一般是用于前端提取图片信息,生成特征图feature map,供后面的网络使用。因为这些backbone特征提取能力是很强,并且可以加载官方在大型数据集(Pascal 、Imagenet)上训练好的模型参数,然后接自己的网络,进行finetune微调即可。

二、head

head是获取网络输出内容的网络,利用之前提取的特征,head利用这些特征,做出预测。

三、neck

是放在backbone和head之间的,是为了更好的利用backbone提取的特征。

四、bottleneck

瓶颈的意思,通常指的是网络输入的数据维度和输出的维度不同,输出的维度比输入的小了许多,就像脖子一样,变细了。经常设置的参数 bottle_num=256,指的是网络输出的数据的维度是256 ,可是输入进来的可能是1024维度的。

五、GAP

在设计的网络中经常能够看到gap这个层,我之前不知道是干啥的,后了解了,就是Global Average Pool全局平均池化,就是将某个通道的特征取平均值,经常使用AdaptativeAvgpoold(1),在pytorch中,这个代表自适应性全局平均池化,说人话就是将某个通道的特征取平均值。

 self.gap = nn.AdaptiveAvgPool2d(1)

六、embedding

深度学习方法都是利用使用线性和非线性转换对复杂的数据进行自动特征抽取,并将特征表示为“向量”(vector),这一过程一般也称为“嵌入”(embedding)。

七、pretext task和downstream task

用于预训练的任务被称为前置/代理任务(pretext task),用于微调的任务被称为下游任务(downstream task)

八、warm up

Warm up指的是用一个小的学习率先训练几个epoch,这是因为网络的参数是随机初始化的,一开始就采用较大的学习率容易数值不稳定。

九、end to end

在论文中经常能遇到end to end这样的描述,那么到底什么是端到端呢?其实就是给了一个输入,我们就给出一个输出,不管其中的过程多么复杂。比如分类问题,你输入了一张图片,肯定网络有特征提取,全链接分类,概率计算什么的,但是跳出算法问题,单从结果来看,就是给了一张输入,输出了一个预测结果。

end to end的方案,即输入一张图,输出最终想要的结果,算法细节和学习过程全部丢给了神经网络。

十、pipeline

深度学习的pipeline就是模型实现的步骤,从数据收集开始至输出我们需要的最终结果,深度学习现在的pipeline一般都比较强调模型的组件构成流程。

十一、baseline

相当于一个基础模型,可以以此为基准来比较对模型的改进是否有效。

CV领域常用词及其含义相关推荐

  1. CV领域的对比学习综述

    对比学习发展历程 发展历程大概可以分为四个阶段 1.百花齐放 InstDisc(instance discrimination) CPC CMC 在这个阶段中,方法.模型.目标函数.代理任务都还没有统 ...

  2. Transformer在CV领域有可能替代CNN吗?还有哪些应用前景?

    来源丨知乎问答 编辑丨极市平台 本文转自知乎问答,所有回答均已获得作者授权. 问题背景:目前已经有基于Transformer在三大图像问题上的应用:分类(ViT),检测(DETR)和分割(SETR), ...

  3. CV领域最经典的Paper是什么来头?

    最近后台有很多准研究生粉丝给我留言,重复频次最高的2个主题是: ① 如何高效地筛选.阅读论文? ② 如何高效复现论文? AI领域学术会议动辄上千篇文章,无论是准研究生还是现研究生,都会碰到这个问题. ...

  4. 2019年CV领域,值得一看的综述文章!

    问题:2019年,CV领域,你推荐哪些综述性的文章? https://www.zhihu.com/question/355566860 知乎高质量回答 1.作者:Amusi https://www.z ...

  5. 「每周论文推荐」 初入深度学习CV领域必读的几篇文章

    https://www.toutiao.com/a6718570271269192200/ 很多朋友都希望我们开通论文推荐和阅读板块,那就开吧,此专栏名为<每周论文推荐>.在这个专栏里,还 ...

  6. 【每周CV论文推荐】 CV领域中数据增强相关的论文推荐

    欢迎来到<每周CV论文推荐>.在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的. 数据增强在每一个深度学习项目中都是必要的操作 ...

  7. 【每周论文推荐】 初入深度学习CV领域必读的几篇文章

    很多朋友都希望我们开通论文推荐和阅读板块,那就开吧,此专栏名为<每周论文推荐>.在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题 ...

  8. 【深度学习】煮酒论英雄:深度学习CV领域最瞩目的top成果总结

    前言 如果06年Hinton的深度置信网络是深度学习时代的开启,12年的Alexnet在ImageNet上的独孤求败是深度学习时代的爆发,那么至今也有近15年的发展历程.15年足够让一个青涩懵懂的少年 ...

  9. 深度学习在CV领域的进展以及一些由深度学习演变的新技术

    CV领域 1.进展:如上图所述,当前CV领域主要包括两个大的方向,"低层次的感知" 和 "高层次的认知". 2.主要的应用领域:视频监控.人脸识别.医学图像分析 ...

最新文章

  1. matlab与树莓派通信
  2. ASP.NET Web API中实现版本
  3. 字节跳动mysql面试题_刚面完的字节跳动java研发面试题整理(含答案):线程+MySQL+Spring+JVM...
  4. jdbc map获取keys_JDBC连接数据库返回结果集的Key值
  5. 1091 N-自守数 (15 分)—PAT (Basic Level) Practice (中文)
  6. Atitit snownlp nlp 常见功能 目录 1.1. 主要功能: 1 1.2. 官网信息: 2 1.3. # 自动摘要 vs 关键词提取 2 1.4. Tf idf算法 2 1.5. p
  7. 《Java 程序设计任务驱动式实训教程》pdf,附下载链接
  8. 星露谷物语 android 中文版,星露谷物语手机版
  9. 初中英语知识水平测试软件,美国初中生英文水平测试!百个单词检测,看看你认识几个...
  10. 风陵渡口初相遇,一见杨过误终身
  11. C++如何获取虚函数表(vtbl)的内容及虚成员函数指针存放原理
  12. ICC/ICC2 or INN 一点不成熟的浅见
  13. 连续3年,ZETTAKIT泽塔云荣膺Gartner中国超融合市场推荐厂商
  14. TCP粘包以及粘包处理
  15. Android笔记(十九)制作一个简易的指南针
  16. 【Apache Spark 】第 5 章Spark SQL 和 DataFrames:与外部数据源交互
  17. 【SQL自学打卡|DAY11】——苟日新,日日新,又日新
  18. Linux配置NTP同步,出现Server dropped: no data解决
  19. 索佳电子水准数据传输软件_索佳全站仪SET数据编辑通讯程序
  20. 贝叶斯角度对MAML的新的理解

热门文章

  1. lazada、shopee转化率低怎么办?做好这几点,让你的店铺转化率提升
  2. 木兰编程语言python_“完全自主”的木兰编程语言回应:承认基于Python二次开发...
  3. bzoj 2820 YY的GCD - 莫比乌斯反演 - 线性筛
  4. 笔记本不能更换显卡为何又叫独立显卡?
  5. python pandas读取txt文件_python 读取文件夹中所有同类型的文件 并用pandas合并
  6. SOLIDWORKS运行太卡如何解决?你可以这样设置
  7. 安装MMDET全过程 历时五天从anaconda安装到pytorch安装到CUDA配置到MIM安装到MMCV安装最后到MMDET安装
  8. 白帽黑客入门,每天一个黑客技巧实现黑客的自我突破 !(附工具包)
  9. mug网络用语_【10152010】【115】【DJMax_Portable_3】【打碟 携带版3】【MUG】【叁国语言/1.65GB】【KOR】...
  10. 暂停基于maplefetion的飞信客户端开发