毕业设计开题报告,研究生学长给了好多论文,先大概看几篇
先是3篇关于注意力机制的

  • 3D point capsule networks
  • Dynamic Graph CNN for Learning on Point Clouds
  • NetVLAD_CNN_Architecture

3D point capsule networks

abstract

在本文中,我们提出了一种3d点压缩网络(3D point-capsule network)。这是一种自动编码器(auto-encoder),用于在处理稀疏的3D点云的同时,保留输入数据的空间分布。
3d点压缩网络的出现是我们对于普通的3D自动编码器的独特的配方/公式(formulation)的直接结果。经过我们的广泛评估,动态路径计划和我们的压缩网络部署的独特的2D潜伏(latent)空间,带来了在一些常见点云问题上的提升,例如物体分类,物体重建和语义分割。此外,它还带来了新的应用,例如部件插值和替换。

生词

capsule 胶囊,简略的
sparse 稀疏的
spatial 空间的
arise as 浮现,出现
formulation 配方
scheme 计划,谋划
peculiar 特有的
latent 潜伏的
substantiate 证明,证实
interpolation 插值

Dynamic Graph CNN for learning on Point Clouds

abstract

点云提供了一种适合大量应用程序的灵活的集合表现形式;同时,点云也适用于大多数的3D数据采集设备。尽管手工标注的特征长期以来被用于计算机图形学和计算机视觉领域,近期卷积神经网络CNN在图像分析领域的压倒性的成功 暗示了 将这种方法应用于点云可能带来的价值。点云在拓扑信息上具有固有缺陷,因而,建立一个模型来修复拓扑可以提高点云的表现力(representation power)。
为了这个目的,我们提出了一种新的神经网络模型EdgeConv,用于基于CNN的点云高级任务,包括分类和分割。EdgeConv运行在图上,这些图是由网络中的每一层动态计算得到的。这是可以微分的,并且可以被插入到已经存在的结构中。相比起现有的模型在外来空间中运行(operating in extrinsic space)或者对每个点独立处理,EdgeConv有几个具有吸引力的特点:
1.合并了本地邻居的信息
2.可以被叠放(stacked)应用于全局形状的学习
3.在多层系统比如(affinity in)特征空间,从原始嵌入(original embedding)中潜在的长距离中,捕获语义特征(这句看不懂)

生词

comprise 包含
acquisition 获得,得到
insight 见解
inherently 固有的
topological 拓扑的
dub 把···戏称为
differentiable 可微分的,可分辨的
extrinsic 非本质的,外来的
incorporate 合并
affinity 类同,密切关系
semantic 语义的

NetVLAD: CNN architecture for weakly supervised place recognition

abstract

我们解决了大规模视觉地点识别问题。这个问题是:如何快速且准确的通过一张给定的图片判断地点。我们提出了以下三个主要贡献
1.我们提出了一个CNN结构,能够以端到端的方式进行训练,并用于这个地点识别问题。这个结构的主要组成部分 NetVLAD,是新一代的VLAD层,受到“局部聚合描述符向量(Vector of Locally Aggregated Descriptors)”的启发。VLAD是用于图像检索的常用图像表达。这个层可以方便的插入任何CNN结构中,并且可以方便控制的用反向传播进行训练
2.我们提出了一种训练流程,基于一个新的每周的监视损失(a new weakly supervised ranking loss,应该是和控制损失函数有关),来在端到端的方法中训练结构中的参数,图像来自于同一个地点不同时间的谷歌街景
3.我们可以看到,我们提出的结构在两个挑战性的地点识别基准(benchmark)上,显著优于未学习的图像表达和现成的CNN描述符(description),并且在图像检索方面优于现有的方法(compact image representations)

生词

tackle 解决
large scale 大规模的
principle contribution 主要贡献
Aggregate 聚合
retrieval 检索
readily 便利的
amenable 易于控制的
depicit 描绘
end-to-end 端到端
manner 方法
off-the-shelf 现成的
benchmark 基准
compact 合约,契约

论文阅读(一) 注意力机制相关推荐

  1. 【论文阅读】注意力机制与二维 TSP 问题

    前置知识 注意力机制 见 这篇 二维 TSP 问题 给定二维平面上 n n n 个点的坐标 S = { x i } i = 1 n S=\{x_i\}_{i=1}^n S={xi​}i=1n​,其中 ...

  2. retinanet50预训练权重_论文导读|基于注意力机制对齐增强预训练语言模型

    李彦增 这篇文章通过提出了一种注意力机制对齐的方法,为预训练语言模型在 fine-tuning阶段引入了多源分词信息外部知识,从而提升了预训练语言模型在各个子任务上的效果.本文收录于 2020 年 A ...

  3. 【论文阅读】注意力综述(自注意力)

    以下内容来自:综述:图像处理中的注意力机制 - 知乎 概述 自注意力机制是注意力机制的改进,其减少了对外部信息的依赖,更擅长捕捉数据或特征的内部相关性. 在神经网络中,我们知道卷积层通过卷积核和原始特 ...

  4. 《论文》:注意力机制

    论文:PAYING MORE ATTENTION TO ATTENTION: IMPROVING THE PERFORMANCE OF CONVOLUTIONAL NEURAL NETWORKS VI ...

  5. 论文导读 | 基于注意力机制对齐增强预训练语言模型

    这篇文章通过提出了一种注意力机制对齐的方法,为预训练语言模型在 fine-tuning阶段引入了多源分词信息外部知识,从而提升了预训练语言模型在各个子任务上的效果.本文收录于 2020 年 ACL. ...

  6. 文献阅读-融合注意力机制的 IETM 细粒度跨模态检索算法

    引用格式:翟一琛,顾佼佼,宗富强,姜文志.融合注意力机制的 IETM 细粒度跨模态 检索算法[J/OL].系统工程与电子技术. https://kns.cnki.net/kcms/detail/11. ...

  7. 【论文阅读】注意力综述(软注意力)

    以下内容来自:综述:图像处理中的注意力机制 - 知乎 目录 概述 软注意力 Spatial Transformer Networks(空间域注意力)-2015 nips SENET (通道域)-201 ...

  8. 【论文阅读】Attention 机制在脱机中文手写体文本行识别中的应用

    论文信息: 作者: 王馨悦,董兰芳 ( 中国科学技术大学计算机科学与技术学院,合肥230027) E-mail: wxy66@ mail. ustc. edu. cn 该方法在针对具有语义信息的CAS ...

  9. 苹果公司华人研究员抛弃注意力机制,史上最快的Transformer!新模型达成最低时间复杂度...

    转自:新智元 [导读]attention is all you need是绝对的真理吗?自从Transformer面世以来,采用CNN等传统模型与注意力进行结合就成了新的创新方向.但苹果的华人研究员提 ...

  10. 各类注意力机制的介绍 (Intra Inter Soft Hard Global Local Attention)

    前言 注意力机制最早出现于论文<Neural Machine Translation by Jointly Learning to Align and Translate> 中. 传统神经 ...

最新文章

  1. Py中enumerate方法【转载】
  2. linux脚本 的使用,linux shell脚步使用讲解
  3. 请查收!深度学习超详细发展路线大公开!
  4. JavaScript中var关键字的使用详解
  5. 兄弟们别加班了,老板不会因为你拼命写代码而感谢你啊~有木有啊
  6. TODO C++ 异常处理
  7. Android之远程图片获取和本地缓存
  8. 【R语言进行数据挖掘】决策树和随机森林
  9. axios基于常见业务场景的二次封装
  10. 改善C#程序的建议9:使用Task代替ThreadPool和Thread
  11. 电路设计基础--MOS管驱动直流电机电路,看懂芯片手册
  12. 图标文字对齐的几种常见方法
  13. 电磁场理论复习笔记-第一章(上)
  14. 图片放大镜 jQuery插件
  15. Logism · 八位可控加减法器 实验
  16. 二八定律 80/20法则 帕累托法则、帕累托定律、马特莱定律、最省力法则或不平衡原则
  17. [随想感悟] 申论到底是什么 写好申论的要点
  18. Jasperreport_6.18的吐血记录三之简易交叉表 + 页面预览和导出
  19. 可以计算一元二次方程复数根的模拟计算机
  20. Mac电脑快速切换用户教程

热门文章

  1. 调研发现,近30年来中国ICT产业发展关键是产业良好的营商环境
  2. 房地产英语 Real estate词汇
  3. 计算机毕业设计ssm民宿平台bwla1系统+程序+源码+lw+远程部署
  4. [SSD综述1.6] 固态硬盘物理接口SATA、M.2、U.2、PCIe和BGA图文详解_SSD接口形态(Form Factor)
  5. bzoj3538[Usaco2014 Open]Dueling GPS*
  6. 在电脑上下载一些平台上视频的方法
  7. wms系统的出库单价是这样自动生成的?
  8. 舟迁中英文朗读器 v1.1 是什么
  9. 2017云栖大会门票转让_2017云栖大会早鸟票最后三天!快来抢票吧!
  10. 第6章 对象与方法——笔记十一