特征融合的分类和方法

1、特征融合的定义

特征融合方法是模式识别领域的一种重要的方法，计算机视觉领域的图像识别问题作为一种特殊的模式分类问题，仍然存在很多的挑战，特征融合方法能够综合利用多种图像特征，实现多特征的优势互补，获得更加鲁棒和准确性的识别结果。

2、特征融合的分类

按照融合和预测的先后顺序，分类为早融合和晚融合（Early fusion and Late fusion）

早融合（Early fusion）：就是在特征上进行融合，进行不同特征的连接，输入到一个模型中进行训练。（先融合多层的特征，然后在融合后的特征上训练预测器，只有在完全融合之后，才进行检测。）这类方法也被称为skip connection,即采用concat、add操作。这一思路的代表是Inside-Outside Net (ION)和HyperNet.

两个经典的特征融合的方法：

（1）concat：系列特征融合，直接将连个特征进行连接。两个输入特征x和y的维数若为p和q，输出特征z的维数为p+q。

（2）add：并行策略，将这两个特征向量组合成复合向量，对于输入特征x和y，z=x+iy，其中i是虚数单位。

晚融合（Late fusion）：指的是在预测分数上进行融合，做法就是训练多个模型，每个模型都会有一个预测分数，我们对所有模型的结果进行融合，得到最后的预测结果。（通过结合不同层的检测结果改进检测性能，尚未完成最终融合之前，在部分融合的层上就开始检测，会有多层的检测，最终将多个检测结果进行融合）。

这一类研究思路的代表有两种：

（1）feature不融合：多尺度的feture分别进行预测，然后对预测结果进行综合，如Single Shot MultiBox Detector(SSD),Multi-scale CNN(MS-CNN).

注意：SSD，全称Single Shot MultiBox Detector，是Wei Liu在ECCV 2016上提出的一种目标检测算法，截至目前是主要的检测框架之一，相比Faster RCNN有明显的速度优势，相比YOLO又有明显的mAP优势（不过已经被CVPR 2017的YOLO9000超越）。

MS-CNN：cNN多尺度

（2）feature进行金字塔融合，融合后进行预测，如Feature Pyramid Network(FPN)等

注意：FPN全称是Feature Pyramid Network, 也就是特征金字塔网络，主要是针对图像中目标的多尺度的这个特点提出的，多尺度在目标检测中非常常见，而且对应不同的问题应该设计不同的FPN。

3、深度特征融合和高低层特征融合的方法

（1）早融合，用经典的特征融合的方法，在现有的网络（如VGG19）中，用concat或add融合其中的某几层。

变种：用DCA特征融合方法替代concat和add操作。

（2）晚融合，采用类似特征金字塔网络（FPN）的思想，对特征融合进行预测。（ＦＰＮ一般用于目标检测，提高小目标检测能力）。

三个变种：

YOLO2的方法，只在金字塔的top-down路径的最后一层进行预测，此外还有 U-Net [31] and SharpMask for segmentation, Recombinator networks for face detection, and Stacked Hourglass networks for keypoint estimation；
YOLO3的方法，在金字塔的每一层都进行预测；
FSSD的方法，对 FPN进行细微改造；

feature不融合，多尺度的feature分别进行预测，然后对预测结果进行综合。

（3）用一个具有高低特征融合能力的网络代替普通的网络，如Densenet。

（4）不进行高低层特征融合，而是在高层特征预测的基础上，再用底层特征进行预测结果的调整。

4、DCA特征融合的方法

特征融合的目的，是把从图像中提取的特征，合并成一个比输入特征更具有判别能力的特征。

基于CCA（典型关联分析）的融合方法，就是使用两个输入特征间的相关关系，计算两种变换后的特征比输入的两个特征集具有更高的相关性。CCA的主要不足，在于忽略了数据集中类结构间的关系，所以将每组特征中类分开，为了解决CCA的弱点，引入了DCA。DCA最大化两个特征及中对应特征的相关关系，同时最大化不同类之间的差异。

5、改进的SSD目标检测算法（DeseNet）

改进在于使用Dense net代替原始SSD结构中的VGG，以提高目标检测准确性，改进后的SSD网络对小物体产生很好的拟合。

DeseNet（密集卷积网络）

6、FPN（特征金字塔）

特征金字塔是识别不同尺度的目标时常用的结构，但是特征金字塔需要较大的计算量和显存，所以为了解决这一问题，开发了一种构建特征金字塔的新方法，可以减少额外的对计算量和显存的消耗。

7、YOLO

YOLOv2网络结构中有一个特殊的转换层（Passthrough Layer），假设最后提取的特征图的大小是1313，转换层的作用就是将前面的2626的特征图和本层的1313的特征图进行堆积（扩充特征维数据量），而后进行融合，再用融合后的特征图进行检测。这么做是为了加强算法对小目标检测的精确度。为达更好效果，YOLOv3将这一思想进行了加强和改进。

YOLO v3采用（类似FPN）上采样和融合做法，融合了3个尺度（13x13、26X26和52x52），在多个尺度的融合特征图上分别独立做检测，最终对于小目标的检测效果提升明显。（有些算法采用多尺度特征融合的方式，但是一般是采用融合后的单一特征图做预测，比如YOLOv2，FPN不一样的地方在于其预测是在不同特征层进行的。）

特征融合的分类和方法相关推荐

（学习笔记2）特征融合
(学习笔记2)特征融合特征融合的定义特征融合的分类参考文献特征融合的定义特征融合是模式识别领域的一种重要方法,计算机视觉领域的图像识别问题作为一种特殊的模式分类问题,仍存在很多挑战,特征融合 ...
基于 FCCA 的多特征融合的检索方法
论文杂记上一篇主目录下一篇文章结构 1 知识基础 1.1 卷积神经网络 1.2 灰度共生矩阵 1.3 LBP 特征 1.4 特征融合 1.5 典型相关分析算法(CCA) 1.6 Faster- ...
模式分类中的特征融合方法以及各种方法的总结
转自: http://blog.csdn.net/wuye999/article/details/79152049 http://blog.csdn.net/lemonrain7/article/de ...
模式分类中的特征融合方法
概念.基本术语信息融合:将来源不同的信息整合到一起,去冗余:得到的融合信息将利于我们之后的分析处理. 信息融合分为三个层次:数据融合,特征融合,决策融合.如下图所示: 这篇文章重点介绍了信息的特征融 ...
Automatic Modulation Classification UsingConvolutional Neural Network 解读（基于SPWVD和BJD特征融合的卷积神经网络调制自动）
摘要:自动调制分类(AMC)在频谱监测和认知无线电中越来越重要.然而,现有的调制分类算法大多忽略了不同特征之间的互补性和特征融合的重要性.为了弥补这些缺陷,该文提出了一种基于卷积神经网络(CNN)的A ...
（多模态 / 多维度）特征融合
文章目录模式分类中的特征融合方法引入现状 ( < 2017) 算法基于贝叶斯理论的特征融合算法决策级水平融合(*) 特征级水平融合基于稀疏表示理论的特征融合算法基于深度学习的特征融 ...
ECCV2022 | 人大提出轻量级基于注意力的特征融合机制，在多个公开数据集上有效！代码已开源！
ECCV2022 | 人大提出轻量级基于注意力的特征融合机制,在多个公开数据集上有效!代码已开源! [写在前面] 本文在文本到视频检索的新背景下,作者重新探讨了特征融合这一古老的课题.与以往的研究只考 ...
涨点神器！南航提出AFF：注意力特征融合，即插即用！可用于分类、检测和分割等...
点击下方卡片,关注"CVer"公众号 AI/CV重磅干货,第一时间送达作者:OucQxw | 已授权转载(源:知乎) https://zhuanlan.zhihu.com/p ...
多尺度特征融合的知识蒸馏异常检测方法文献笔记
多尺度特征融合的知识蒸馏异常检测方法期刊:计算机辅助设计与图形学学报学校:南京信息工程大学计算机学院时间:2022 关键词:异常检测;知识蒸馏;一分类问题;特征融合背景异常检测一般是指判断并 ...

特征融合的分类和方法

特征融合的分类和方法相关推荐

最新文章

热门文章