方法概述

学习通过基于记忆的多源元学习来生成未知领域的行人重识别。
1，文章提出了一种多源域元学习框架，可以模仿域生成（DG）的训练-测试过程。该方法增强了模型学习域无关表示并增强了泛化能力。
2，文章在框架中配备了memory-based 模块，以非参数方式现实了身份损失，可以防止由传统参数方式导致的不稳定的优化。
3，提出了MetaBN来生成各种元测试特征，这些特征可以直接注入到我们的元学习框架中，并得到进一步的改进。

文章目录

方法概述
内容概要
- 工作概述
- 成果概述
方法详解
- 方法框架
- 算法描述
- 具体实现
实验结果
总体评价
引用格式

内容概要

论文名称	简称	会议/期刊	出版年份	baseline	backbone	数据集
Learning to Generalize Unseen Domains via Memory-based Multi-Source Meta-Learning for Person Re-Identification.	M3L	CVPR	2021	【QAConv50】Shengcai Liao and Ling Shao. Interpretable and generaliz- able person re-identification with query-adaptive convolution and temporal lifting. In ECCV, 2020. 2, 6, 7	ResNet-50 [11] and IBN-Net50 [28]	Market-1501 [46], DukeMTMC-reID [30, 48], CUHK03 [20, 49] and MSMT17 [41]

在线链接：https://openaccess.thecvf.com/content/CVPR2021/html/Zhao_Learning_to_Generalize_Unseen_Domains_via_Memory-based_Multi-Source_Meta-Learning_for_CVPR_2021_paper.html
源码链接： https://github.com/HeliosZhao/M3L

工作概述

1， we study the problem ofmulti- source domain generalization in ReID, which aims to learn a model that can perform well on unseen domains with only several labeled source domains.
2， we propose the Memory-based Multi-Source Meta- Learning (M3L) framework to train a generalizable model for unseen domains. Specifically, a meta-learning strat- egy is introduced to simulate the train-test process of do- main generalization for learning more generalizable mod- els.
3， we propose a memory-based iden- tification loss that is non-parametric and harmonizes with meta-learning.
4， We also present a meta batch normaliza- tion layer (MetaBN) to diversify meta-test features, further establishing the advantage of meta-learning.

成果概述

our M3L can effectively enhance the gen- eralization ability ofthe model for unseen domains and can outperform the state-of-the-art methods on four large-scale ReID datasets

方法详解

方法框架

算法描述

具体实现

1，从框架图可以看出，文章方法主要采用的是元学习，只使用了源域信息，将多个源域分元训练和元测试两个部分。在网络中加入了创新的MetaBN 和 Memory_based 的设计。
2，最终网络优化结合了元训练和测试两部分损失，形式化为公式1所示。

3， Memory_based主要是为了达成一个无参数的目标，文章分析了有参的两种形式的弊端，认为在元学习中需要这种无参数的形式，并且利用Memory和特征进行相似性对比，得到Memory_based的身份损失，如公式3所示。

4， Memory的初始化是取的类特征均值，更新是公式2.

5，训练过程中除了使用了Memory_based的身份损失之外，还是用了Triplet loss（公式4），这一点很多方法中都有用，文章就没有赘述了。

6, 关于MetaBN，其设计如图4所示。我理解的作用就是将元测试的样本和元训练的样本结合处理一下，再和Memory求相似损失。对每个元训练域采样一个特征如公式5所示，然后再将其和元测试样本特征进行混合得到混合后的新特征（公式6 ）Z是zi的组合，最后还会对混合特征进行normalize（公式7）.

7，元训练时候的单个域的损失函数如公式8所示，整体函数如公式9所示。

8，元测试的损失函数如公式10所示。

实验结果

总体评价

1，性能不佳，但是中CVPR，应该是论文写得不错吧，从contributions来看，成果包装良好。
2，创新点听起来十分宏伟，且贡献突出。
3, 从文章的写作来看，论文工作相当扎实，信息量也很大。读完之后理解为何性能不佳，因为他没有目标域数据，这个相当于是一个open-set的问题，工作相当有价值。

小样本学习与智能前沿（下方↓公众号）后台回复“M3L"，即可获得论文电子资源。

引用格式

@inproceedings{DBLP:conf/cvpr/ZhaoZYLLLS21,
author = {Yuyang Zhao and
Zhun Zhong and
Fengxiang Yang and
Zhiming Luo and
Yaojin Lin and
Shaozi Li and
Nicu Sebe},
title = {Learning to Generalize Unseen Domains via Memory-based Multi-Source
Meta-Learning for Person Re-Identification},
booktitle = {{CVPR}},
pages = {6277–6286},
publisher = {Computer Vision Foundation / {IEEE}},
year = {2021}
}

Learning to Generalize Unseen Domains via Memory-based Multi-Source Meta-Learning for Person Re-ID相关推荐

有关meta learning 要读的论文清单
参考博客:https://blog.csdn.net/weixin_37589575/article/details/92801610 论文链接 <Optimization as a Model ...
2022_WSDM_Contrastive Meta Learning with Behavior Multiplicity for Recommendation
[论文阅读笔记]2022_WSDM_Contrastive Meta Learning with Behavior Multiplicity for Recommendation 论文下载地址: ht ...
Meta Learning/Learning to Learn, 到底我们要学会学习什么？||介绍了几篇元学习文章
https://www.zhihu.com/question/62482926/answer/625352436 转载:https://zhuanlan.zhihu.com/p/32270990 1 ...
meta learning（李宏毅
meta 元 meta learning: learn to learn 学习如何学习大部分的时候deep learning就是在调hyperparameter.调hyperparameter真的 ...
2020 MICCAI Shape-aware Meta-learning for Generalizing Prostate MRI Segmentation to Unseen Domains
Shape-aware Meta-learningShape-aware Meta-learning : 形状感知元学习通过写文章总结,进一步理解作者的思路,如何发现问题,针对问题,作者又是怎么解决 ...
Generalizing to Unseen Domains: A Survey on Domain Generalization 论文分享
这篇论文应该是领域泛化领域第一篇综述,楼主花了些时间较为仔细的读了一下,写了这篇笔记 1.理论分析(论文所有的分析都基于二分类问题,分析工具会用到VC维) Domain Adaptation中的err ...
论文笔记 NAACL findings 2022|Zero-Shot Event Detection Based on Ordered Contrastive Learning and Prompt-
文章目录 1 简介 1.1 动机 1.2 创新 2 方法 2.1 Contrastive sample generator 2.2 Event encoder 2.3 Ordered contrast ...
Dynamic Memory Based Attention Network for Sequential Recommendation【论文解读】
Dynamic Memory Based Attention Network for Sequential Recommendation 从题目中可以看出这篇论文的三个关键点是动态记忆,注意力机制和序 ...
【领域泛化论文阅读】Generalizing to Unseen Domains: A Survey on Domain Generalization
传统的机器学习是假设训练数据和测试数据独立同分布进行训练的,当训练数据和测试数据的分布不同,也就是域分布不同时,模型的性能将大大下降.而迁移学习是在训练数据和测试数据服从不同的数据的概率分布时,提高模 ...

Learning to Generalize Unseen Domains via Memory-based Multi-Source Meta-Learning for Person Re-ID