Domain Adaption 领域自适应

定义（from Wiki):

Domain Adaption是transfer leanring（迁移学习）中很重要的一项内容。主要目的是将具有不同分布的（data distribution）的具有标签（label）的源域（source domain）和不带标签的目标域（target domain） 映射（map）到同一个特征空间（embedding mainfold）。
数学化（Formalization)

$X ， Y$ 分别为输入空间和输出空间；
Machine Leanring 算法的目的是学习一个数据模型（假设 hypothesis） $\rightarrow Y$ 。学习样本为 $\{ (x_i,y_i) \in (X \times Y)\}_{i=1}^m$ 。
Domain Adaptation不同方法
（1）无监督式domain adaption：数据为一组labeled的source domain数据、一组unlabeled的source domain数据、一组unlabeled的target domain数据。

（2）半监督式domain adaption：同时包括了一“小”组labeled的target domain数据。

（3）监督式domain adaption：所有的数据都为labeled。
四种算法框架
（1）重采样算法

（2）迭代算法

（3) 寻找共同编码space

标准的框架如2006年Granin[1]提出的一种基于对抗式方法，如下图所示：

主要由三部分组成：特征提取网络 $Gf(x,θf)G_f(x,\theta_f)$ , 分类网络 $Gy(z,θy)G_y(z,\theta_y)$ 以及域判别器 $Gd(z,θd)G_d(z,\theta_d)$ 。

训练策略分别是：

$G_f$ : 编码的feature能使分类网络尽量识别出label，同时使域判别器无法分辨两种domain。

$G_y$ : 尽量predict出label。

$G_d$ : 尽量区分出feature是来自source domain还是target domain。

（4）层级贝叶斯模型

Domain Adaption 领域自适应相关推荐

学习笔记|领域自适应（Domain adaption)——实现模型的自适应迁移
1. 领域自适应网络概述有时候我们在某个领域训练出的一个模型,想迁移到另一个领域,这样我们就不需要每个领域都去标注大量的数据了.但是这两个领域的数据分布是有些差异,要如何办呢?比如我们在黑白图片上训 ...
语义分割-Unsupervised Domain Adaptation in Semantic Segmentation：a Review语义分割中的无监督领域自适应：综述
Unsupervised Domain Adaptation in Semantic Segmentation:a Review语义分割中的无监督领域自适应:综述 0.摘要 1.介绍 1.1.语义分割 ...
从近年顶会论文看领域自适应（Domain Adaptation）最新研究进展
©PaperWeekly 原创 · 作者 | 张一帆学校 | 中科院自动化所博士生研究方向 | 计算机视觉 Domain Adaptation 即在源域上进行训练,在目标域上进行测试. 本文总结了 ...
无源领域自适应：Source Hypothesis Transfer for Unsupervised Domain Adaptation
Do We Really Need to Access the Source Data? Source Hypothesis Transfer for Unsupervised Domain Adap ...
【ICML 2015迁移学习论文阅读】Unsupervised Domain Adaptation by Backpropagation (DANN) 反向传播的无监督领域自适应
会议:ICML 2015 论文题目:Unsupervised Domain Adaptation by Backpropagation 论文地址: http://proceedings.mlr.pre ...
Domain Adaptation（领域自适应，MMD，DANN）
Domain Adaptation 现有深度学习模型都不具有普适性,即在某个数据集上训练的结果只能在某个领域中有效,而很难迁移到其他的场景中,因此出现了迁移学习这一领域.其目标就是将原数据域(源域,s ...
语义分割-CyCADA: Cycle-Consistent Adversarial Domain Adaptation.循环一致对抗领域自适应
CyCADA: Cycle-Consistent Adversarial Domain Adaptation. 0.摘要 1.概述 2.相关工作 3.循环一致性对抗领域自适应 4.实验 4.1.数字数 ...
半监督领域自适应之CCSA--Unified Deep Supervised Domain Adaptation and Generalization
文章目录介绍论文和实现模型架构介绍 Unsupervised domain adaptation (UDA)无监督领域自适应不需要目标域任何标签数据,但是需要大量的目标域数据才能适应数据的分布 ...
领域自适应论文（六十七）：Your Classifier can Secretly Suffice Multi-Source Domain Adaptation论文原理
文章目录前言摘要 1 Introduction Related 3 Self-supervised Implicit Alignment (SImpAl) 3.1源域的热启动 3.2 Introd ...

Domain Adaption 领域自适应

Domain Adaption 领域自适应相关推荐

最新文章

热门文章