Domain Shift介绍
- 首先需要知道著名的贝叶斯公式：
p(x,y)=p(x∣y)p(y)=p(y∣x)p(x)p(x,y)=p(x|y)p(y)=p(y|x)p(x)p(x,y)=p(x∣y)p(y)=p(y∣x)p(x)
Domain Shift主要有三种情况，分别是由于输入的边缘概率分布p(x)p(x)p(x)、输出标签的边缘概率分布p(y)p(y)p(y)、对应的条件概率分布p(x∣y)p(x|y)p(x∣y)或者p(y∣x)p(y|x)p(y∣x)（后验分布）不一致导致的。 - Covariate Shift：输入的边缘概率分布不同，其他相同。以领域自适应为例，源域S，目标域T，即ps(x)≠pt(x)p_s(x)≠p_t(x)ps(x)=pt(x)，但是条件概率分布相等，ps(y∣x)=pt(y∣x)p_s(y|x)=p_t(y|x)ps(y∣x)=pt(y∣x)，输出标签的边缘概率分布也相等，ps(y)=pt(y)p_s(y)=p_t(y)ps(y)=pt(y)。这个很好理解，就是数据采样方式不同，导致输入数据的分布压根就不一样。
- Prior Shift（即Label Shift）：从名字也可以看出，输出的边缘概率分布（先验分布）不同，即ps(y)≠pt(y)p_s(y)≠p_t(y)ps(y)=pt(y)，对应的条件概率分布相等，即ps(x∣y)=pt(x∣y)p_s(x|y)=p_t(x|y)ps(x∣y)=pt(x∣y)。这种偏移属于先天类型的偏移，是由于源域数据和目标域数据每个标签的数据出现的频率不一样导致的，比如标签为猫的数据在源域中占了80%，而在目标域中只有30%。
- Concept Shift：两个边缘概率分布都相同，即ps(x)=pt(x)p_s(x)=p_t(x)ps(x)=pt(x)、ps(y)=pt(y)p_s(y)=p_t(y)ps(y)=pt(y)，但是后验分布不同，即ps(y∣x)≠pt(y∣x)p_s(y|x)≠p_t(y|x)ps(y∣x)=pt(y∣x)。这种比较奇怪，我感觉就是模型的问题。比如面对同样的目标域样本，然后域适应模型分类错误的概率比纯粹在目标域样本上训练的模型高，就是说模型能力不行。还有个例子是：输入数据类型分布相同，但是学习的任务发生了变化；比如在水处理系统的传感器时间序列异常检测中，因为上游放水，一段维持较高水位，但是并不能和其余时间一样被认定为是报警事件。但这种学习任务发生变化的不太可能在训练过程中发生。
Domain Shift介绍相关推荐
- 【论文翻译】Taking A Closer Look at Domain Shift:Category-level Adversaries for Semantics Consistent Domai
Taking A Closer Look at Domain Shift:Category-level Adversaries for Semantics Consistent Domain Adap ...
- Lind.DDD.Domain领域模型介绍
Lind.DDD.Domain位于Lind.DDD核心项目中,它主要面向领域实体而设计,由一个IEntity的标识接口,EntityBase基类和N个Entity实体类组成,其中IEntity主要用来 ...
- 论文解读：Taking A Closer Look at Domain Shift: Category-level Adversaries for Semantics Consistent
论文题目:Taking A Closer Look at Domain Shift Category-level Adversaries for Semantics Consistent Domain ...
- GlassFish主配置文件domain.xml介绍
刚开始接触GlassFish时,觉得它好麻烦,配置也复杂,WEB管理端内容也繁多,其实还是自己对Java相关知识不了,再熟悉了这些之后,现在回头来看看,其实GlassFish的配置文件也是挺简单的. ...
- 论文阅读问题总结(六)：Meta-Learning with Domain Adaption for Few-shot Learning Under Domain Shift
1.这篇paper作者提出要解决的问题? 作者提出,大部分现存的小样本元学习领域的一些工作都基于两个假设: training task和testing task都是从满足同一task distribu ...
- Learning from Synthetic Data: Addressing Domain Shift for Semantic Segmentation
文章目录 1 Author 2 Abstract 3 Introduction 4 Method 4.1 Description of network blocks 4.2 Treatment of ...
- LTE补充业务domain Selection介绍
UE在进行补充业务时会进行domain selection 1.按运营商白皮书或者测试标准进行域选择 2.跟运营商XCAP server进行交互时,遇到像404.503之类的错误时,是否执行CSFB也 ...
- 自监督对比学习系列论文（二）：有引导对比学习--SCCL，SwAV，PCL，SupervisedCon
自监督对比学习 本篇承接前一篇自监督对比学习的介绍自监督对比学习系列论文(一):无引导对比学习–MOCO,SimCLR,这次主要关注于包含先验指导的对比学习,这一指导更进一步的可以区分为聚类指导以及 ...
- 【论文阅读】Deep Cocktail Network: Multi-source Unsupervised Domain Adaptation with Category Shift
Deep Cocktail Network: Multi-source Unsupervised Domain Adaptation with Category Shift SUMMARY@ 2020 ...
最新文章
- javascript写字技巧_【iGeek手册】如何书写更加简洁的javascript代码？
- 如何判断网站是否启用HTTP2
- python type instance_Python type, types and isinstance()使用
- java js跳出循环_[Java教程]js循环的总结
- Linux上更新war包
- PDF在文字方面的一个缺陷
- 51CTO微职位一次通过PMP之经验浅谈
- linux怎么配置共享目录,Linux 配置共享目录方法
- mysql怎么卸载干净？
- PTCMS4.2.8小说网站源码模板
- Linux下sh文件执行权限不够
- oracle数据库hiredate,Oracle数据库学习三
- 获取iv和encryptedData
- 你真的了解性能压测中的SLA吗？
- 常用的OpenCV函数速查
- windows10安装MySQL8.0
- 高德地图面积计算公式
- 沐风老师3DMAX网球建模教程
- 【JS】1067- 一个神奇的交叉观察 API Intersection Observer
- exfat文件系统分析