对比学习范式是什么？代理任务和目标函数在对比学习中如何起作用？

对比学习的典型范式就是：代理任务+目标函数。代理任务和目标函数也是对比学习与有监督学习最大的区别(划重点!!!)。回忆一下有监督学习的流程，输入x，通过模型输出得到y，输出的y和真实label(ground truth)通过目标函数计算损失，以此进行模型训练。而对于无监督学习或自监督学习来说，是没有ground truth的，那怎么办呢?代理任务就是来解决这个问题的，我们用代理任务来定义对比学习的正负样本，无监督学习一旦有了输出y和真实的label，就需要有一个目标函数来计算两者的损失从而指导模型的学习方向。

代理任务和目标函数在对比学习中如何起作用?下面通过SimCLR提出的对比学习框架来说明。

上面的框架一共包含了4部分。

(1)代理任务作用阶段。对于同一样本x，经过两个代理任务分别生成x~i和x~j两个样本，simCLR属于计算机视觉领域的paper，文中使用数据增强手段来作为代理任务，例如图片的随机裁剪、随机颜色失真、随机高斯模糊，x~i和x~j就称为一个正样本对。

(2)特征提取编码器。f(⋅)就是一个编码器，用什么编码器不做限制，SimCLR中使用的是ResNet，x~i和x~j通过f(⋅)分别得到hi和hj。

(3)MLP层。通过特征提取之后，再进入MLP层，SimCLR中强调了这个MLP层加上会比不加好，MLP层的输出就是对比学习的目标函数作用的地方，通过MLP层输出zi和zj。

(4)目标函数作用阶段。对比学习中的损失函数一般是infoNCE loss，zi和zj的损失函数定义如下：

其中，N代表的是一个batch的样本数，即对于一个batch的N个样本，通过数据增强的得到N对正样本对，此时共有2N个样本，负样本是什么?SimCLR中的做法就是，对于一个给定的正样本对，剩下的2(N-1)个样本都是负样本，也就是负样本都基于这个batch的数据生成。上式中sim(zi,zj)其实就是cosin相似度的计算公式(sim(u,v)=uTv/||u||⋅||v||)，1[k≠i]输入0或1，当k不等于i时，结果就为1否则为0。τ是温度系数。

从上式可以看出，分子中只计算正样本对的距离，负样本只会在对比损失的分母中出现，当正样本对距离越小，负样本对距离越大，损失越小。

免费分享一些我整理的人工智能学习资料给大家，整理了很久，非常全面。包括一些人工智能基础入门视频+AI常用框架实战视频、图像识别、OpenCV、NLP、YOLO、机器学习、pytorch、计算机视觉、深度学习与神经网络等视频、课件源码、国内外知名精华资源、AI热门论文等。

下面是部分截图，点击文末名片关注我的公众号【AI技术星球】发送暗号 321 领取（一定要发暗号 321）

一、人工智能免费视频课程和项目

二、人工智能必读书籍

三、人工智能论文合集

四、机器学习+计算机视觉基础算法教程

五、深度学习机器学习速查表（共26张）

学好人工智能，要多看书，多动手，多实践，要想提高自己的水平，一定要学会沉下心来慢慢的系统学习，最终才能有所收获。

点击下方名片，扫码关注【AI技术星球】发送暗号 321 免费领取文中资料。

对比学习范式是什么？代理任务和目标函数在对比学习中如何起作用？相关推荐

计算机控制中mcu,MCU学习1：单片机控制应用很广，它在智能控制中起什么作用？...
编撰:Aigo 艾国单片机是一种集成在电路芯片,采用超大规模集成电路技术把具有数据处理能力的中央处理器CPU随机存储器RAM.只读存储器ROM.多种I/O口和中断系统.定时器/计时器等功能(可能还包 ...
ICCV2021 比MoCo更通用的对比学习范式，中科大MSRA提出对比学习新方法MaskCo
关注公众号,发现CV技术之美今日分享 ICCV2021论文『Self-Supervised Visual Representations Learning by Contrastive Mask P ...
旷视提Circle Loss，统一优化视角，革新深度特征学习范式 | CVPR 2020
作者 | 旷视研究院本文是旷视 CVPR 2020的被收录论文解读第.它提出用于深度特征学习的Circle Loss,从相似性对优化角度正式统一了两种基本学习范式(分类学习和样本对学习)下的损失函数 ...
CVPR 2020 Oral | 旷视提出Circle Loss，革新深度特征学习范式
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达本文系旷视研究院投稿本文是旷视CVPR2020论文系列解读第4篇, ...
CVPR 2020 Oral | 旷视研究院提出Circle Loss，革新深度特征学习范式
IEEE 国际计算机视觉与模式识别会议 CVPR 2020 (IEEE Conference on Computer Vision and Pattern Recognition) 将于 6 月 14 ...
CVPR 2020 Oral | 人脸识别Loss新突破：旷视提出Circle Loss，革新深度特征学习范式...
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 来源:旷视研究院@微信公众号旷视研究院提出用于深度特征学习的Circle Los ...
旷视提出Circle Loss，革新深度特征学习范式｜CVPR 2020 Oral
本文提出用于深度特征学习的Circle Loss,从相似性对优化角度正式统一了两种基本学习范式(分类学习和样本对学习)下的损失函数.通过进一步泛化,Circle Loss 获得了更灵活的优化途径及更明 ...
Circle Loss: A Unified Perspective of Pair Similarity Optimization 圆损失函数，统一优化视角，革新深度特征学习范式 CVPR 2020
论文来源:CVPR 2020 论文链接最近旷视做了一项非常fundamental的工作.简单来讲,原来特征学习有 2 种基本范式,分类学习和 pairwise 学习,人们普遍都觉得这两者虽然有联系, ...
VideoCLIP-FacebookCMU开源视频文本理解的对比学习预训练，性能SOTA！适用于零样本学习！...
关注公众号,发现CV技术之美 0 写在前面在本文中,作者提出了VideoCLIP,这是一种不需要下游任务的任何标签,用于预训练零样本视频和文本理解模型的对比学习方法.VideoCLIP通过对比时间重 ...

对比学习范式是什么？代理任务和目标函数在对比学习中如何起作用？

下面是部分截图，点击文末名片关注我的公众号【AI技术星球】发送暗号 321 领取（一定要发暗号 321）

点击下方名片，扫码关注【AI技术星球】发送暗号 321 免费领取文中资料。

对比学习范式是什么？代理任务和目标函数在对比学习中如何起作用？相关推荐

最新文章

热门文章