Deep Multiview Clustering by Contrasting Cluster Assignments 论文笔记
论文整体流程图如下:
主要思路:通过对比学习的方法实现多视图聚类
首先介绍什么是多视图聚类
分类依据:(目前还没看太懂,刚刚接触)
CVCL:特定于视图的自动编码器模块在无监督表示学习下单独学习多个视图之间的聚类友好特征。跨视图对比学习模块通过对比集群分配来实现最终的聚类结果。
在 CVCL 模块中,不同视图之间实例的聚类分配概率应该相似,因为这些实例表征相同的样本
应最大限度地增加群集内分配之间的相似性,并应最大程度地减少群集间分配之间的相似性。我们同时对样本进行聚类,同时在聚类分配之间强制执行一致性
主要内容:
1.定义了一个编码器f
2.通过MLP多层感知机 得到一个聚类概率矩阵H
3. 为了增加群集分配之间的差异,一个统一的目标表示矩阵P被引入
对应于单个示例的不同视图中的实例共享公共语义信息
4.两个不同视图之间的聚类相似性被定义为:
在 CVCL 模块中,不同视图之间实例的集群分配概率应该是相似的,因为这些实例表征相同的样本。此外,如果多个视图中的实例用于表征不同的样本,则它们彼此无关。因此有下面的关系:
5.应最大限度地增加群集内分配之间的相似性,并应最大程度地减少群集间分配之间的相似性。我们同时对样本进行聚类,同时强制实施聚类分配之间的一致性。
6.为了防止将所有实例分配给特定集群,我们引入了一个正则化术语,如下所示
7.定义预训练的损失函数:
8.总的损失函数:
Deep Multiview Clustering by Contrasting Cluster Assignments 论文笔记相关推荐
- facebook新无监督论文-Unsupervised Learning of Visual Features by Contrasting Cluster Assignments
最近比较关注无监督论文,因此只要发现有新的文章都会读一遍,facebook近期刚出了一篇Unsupervised Learning of Visual Features by Contrasting ...
- Unsupervised Learning of Visual Features by Contrasting Cluster Assignments(SwAV)---论文阅读笔记
Unsupervised Learning of Visual Features by Contrasting Cluster Assignments 文章目录 摘要 介绍 方法 数据增强方法 总结 ...
- Unsupervised Learning of Visual Features by Contrasting Cluster Assignments
文章目录 前言 一.相关知识 1.在线学习和离线学习 离线学习 在线学习 2.对比学习 数据增强 编码 损失最小化 二.前言 2.方法 前言 无监督图像表示显著地减少了与监督预训练的差距,特别是与对比 ...
- SwAV:Unsupervised Learning of Visual Features by Contrasting Cluster Assignments
无监督对比方法通常在线工作,并且依赖于大量显式的成对特征比较,这在计算上具有挑战性. 在本文中,我们提出了一种在线算法 SwAV,它利用对比方法而无需计算成对比较.SwAV在对数据进行聚类的同时强制为 ...
- 《A Deep Generative Framework for Paraphrase Generation》论文笔记--摘要、引言
论文翻译及其他相关内容:https://ldzhangyx.github.io/2018/09/26/deep-para-generation/ (下述英文是原文内容,中文是给出的翻译) 标题: Pa ...
- ECCV 2018 DSLT:《Deep Regression Tracking with Shrinkage Loss》论文笔记
理解出错之处望不吝指正. 本文模型叫做DSLT,将跟踪任务视为回归问题去解决.主要贡献包括:①.提出一种收缩损失函数,降低背景信息中的那些简单负样本对损失函数的贡献:②.使用残差连接,融合多个卷积层和 ...
- CVPR 2017 《Deep Feature Flow for Video Recognition》论文笔记
本学弱喜欢在本子上记笔记,但字迹又丑. 望看不懂我的字的大佬不要喷我,看得懂的大佬批评指正.
- Transfer learning for deep neural network-based partial differential equations solving论文笔记
Introduction 基于DNN的替代模型的迁移学习效果尚未得到充分研究 Related works 首先介绍了PINN:控制方程以及初始和边界条件作为惩罚项嵌入损失函数中,以指导梯度下降方向:下 ...
- XDL: An Industrial Deep Learning Framework for High-dimensional Sparse Data 论文笔记
本文的github地址: https://github.com/alibaba/x-deeplearning X-Deep Learning(简称XDL)于2018年12月由阿里巴巴开源,是面向高维稀 ...
最新文章
- libev源码解析——定时器监视器和组织形式
- 13委托和事件在观察者模式中的应用
- C#创建带参数的线程
- 21. GD32F103C8T6入门教程-flash/fmc连续读写操作
- JavaTPoint 数据库教程【翻译完成】
- rstudio r语言_如何在R中接受用户输入?
- 学习几个Excel表格职场实战技巧
- 常用脚本语言Perl,Python,Ruby,Javascript一 Perl,Python,Ruby,Javascript
- ztree 后台异步加载_ztree 异步加载示例
- 大数据Hadoop快速入门
- 屏幕录像专家2018注册机怎么用?
- find 命令多条件匹配
- 论数据库运维的全流程管控技术
- PPT调整同一行字符间距的三种常用方法
- js控制wmplayer
- 复制粘贴Ctrl+C改为自定义单键
- 回放线上流量利器-GoReplay
- glassfish配置错误问题 1
- php 判断身份证号是否正确
- 南通蓝领技工学校计算机咋样,南通市蓝领技工学校