【推荐系统】多视图多示例多标签的协同矩阵分解
嘿,记得给“机器学习与推荐算法”添加星标
题目: Multi-View Multi-Instance Multi-Label Learning based on Collaborative Matrix Factorization
会议: AAAI 2019
论文: https://arxiv.org/pdf/1905.05061.pdf
1 Motivation
1、现有的M3L方法仅仅探索了部分实体(包,实例和标签)之间的关系,而这些实体之间的关系可以给M3L方法提供丰富的上下文信息,因此,现有的M3L方法性能次优;
2、大部分的MIML算法仅关注单视图数据,但是,在实际应用中,通常可以通过不同的视图来表示多实例多标签对象。
2 Related work
由于包之间以及实例之间存在多种类型的关系,与最近大量研究的MIML任务相比,从多视图包中学习更加困难和挑战。当前已有不少研究工作致力于解决这样一种挑战。如表1所示:
尽管这些方法在努力解决多视图MIML学习问题,但是这些方法仅考虑了包之间和实例之间有限的关系类型。
3 Methodology
所提模型主要包括两部分,一部分是异质网络的构建,另一部分是协同关系矩阵分解。
3.1 Heterogeneous Network Construction
1、construct a subnetwork of instances for each feature view
利用高斯热核为每个特征视图中的实例构建子网,其中
为第v个视图中m个实例的平均欧氏距离。
2、construct a bag subnetwork for each feature view
利用豪斯多夫距离为每个试图中的包构建子网
3、construct a subnetwork of labels
利用cosine相似度来量化标签相关性,其中
和为两个标签,是标签c在所有包中的分布。
以上三部分便构建完了实例-实例,包-包,标签-标签的子网,另外,通过数据集的信息,作者继续构建包-实例,包-标签,实例-标签之间的数据矩阵。
4、The bag-instance inter-relational data matrix
.
5、The bag-label relational matrix
.
6、The instance-label relational data matrix
. 初始,实例-标签的数据矩阵未知,设为0.
3.2 Collaborative Matrix Factorization
论文所提方法M3Lcmf的目标函数所下所示:
M3Lcmf有两个预测项:实例-标签的联系
和包-标签的联系。除了直接利用趋近,作者增加了一个整合项。这个整合项受多实例学习原理的驱动,即包的标签取决于其实例的标签。另外,此整合项可以反向指导和的学习。
由目标函数的前三项可以看出,M3Lcmf构建了包-实例,包-标签,实例-标签之间的关系。按照流行正则的思想,促使有着高相似性的数据点在低维空间内相似,构成MR(G),利用图拉普拉斯矩阵来构建包-包,实例-实例,标签-标签之间的关系。
最后,可以利用优化好的
和来获取实例-标签的相关性矩阵:,同样,要将实例的标签进一步映射到相应的包上,作者利用来趋近包-标签相关性矩阵。因此,M3Lcmf既可以实现包级预测也可以实现实例级预测。
Experiments
Datasets
前五个数据集为包级的数据集,后四个为实例级的数据集。
Metric
1、Ranking Loss (RankLoss),
2、macro AUC (Area Under receiver operating Curve)
3、Average Recall (AvgRecall),
4、Average F1-score (AvgF1).
Results
1、Prediction Results at the Bag-Level
M3Lcmf优于MIMLmix和M2IL:M3Lcmf利用了更多对象之间的关系;
M3Lcmf优于MIML方法(MIMLNN, MIMLfast 和 MIMLSVM):MIML相比于M3Lcmf利用了更少的实体之间的关系;
MIMLRBF性能逼近M3Lcmf:尽管MIMLRBF利用了更少的实体关系,但是MIMLRBF利用神经网络来获取特征表示。
2、Prediction Results at the Instance-Level
M3Lcmf性能最优,MIMLmix第二,MIMLfast第三是因为MIMLmix没有利用包-包联系和实例-实例之间的关系,MIMLfast在此基础上,还没有利用实例-标签的关系。
3、Contribution of Different Types of Relations
说明实体之间的各种关系都有助于M3L方法的学习。
参数敏感实验详情请见原论文。
参考文献
[Nguyen, Zhan, and Zhou 2013] Nguyen, C. T.; Zhan, D. C.; and Zhou, Z. H. 2013. Multi-modal image annotation with multi-instance multi-label lda. In IJCAI, 1558–1564.
[Nguyen et al. 2014] Nguyen, C. T.; Wang, X.; Liu, J.; and Zhou, Z. H. 2014. Labeling complicated objects: multi-view multi-instance multi-label learning. In AAAI, 2013–2019.
[Yang et al. 2018] Yang, Y.; Wu, Y.-F.; Zhan, D.-C.; Liu, Z.- B.; and Jiang, Y. 2018. Complex object classification: A multi-modal multi-instance multi-label deep network with optimal transport. In KDD, 2594–2603.
[Li et al. 2017] Li, B.; Yuan, C.; Xiong, W.; Hu, W.; Peng, H.; Ding, X.; and Maybank, S. 2017. Multi-view multi-instance learning based on joint sparse representation and multi-view dictionary learning. TPAMI 39(12):2554–2560.
[Zhou et al. 2008] Zhou, Z. H.; Zhang, M. L.; Huang, S. J.; and Li, Y. F. 2008. Miml: A framework for learning with ambiguous objects. Corr Abs 2012.
[Huang, Gao, and Zhou 2018] Huang, S.-J.; Gao, W.; and Zhou, Z.-H. 2018. Fast multi-instance multi-label learning. TPAMI 99(1):1–14.
[Zhang and Wang 2009] Zhang, M. L., and Wang, Z. J. 2009. Mimlrbf: Rbf neural networks for multi-instance multi-label learning. Neurocomputing 72(16-18):3951–3956.
往期精彩回顾适合初学者入门人工智能的路线及资料下载机器学习及深度学习笔记等资料打印机器学习在线手册深度学习笔记专辑《统计学习方法》的代码复现专辑
AI基础下载机器学习的数学基础专辑温州大学《机器学习课程》视频
本站qq群851320808,加入微信群请扫码:
【推荐系统】多视图多示例多标签的协同矩阵分解相关推荐
- 多视图多示例多标签的协同矩阵分解
嘿,记得给"机器学习与推荐算法"添加星标 题目: Multi-View Multi-Instance Multi-Label Learning based on Collabora ...
- 【论文解读】多视图多示例多标签的协同矩阵分解
题目: Multi-View Multi-Instance Multi-Label Learning based on Collaborative Matrix Factorization 会议: A ...
- [转]矩阵分解在推荐系统中的应用
矩阵分解是最近几年比较火的算法,经过kddcup和netflix比赛的多人多次检验,矩阵分解可以带来更好的结果,而且可以充分地考虑各种因素的影响,有非常好的扩展性,因为要考虑多种因素的综合作用,往往需 ...
- 推荐系统中的矩阵分解总结
最近学习矩阵分解,但是学了好多种类,都乱了,看了这篇文章,系统性的总结了矩阵分解,感觉很棒,故分享如下: 前言 推荐系统中最为主流与经典的技术之一是协同过滤技术(Collaborative Filte ...
- jsf用于页面判断的标签_JSF –在JSF视图页面中添加标签,图像,按钮和文本字段
jsf用于页面判断的标签 There are various UI components that JSF framework includes by default. Let us see some ...
- Qt 视图框架示例 Colliding Mice 的翻译
目录名字 Qt 视图框架示例 Colliding Mice 的翻译 简介: Mouse Class 定义 Mouse Class 定义 The Main() 函数 Qt 视图框架示例 Collidin ...
- 集合视图控制器(CollectionViewController) 、 标签控制器(TabBarController) 、 高级控件介绍...
1 创建集合视图,设置相关属性以满足要求 1.1 问题 集合视图控制器UIConllectionViewController是一个展示大量数据的控制器,系统默认管理着一个集合视图UICollect ...
- MIML系列(一):Fast Multi-Instance Multi-Label Learning 快速多示例多标签学习
MIML系列(一):Fast Multi-Instance Multi-Label Learning 快速多示例多标签学习 目前的研究方向是基于MIML的,然而网上关于MIML的论文讲解有点少,因 ...
- 多示例多标签学习(MIML系列文章总结)
从入学以来就一直调研图像标注相关文章.调研发现,传统的监督学习中,一个图像区域以一个instance(示例)呈现,并仅关联于一个label(标签).很多图像多标签标注的方法是通过将图像进行物体分割(o ...
最新文章
- 云中家园FTP搜索站点开通
- 《大话数据结构》第2章 算法基础 2.9 算法的时间复杂度
- 准备重新回归信息安全产业
- c++ const限定符
- C/C++混淆点-运算符短路
- 01c-1: 主流长远
- 我年龄大了还学的动it吗
- JSK-133 冒泡排序【排序】
- [转载] XStream的分析
- 虚拟机安装Windows7镜像
- VTP技术及相关配置
- python3 file_Python3-file
- 卫青和霍去病:汉匈战争史最天才的两名战将
- 小米商城网页版(js+css)
- Java 根据当前日期,获取到月初,和月底时间
- 手机APP开发之MIT Appinventor详细实战教程(十),标准登陆界面的逻辑设计和数据库的有效使用
- 什么是smarty及其安装
- Squeeze-and-Excitation Networks(SENet) 学习笔记
- L1-8 静静的推荐 (20),C语言,超级简单的代码哦,你不是不会,只是没细想而已
- 在无网络的环境下使用模拟器
热门文章
- 【PHP ThinkPHP框架】小bug汇总[更新]
- 三层架构实现增删的简单实例
- 尚学堂Spring视频教程(二):Spring控制反转
- ios不响应presentModalViewController界面的处理
- android源码查看源码的版本
- 【郭林专刊】JSP中JSTL提供的函数标签EL表达式操作字符串的方法
- Silverlight Training
- 生物反应器:生物过程工程的动物细胞培养控制 Bioreactors : animal cell culture control for bioprocess engineering 英文原版
- python中2d_【IT专家】如何在Python中复制一个2D数组?(复制)
- 色彩空间DCI XYZ转RGB