MGAT: Multimodal Graph Attention Network for Recommendation
模型总览如下：
背景：本论文是对MMGCN（Wei et al., 2019）的改进。MMGCN简单地在并行交互图上使用GNN，平等地对待从所有邻居传播的信息，无法自适应地捕获用户偏好。
MMGCN的消息聚合方式如下：
（平均值聚合
或
（最大值聚合）
：邻居的特征向量
：可训练的权重矩阵用于提取邻居的有用特征
由公式可见所有邻居都信息都通过矩阵进行特征提取。当用户分别喜欢物品A的音乐，B的字幕。在音频模态上同等程度的提取B的音频特征，无疑会加入噪声。MGAT对MMGCN针对这点做了改进。
MGAT消息构造如下所示：
- h：中心节点
- t：h的邻居节点
：物品t在模态m上的特征表示
： 注意力组件，学习不同邻居的重要性，反映两个节点之间的亲疏关系。
利用Sotfmax函数进行正则化：
其中以及
是两个可训练矩阵，
为物品i 在模态m上的特征。为了简单起见，论文 中 直接用内积做为注意力分数。
决定项目的每个模态是否将信息传播给目标用户。
（内积门）
（连接门）
（双相互作用门）
其中d为节点h 的邻居的数量。
三种门的效果对比：
由实验结果可以发现“最简单”的内积门在两个数据集上的表现都最好，可能原因是其他两个门通过变换矩阵做了特征变换，造成了过拟合。
一层信息融合(h距离一跳的邻居)：
为用户h在模态m上的特征表示，
为用户h的id特征。物品的不同模态属于不同的语意空间，通过下方的公式将物品所有模态的特征表示都转换到id空间，并在用户的特征表示中加入id属性。上面的公式也是同样的道理，将模态m上从邻居那里得到的信息转换到ID空间，并与自己的特征相结合，得到h在模态m上的最终表示
高层信息融合
节点h在模态m上汇聚了l跳邻居信息后得到的表征。
节点h的表征为 。
预测：
同时融合了各层邻居的信息。
MGAT: Multimodal Graph Attention Network for Recommendation相关推荐
- 读论文《DisenHAN: Disentangled Heterogeneous Graph Attention Network for Recommendation》
0.Summary: Title: DisenHAN: Disentangled Heterogeneous Graph Attention Network for Recommendation Co ...
- 复现KGAT: Knowledge Graph Attention Network for Recommendation（四）
复现KGAT: Knowledge Graph Attention Network for Recommendation(四) 啊代码,是代码,我要写KGAT的代码了. 今天听了我们专业大佬讲竞赛的事 ...
- 【KGAT】Knowledge Graph Attention Network for Recommendation
note KGAT结合KG和GAT,在知识图谱三元组基础上,利用GAT进行消息传递,聚合出物品向量后与用户向量进行计算得到预测值.其实不结合KG,何向南团队之前也直接使用GNN做了NGCF和Light ...
- KGAT 2019（KDD）Knowledge Graph Attention Network for Recommendation
提出背景 基于CF的方法无法利用用户和物品的辅助信息,像用户简介,物品属性,以及上下文环境,在用户和无匹交互较少的情况下表现较差. FM,NFM,Wide&Deep等模型将用户和物品表示为向量 ...
- 2020-CIKM-DisenHAN: Disentangled Heterogeneous Graph Attention Network for Recommendation
- 论文阅读笔记：MGAT: Multi-view Graph Attention Networks
论文阅读笔记:MGAT: Multi-view Graph Attention Networks 文章目录 论文阅读笔记:MGAT: Multi-view Graph Attention Networ ...
- 图注意力网络(Graph Attention Network, GAT) 模型解读与代码实现(tensorflow2.0)
前面的文章,我们讲解了图神经网络三剑客GCN.GraphSAGE.GAT中的两个: 图卷积神经网络(GCN)理解与tensorflow2.0代码实现 GraphSAGE 模型解读与tensorflow ...
- HAN - Heterogeneous Graph Attention Network 异构图注意力网络 WWW2019
论文题目:Heterogeneous Graph Attention Network (HAN)异构图注意力网络 作者:北京邮电大学Xiao Wang,Houye Ji等人 来源:WWW2019 论文 ...
- HAN - Heterogeneous Graph Attention Network 异构图注意力网络 WWW 2019
文章目录 1 相关介绍 背景 元路径 meta-path 异构图和同构图 相关工作 Graph Neural Network Network Embedding 贡献 2 HAN模型 2.1 Node ...
最新文章
- Django --ORM常用的字段和参数 多对多创建形式
- python设置格式模板
- 敏捷测试中发现的一些问题及改进办法
- 15 WM配置-主数据-定义存储区标识符(Storage Section Indicators)
- scrapy使用meta在各个模块的组件之间传递数据
- c# base 和this 继承
- mongodbVUE基本操作(转)
- Chapter 6-Blurring Things Up之Do It Twice
- Android 多媒体框架stagefright
- 研究生阶段如何学习、做研究（超棒）
- 大型源码阅读辅助工具
- [踩坑解决]npm ERR! gyp info it worked if it ends with oknpm ERR! gyp verb cli [
- 剑指Offer —— 面试题（十六）
- C#对XML、JSON等格式的解析
- C# 获取时间段的方法
- scikit-learn源码学习之cluster.MeanShift
- CutPaste: Self-Supervised Learning for Anomaly Detection and Localization 全文翻译+详细解读
- iObit Driver Booster 8 驱动更新失败 只停留在 1%
- 轻量应用服务器阿里云和腾讯云哪个好？
- 教你如何使用闲鱼引流