1.超图基础概念

传统的图网络结构,两点之间就可以引入一条边链接;

但在某些特定的领域,一条边可能链接的不止两个点,我们便引入了超图
比如:同一个班级,一个班级可以连接很多个学生;一个IP下有很多个用户,我们可以用超边来表示这个班级或这个IP;
一个超图可以拥有任意数量的节点,如果所有超边都连接两个节点那么就退化为简单图;

2.多模态的超图构建

面对多模态的场景:可以做视觉连接文本连接社交连接,所以将这些放入到超图结构中去解决的时候会比简单图简单很多

那么,多模态数据下如何构建超图如何利用算法去求得节点特征的呢?


g r o u p 1 group1 group1是一个模态的超图, g r o u p N group N groupN是另一个模态的图,将多个模态拼接到一起,构建多模态超图;
超图数据形式如上图:行是超边、列是节点 ;有连接则为1,否则为0;
W是每一个超边被赋予的权值,初始化W为一个单位阵,意味着所有超边的权重都是相同的,W可以根据模型去训练,也可以固定为单位阵;

2.1节点的度:

2.2超边的度:

2.3更新公式:

GCN的更新公式:

超图的更新公式:

D v D_v Dv​是超边的度矩阵;
D e D_e De​是顶点的度矩阵;
W W W是权重矩阵;
H H H是超图的邻接矩阵;
X ( l ) X^{(l)} X(l)是节点第L层的特征;
θ ( l ) \theta^{(l)} θ(l)是全连接层;(对 X ( l ) X^{(l)} X(l)进行特征转换)

举个实际的例子:

第一步:因为 θ ( l ) \theta^{(l)} θ(l)是个可训练参数,先不去看 θ ( l ) \theta^{(l)} θ(l);
第二步: D v − 1 / 2 D_v^{-1/2} Dv−1/2​ D e − 1 D_e^{-1} De−1​ D v − 1 / 2 D_v^{-1/2} Dv−1/2​是归一化操作也可先不看他们;
第三步:构建超边特征: H T H^T HT X X X是将超边邻居节点都聚合到超边上(求和)
第四步:节点特征更新: H ∗ H* H∗ H T H^T HT X X X
第五步:利用 D v − 1 / 2 D_v^{-1/2} Dv−1/2​ D e − 1 D_e^{-1} De−1​ D v − 1 / 2 D_v^{-1/2} Dv−1/2​完成归一化操作;
注:需要训练的参数,前部分的时候可以把他们看成固定的值

GCN与HGNN虽然计算出来的值有一定的差别,但是他们本质上的思想是差不多的,GCN可以说是一种特殊的HGNN

3.实验:

1.Cora引文数据集,超图结构与原始结构很相似,并没有加入更多的信息,所以效果提升的比较少;

2.视觉分类任务:
本质上是一种无图结构,作者每次选择数据集的一个节点,利用其在所选特征空间中的10个最近邻生成一个包括改节点本身的超边;

3.ModelNet40:

4.总结

超图结构能够表达复杂的、高阶的数据之间的相关性,与图结构或无图结构的方法相比,能更好的表示底层数据之间的关系。此外,当多模态数据\特征可用时,HGNN具有通过其灵活的超边将这些多模态信息结合在同一结构中的优势;

超图神经网络(HGNN)相关推荐

  1. 图神经网络(GCN)与超图神经网络(HGN):区别与联系

    先放论文: 图神经网络(GCN): https://arxiv.org/pdf/1606.09375.pdfhttps://arxiv.org/pdf/1606.09375.pdf 超图神经网络(HG ...

  2. PyG (PyTorch Geometric) 异质图神经网络HGNN

    诸神缄默不语-个人CSDN博文目录 PyTorch Geometric (PyG) 包文档与官方代码示例学习笔记(持续更新ing-) 本文介绍使用PyG实现异质图神经网络(HGNN)的相关操作. 本文 ...

  3. Hypergraph Neural Networks HGNN

    Hypergraph Neural Networks HGNN论文阅读 [摘要]在本文中,我们提出了一个用于数据表示学习的超图神经网络(HGNN)框架 ①它可以在超图结构中编码高阶数据相关性.面对在实 ...

  4. 对“超图学习”相关优势及适用范围的学习及整理

    主要参考的文献为高跃老师实验室发表的多篇论文,以及最新的超图相关论文: [1] Yifan Feng, Haoxuan You, Zizhao Zhang, Rongrong Ji, Yue Gao, ...

  5. 2019_AAAI_Hypergraph neural networks

    [论文阅读笔记]2019_AAAI_Hypergraph neural networks 论文下载地址: https://deepai.org/publication/hypergraph-neura ...

  6. You're AllSet! 以多重集函数角度重新检视超图GNN

    来源:深度学习与图网络 本文约1700字,建议阅读5分钟 本文针对超图神经网络提出了一个泛用的框架AllSet. 文章信息: Title: You are AllSet: A Multiset Lea ...

  7. (HGNN) Hypergraph Neural Networks

    Hypergraph Neural Networks 1.Abstract 提出了一个用于数据表示学习的超图神经网络(HGNN)框架,它可以在超图结构中编码高阶数据相关性.面对在实际实践中学习复杂数据 ...

  8. 干货!基于神经网络的多粒度图表征学习

    点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 图是建模实体与实体之间关系的常用数据结构.近年来,图数据挖掘引起了学术界和工业界广泛的关注,如分类.聚类等等.然而图相似度学习这一任务却 ...

  9. [HyperGraph专题]HGNN+:General Hypergraph Neural Networks

    最近在做和超图相关的工作,自己主要偏编码的工作,但在敲代码和参考其他现有超图库的过程中发现了一个叫DeepHypergrah的库,里面涉及了很多和深度学习相关的内容,用到了pytorch.scipy. ...

最新文章

  1. 虚幻UE4常见问题最全集合
  2. 【学习笔记】供应链金融简介(精华)
  3. VLC播放器如何录制rtsp流生成视频文件?
  4. 这门国产编程语言,确实很棒!
  5. ux的重要性_UX中清晰的重要性
  6. Selenium学习笔记||三、BeautifulSoup
  7. 《WINDOWS游戏编程之从零开始》第三章学习笔记
  8. android 5.0 截屏权限,Android 5.0 无Root权限实现截屏
  9. 工信部:将于近期发放5G商用牌照
  10. 根据pc值确定出错的代码位置
  11. 子集全排列组合数问题(带你轻松拿捏十一道OJ题)
  12. POJ1017-Packets
  13. java 文件转换成流_java -IO流_转换流
  14. HDU 1236 排名(Microsoft_zzt)
  15. 使用Xpath爬取校花网,致敬10年前的校花『和』我们逝去的青春
  16. c语言班级成绩统计分析系统,C语言课设-班级成绩统计分析
  17. iOS 最新 真机包 调试包(15.5 、15.2、15.0、14.8、14.7.1、14.7等等)
  18. Python替换图片上一些颜色
  19. Quartz画图函数笔记
  20. Bend Radius—How It Can Impact Your Cable Performance?

热门文章

  1. 计算机毕业设计asp.net在线音乐网站(源码+系统+mysql数据库+Lw文档)
  2. codeblocks不能调试
  3. Android Studio旧版(内含SDK)安装和环境变量配置 转自I-T枭
  4. 用纯文字谈对多线程及并发的理解
  5. Lightroom Classic2022 for Mac安装教程
  6. B. Lunatic Never Content - 数论
  7. 3ds MAX 基本体建模,长方体、圆柱体和球体
  8. export与export default详解
  9. 气象数据可视化:NCL数据分析处理与图形绘制
  10. shell 脚本之 echo