最近看了些图神经网络方面的论文,发现这几年这方面的文章虽然很多,但是各类方法在几个benchmark数据集上的准确率并没有很明显的提升。看了10来篇论文后,找了一个实现相对简单,性能还算可以的方法介绍给大家

之前写过几篇关于图神经网络的论文解析和复现
DeepLearning | 图注意力网络Graph Attention Network(GAT)论文、模型、代码解析
DeepLearning | 图卷积神经网络(GCN)解析(论文、算法、代码)

今天介绍的是2020年ICLR最新的论文
Topological Based Classification using Graph Convolutional Networks

恰好,这篇论文里的方法是基于GCN和GAT来进行实验的,所以感兴趣的朋友不妨先去看看之前的两篇博客

目录

  • 一、摘要
  • 二、方法
  • 三、实验
  • 四、 更多资源下载

一、摘要

在图模型中,通常认为节点的类别与它们的近邻节点的类别相关联。这里,我们提出节点的类别也与节点的拓扑结构特征相关联。利用这一关联性,我们提升了图机器学习模型的性能,特别的,以图卷机网络(GCN)和图注意力网络(GAT)为例。

首先,我们表明,即使在节点上没有任何外部信息的情况下使用以下两种方法可以在预测节点类时获得良好的精度:1.使用拓扑结构特征,2.使用邻居节点的标签。这种准确性略小于使用基于内容的GCN可以获得的值。其次,我们证明显式地将拓扑特征作为输入添加到GCN中与节点上的外部信息结合时,不会提高准确性。但是,添加一个基于拓扑特征的邻接矩阵可以显著提高模型精度,在多个数据集中获得优于所有最新方法的结果。

二、方法

首先我们说明文章的贡献点

  1. 提出了基于拓扑特征的GCN(T-GCN)。我们构造了两个邻接矩阵,第一个邻接矩阵是通常意义上基于节点特征构造的,而第二张图是基于图的拓扑结构特征构造的。两张图的节点数量相同,不同点在于拓扑结构图的节点特征描述了该节点的拓扑属性。拓扑属性包含很多种,比如近邻数量等。通过拓扑属性的相似度来构造拓扑结构图的连接关系,这一点其实和第一张图也是相似的,只是节点的描述内容变了

  2. 提出了基于拓扑特征的GAT(T-GAT)。与T-GCN相似,只是卷积层由普通的卷积换成了注意力卷积。这也说明了提出的拓扑特征的普适性能。

文章还尝试了对拓扑特征的其他一些运用,如将拓扑特征和普通特征连接输入等,但这些方法并没有在实验中表现出突出性能,因此,这里就不多做描述了。

拓扑结构特征包含的属性有以下内容:

  1. 度: 边的进出(在有向图的情况下)数
  2. 中间性:中间性是中心度的度量,定义为从其它所有顶点到该顶点最短路径的数量
  3. 紧密型:紧密型也是中心度的度量,定义为该顶点到其他顶点最短路径的平均长度
  4. 距离分布:我们使用Djekstra算法计算从每一个节点到其他节点的距离分布,然后使用该分布的一阶和二阶量
  5. 流量:我们将节点的流量定义为节点与所有其他节点之间的无向和有向距离之比。
  6. 吸引力:吸引力是“从每个顶点可以到达的网络的加权分数”与“可到达顶点的网络的加权分数” 的比较
  7. 频率:对于每个节点,我们计算该节点参与的每个模体的频率
  8. K-核:K-核是一个极大子图,它包含K次或更多的顶点。等价地,它是由删除度小于k的所有节点
  9. Louvain社区检测算法。Louvain算法是一种社区检测算法。该算法通过模块化的优化工作,刻度值在-1到1之间

上述的每一种属性,都有相应的论文进行详细的论述和讨论,具体见论文参考文献

文章提出的模型结构如下:


很清楚的,可以看出,文章模型的变化只是在第一层多了一个图卷积层,而该卷积层使用的是使用拓扑属性构造的邻接矩阵。

三、实验

数据集是几个图网络方面标准的数据集

模型参数

实验结果

可以看出,在使用了拓扑属性特征以后,GCN在Citeseer数据集上,模型准确率提升了近3%。

这里是几种对拓扑特征不同用法的对比,可以发现T-GCN总是比传统的GCN要好。

四、 更多资源下载

有问题可以私信博主,点赞关注的一般都会回复,一起努力,谢谢支持。
微信搜索“老和山算法指南”获取下载链接与技术交流群

DeepLearning | 图卷积网络基于拓扑结构的分类(T-GCN)相关推荐

  1. 论文阅读笔记:《一种改进的图卷积网络半监督节点分类》

    论文阅读笔记:<一种改进的图卷积网络半监督节点分类> 文章目录 论文阅读笔记:<一种改进的图卷积网络半监督节点分类> 摘要: 引言 非欧几里得数据 1 深度池化对偶图神经网络 ...

  2. DeepLearning | 图卷积神经网络(GCN)解析(论文、算法、代码)

    本篇博客主要讲述三种图卷积网络(Graph Convolutional Network, GCN)的算法原理及python实现,全文阅读时间约10分钟. 博主关于图神经网络的文章 DeepLearni ...

  3. DeepLearning | 图注意力网络Graph Attention Network(GAT)论文、模型、代码解析

    本篇博客是对论文 Velikovi, Petar, Cucurull, Guillem, Casanova, Arantxa,et al. Graph Attention Networks, 2018 ...

  4. CVPR 2019 | 旷视研究院提出ML-GCN:基于图卷积网络的多标签图像识别模型

    全球计算机视觉三大顶会之一 CVPR 2019 (IEEE Conference on Computer Visionand Pattern Recognition)将于 6 月 16-20在美国洛杉 ...

  5. 图卷积网络 GCN Graph Convolutional Network(谱域GCN)的理解和详细推导

    文章目录 1. 为什么会出现图卷积神经网络? 2. 图卷积网络的两种理解方式 2.1 vertex domain(spatial domain):顶点域(空间域) 2.2 spectral domai ...

  6. 图卷积网络是什么?(行为识别)

    参考文章:大家都在谈的图卷积网络是什么?--行为识别领域一颗新星 图卷积网络(Graph Convolutional Network,GCN)是近年来逐渐流行的一种神经网络结构.不同于只能用于网格结构 ...

  7. GCN (Graph Convolutional Network) 图卷积网络

    这几个同时看一下,感觉能理解不少: B站视频:https://www.bilibili.com/video/BV1ta4y1t7EK GCN论文原文和代码:https://github.com/tki ...

  8. 借助chat GPT阅读文献——基于改进的时间-图卷积网络的端到端EEG信号疲劳驾驶分类模型

    借助chat GPT阅读文献--基于改进的时间-图卷积网络的端到端EEG信号疲劳驾驶分类模型 文章主要内容 文献原文 End-to-end fatigue driving EEG signal det ...

  9. Survey | 基于图卷积网络的药物发现方法

    本期介绍2019年6月发表在Briefings in Bioinformatics的综述,该综述由康奈尔大学等机构的研究人员撰写,系统总结了GCN及其在药物发现方面的最新进展,重点是与药物相关的应用: ...

最新文章

  1. oracle云产品是什么意思,Oracle云端产品线也要AI化,ERP云等4大主力云产品先升级...
  2. 前去哪儿产品总监白羽:做SaaS产品需要注意哪些坑?
  3. mbp网速很慢_苹果笔记本上网很慢怎么回事?macbook无线上网慢的解决方法
  4. 数据结构基础(5) --归并排序
  5. 人工智能芯片与传统芯片的区别
  6. MES系统最全介绍来了
  7. 《和平精英》迎来史上最严封号:模拟器过检测、手机外设全部凉凉?
  8. 软件测试是不是IT行业最容易学的 ,大概需要多长时间,就业前景好吗?
  9. 在三角形中rt是什么意思_数学知识点RT三角形是什么意思
  10. 基于VB2008的winsocket控件网络编程
  11. HDU6397 Character Encoding 插板法+容斥
  12. 随机展示一个汉字,可以用来让一二年级孩子识字
  13. win10 计算机磁盘加内存,内存不够用?教你给Win10系统增加C盘空间
  14. vb.net mysql 查询,mysql-vb.net查询以显示数据表的特定行[基本]
  15. 异常java.io.NotSerializableException
  16. 国际电话区号--各国或地区电话国际区号对照表
  17. Latex中字母上面加符号
  18. 关于NP与co-NP、RP与coRP的理解
  19. 如何快速一次性卸载所有python包(第三方库)呢
  20. Linux源代码下载

热门文章

  1. cryptodome包安装
  2. 二阶段提交,三阶段提交,Paxos
  3. 从零搭建个人博客(3)-如何在webpack环境下配置jquery和富文本编辑器Simditor
  4. python和手势控制_Python手势识别与控制
  5. python爬虫基础小案例, scrapy框架,思路和经验你全都有。
  6. 数据结构实验报告——约瑟夫问题(循环链表)
  7. 流程图拖拽视觉编程--概述
  8. 基于cortex-A7
  9. execv shell_Linux中exec命令相关
  10. WEB前端代码书写规范