诸神缄默不语-个人CSDN博文目录

论文下载地址：A Representation Learning Framework for Property Graphs

代码：yaobaiwei/PGE: A Representation Learning Framework for Property Graphs.

引用方式：Yifan Hou, Hongzhi Chen, Changji Li, James Cheng, Ming-Chang Yang. A Representation Learning Framework for Property Graphs. International Conference on Knowledge Discovery & Data Mining, pages 65-73, 2019.
（这个引用方式是从一作硕论¹ list of publications部分直接扒下来的）

这篇我看得比较粗略。

文章目录

1. 模型构造思路
2. Notation与模型介绍
- 2.1 Notation
- 2.2 节点相似性和节点嵌入
- 2.3 PGE模型步骤
- 2.4 PGE模型对有向边关系的支持
- 2.5 PGE模型算法
- 2.6 bias部分的有效性证明
3. 详细的数学推导和证明
4. 实验结果
- 4.1 baseline
- 4.2 数据集
- 4.3 实验设置
- 4.4 实验结果
- - 4.4.1 节点分类任务
  - 4.4.2 链接预测任务
  - 4.4.3 参数敏感性检验
  - - 4.4.3.1 epoch
    - 4.3.3.2 Biases and Cluster Number
5. 代码实现和复现
- 5.1 论文官方实现
- 5.2 PyG官方实现
- 5.3 我自己写的复现
6. 参考资料

1. 模型构造思路

本文提出了一个新的MP系GNN模型PGE，结合了拓扑结构和图在节点和边上的属性信息，在聚合邻居信息时是有偏的、根据邻居节点和边对中心节点的相似程度来进行聚合的。
感觉就是一个常见的那个年代（喂GNN的发展已经快到2019年的论文算是古董了）的GNN模型。

标题中所谓property graph就是有属性的图，属性可以在节点或边上。

2. Notation与模型介绍

2.1 Notation

略，待续。

2.2 节点相似性和节点嵌入

节点 viv_ivi 和 vjv_jvj 之间的相似性可以分解为属性和拓扑上的相似性：

（上图中的 l(⋅,⋅)l(\cdot,\cdot)l(⋅,⋅) 是个非负映射）

本文要学习节点嵌入 zzz，学习目标就是使节点在图域的相似性（用上图中的 sss 衡量）与嵌入域的相似性（用嵌入向量的内积衡量）相近，即最小化 sss 与 zviTzvjz_{v_i}^Tz_{v_j}zviTzvj 的差的模长。

2.3 PGE模型步骤

大致流程为：

①property-based node clustering
仅基于属性对节点进行聚类，将节点聚成k类。（可以使用K均值、DBSCAN之类的标准聚类方法）
这样对每个节点来说，都能得到与之在属性上相似与不相似的邻居节点（拓扑上的相似性用邻居信息衡量）。

②biased neighborhood sampling
biased是本文相比于GraphSAGE方法的创新部分。
对每个节点，我们对其相似节点（即在①中属于同一类）的节点置bias bsb_sbs（1），对不相似节点置bias bdb_dbd（这个bias的有效性在section4部分解释，具体的取值好像是做实验调出来的），将所有邻居的bias归一化后从中抽样出固定数量的邻居，得到sampled graph GS\mathcal{G}^SGS

③neighborhood aggregation
2层GNN：

pvp_vpv 是原始特征向量，A(⋅)\text{A}(\cdot)A(⋅) 是concatenate operation

2.4 PGE模型对有向边关系的支持

具体见论文3.3部分，略待补。

2.5 PGE模型算法

就按着步骤走，还挺清晰的。

2.6 bias部分的有效性证明

没看，待补。

3. 详细的数学推导和证明

没看，待补。

4. 实验结果

4.1 baseline

本文将baseline分成三类：
random walk based on skipgram – DeepWalk and node2vec
graph convolutional networks – GCN
neighbor aggregation based on weight matrices – GraphSAGE

4.2 数据集

略，待补。

4.3 实验设置

略，待补。

4.4 实验结果

4.4.1 节点分类任务

具体略，待补。

4.4.2 链接预测任务

没看到有说表示向量多少维？
损失函数应该是 cross entropy loss with negative sampling（在论文3.2.3部分提及）。
具体略，待补。

4.4.3 参数敏感性检验

4.4.3.1 epoch

具体略，待补。

4.3.3.2 Biases and Cluster Number

固定 bsb_sbs，调整 bdb_dbd；用K均值聚类以方便调整cluster number

最终结论是选择较小的K（接近平均度数）和较大的 bdb_dbd 对实验比较合适。
具体略，待补。

5. 代码实现和复现

5.1 论文官方实现

TensorFlow……
yue！
就浏览了一下，还没看，待补。我看这意思是很多代码是参考GraphSAGE的，那篇的代码我也没看。而且我看了一下issue没人回答，作者不知是转行了还是咋，感觉不维护了，提问可能也没人回。所以大概就不看了。如果有需要再说。

5.2 PyG官方实现

没有。

5.3 我自己写的复现

没写。

6. 参考资料

¹ 这一篇应该是作者的硕士毕业论文（2020年港中文CS专业），是PGE模型和CS-GNN模型。
本文的讲解博文：
1. PGE - A Representation Learning Framework for Property Graphs 属性图表示学习框架 KDD 2019_知行合一，止于至善-CSDN博客这篇写得好详细，包括背景知识和数学证明。虽然我没看，但我大受震撼！
  以后对这部分背景知识的解释可以再度参考该论文和该博文，对数学证明如果有需要的话也可以参考着阅读。
2. 【KDD 2019】A Representation Learning Framework for Property Graphs_u011754184的博客-CSDN博客

thesis.pdf ↩︎ ↩︎

Re3：读论文 PGE A Representation Learning Framework for Property Graphs相关推荐

PGE - A Representation Learning Framework for Property Graphs 属性图表示学习框架 KDD 2019
文章目录 1 相关介绍 1.1 背景 1.2 现有方法的局限性 1.3 contributions 2 相关工作矩阵分解随机游走图神经网络中的邻接聚合 3 PGE框架 3.1 符号定义 3.2 ...
【论文阅读｜浅读】PGE：A Representation Learning Framework for Property Graphs
目录前言简介 ABSTRACT 1 INTRODUCTION 2 RELATED WORK 3 THE PGE FRAMEWORK 3.1 Problem Definition 3.2 The T ...
[论文学习]TDN: An Integrated Representation Learning Model of Knowledge Graphs
[论文学习以及翻译]TDN: An Integrated Representation Learning Model of Knowledge Graphs 文章主要内容摘要前言相关工作基于T ...
论文阅读《Representation learning with contrastive predictive coding 》（CPC）对比预测编码
论文地址:Representation Learning with Contrastive Predictive Coding 目录一.Background(背景) 二.Motivation and ...
2021-ACS-IGN: A Novel and Efficient Deep Graph Representation Learning Framework for Accurate
2021-ACS-IGN: A Novel and Efficient Deep Graph Representation Learning Framework for Accurate Paper: ...
【论文阅读】Representation Learning with Multiple Lipschitz-constrained Alignments on Partially-labeled
标题长度受限,完整的该论文标题为: 论文标题:Representation Learning with Multiple Lipschitz-constrained Alignments on Par ...
[KDD 2022]ROLAND Graph Learning Framework for Dynamic Graphs
ROLAND: Graph Learning Framework for Dynamic Graphs 介绍对于动态图,现有的工作有以下局限: 静态图模型不能很好地迁移到动态图上现有的评估方式都不 ...
Re38：读论文 NeurJudge: A Circumstance-aware Neural Framework for Legal Judgment Prediction
诸神缄默不语-个人CSDN博文目录本文是2021年SIGIR论文,官方下载地址:https://dl.acm.org/doi/10.1145/3404835.3462826 官方GitHub地址:y ...
员外陪你读论文：DeepWalk: Online learning of Social Representations
本次要分享的是 14 年论文 DeepWalk: Online learning of Social Representations, 论文链接DeepWalk[1],参考的代码CODE[2],本论文 ...

Re3：读论文 PGE A Representation Learning Framework for Property Graphs