DeepWalk原理理解：DeepWalk: online learning of social representations

文献：DeepWalk: online learning of social representations

对比阅读了几篇关于网络表示学习的文献，其中一篇包括DeepWalk的提出，下面将自己对于论文的理解和论文的笔记组织好记录下来。

deep walk 的提出是针对网络表示学习的稀疏性提出来的，网络表示学习的稀疏性问题对于统计学习任务有一定难度。

deep walk 学习的是图中顶点的社会特征（the social representation of graph's vertices）,它对随机游走进行了改进：一种缩短了的流式随机游走的方法（ a stream of short random walk）.

下图引自论文中：

利用流式的短的随机游，提出了一个通用的语言模型探究图结构

根据随机游走中包含的顶点来估计下一个顶点出现的概率：

需要一个映射函数：

这个映射函数表示了顶点之间隐藏的社会特征(social representation)，其中这个映射函数是一个|V| x d的矩阵

由此一来，eq.1式转化为：

关于随机游走值得关注的问题：随机游走的长度会越来越大（walk length grows）,这样以来我们在计算eq.1或者eq. 2式条件概率的时候会出现困难。

针对上面这个问题对随机游走进行了改进：

通过单词来预测上下文而不是通过上下文来预测单词
上下文的组成有单词左右两边的信息组成
去掉顺序的约束

对随机游走进行了改进后，eq.2 的问题转化

deep walk 的算法描述

deep walk包括两个部分，一个是随机游走生成器，一个是更新程序

在本文中涉及到的一个streaming 方法,是为了在不知道整个图的情况下，也可以采用本算法。

streaming approach could 被implemented without knowledge of the entire graph.

源码的学习

默认生成.adjlist的文件

生成.mat的文件

评估

DeepWalk原理理解：DeepWalk: online learning of social representations相关推荐

【论文精读实战】DeepWalk: Online Learning of Social Representations
DeepWalk: Online Learning of Social Representations 本文是我参加Datawhale的CS224W图机器学习时的笔记,第一次学习图机器学习,对Deep ...
员外陪你读论文：DeepWalk: Online learning of Social Representations
本次要分享的是 14 年论文 DeepWalk: Online learning of Social Representations, 论文链接DeepWalk[1],参考的代码CODE[2],本论文 ...
【论文翻译】DeepWalk: Online Learning of Social Representations
背景介绍这几年图神经网络模型(如谱聚类的GCN.GAT等等)都挺火的,这些图神经网络即将节点或图映射到一个低维空间(称为图嵌入):而除了GNN还有很多图嵌入方法(在GNN之前图嵌入的概念常出现在流行 ...
论文阅读|DeepWalk: Online Learning of Social Representations
论文阅读|DeepWalk: Online Learning of Social Representations 文章目录论文阅读|DeepWalk: Online Learning of Soci ...
DeepWalk: Online Learning of Social Representations
Paper:http://www.perozzi.net/publications/14_kdd_deepwalk.pdf 代码解析: https://blog.csdn.net/weixin_424 ...
【图嵌入】DeepWalk原理与代码实战
DeepWalk 基础理论了解过 NLP 的同学对 word2vec 应该不陌生,word2vec 通过句子中词与词之间的共现关系来学习词的向量表示,如果你忘记了,可以看看我之前的博客: [word ...
DeepWalk: Online Learning of Social Representations-1
我们提出了一种新的学习网络中顶点的潜在表示的新方法.这些潜在表达在一个连续的向量空间中编码社交联系,它容易被统计模型利用.Deepwalk概括了语言模型的最近发展,和从单词序列到图的无特征监督学习. ...
集成学习—GBDT原理理解
GBDT,全称为梯度提升决策树,即Gradient Boosting Decision Tree.上一篇博客:集成学习-GBDT(论文研读)中已经对GBDT原始论文--Jerome H. Friedm ...
计算机原理理解编程语言_计算机如何理解我们对编程语言及其工作原理的高级概述...
计算机原理理解编程语言 Many folks have at one point or another asked themselves how a computer really understan ...

DeepWalk原理理解：DeepWalk: online learning of social representations

DeepWalk原理理解：DeepWalk: online learning of social representations相关推荐

最新文章

热门文章