Inductive Entity Representations from Text via Link Prediction

研究问题

使用文本信息完成inductive KGC任务，并在inductive场景下提出了一些新的评估协议

背景动机

现有的基于结构的KGE模型无法处理动态图中新加入的实体，而这在现实生活中非常常见（inductive 场景定义：关系已知、实体未见）
基于文本的KGC模型只评测了在链路预测任务下模型的表现，不能全面反映其泛化性能
现有的使用文本信息完成KGC的方法是为实体和关系共同学习一个嵌入，这样就无法应对实体分类或关系分类任务

符号定义

定义一个带实体描述的知识图谱为G=(E,R,T,D)\mathcal{G}=(\mathcal{E}, \mathcal{R}, \mathcal{T}, \mathcal{D})G=(E,R,T,D)，其中一个三元组记做(ei,rj,ek)\left(e_i, r_j, e_k\right)(ei,rj,ek)，对实体eie_iei的文本描述为dei=(w1,…,wn)∈Dd_{e i}=\left(w_1, \ldots, w_n\right) \in \mathcal{D}dei=(w1,…,wn)∈D

链路预测的目标是让正样本的得分高于负样本

Bert对文本表示进行编码，经过投影矩阵得到实体表示

关系的表示像传统KGE模型一样，自己学习出来

实验

链路预测

论文在链路预测任务下设计了两个子任务

Dynamic evaluation：测试时，未见过的实体在三元组中出现的位置是随机的，候选实体是训练集和测试集中实体的集合（实验数据集为FB和WN）
Transfer evaluation：测试时，三元组的头尾实体都必须是未见过的实体，候选实体是测试集中实体的集合，也就是全部都没见过（实验数据集为Wikidata5M）

使用了TransE, DistMult, ComplEx, SimplE的得分函数

减少训练集样本，效果下降得不是很显著

实体分类

将WN数据集中的实体分为四类，将FB中的实体分为五十类

信息检索

transductive场景下的链路预测

Inductive Entity Representations from Text via Link Prediction相关推荐

无Inductive Entity Representations from Text via Link Prediction
摘要知识图(KG)对于web上的多个应用都是至关重要的,包括信息检索.推荐系统和元数据注释. 无论它们是由领域专家手工构建的还是使用自动管道构建的,kg通常都是不完整的.为了解决这个问题,有大量的工 ...
HAKE笔记：Learning Hierarchy-Aware Knowledge Graph Embeddings for Link Prediction
原文:Learning Hierarchy-Aware Knowledge Graph Embeddings for Link Prediction 代码:https://github.com/MIR ...
Learning Hierarchy-Aware Knowledge Graph Embeddings for Link Prediction论文阅读笔记
我的博客链接 0. 前言 1. 作者试图解决什么问题? 作者想在KGE中对语义层级(semantic hierarchies)进行建模. 2. 这篇论文的关键元素是什么? semantic hiera ...
论文阅读2 Learning Hierarchy-Aware Knowledge Graph Embeddings for Link Prediction
目录问题创新 1.Introduction 2.相关工作 3.HAKE模型原文:[1911.09419] Learning Hierarchy-Aware Knowledge Graph Emb ...
Python之tkinter：动态演示调用python库的tkinter带你进入GUI世界(text.insert/link各种事件)
Python之tkinter:动态演示调用python库的tkinter带你进入GUI世界(text.insert/link各种事件) 导读动态演示调用python库的tkinter带你进入GUI世 ...
论文浅尝 | Complex Embeddings for Simple Link Prediction
The ́o Trouillon, Johannes Welb, Sebastian Riedel, ÉricGaussier, Guillaume Bouchard . Complex Embed ...
综述 | 知识图谱（Knowledge graph）链路预测（Link Prediction）
点上方蓝字计算机视觉联盟获取更多干货在右上方 ··· 设为星标 ★,与你不见不散仅作分享,不代表本公众号立场,侵权联系删除转载于:机器之心,arxiv AI博士笔记系列推荐周志华<机器学 ...
社交网络中的Link Prediction
介绍给你一段时间内的社交网络关系,我们能否预测出成员之间在未来的互动? 我们称该问题为Link prediction Problem.他还有另外一些常见的应用,比如社交网站的好友推荐,预测蛋白质间的 ...
【论文解读 WSDM 2018 | SHINE】Signed HIN Embedding for Sentiment Link Prediction
论文链接:https://arxiv.org/abs/1712.00732 代码链接:https://github.com/boom85423/hello_SHINE 会议:WSDM 2018 这位大 ...