知识图谱的嵌入：TransE

下面对知识图谱的嵌入模型TransE进行原理讲解，文末提供完整全注释版代码。

TransE模型原理

知识图谱首要任务是知识图谱的嵌入，知识图谱的嵌入中，最为经典的模型就是TransE模型，TransE模型的核心作用就是将知识图谱中的三元组翻译成embedding向量

该模型的基本思想是使head向量和relation向量的和尽可能靠近tail向量。这里我们用L1或L2范数来衡量它们的靠近程度。

理解下来也就是：

首先，确定训练集，超参数γ，学习率λ

初始化关系向量与实体向量，对于每个向量的每个维度在 [ -6/√k，6/√k）内随机取一个值，k为低维向量的维数，对所有的向量初始化之后要进行归一化

进入循环：采用minibatch，一批一批的训练会加快训练速度，对于每批数据进行负采样（将训练集中的三元组某一实体随机替换掉），T_batch初始为一个空列表，然后向其添加由元组对（原三元组，打碎的三元组）组成的列表： T_batch = [ ( [h,r,t], [h',r,t'] ), （[ ], [ ]）, ......]

拿到T_batch后进行训练，采用梯度下降进行调参

TransE 定义了一个距离函数 d(h + r, t)，它用来衡量 h + r 和 t 之间的距离，在实际应用中可以使用 L1 或 L2 范数。在模型的训练过程中，transE采用最大间隔方法，最小化目标函数，目标函数如下：

其中，S是知识库中的三元组即训练集，S’是负采样的三元组，通过替换 h 或 t 所得，是人为随机生成的。γ 是取值大于0的间隔距离参数，是一个超参数，[x]+表示正值函数，即 x > 0时，[x]+ = x；当 x ≤ 0 时，[x]+ = 0 。算法模型比较简单，梯度更新只需计算距离 d(h+r, t) 和 d(h’+r, t’)。

免费获取代码：

链接：https://pan.baidu.com/s/1qogwPPT_jFpUtzXDonvMkA?pwd=2222
提取码：2222
--来自百度网盘超级会员V4的分享

知识图谱的嵌入：TransE相关推荐

规则引导的知识图谱联合嵌入方法
规则引导的知识图谱联合嵌入方法人工智能技术与咨询本文来自<计算机研究与发展> ,作者姚思雨等摘要近年来,大量研究工作致力于知识图谱的嵌入学习,旨在将知识图谱中的实体与关系映射到低 ...
知识图谱表示学习 TransE: Translating Embeddings for Modeling Multi-relational Data
知识图谱表示学习 TransE: Translating Embeddings for Modeling Multi-relational Data 表示学习是深度学习的基础,将数据用更有效的方式表达 ...
NeuIPS｜在知识图谱上嵌入逻辑查询
今天为大家带来斯坦福大学Jure Leskovec教授课题组发表在NeuIPS上的一篇论文.本文引入了一个框架GQE,以便在不完整的知识图谱上有效地对合取逻辑查询进行预测.在本文的方法中,作者在低维空 ...
知识图谱从入门到应用——知识图谱推理：基于表示学习的知识图谱推理-[嵌入学习]
分类目录:<知识图谱从入门到应用>总目录前面多次提到过,基于符号逻辑的演绎推理的主要缺点是对知识表示的逻辑结构要求比较高,不论是本体推理还是规则推理,都要求人工定义公理和规则才能完成推理 ...
[仅个人学习用] 知识图谱刘知远老师 TransE
ML = representation + objective + optimization 1.representation 表示学习的基本思想是提出一种所谓的Distributed Represe ...
知识图谱表示学习Transe TransD TransR等的评价指标 hit@10、mean rank的理解
最近学习了知识图谱数值表示方式的学习算法,包括TransE.TransD.TransR等,看到提到的评价指标有hit@10.mean rank等,一开始对于这些指标并不清楚.在看了一篇Transe的实 ...
知识图谱嵌入的Translate模型汇总（TransE，TransH，TransR，TransD）
点击上方"AI公园",关注公众号,选择加"星标"或"置顶" 作者:Xu LIANG 编译:ronghuaiyang 导读一文打尽图嵌入Tr ...
知识图谱嵌入的Translate模型汇总（TransE，TransH，TransR，TransD
一文打尽图嵌入Translate模型,各种模型的动机,优缺点分析. 本文对知识图谱嵌入/知识表示的转换模型进行了简要的总结.你可以从TensorFlow-TransX中找到开源的TensorFlow代 ...
半小时训练亿级规模知识图谱，亚马逊AI开源知识图谱嵌入表示框架DGL-KE
出品 | AI科技大本营(ID:rgznai100) 知识图谱 (Knowledge Graph)作为一个重要的技术,在近几年里被广泛运用在了信息检索,自然语言处理,以及推荐系统等各种领域.学习知识图 ...

知识图谱的嵌入：TransE

知识图谱的嵌入：TransE相关推荐

最新文章

热门文章