一、啥是知识图谱

通俗的讲就是由知识形成的图。知识+图

1.1 知识

知识让机器具有认知能力

       百度AIG(人工智能技术体系)负责人王海峰曾提出,AI可以分为感知层和认知层,感知是人类和动物都有的能力,机器一定程度也可以比人类更强;但认知是人类的专属能力。机器感知能力目前已趋于成熟,但认知能力还有很大的提升空间。知识类数据可以让机器在感知能力的基础上形成认知能力。    

        知识可以让机器与人类对话

         要机器实现与人类的自然对话,像一个真正的助理那样与用户交互,就需要它储备足够多的知识。有知识储备的机器有了认知,就不只是拥有语音或者图像识别能力,而是具备语义理解能力,从听清进步到听懂,从看出来升级到看得懂。

        知识可以让机器智能决策

        当机器通过足够多的知识建立认知能力,对世界有自己的理解后,就可以进行智能决策。要机器有“一定的想法”,能够自我决策,变得智能,就必须要有足够多的知识输入,让其形成认知能力。

1.2 知识图谱

在AI时代,我们要让机器真正意义上认知这个世界,要让机器与我们更自然地交互,要让机器可以智能做出决策,都必须要输入足够多的知识给机器。如何给机器输入知识?核心技术就是知识图谱,它就像AlphaGo“吃”的棋谱一样,是将人类掌握的不同知识进行关联存储于计算机中,形成网状结构并持续动态完善,让机器不断汲取知识,对世界的认知日益完善。

知识图谱就是通过不同知识的关联性形成成一个网状的知识结构,对机器来说就是图谱,形成知识图谱的过程本质是在建立认知,理解世界。

学术解释:

知识图谱是Google用于增强其搜索引擎功能的知识库。本质上, 知识图谱旨在描述真实世界中存在的各种实体或概念及其关系,其构成一张巨大的语义网络图,节点表示实体或概念,边则由属性或关系构成。现在的知识图谱已被用来泛指各种大规模的知识库。

二、知识图谱能干啥

知识图谱于2012年5月17日由[Google]正式提出,其初衷是为了提高搜索引擎的能力,改善用户的搜索质量以及搜索体验。随着人工智能的技术发展和应用,知识图谱作为关键技术之一,已被广泛应用于智能搜索、智能问答、个性化推荐、内容分发等领域。

人工智能与传统产业融合的过程中,要想为这个行业提供更好的服务,就需要对这个行业进行定制化,要有行业知识,这时候就需要在通用知识图谱的基础上,有相应的行业知识图谱,进而帮助这个行业提升生产力,帮助这些行业、产业升级。

三、知识图谱的构建

3.1 概述

知识图谱的基础,就是数据和算法,它需要应用自然语言处理和深度学习技术来进行数据挖掘,在海量知识中找出关联性,形成图谱。

基于三元组是知识图谱的一种通用表示方式。三元组的基本形式主要包括(实体1-关系-实体2)和(实体-属性-属性值)等。

其余参考: 专知:最全知识图谱综述#1: 概念以及构建技术

3.2 存储:图数据库

形成知识图谱的过程本质是在建立认知、理解世界、理解应用的行业或者说领域。

知识图谱的图存储在图数据库(Graph Database)中,图数据库以图论为理论基础,图论中图的基本元素是节点和边,在图数据库中对应的就是节点和关系。用节点和关系所组成的图,为真实世界直观地建模,支持百亿量级甚至千亿量级规模的巨型图的高效关系运算和复杂关系分析。

目前市面上较为流行的图数据库有:Neo4j、Orient DB、Titan、Flock DB、Allegro Graph等。不同于关系型数据库,一修改便容易“牵一发而动全身”图数据库可实现数据间的“互联互通”,与传统的关系型数据库相比,图数据库更擅长建立复杂的关系网络。

图数据库将原本没有联系的数据连通,将离散的数据整合在一起,从而提供更有价值的决策支持。

3.3 知识图谱点价值

知识图谱用节点和关系所组成的图谱,为真实世界的各个场景直观地建模,运用“图”这种基础性、通用性的“语言”,“高保真”地表达这个多姿多彩世界的各种关系,并且非常直观、自然、直接和高效,不需要中间过程的转换和处理——这种中间过程的转换和处理,往往把问题复杂化,或者遗漏掉很多有价值的信息。

凡是有关系的地方都可以用到知识图谱

那相比传统数据存储和计算方式,知识图谱的优势显现在哪里呢?

(1)关系的表达能力强

传统数据库通常通过表格、字段等方式进行读取,而关系的层级及表达方式多种多样,且基于图论和概率图模型,可以处理复杂多样的关联分析,满足企业各种角色关系的分析和管理需要。

(2)像人类思考一样去做分析

基于知识图谱的交互探索式分析,可以模拟人的思考过程去发现、求证、推理,业务人员自己就可以完成全部过程,不需要专业人员的协助。

(3)知识学习

利用交互式机器学习技术,支持根据推理、纠错、标注等交互动作的学习功能,不断沉淀知识逻辑和模型,提高系统智能性,将知识沉淀在企业内部,降低对经验的依赖。

(4)高速反馈

图式的数据存储方式,相比传统存储方式,数据调取速度更快,图库可计算超过百万潜在的实体的属性分布,可实现秒级返回结果,真正实现人机互动的实时响应,让用户可以做到即时决策。

四 知识图谱的主要技术

4.1 知识建模

知识建模,即为知识和数据进行抽象建模,主要包括以下5个步骤:

  1. 以节点为主体目标,实现对不同来源的数据进行映射与合并。(确定节点)

  2. 利用属性来表示不同数据源中针对节点的描述,形成对节点的全方位描述。(确定节点属性、标签)

  3. 利用关系来描述各类抽象建模成节点的数据之间的关联关系,从而支持关联分析。(图设计)

  4. 通过节点链接技术,实现围绕节点的多种类型数据的关联存储。(节点链接)

  5. 使用事件机制描述客观世界中动态发展,体现事件与节点间的关联,并利用时序描述事件的发展状况。(动态事件描述)

4.2 知识获取

从不同来源、不同结构的数据中进行知识提取,形成知识存入到知识图谱,这一过程我们称为知识获取。针对不同种类的数据,我们会利用不同的技术进行提取。

从结构化数据库中获取知识:D2R。

备注:1.D2R:将关系数据库映射到RDF

           2.RDF-语义网体系的基础技术 RDF(Resource Description Framework)资源描述框架,一种用于描述Web资源的标记语言。

难点:复杂表数据的处理。

从链接数据中获取知识:图映射。

难点:数据对齐。

从半结构化(网站)数据中获取知识:使用包装器。

难点:方便的包装器定义方法,包装器自动生成、更新与维护。

从文本中获取知识:信息抽取。

难点:结果的准确率与覆盖率。

4.3 知识融合

如果知识图谱的数据源来自不同数据结构的数据源,在系统已经从不同的数据源把不同结构的数据提取知识之后,接下来要做的是把它们融合成一个统一的知识图谱,这时候需要用到知识融合的技术(如果知识图谱的数据结构均为结构化数据,或某种单一模式的数据结构,则无需用到知识融合技术)。

知识融合主要分为数据模式层融合和数据层融合,分别用的技术如下:

  1. 数据模式层融合:概念合并、概念上下位关系合并、概念的属性定义合并。
  2. 数据层融合:节点合并、节点属性融合、冲突检测与解决(如某一节点的数据来源有:豆瓣短文、数据库、网页爬虫等,需要将不同数据来源的同一节点进行数据层的融合)。

由于行业知识图谱的数据模式通常采用自顶向下(由专家创建)和自底向上(从现有的行业标准转化,从现有高质量数据源(如百科)转化)结合的方式,在模式层基本都经过人工的校验,保证了可靠性,因此,知识融合的关键任务在数据层的融合。

4.4 知识存储

图谱的数据存储既需要完成基本的数据存储,同时也要能支持上层的知识推理、知识快速查询、图实时计算等应用,因此需要存储以下信息:三元组(由开始节点、关系、结束节点三个元素组成)知识的存储、事件信息的存储、时态信息的存储、使用知识图谱组织的数据的存储。

其关键技术和难点就在于:

  1. 大规模三元组数据的存储;
  2. 知识图谱组织的大数据的存储;
  3. 事件与时态信息的存储;
  4. 快速推理与图计算的支持。

4.5 知识计算

知识计算主要是在知识图谱中知识和数据的基础上,通过各种算法,发现其中显式的或隐含的知识、模式或规则等,知识计算的范畴非常大,这里主要讲三个方面:

  1. 图挖掘计算:基于图论的相关算法,实现对图谱的探索和挖掘。
  2. 本体推理:使用本体推理进行新知识发现或冲突检测。
  3. 基于规则的推理:使用规则引擎,编写相应的业务规则,通过推理辅助业务决策。

4.6 图挖掘和图计算

知识图谱之上的图挖掘和计算主要分以下6类:

  • 第一是图遍历,知识图谱构建完之后可以理解为是一张很大的图,怎么去查询遍历这个图,要根据图的特点和应用的场景进行遍历;
  • 第二是图里面经典的算法,如最短路径;
  • 第三是路径的探寻,即给定两个实体或多个实体去发现他们之间的关系;
  • 第四是权威节点的分析,这在社交网络分析中用的比较多;
  • 第五是族群分析;
  • 第六是相似节点的发现。

五、知识图谱的应用

  1. 信用卡申请反欺诈图谱

2. 企业知识图谱

3. 交易知识图谱

4. 反洗钱知识图谱

5. 信贷/消费贷知识图谱

6. 内控知识图谱

具体参考:6个方面分析:知识图谱的价值和应用

参考资料:

1.https://baike.baidu.com/tashuo/browse/content?id=e5a23826846f620f7bac3794&lemmaId=8120012&fromLemmaModule=pcBottom

2.https://baike.baidu.com/tashuo/browse/content?id=edc68a0a68ea1311fa86a1b1&lemmaId=8120012&fromLemmaModule=pcBottom

3.  专知:最全知识图谱综述#1: 概念以及构建技术

4.6个方面分析:知识图谱的价值和应用

知识图谱学习一:啥是知识图谱,用来干啥,怎么做?相关推荐

  1. 知识图谱学习笔记八(知识问答)

    知识问答 知识问答是一个拟人化的智能系统,接收使用自然语言表达的问题,理解用户的意图,获取相关的知识,通过推理计算形成相应的答案并反馈给用户. 知识问答的基本要素 1.问题,也就是问答系统的输入.(问 ...

  2. 知识图谱学习笔记四(知识抽取与挖掘)

    知识抽取任务以及相关竞赛    知识抽取基本定义 实现自动化构建大规模知识图谱的重要技术.目的在于从不同来源.不同结构的数据中进行知识提取并存储在知识图谱中.    知识抽取子任务 命名实体识别(如: ...

  3. 知识图谱学习笔记-风控知识图谱设计

    一.知识图谱搭建流程 问题定义->数据收集->数据预处理->设计知识图谱->存储知识图谱->应用知识图谱->评估系统 二.知识图谱设计原则 1)需要哪些实体.关系. ...

  4. 知识图谱学习笔记三(知识存储)

    1. 两种主要的图数据模型: RDF图.属性图 2.查询语言: RDF图:SPARQL               属性图:Cypher.Gremlin 3.知识图谱存储方法 a.基于关系型数据库的存 ...

  5. 知识图谱学习笔记(1)

    知识图谱学习笔记第一部分,包含RDF介绍,以及Jena RDF API使用 知识图谱的基石:RDF RDF(Resource Description Framework),即资源描述框架,其本质是一个 ...

  6. 知识图谱学习小组学习大纲

    (这是为北京知识学习小组第一期 kgbj1 准备的为期4周的学习大纲) 2016年6月3日 鲍捷 这个学习小组的目的,不是按教科书的定义去学习"知识图谱",更不是做研究.我们更多是 ...

  7. 论文浅尝 | 基于对抗学习的弱监督知识图谱对齐

    论文笔记整理:郭凌冰,浙江大学研究助理,研究方向为知识图谱的表示学习. 绝大部分现有的知识图谱对齐方法都要求足够的已对齐三元组作为监督数据,但在现实世界中,获取大量的对齐三元组的代价十分高昂.本文提出 ...

  8. 【论文翻译】统一知识图谱学习和建议:更好地理解用户偏好

    一.摘要 将知识图谱(KG)纳入推荐系统有望提高推荐的准确性和可解释性.然而,现有方法主要假设KG是完整的并且简单地在实体原始数据或嵌入的浅层中转移KG中的"知识".这可能导致性能 ...

  9. 0元包邮 | 知识图谱学习导图

    知识图谱可以说是整个AI的未来,是实现人工智能从"感知"跃升到"认知"的基础.近年来,作为实现认知智能的核心驱动力,已广泛应用在金融.电商.医疗.政务等诸多领域 ...

  10. 文末福利 | 学习如何构建行业知识图谱(以医疗行业为例)

    随着人工智能走到台前,人们越来越意识到场景才是盘活存量数据.吸附和创造增量数据,最终产生更加强大智能的核心. 数据驱动的人工智能正在朝着场景驱动的人工智能发展.如果要用数字化给一个行业赋能,那么机器首 ...

最新文章

  1. 滴滴联合比亚迪:首款定制网约车D1发布
  2. C++读取txt数据为二维数组 将数据保存到txt文本中
  3. 来几个FUNNY PICS,让大家笑一笑!
  4. jsonp跨域原理_Rust 搭建可跨域访问服务器JsonP(一)
  5. Javascript原型钩沉
  6. java框架之SpringBoot(5)-SpringMVC的自动配置
  7. linux手动安装unzip_怎样在Linux下搭建接口自动化测试平台?
  8. 网维无盘服务器错误代码,网维大师无盘环境INTER傲腾方案常见问题解答?
  9. Spring Cloud Gateway源码解析
  10. 安卓手机怎么root_手机怎么root
  11. 【软考软件评测师】2016年下案例分析历年真题
  12. onedrive php接口,关于 onedrive 的 api 调用
  13. Flutter 与 RN对比
  14. 在Codesys用ST语言基于链表实现栈LIFO数据结构详细说明+代码实例
  15. Python图像处理
  16. 金蝶EAS DEP脚本(5)给常用控件添加值改变事件
  17. 为什么很多人不喜欢做程序员?甚至讨厌程序员?
  18. 远程控制PLC实际案例——西门子SIMATIC S7-1200
  19. 算法【二叉树】学习笔记 - 已知结点数计算可构建出多少种二叉树
  20. 花间一壶酒,独酌无相亲。—第四天

热门文章

  1. error: invalid preprocessing directive 问题解决
  2. C++笔记(基础3):继承
  3. day day day upupupup
  4. 【Openwrt编译错误】ISO C++17 does not allow dynamic exception specifications
  5. 科学家首次拍到座头鲸交配场景:持续仅30秒
  6. 一个好玩的东西,纯JS代码实现增强现实(AR.js)
  7. 【数字信号处理】线性时不变系统 LTI “ 输入 “ 与 “ 输出 “ 之间的关系 ( 线性卷积起点定理推导过程 )
  8. 重庆将建国际消费中心城市
  9. transformer引入位置信息--Sinusoidal位置编码《个人学习笔记》
  10. GitHub官方App来了!