知识图谱构建技术综述-2.3知识推理-学习笔记「建议收藏」

知识图谱构建技术综述-2.3知识推理-学习笔记「建议收藏」文章信息:文章末尾目录2.3节知识推理2.3.1基于规则的推理2.3.2基于分布式特征表示推理(1)基于翻译模型的知识推理(2)基于张量分解的知识推理(3)基于语义匹配模型的知识推理2.3.3基于深度学习的推理2.3节知识推理知识推理:根据已有的实体关系来推断出新的事实结论。知识推理研究分析分为3种:2.3.1基于规则的推理包含:谓词逻辑推理、本体推理和随机推理。【63】等提出一阶归纳学习就是谓词逻辑推理,可以自动提取高质量的事实并去噪

大家好,又见面了,我是你们的朋友全栈君。

文章信息:文章末尾,只是一个自我学习过程的积累,红色为可探索思考的地方。

目录

2.3 节 知识推理

2.3.1 基于规则的推理

2.3.2 基于分布式特征表示推理

(1)基于翻译模型的知识推理

(2)基于张量分解的知识推理

(3)基于语义匹配模型的知识推理

2.3.3 基于深度学习的推理


2.3 节 知识推理

知识推理:根据已有的实体关系来推断出新的事实结论。

知识推理研究分析分为3种:

2.3.1 基于规则的推理

包含:谓词逻辑推理、本体推理和随机推理。

【63】等提出一阶归纳学习就是谓词逻辑推理,可以自动提取高质量的事实并去噪声,但效率很低。

【64】等提出一种本体寻路算法(Ontological Pathfinding algorithm,OP)通过一系列并列优化技术实现大规模的知识图谱,在FreeBase数据库中挖掘第一个规律集。

【65】拟解决实体关系推理中准确率和召回率低的问题,提出双层随机游走算法(Two-tier Random Walk algrithm, TRWA)算法。TRWA利用无向图来表述知识图谱。除此之外,TRWA在全局模式和局部模式两种角度对路径特征进行评估,提高算法的准确率和召回率。

2.3.2 基于分布式特征表示推理

该推理方法下包括3中知识推理方法:

(1)基于翻译模型的知识推理

【66】等提出TransN模型,目的是整合三元组周围邻域的信息,采用对象嵌入和上下文嵌入表示实体和关系,提升了知识推理的性能。

但是不足:TransE和TransN都无法完全满足所有关系的建模。基于不足【67】等提出了Rotate模型,将实体关系看作是头实体向量向尾实体向量的旋转角度(图下图),可以建模和推断各种关系模式,提出自对抗负采样技术,是的模型效果提升。

知识图谱构建技术综述-2.3知识推理-学习笔记「建议收藏」

【68】等提出在TransE的基础上引入三元组邻域信息,提出聚合邻域信息的表示模型Trans-NA ,为实体选择最相关的属性作为邻域信息,有效缓解数据稀疏问题。

【69】*等针对知识推理可解释性差的问题,将知识表示与强化学习相结合,提出RLPTransE,将知识推理问题转化为马尔科夫序列决策问题,增强了知识推理的可解释性。

(2)基于张量分解的知识推理

一般是将知识图谱中的实体关系三元组通过张量分解方法进行表示学习,分解得到的向量进行重构为张量,其元素值高于一定阈值的作为候选推理结果。

2011年【70】等提出RESCAL如下图所示,将高维关系数据分解为三阶张量,降低了数据维度的同时有保持了数据原有特征,在知识推理中取得较好效果。

知识图谱构建技术综述-2.3知识推理-学习笔记「建议收藏」

 RESCAL缺陷:计算复杂,占内存很大,因此【71】提出了新的知识推理模型TRESCAL引入实体类型信息来约束并排除不满足关系的三元组,显著降低了训练时间并提高了预测性能

2017年,【72】等通过对KG进行路径张量分解,意在解决KG推理中忽略实体间的关系路径问题,可高效地挖掘实体间的关系与新事实,有助于完善KG。

(3)基于语义匹配模型的知识推理

【73】提出了DistMult模型,将RESCAL中的每一个关系向量转换为对角矩阵来对RESCAL进行简化,减少参数,在对现有的知识库的推理中表现出较好的效果。缺陷:RESCAL还是DistMult,都忽略了实体和关系的语义多样性。

2017年【74】等认为每个关系都反映了相应实体的某些语义关系,可以通过选择性的加权对这些关系进行表示和区分,提出了统一加权模型(Unified Weighted Model,UWM)和独立加权模型(Independent Weighted Model, IWM)关系推理算法,计算效率较高。

2019年【75】等引入超复数来建模实体和关系,同样将关系看作超平面内头实体到尾实体的旋转,相对于Rotate只有一个旋转平面,QuatE存在两个旋转平面,其自由度泛化能力更好

2.3.3 基于深度学习的推理

2013年【76】提出一种新的神经张量网络模型(Neural Tensor NetWork,NTN)来建模关系信息。如下图所示。

知识图谱构建技术综述-2.3知识推理-学习笔记「建议收藏」

NTN采用双线性张量层直接将两个实体向量跨多个维度联系起来,刻画实体之间复杂的语义联系,显著提高推理性能。

【77】提出了一种具有单一性和高容量性的RNN模型,该模型的所有目标关系共享RNN的关系类型表示和组合矩阵,减小了训练参数数量,(准确性高,实用性强)

2018年【78】设计KG的深度序列模型(Deep Sequential model for KG, DSKG),分别用独立的RNN单元处理实体层和关系层,取得较好效果。

2020年【79】针对实体句中的次序特征,提出了基于LSTM的知识图谱嵌入方法(Learning Knowledge Graph Embedding with Entity Descriptions based on LSTM Networks , KGDL),采用LSTM实体描述的句子进行编码,然后联合TransE与LSTM模型将实体描述的句子嵌入与三元组编码为实体描述,实现知识推理。

2018年【80】提出了用于知识推理的一种卷积神经网络模型ConvE,该模型采用二维卷积的嵌入来对KG中的新链接进行推理。由于ConvE的交互数量有限,【81】提出了InteractE,通过特征置换,特征重塑以及圆形卷积来捕捉额外的异构特征,增加实体关系间的交互次数。

【82】等认为ConvE丢失了三元组的整体的结构信息,提出了基于CNN的知识表示模型(Convolutional knowledge embeddings, ConvKE),将三元组的各个元素整合到一起提取整体的结构信息,通过维度变化策略增加卷积滑动窗口步数,增强知识之间的信息交互。

KG用于深度学习推理。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/138884.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)
blank

相关推荐

  • Gradle教程「建议收藏」

    Gradle教程「建议收藏」1.简介在本课程中,我们将学习Gradle,它是一个构建工具和一个依赖管理系统,与Maven和Ant非常相似,并且专门用于构建基于Java的项目。与Maven和Ant构建系统不同,Gradle不使用XML。它实际上是基于Groovy构建在DSL中的。与基于XML的其他构建系统相比,基于Groovy的Gradle脚本的最大优势是可以使构建脚本更小,更简洁。就像Maven构建文件…

  • 【json】Jackson的使用

    【json】Jackson的使用

  • navicat premium 15 mac 激活码【2021.8最新】

    (navicat premium 15 mac 激活码)这是一篇idea技术相关文章,由全栈君为大家提供,主要知识点是关于2021JetBrains全家桶永久激活码的内容IntelliJ2021最新激活注册码,破解教程可免费永久激活,亲测有效,下面是详细链接哦~https://javaforall.cn/100143.htmlS32PGH0SQB-eyJsa…

  • 联想笔记本电脑键盘灯怎么开启_联想笔记本电脑的键盘灯怎么开[通俗易懂]

    联想笔记本电脑键盘灯怎么开启_联想笔记本电脑的键盘灯怎么开[通俗易懂]展开全部1、联想笔记本部分型号具备键盘背32313133353236313431303231363533e4b893e5b19e31333431336664光功能,方法通过“FN+空格”打开,支持此功能的机型,键盘上有相应标示。部分早期的Thinkpad笔记本电脑若带有键盘灯,需要通过“Fn+PageUp”组合键开启。发现电脑键盘的“Space(空格键)”按键上有下图所示的标识符号电脑一般带有键…

  • Linux抓包命令_怎么使用wireshark抓包

    Linux抓包命令_怎么使用wireshark抓包Wireshark是一款图形化的抓包软件,在LInux和Windows下都可以下载。用命令安装wireshark相关软件包命令:查看安装wireshark产生了哪些文件直接通过命令打开或者是图形化页面点开就好点击InterfaceList,就可以看到接口列表,选择需要抓哪个网卡的包这里我选择ens33网卡,点击start开始抓包我们ping我们的主机地址,看看抓包情况ping工具使用的就是协议,ICMP是IP协议的附属协议。IP层用它来与其他主机或路由器交换错误报文和其他重要信息。它主要是

  • SQL Server 2012 下载和安装详细教程

    官网下载地址:https://www.microsoft.com/zh-cn/download/details.aspx?id=29066选择图片中的三个,然后点击下载,文件内存很大下载以后,如图所示,双击.exe程序进行安装安装结束以后,就会有SQLFULL_x64_CHS文件夹生成打开SQLFULL_x64_CHS文件夹,双击SETUP应用程序,…

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号