高恒:基于知识图谱的表示学习

知识图谱简介、表示学习意义

表示学习历史、基于知识图谱的表示学习

高恒:东南大学知识工程实验室(漆桂林)

表示学习意义

在传统的表示学习中,在训练表示学习模型的过程中加入其他的增强信息会提高表示学习的效果通常情况下大家只会加入一些单一的信息,但知识图谱本身的结构信息往往会被忽略。

表示学习历史

基于知识图谱的表示学习

我们在表示学习的研究中一直在考虑如何加入知识图谱的结构信息并以此为基础提出了一个新的表示学习方法。在整个研究过程中我们主要关注两个问题:1)如何加入结构信息 2)以及哪些结构信息是可以用来提升表示学习算法的。

单一的信息只是加强某一方面

但是却忽略了知识图谱的结构上的信息

1、首先要哪些数据可以用来描述实体

用一些周围的信息实体(和关系边)来确定描述唯一的实体

那么数据:目标实体的周围实体+连通路径约束关系

2、结构信息
把子图放到表示学习里面去训练:
①改造transe里面的势能函数,改成概率函数

②三个不同的context

主语+宾语+关系,联合概率分布,使得三元组整体概率最大
加入上采样和下采样,并且提供负例加入训练

最后通过实验证明在加入知识图谱的结构信息后可以提高表示学习在实体类型预测以及实体关系预测的效果,使得我们的算法达到了当前最先进的水平。

“””
P.S.
实体预测数据集:HITS@10、MEAN RANk、FB40k、WN18

transE在一对一很好,但是在多对一、多对多、一对多上面不太好,而加入图信息则效果都还可以

context比较稀疏的时候效果不太好}
“””

总结

融合更多信息(结构、属性、路径、规则、多模态信息)会使表示学习准确率++

知识图谱表示学习如何应用在传统推理规则任务(不一致检测)

时空、地点这种非三元组

多语言知识融合(NMT常见)会双方同时提高,类似平行语料库会提高实体凑趣

联合任务,识别实体+抽取关系同时做,nlp场景下可以尝试(指代消解任务中)

IJCAI:一级铠