基于链接预测模型的融合研究

知识图谱技术在信息检索、智能问答领域有着重要作用.为了解决大型知识图谱中的有效实体缺失问题,需要使用链接预测手段自动预测实体之间缺失的链接,完善知识图谱中缺失的实体.现在有许多链接预测的方法,其中基于神经网络的Grail模型侧重于对局部子图进行推理,具有很强的归纳倾向,但在语义层次建模方面存在不足.因此,提出了Grail&HAKE融合模型,通过将Grail模型与HAKE模型进行融合,解决了Grail模型在语义层次建模方面存在的不足.实验结果表明,Grail&HAKE的融合模型比单独使用Grail和HAKE模型的MRR值分别高出0.100 5和0.306 3,并且在部分数据集上优于其他融合模型.说明Grail&HAKE融合模型在知识图谱的有效实体链接预测方面是有效可用的.     

融合上下文的知识图谱补全方法

构建了一种融合了上下文的知识图谱补全模型。首先通过Inception网络得到给定头尾实体对的深度交互嵌入;其次定义和编码给定实体对的2种上、下文信息：邻接关系上下文和路径上下文;然后使用基于头尾交互嵌入的注意力机制,分别聚合给定实体对的邻接关系上下文和路径上下文;最后利用全连接层来融合给定实体对的2种上下文信息,预测给定实体对之间的关系。在数据集FB15K-237、WN18RR和NELL-995中与其他主流模型对比,实验结果证实了所提补全模型的有效性。     

TransE和TransH模型空间地址表示学习中的对比研究——以广州市天河区为例

将地理知识融入空间地址,研究空间信息与语义信息融合的知识表示学习方法;将空间地址数据集在TransE模型和TransH模型上进行训练,通过元组分类和向量间距离评估的方法进行对比研究.研究结果表明:(1)在地址实体的表示学习任务中,TransH模型在对复杂关系的建模任务上明显优于TransE模型;(2)在语义知识基础上融入空间关系,能够有效地解决地址实体语义相似而空间距离不相近和空间距离相近而语义不相似的两大问题.语义关系与空间关系的融合,将能够挖掘更多有价值的信息,有利于进一步开展地理知识图谱的补全工作,可为地理知识图谱表示学习提供方法借鉴.     

面向自主工业软件的知识提取和知识库构建方法

自主工业软件是支撑国内中小企业创新发展的核心力量之一。自主工业软件相关文本中蕴含着大量与制造业相关的知识，但是目前缺少相应的知识提取和知识库构建方法。该文提出一种基于神经网络和自然语言处理的知识提取模型，该模型包括文本表示、实体识别、关系抽取3个部分。基于知识图谱对提取的实体和关系进行建模，通过本体建模定义自主工业软件相关概念，利用图数据建模将本体模型中的概念映射到图数据中，提升了数据检索和建模能力，并将数据持久化存储到知识库中。应用结果表明：该方法可用于构建自主工业软件知识库，对整合制造业相关知识起到重要作用。     

融合属性嵌入与关系注意力的跨语言实体对齐

目前知识图谱实体对齐的主流方法是通过图神经网络学习知识图谱的嵌入表示，并测量实体嵌入之间的相似性实现实体的对齐.很多实体对齐方法只考虑知识图谱的结构信息和关系信息，却常常忽略了属性信息.针对上述问题，提出了一种融合属性嵌入的实体对齐方法：融合属性信息的精简关系感知双图卷积网络模型.首先，基于关系感知双图卷积网络的注意力机制提取知识图谱的关系信息；然后，利用带高速门的图卷积网络获取属性信息；最后，融合二者的嵌入信息以实现更高准确率的实体对齐.在3个跨语言数据集上的实验结果表明，该方法通过融合知识图谱属性信息增强了实体表示能力，在3个数据集上Hits@1值相比原模型分别增长了6.42%、4.59%和1.98%，对齐效果明显优于目前主流的实体对齐方法.     

基于多跳路径的知识库补全

为了对知识库(KBs)进行补全,提出一种新的基于路径的推理方法,使用注意力机制,将实体与其类型相结合,共同对路径中的实体进行表示,并使用注意力机制对每条路径预测的关系向量与给定关系的表示向量之差的绝对值进行汇总来计算模型的置信度.在基准数据集WN18RR和FB15k-237上的实验结果表明,与现有的基于路径的关系推理方...     

基于路径分析和关系描述的知识图谱补全方法

面对相对复杂的互联网信息,知识图谱能够将其表达成更加便于理解的形式,通过可视化技术加以显示并提供有价值的参考.但伴随数据实体及实体关系的快速扩增,知识图谱的稀疏性和连通性不足等问题日趋凸显.提出一种基于路径分析和关系描述的知识图谱补全方法,并以泛娱乐领域相关数据为例,对该方法的有效性进行验证.构建基于泛娱乐知识特点的泛娱乐领域知识图谱,并在该知识图谱上进行验证实验.实验结果表明,提出的方法能够很好地推理出知识图谱中的隐含与遗漏路径,有效地实现知识图谱补全,从而发现具有丰富价值的隐含知识.     

一种基于知识图谱的用户多偏好推荐系统

提出了一种基于知识图谱（KG）的用户多偏好（MPKG）推荐系统,从用户关系级、实体级和细粒度高阶用户三种不同的视角建模用户的偏好. 首先,将KG中关系向量组合,构建关系级意图,并通过独立性将不同意图之间的差异最大化,由关系级意图来指导学习关系级偏好;然后,根据用户交互实体的频率构建实体偏好图（EPG）,并学习用户的实体级偏好;接着,分别使用关系级意图和实体级偏好来指导模型学习用户的表示;此外,还直接从KG中构建关系实体信息流,用于用户的表示,挖掘用户的高阶细粒度偏好. 在两个基准数据集上进行实验,实验结果验证了该方法的有效性和可行性.     

基于四元数图神经网络的知识图谱嵌入

针对当前大多数知识图谱嵌入方法对实体和关系的表示能力低、难以处理复杂关系的问题,提出一种基于四元数图神经网络的知识图谱嵌入方法,用于解决知识图谱的链路预测问题。该方法为了包含更丰富的关系信息,将四元数引入到知识图谱嵌入中对实体和关系建模,并考虑两者之间的共现关系。模型利用勒维图变换将知识图谱中的实体和关系转换为图网络中的节点,采用两者的共现关系构建图中的边;将四元数图神经网络(quaternion graph neural networks, QGNN)作为编码器模块,学习图节点的四元数嵌入;利用四元数空间内的哈密顿乘积构造评分函数对生成三元组进行排序。实验结果表明,所提模型能够很好地捕捉到实体与关系之间潜在的相互依赖关系,在知识图谱嵌入方面优于现有的嵌入模型。     

基于翻译模型的异质重边信息网络链路预测研究

在异质信息网络中,异质节点对象之间具有多元关系,形成异质重边信息网络.知识图谱表示旨在将实体和关系在低维的向量空间进行嵌入,可以用来学习异质重边信息网络中实体间的多元关系.首先通过注意力机制对异质重边信息网络中的多元关系进行融合表示,进而将异质节点的类型信息进行多元关系融合空间的映射,在多元关系融合空间上提出基于翻译的异质重边嵌入模型,用以学习异质节点之间的链路关系.最后,在MovieLens100k电影数据集上进行了异质节点多元关系的链路预测实验.实验结果表明,在异质重边信息网络中,基于改进的翻译模型在实体间链路预测性能方面要优于传统的知识表示方法,可以有效地提升链路预测的精度.     

融合实体信息的图卷积神经网络的短文本分类模型

提出一种融合实体信息的图卷积神经网络模型（ETGCN），用于短文本分类.首先，使用实体链接工具抽取短文本中的实体；然后，利用图卷积神经网络对文档、实体和单词进行建模，丰富文本的潜在语义特征；将学习到的单词节点表示与BERT词嵌入进行拼接，通过双向长短期记忆网络，进一步挖掘文本上下文语义特征，再与图神经网络模型得到的文本特征进行融合，用于分类.实验结果表明，该模型在数据集AGNews、R52和MR上的分类准确率分别为88.38%、93.87%和82.87%，优于大部分主流的基线方法.     

基于多尺度卷积的胶囊网络知识图谱嵌入模型

该文基于胶囊神经网络出色的维度信息挖掘能力,加入多尺度卷积以进一步增强其特征提取和交互能力,提出了基于多尺度卷积的胶囊网络知识图谱嵌入模型.首先,通过TransE算法训练得到实体和关系的初始化嵌入向量;其次,通过多尺度卷积生成不同的特征图,将得到的特征图进行特征融合,融合后得到的特征图重组为相对应的胶囊;最后,利用动态路由指定从第一层胶囊到第二层胶囊的连接,经过路由得到的第二层胶囊利用squash函数得到最终向量长度,该向量长度决定三元组的置信度.知识图谱链接预测任务的实验结果表明,较嵌入模型CapsE,本文提出的模型在WN18RR数据集上指标Hit@10提高1.8%,MRR提高1.4%,在FB15k-237数据集上Hit@10提高2.2%,MR提高4.8%.     

考虑网联汽车信息安全的交通流短时预测方法

针对智能网联汽车因网络攻击或干扰造成的信息安全及数据缺失问题,提出一种基于数据补全的交通流状态短时预测方法。首先,基于边缘计算任务卸载模型,对智能网联汽车V2X通信过程的异常数据动态辨识;其次,提出一种具有数据补全机制的图嵌入长短期神经网络模型,实现网联汽车缺失数据补全;再次,通过补全后的完整数据集构建神经网络模型,完成短时交通流状态预测;最后,选取北京市典型路段进行实验验证。结果表明,该模型应用后交通流状态短时预测效果显著提高,与其他方法相比预测误差最大降低87.4%,预测效果与实际交通流状态相比准确率达到95％,为智能网联环境下车辆信息安全与交通资源动态优化提供理论支持和技术方案。     

异质图神经网络协同过滤模型

协同过滤算法被广泛运用于各类大数据的推荐系统中，能够向用户推荐与该用户类似的用户感兴趣的信息。随着深度学习，尤其是图神经网络的发展，基于图神经网络的协同过滤算法受到了越来越多的关注。基于图结构的协同过滤模型通常将用户与条目的交互信息建模为二部图，然后利用二部图的高阶连通性建模捕获用户与条目之间的隐藏关系。但是，这种二部图模型没有将用户之间的相似关系和条目之间的相似关系明确建模。此外，二部图的稀疏性会产生图中高阶连通性依赖问题。为此，该文提出了一种基于异质图卷积神经网络的协同过滤模型，将用户之间的相似度和条目之间的相似度显式地编码到图结构中，使得用户与条目的交互关系被建模成异质图。异质图结构使用户之间的相似度与条目之间的相似度能被直接捕获，降低了对高阶连通性的依赖，同时缓解了二部图过于稀疏的问题。该文在4个典型的数据集上进行了实验，并与4种经典模型进行了对比，结果表明所提出的模型效果较好。     

基于MuGNN模型的互联网医疗知识融合研究

为了解决多来源医疗知识库融合过程中常见的知识冗余问题,基于综合多种注意力机制和图卷积神经网络的MuGNN模型对互联网医疗知识融合的效果进行了研究.以乳腺癌疾病为例,首先构建了基于不同医疗网站的疾病实体关系库,然后利用MuGNN模型完成了实体对齐,同时与JAPE模型和GCN-Align模型的实体对齐效果进行了对比,最后对基于不同医疗网站的疾病实体关系库进行知识融合并通过Neo4j图数据库对融合后的知识图谱进行可视化处理.结果表明,与JAPE模型和GCN-Align模型相比,MuGNN模型的实体对齐效果更好.利用综合多种注意力机制和图卷积神经网络的MuGNN模型对互联网医疗知识进行融合,有助于提升多来源互联网医疗知识的融合效果,有助于多源知识图谱的构建与补全,有助于提供更优质的知识服务.     

基于实体信息和图神经网络的药物相互作用关系抽取

药物相互作用是指药物与药物之间相互促进或抑制.针对现有的药物关系抽取方法利用外部背景知识和自然语言处理工具导致错误传播和积累的问题，以及现有大多数研究在数据预处理阶段对药物实体进行盲化，忽略了有助于识别关系类别的目标药物实体信息的问题.论文提出了基于预训练生物医学语言模型和词汇图神经网络的药物相互作用关系抽取模型，该模型通过预训练语言模型获得句子的原始特征表示，在基于数据集构建的词汇图上进行卷积操作获得与句子相关的全局特征信息表示，最后与药物目标实体对特征进行拼接从而构建药物相互作用关系提取任务的特征表示，在获得丰富的全局特征信息的同时避免了使用自然语言处理工具和外部背景知识，提升模型的准确率.论文的模型在DDIExtraction 2013数据集上的F₁值达到了83.25%,优于目前最新方法2.35%.     

融合软奖励和退出机制的WGAN知识图谱补全方法

基于强化学习的方法在知识图谱补全任务中虽然具有较好的表现,但存在智能体得到的指导奖励质量偏低、关系路径判定易错等问题。为此,提出一种融合软奖励和退出机制的对抗学习推理方法(WGAN reward and exit, WGAN-RE),在生成式对抗网络中引入软奖励和动作退出机制。利用知识嵌入模型构建外部软奖励机制,增强强化学习过程中的奖励机制;利用动作退出机制对路径上的中间实体随机掩盖外向边,并强制搜索路径集,稀释无意义路径的影响。在FB15K-237和NELL-995数据集上与多种强化学习方法进行对比实验,结果表明,所提方法的路径搜索成功率最高,在事实预测和链接预测任务上其性能均有显著提升。     

基于动作空间扩充及奖励优化的知识图谱多跳推理

知识图谱的不完备性导致多跳推理在探索路径的过程中会缺失关键节点和关系，从而导致推理失败。针对此问题，文章提出了动作空间扩充及奖励优化模型AsaRo(Action Space Augmentation and Reward Optimization)。该模型根据实体的邻域信息寻找其相似实体，并利用相似实体的邻域信息扩充原实体动作空间。在模型优化方面，采用基于带有优势函数的演员评论家A2C(Advantage Actor Critic)算法的强化学习优化路径奖励，并在原有路径奖励的基础上添加状态价值函数以评价策略的好坏，进一步提升了模型效果。在知识图谱数据集UMLS、Kinship、WN18RR、NELL-995、FB15K-237上的实验结果表明，该文模型效果优于大部分现有模型。     

一种建模社交化点过程序列预测算法

根据序列数据预测下次事件类型和时间是一个值得研究的课题.目前点过程强度函数算法仅从时间维度考虑背景知识和历史影响两个方面,没有从空间维度加入社交关系的影响.针对该问题,提出基于时空深度网络的社交化点过程的序列预测算法(SPSP算法).该模型首先运用双LSTM(long short-term memory)分别建模强度函数的背景知识和历史影响;然后经过联合层将双LSTM输出合并,生成事件类型和时间向量表征;最后在空间维度上加入社交关系网络影响,优化强度函数.通过深度时空社交网络的多次训练,得到最优网络模型.在新浪微博数据集上的实验验证算法的有效性,证明社交化点过程序列预测算法可高效准确预测出事件类型与时间.     

面向产品指标图谱的知识表示学习方法研究

通过知识表示学习方法将产品和指标表示为低维分布式向量，为后续的产品指标补全和产品设计方案预测奠定基础。然而现有的知识表示学习方法只处理实体-关系之间的离散型关联，而对于数值型指标的研究尚属空白。为此，文章依托复杂产品指标图谱的实际业务需求，设计了产品数值型指标的表示学习策略。针对关系三元组和指标三元组的语义差异，探索全新的联合学习训练方案。文章在五个前沿知识表示学习算法上进行实验，其中基于依次学习训练方案的ConvE算法，在图谱链接预测任务上Hit@10指标达到了最优的90.27%。实验结果验证了本文数值型指标表示方法和联合训练方案的有效性。