基于图多层感知机的节点分类算法

多数图神经网络(Graph Neural Networks, GNN)通过设计复杂的节点信息传递和聚合方式,以提升节点分类等图分析任务的实验表现,而本文提出了一种无需信息传递和聚合的图多层感知机(Multi-Layer Perceptron, MLP)模型A&T-MLP,利用属性和拓扑信息引导的对比损失来增强模型表征能力。A&T-MLP首先使用属性矩阵和邻接矩阵计算节点间的属性和拓扑相似度;然后使用基于相似度信息引导的对比损失,增大特征空间中相似节点的一致性和不相似节点的差异性;最后构建多层感知机模型并引入交叉熵损失进行端到端训练。在节点分类任务中,A&T-MLP表现优于基线模型,Wikipedia数据集上的Micro-F1和Macro-F1相较GNN模型图卷积网络(Graph Convolutional Network, GCN)提升了15.86%和13.64%。实验结果表明,A&T-MLP能够通过对比损失保留丰富原始图的信息,提升模型性能。此外,A&T-MLP在处理拓扑信息不准确的图数据时具有较为明显的优势,即使在缺失80%拓扑信息的极端情况...     

基于门控图神经网络的谣言检测模型

针对基于图神经网络的谣言检测方法在聚合邻居节点信息生成谣言表示过程中存在的噪声干扰问题，充分利用社交媒体源帖包含的丰富语义和结构信息对谣言检测的重要影响，提出一种基于门控图神经网络的谣言检测模型，该模型根据信息传播过程建模谣言的传播图和扩散图，基于门控图神经网络聚合邻居信息生成节点表示，利用门控机制去除邻居节点噪声，同时引入根节点语义增强方法提升表征节点的能力。此外，利用注意力机制融合局部结构和全局结构信息学习更加全面的谣言表示用于谣言检测任务。在公开数据集上的实验结果证明，提出的模型在谣言检测性能和早期检测能力方面均优于基线方法。     

融合双重自监督信号的图异常检测

图异常检测是网络研究中的一项重要内容。为解决以往工作中常依赖单一自监督信号而不能很好地检测多类型异常的问题,提出一种融合结构和属性的自监督图异常检测模型。首先选取目标节点,再基于图元邻接矩阵采样得到对应的负例节点;其次,构造正负子结构,并基于图卷积网络学习子结构表示以得到结构自监督信号;再次,依托自编码器对属性进行重构以获得属性自监督信号,解决节点匿名化带来的属性平滑问题;最后,通过对比学习对重构前后的正负实例对进行差值学习,以实现异常检测。在4个数据集上进行了3组实验,结果表明模型能够有效检测图中的异常节点。     

基于图自监督对比学习的社交媒体谣言检测

网络社交媒体的快速发展提供了便捷的信息获取方式，但也滋生了谣言和虚假新闻，现有的谣言检测模型在有标注数据充足时能有效解决分类问题，然而谣言可用的标注数据有限，各种针对谣言特点精心设计的模型倾向于过拟合，同时，现有模型的鲁棒性不足，谣言传播者恶意破坏谣言传播结构会使模型出现分类错误.针对以上问题，采用自监督的图对比学习方法，对原始谣言传播图进行不同方式的数据增强来模拟对原图的扰动，建立自监督对比学习任务，使图编码器捕获谣言更趋本质的特征，缓解了过拟合，提高了模型的鲁棒性与泛化性能.在来源于主流社交媒体平台的三个公开数据集Twitter15,Twitter16和PHEME上进行了对比实验，实验结果显示，提出的模型的准确率比基准模型分别提高3.4%,1.8%和1.2%，证实了图自监督对比学习方法在谣言检测任务上的有效性.     

基于邻域信息的网络结构表示学习

针对传统网络表示学习方法无法学习节点网络结构相关性的问题, 提出一种基于邻域信息的网络结构表示学习模型. 该模型首先定义基于邻域信息的节点间结构相似度计算方法, 对不同邻域范围内节点间结构相似度建模； 其次构建深层自编码器, 将节点结构相似度作为监督信息优化网络表示, 在网络嵌入过程中学习节点结构信息. 与node2vec,SDNE,struc2vec三种相关算法进行对比的实验结果表明, 该方法有更好的网络结构识别能力, 能学习到节点间的结构相关性, 所得到的网络表示能适用于角色识别相关任务. 此外, 跨网络分类实验结果还体现了该方法在迁移学习方面的潜力.     

基于记忆增强的对抗自编码器异常检测算法

深度自编码器是异常检测领域中被广泛使用的深度学习模型.记忆增强的自编码器模型(Memory-augmented Autoencoder Model,MemAE)通过记忆增强模块解决传统自编码器泛化能力过强的问题,并取得了良好的效果.针对自编码器对于训练数据的正常模式提取能力有限这个问题,通过融合对抗自编码器(Adver...     

基于多粒度的异质图表示

异质图表示学习旨在将图中的语义信息和异质的结构信息嵌入到低维向量空间中。目前大多数的异质图表示学习方法主要通过基于元路径、元图和网络模式的采样以保留图中同类型节点间的单粒度局部结构,忽略了现实世界中复杂异质图具有的丰富的层次结构。商空间理论中的多粒度思想可以在不同粒度内捕获节点间的潜在联系。因此,为在异质图表示中有效地保留层次结构的信息,文章提出一个基于多粒度的异质图表示方法（Heterogeneous Graph Representations Based on Multi-granularity,HeMug）。该方法首先基于不同元路径构建多个同质子图,并利用多粒度的粗化思想,将每个同质子图分别粗化形成多个多粒度子网络,以保留异质图中同类型节点在给定元路径下的层次结构。其次,利用多粒度的细化思想,将每个多粒度子网络最粗层通过现有表示学习方法获得的节点表示逐层细化,以得到节点在每个多粒度子网络下的表示。最后,设计注意力机制以融合节点在不同元路径对应的多粒度子网络下的表示。在四个真实数据集上的实验结果表明,与对比算法相比,提出的HeMug获得了更有效的节点表示。     

基于残差补偿的极限学习机自编码器

极限学习机自编码器作为无监督降维方法,通过重构输入数据来提取原始样本特征,具有学习速度快、泛化性能高等优势.但经典极限学习机自编码器表示能力有限,使得重构输出和原始样本之间的残差不可避免.因此借鉴残差补偿思想,提出基于残差补偿的极限学习机自编码器,通过不断对重构残差补偿式学习来改善ELM-AE的表示能力.在6个公开数据集上进行K-means聚类实验,结果表明基于残差补偿的极限学习机自编码器(RCELM-AE)能够有效提高聚类准确率.     

信息网络表示学习方法综述

网络表示学习方法将信息网络表示为低维稠密携带网络节点特征信息的实数向量,应用于下游机器学习任务的输入,随着机器学习与深度学习的发展,网络表示学习拥有强大的建模能力且应用广泛。对网络表示学习方法、应用进行了归纳总结。首先,对当前国内外网络表示学习方法进行梳理归类,分为传统方法、基于网络结构的嵌入、融入属性信息的嵌入,以及基于谱域的图卷积、基于空间的图卷积和图attention网络,按类别对各类模型详细阐述,对比模型之间的适用性和方法特点;其次,介绍了网络表示学习的相关应用,包括推荐系统领域、生物医药领域等,整理常用的数据集、开源实现的表示学习模型和强大的图深度学习库供研究者参考调用;最后,对网络表示学习的发展趋势进行了总结与展望。未来可在深层的图神经网络学习、动态和异构网络的表示、网络模型的泛化能力等方面继续开展研究。     

基于卷积图神经网络的多粒度表示学习框架

卷积图神经网络（Convolutional Graph Neural Network,ConvGNN）以其强大的表达能力被广泛应用于社交网络、生物网络等领域的网络表示学习中，多粒度网络表示学习已被证明能够改善已有网络嵌入方法的性能，但目前尚缺乏以改善ConvGNN性能为目标的框架.针对此问题，提出一种基于ConvGNN的多粒度网络表示学习框架M-NRL，分为四个模块：粒化模块、训练模块、推理模块和融合模块.粒化模块构造从细到粗的多粒度网络并保留不同粒度节点的属性和标签信息，训练模块在最粗粒度的网络上以端到端的方法训练任意一种ConvGNN并优化其模型参数，推理模块使用优化后的ConvGNN推理出不同粒度网络的节点表示，融合模块采用注意力权重聚合不同粒度的节点表示以产生最终的节点表示.在四个公开引文网络数据集上进行的半监督节点分类任务验证了M-NRL的有效性，实验结果表明，MNRL不仅能加速现有ConvGNN的训练，还可以增强其最终的表示质量.     

基于深度图强化学习的低轨卫星网络动态路由算法

为了解决高移动性导致卫星网络路由难以计算的问题,融合图神经网络和深度强化学习,提出一种基于深度图强化学习的低轨卫星网络动态路由算法。考虑卫星网络拓扑和卫星间链路的可用带宽、传播时延等约束,构建卫星网络状态,通过图神经网络对其进行表示学习;根据此状态的图神经网络表示,深度强化学习智能体选择相应的决策动作,使卫星网络长期平均吞吐量达到最大并保证平均时延最小。仿真结果表明,所提算法在保证较小时延的同时,还能提升卫星网络吞吐量和降低丢包率。此外,图神经网络强大的泛化能力使所提算法具有更好的抗毁性能。     

复杂网络下基于路径选择的表示学习方法

基于路径和基于知识表示的推理是当前知识图谱领域两大主流推理方法,二者的融合算法可以提高知识推理的准确率,但是依旧存在表示学习的时候效率低下、预测准确率低、模型过拟合等若干问题.本文方法针对这些问题提出了基于路径选择的表示学习方法.对路径特征信息进行进一步的过滤和筛选,保留关键路径,在路径信息和知识表示的结合过程中使用平衡参数对缺失路径信息的三元组进行处理.使用公开数据集对模型进行测试,实验表明模型可以有效提高泛化能力和准确率.      

人工智能时代知识图谱表示学习方法体系

 总结了不含辅助信息的知识图谱表示学习方法,主要是基于距离和基于语义匹配2类主流方法;研究了包含文本辅助信息和类别辅助信息的知识图谱表示学习方法;通过对比各类表示学习方法的优缺点,发现引入辅助信息能有效表达知识图谱中新实体,但时空开支大幅上升,因而在现阶段,不含辅助信息的方法更易应用于实际场景中。分析了知识图谱嵌入如何应用于三元组分类、链路预测、推荐系统等下游任务,整理归纳了应用于不同任务的数据集和开源库的集合,并展望了大规模、动态知识图谱等具有广泛应用前景的研究方向。     

基于综合游走策略的边嵌入链路预测算法

针对网络分析方法中研究的图数据默认使用节点图,只能得到节点的向量表示,不能直接将边表示成向量的问题,设计了一种基于有偏+无偏的图嵌入算法Line2Vec,并在此基础上提出基于边嵌入的链路预测框架(Line2Vec-L).首先,基于综合游走策略重新定义采样域节点的采样概率,并结合Word2Vec模型得到信息未被稀释、表示性强的节点图的边嵌入向量;然后,结合关联矩阵得到不存在边或未知边的向量表示,并将得到的边向量用于链路预测.实验结果表明Line2Vec在边向量表示上的有效性,并验证了Line2Vec-L的AUC值更高,由此说明采用Line2Vec可得到表示性更强的边向量,有助于提升链路预测的性能.     

结合自监督学习的多任务文本语义匹配方法

基于文本交互信息对文本语义匹配模型的重要性,提出一种结合序列生成任务的自监督学习方法.该方法利用自监督模型提取的文本数据对的交互信息,以特征增强的方式辅助基于神经网络的语义匹配模型,构建多任务的文本匹配模型.9个模型的实验结果表明,加入自监督学习模块后,原始模型的效果都有不同程度的提升,表明所提方法可以有效地改进深度文...     

基于改进TADW的链路预测算法

针对经典的节点相似性链路预测算法只考虑网络拓扑结构或者节点属性信息的问题,使用词嵌入模型Word2vec学习得到节点文本属性信息的表示,进而改进TADW(text-associated deep walk)算法,弥补其语义信息表示能力的不足.基于改进的TADW图嵌入方法提出一种融合网络拓扑结构和节点属性信息的相似性指标,并基于此相似性指标提出链路预测算法.在三个真实数据集上的实验结果表明所提出算法可以提高预测精度,并具有更好的鲁棒性,同时使用图嵌入的方法有效解决了网络数据的稀疏性问题.     

融合BiLSTM的双图神经网络文本分类模型

采用图神经网络模型为整个语料库构建异构图处理文本分类任务时，存在难以泛化到新样本和词序信息缺失的问题。针对上述问题，提出了一种融合双图特征和上下文语义信息的文本分类模型。首先，为每个文本独立构建共现图和句法依存图，从而实现对新样本的归纳式学习，从双图角度捕获文本特征，解决忽略单词间依存关系的问题；其次，利用双向长短期记忆网络（bi-directional long short-term memory，BiLSTM）编码文本，解决忽略词序特征和难以捕捉上下文语义信息的问题；最后，融合双图特征，增强图神经网络模型的分类性能。在MR，Ohsumed，R8，R52数据集上的实验结果表明，相较于经典的文本分类模型，该模型能够提取更丰富的文本特征，在准确率上平均提高了2.17%，5.38%，0.61%，2.48%。