融合社区连接信息的网络嵌入方法

网络嵌入旨在学习节点的低维稠密向量,同时保留原始网络的结构和属性信息。现有的网络表示方法大多未考虑网络中的社区信息和社区间的信息,难以有效地学习网络的低维表示。为有效保留网络中的社区信息和社区间信息,提出了一种融合社区连接信息的网络嵌入方法(network embedding based on community connection information,ECCI)。该方法基于不同社区的亲密程度,捕捉网络中社区间的关系;采用自定义游走的方式得到融合局部结构、社区信息以及社区间信息的游走序列;通过Skip-Gram模型得到与之对应的网络嵌入结果。在3个公开数据集的实验结果表明,ECCI相比基准方法在链接预测上的AUC值和F1-Score都有一定程度的提升。     

属性网络表示学习研究综述

属性网络表示学习旨在最大限度保留原始网络特征的同时,利用网络中丰富的结构与属性信息学习节点或边的向量表示,从而将拓扑空间的网络转化到欧式空间,这有利于后续网络分析任务的高效执行,因此受到国内外学者的广泛关注,成为近年来的研究热点。本研究对属性网络表示学习的代表性方法进行对比研究,首先按照网络的时序性、网络元素的多样性对已有工作进行分类,然后分别阐述了同构属性网络、异构属性网络、动态属性网络的表示学习方法,并对已有方法的核心技术、数据集、评测任务等进行对比研究,最后总结探讨未来可能的研究方向与挑战,旨在为属性网络表示学习的相关研究提供新的思路。     

基于图神经网络特征交叉的协同过滤算法

学习用户和项目有效的向量表示是推荐系统的核心目标,现有的推荐模型大多通过深度神经网络或专门设计的特征交叉,来学习用户-项目间的特征交叉生成用户(项目)向量表示,但并未将用户(项目)特征间的交叉信息编码到嵌入向量中充分利用特征交叉信息,且多个特征交叉信息对于生成最终的用户(项目)向量表示的影响不同.基于此,构建两个图神经网络模块,学习用户(项目)特征间的交叉信息、用户-项目之间的特征交叉信息,并通过计算注意力分数对特征交叉信息进行加权,得到用户(项目)的特征信息;然后通过门控循环神经网络(GRU)聚合原始的特征信息和网络层学习到的特征交叉信息,得到最终的用户(项目)向量表达;最后通过用户向量与项目向量的元素积得到最终的推荐结果.在数据集MovieLens 1M、Book-Crossing和Taobao上验证了模型的有效性.     

基于深度自动编码器的多标签分类研究

在多标签分类的相关研究中,由于现有的基于网络表示学习算法的相关方法只利用了网络中节点之间的邻接领域信息,而没有考虑到节点之间的结构相似性,从而导致分类准确性较低,因此,本文提出一种基于深度自动编码器的多标签分类模型。该方法首先利用轨迹计算算法(Orca)计算不同规模下网络中节点的结构相似性,作为深度自动编码器的输入来改进隐藏层中的向量表示,保留网络的全局结构;然后利用节点的邻接领域信息在模型中进行联合优化,从而能有效地捕捉到网络的高度非线性结构;最后根据隐藏层得到节点的向量表示,利用支持向量机对节点进行多标签分类。验证实验采用3个公开的网络数据集,实验结果表明,与基准方法相比,本文方法在多标签分类任务中能取得更好的效果。     

信息网络表示学习方法综述

网络表示学习方法将信息网络表示为低维稠密携带网络节点特征信息的实数向量,应用于下游机器学习任务的输入,随着机器学习与深度学习的发展,网络表示学习拥有强大的建模能力且应用广泛。对网络表示学习方法、应用进行了归纳总结。首先,对当前国内外网络表示学习方法进行梳理归类,分为传统方法、基于网络结构的嵌入、融入属性信息的嵌入,以及基于谱域的图卷积、基于空间的图卷积和图attention网络,按类别对各类模型详细阐述,对比模型之间的适用性和方法特点;其次,介绍了网络表示学习的相关应用,包括推荐系统领域、生物医药领域等,整理常用的数据集、开源实现的表示学习模型和强大的图深度学习库供研究者参考调用;最后,对网络表示学习的发展趋势进行了总结与展望。未来可在深层的图神经网络学习、动态和异构网络的表示、网络模型的泛化能力等方面继续开展研究。     

基于路径相互关注的网络嵌入算法

网络嵌入,或者称为网络表示学习,旨在将网络中的节点映射到表示空间中,生成低维稠密的向量,从而在保留网络结构信息的前提下对网络中的节点进行表示,而后通过已有的机器学习方法解决诸如链接预测、节点分类、社团发现和网络可视化等下游任务.随机游走算法可以很好地探索网络中节点的局部结构,然而之前的基于随机游走的表示学习算法只能为节点产生一种角色嵌入,没有考虑到和不同邻居进行交互时节点扮演的不同角色嵌入.因此,提出一种基于路径相互关注的网络嵌入算法,使用节点随机游走产生的上下文信息,通过注意力机制为每个节点生成上下文相互关注的节点嵌入.在真实数据集上的实验结果表明,与三个经典的网络嵌入算法相比,该算法具有更好的表现.     

基于BERT和改进胶囊网络的关系分类方法

针对关系分类主流模型中存在的空间信息丢失和旋转不变性差的缺点,提出一个基于BERT和多头注意机制-胶囊网络(MA-CapsNet)的算法模型.该模型首先在句子的实体两端插入特殊符号,增强模型对实体信息的表示能力,再通过预训练的BERT语言模型获得包含上下文信息的语义向量表示,然后传入改进后的注重空间位置信息的胶囊网络中学习句子的语义特征并分类.同时引入多头注意力机制进一步提升模型的分类效果.在SemEval-2010 task 8关系分类数据集上,该算法模型取得了90.15%的宏F值.实验表明该模型架构能强化对句子语义特征的捕捉,改善关系分类任务的分类效果.     

基于伪孪生网络的政务实体链接模型

为了提高政务领域实体链接任务的准确率,降低响应时间,提出了一种基于伪孪生网络的实体链接模型.模型通过伪孪生网络框架解耦问句和候选实体的特征提取过程,并预先计算候选实体的向量表示,显著地提高了模型在大规模数据集上的性能.同时,通过引入候选实体在知识图谱中的上下文信息,增强实体链接模型的语义匹配能力,从而提高链接准确率.实...     

基于RNN-LSTM新冠肺炎疫情下的微博舆情分析

目前微博已经成为网络舆论传播和挖掘民意的重要平台,为分析疫情事件对网民情绪的影响,科学高效地做好防控宣传和舆情引导工作,为此融合不同的深度学习方法对2020年初发生的新冠疫情的微博评论进行情感分析。提出一种基于RNN(Recursive Neural Network)和LSTM(Long Short-Term Memory)混合模型并在嵌入层中使用FastText词向量表示方法,以降低词向量中的噪声数据,从而获得语义丰富且噪声少的高质量词向量,并与朴素贝叶斯、支持向量机、 RNN、 LSTM多种情感分析方法进行比较。结果表明,所提出的情感分析模型正确率达到了98.71%,证明了该模型能有效提升情感分析正确率。     

基于不完全信息的One-class支持向量机

标准的单值支持向量(One-class SVM)机不能对含有不完全信息的输入样本进行学习分类.为此该文提出用区间数来对不完全输入信息进行描述,将不完全的信息输入扩展为区间向量形式,引入区间运算来取代原来分类函数中的运算,从而根据区间运算结果来对信息不完全的模式输入进行分类.使用该方法,在分类过程中能够充分利用区间表示的先验知识,同时也能够减少该过程中输入模式中的属性(特征)度量代价,理论分析和实验结果均表明该方法能最大程度地保证分类结果的一致性,是有效和可行的.     

异构网络表示学习方法综述

现实生活中存在的网络大多是包含多种类型节点和边的异构网络,比同构网络融合了更多信息且包含更丰富的语义信息。异构网络表示学习拥有强大的建模能力,可以有效解决异构网络的异质性,并将异构网络中丰富的结构和语义信息嵌入到低维节点表示中,以便于下游任务应用。通过对当前国内外异构网络表示学习方法进行归纳分析,综述了异构网络表示学习方法的研究现状,对比了各类别模型之间的特点,介绍了异构网络表示学习的相关应用,并对异构网络表示学习方法的发展趋势进行了总结与展望,提出今后可在以下方面进行深入探讨:1)避免预先定义元路径,应充分释放模型的自动学习能力;2)设计适用于动态和大规模网络的异构网络表示学习方法。     

网络嵌入在计算社会科学中的发展与应用

网络嵌入利于计算存储,可将数据对象表示成稠密、实值、低维向量,被广泛运用在社会计算中对象间的语义计算等问题上,以支持个性推荐、知识计算、社会网络分析等应用.基于网络嵌入的分布式表示学习模型可以习得词汇间的隐含关系,发现词汇语义层级,建立跨语言词汇表示,从而检测词汇语义变迁.本文在针对网络嵌入技术发展介绍的基础上,对基于...     

基于物联网的粮情监控系统中入侵检测研究

在基于物联网的粮情监控系统中,传统入侵检测方法很难准确实时地从海量数据提取特征信息来识别网络攻击,使系统容易遭受安全问题,从而破坏数据的完整性,因此,提出一种基于深度信念网络的交替决策树入侵检测(DBNADT)方法。该方法利用深度信念网络进行无监督地特征学习,通过预训练将原始数据特征降维,利用权值微调算法获得数据的最优低维表示;然后采用交替决策树分类器对各种异常网络入侵数据进行识别。结果表明,DBN-ADT方法在攻击行为的识别准确率上比支持向量机(SVM)和逻辑回归(LR)分别提高了7.24%和8.25%,在检测时间上分别缩短了约1/2和2/5。DBN-ADT方法具有更高的检测准确率和实时性。     

基于深度神经网络的文本语义相似性度量

为了提高文本语义相似性度量的准确性,该文从深度学习的角度出发提出了一种新的文本语义相似性度量框架,充分利用深度神经网络实现词级别、句子级别、文本级别的表示学习,使得学习到的表示向量能提供融合上下文信息的丰富语义信息,在此基础上,设计了相似性度量层,采用简单的三层网络实现任意两个文本向量的相似性值计算.在两个基准数据集上...     

一种基于深度强化学习的SDN路由算法

为解决软件定义网络(SDN)中的流量工程(TE)问题,提出了一种深度强化学习路由(DRL-Routing)算法.该算法使用较全面的网络信息来表示状态,并使用一对多的网络配置来进行路由选择,奖励函数可以调整往返路径的网络吞吐量.仿真结果表明,DRL-Routing可以获得更高的奖励,并且经过适当的训练后,能使各交换机之间...     

基于谱聚类的二分网络社团检测算法

针对二分网络社团检测算法存在精度不高和丢失原始网络信息等问题，设计了一种新的融合奇异值分解的谱聚类(SVD-MS)算法.该方法是将Barber的二分网络模块度最大化问题映射到奇异值向量分解上，并结合启发式算法快速求解向量划分问题.在3个真实世界的网络中对比SVD-MS算法与7种算法的模块度，结果表明，在保留原始网络信息的情况下，SVD-MS算法能更有效地划分二分网络的社团结构.     

基于Attention机制的链接预测算法

针对社会网络中链接预测问题,提出了基于注意力(Attention)机制的链接表示及其预测算法.基于待预测节点的共邻关系构建其链接局部网络,设计了基于紧密游走的网络拓扑序列化方法.采用双向循环神经网络(Bi-RNN)对链接序列进行向量编码,以充分挖掘序列相关节点间的上下文依赖信息.通过Attention机制对链接中的节点进行关注和加权,强化重要节点对链接预测任务的贡献,实现链接拓扑特征的自动提取与准确分类预测.实验结果表明,在4种不同类型的社会网络数据集中,该算法的准确率和运算效率都有较大提高且普适性较强.     

基于MKLSVM的MVB端接故障诊断

列车通信网络的故障诊断一直是列车健康管理中的难点,复杂的工作环境、分布式的系统结构也使得故障难以被发现和定位.在分析多功能车辆总线(Multifunction Vehicle Bus,MVB)网络端接故障和反射形成机理的基础上,提出了一种以MVB网络物理波形参数为样本特征,结合多核学习支持向量机(Multiple Kernel Learning Support Vector Machine,MKLSVM)的网络故障诊断方法,以完成由端接电阻造成的网络故障诊断.搭建平台,进行了数据采集、模型训练、结果测试.分别利用普通支持向量机及MKLSVM对样本集进行了测试,并从不同性能度量角度评估了分类器性能.结果显示:以物理波形参数为样本特征能够表征端接网络故障的故障模式,结合支持向量机(Support Vector Machine,SVM)的模式识别方法能够有效对端接网络故障进行诊断.在查准率、查全率、分类精度、代价函数方面,MKLSVM均优于普通SVM分类器.     

多层次细粒度特征三分支网络行人重识别方法

针对行人重识别中信息丢失导致判别性信息缺失的问题,提出了一种多层次细粒度特征三分支网络行人重识别方法.首先,在ResNet50网络上构建中层全局特征分支、多层次全局特征分支和局部特征分支,全局分支提供更加全面的特征表示,局部特征分支提供细粒度的特征表示;其次,在三分支网络上改进了损失函数,使用权重向量和特征向量归一化以...     

交通信息标准条款BLSTM和CNN链式模型分类方法

为了有效获取交通运输信息标准中的一致性条款,简化标准测试方法,针对现有文本分类方法中卷积神经网络存在的缺少上下文含义和循环神经网络存在的梯度消失及梯度弥散等问题,提出一种基于BLSTM的文本增强表示方法和基于CNN网络的语句分类相结合的方法进行一致性条款分类.其核心思想是将BLSTM前向和后向过程产生的向量相加,然后与原文本向量拼接作为文本的向量表示,将文本向量作为CNN网络的输入进行文本分类.为验证所提模型的有效性,设置了与传统机器模型TF-IDF+SVM、单CNN、BLSTM神经网络模型及经典混合模型的对比试验.通过构造的交通运输信息标准条款数据集测试表明,基于改进的BLSTM和CNN的链式混合神经网络模型准确率达到93.77%.