融合BiLSTM的双图神经网络文本分类模型

采用图神经网络模型为整个语料库构建异构图处理文本分类任务时，存在难以泛化到新样本和词序信息缺失的问题。针对上述问题，提出了一种融合双图特征和上下文语义信息的文本分类模型。首先，为每个文本独立构建共现图和句法依存图，从而实现对新样本的归纳式学习，从双图角度捕获文本特征，解决忽略单词间依存关系的问题；其次，利用双向长短期记忆网络（bi-directional long short-term memory，BiLSTM）编码文本，解决忽略词序特征和难以捕捉上下文语义信息的问题；最后，融合双图特征，增强图神经网络模型的分类性能。在MR，Ohsumed，R8，R52数据集上的实验结果表明，相较于经典的文本分类模型，该模型能够提取更丰富的文本特征，在准确率上平均提高了2.17%，5.38%，0.61%，2.48%。     

基于文本图神经网络的小样本文本分类技术研究

为了解决文本图神经网络小样本文本分类精度较差的问题,设计了基于文本图神经网络的原型网络,采用预训练语言模型,利用文本级图神经网络为每个输入文本构建图并共享全局参数,将文本图神经网络的结果作为原型网络的输入,对未标注文本进行分类,并验证新模型在多个文本分类数据集上的有效性。实验结果表明,与需要大量标注文档的监督学习方法相比,所采用的方法未标注文本的分类精度提高了1%～3%,在多个文本分类数据集上验证了新模型性能先进,内存占用更少。研究结果可为解决小样本文本分类问题提供参考。     

基于自适应图的半监督图像分类方法

针对半监督分类模型存在的模型复杂度高、构造正则化项难度大的问题，从丰富样本特征表示的角度出发，构造了自适应图结构的融合网络模型（AGSH）。该模型在卷积神经网络模型（CNN）基础上引入了自适应图卷积神经网络（AGCN）提取CNN模型特征间的关系。对AGSH模型泛化性能的分析证明了该模型在解决半监督相关问题时的有效性。实验结果表明：融合模型在五种图像数据集上的分类精度相比于单一CNN模型分类精度均有提升。研究结论为解决小样本分类问题的建模方法提供了参考。     

具有局部和全局注意力机制的图注意力网络学习单样本组学数据表征

针对生物组学数据中基因数目远大于样本数目的高维“大p小n”问题,提出一种具有局部和全局注意力机制的图注意力网络GATOr.该模型首先在组学数据上利用Pearson相关系数计算特征之间的相关性,构建组学数据的单样本网络;然后提出一种结合局部和全局注意力机制的图注意力网络从单样本网络中学习基于图的组学特征表示,从而将组学数据的高维特性转化为低维表示.实验结果表明,GATOr与其他传统分类算法相比,在分类任务的准确率及其他指标上均取得了较优性能.     

多状态图神经网络文本分类算法

为了提高模型在文本分类任务中的分类性能,针对图神经网络中存在的过度平滑问题,同时增强模型在处理文本特征与文本表示方面的能力,提出了一种基于多状态图神经网络的文本分类算法(multi-state graph neural network, MSGNN)。多状态图神经网络是利用网络层的多个历史状态信息对图神经网络进行强化,构建合理的文本图结构数据作为模型输入。在缓解网络层过度平滑问题的同时,结合2种改进后的不同类型的图神经网络来增强模型的特征提取与特征聚合能力。利用多头自注意力机制对文本关键词的挖掘与利用能力,从多个文本子空间来生成高质量的文本表示,进而完成文本分类。通过在几个公开的文本分类数据集上进行实验分析,相较于其他神经网络的文本分类算法,该方法取得了较好的分类准确率。     

基于特征类内紧凑性的不平衡医学图像分类方法

近些年,基于深度学习的算法和模型在各种图像分析任务中都取得了显著的成功,与常见的自然图像相比,医学图像数据集依然面临高度不平衡的问题,不平衡数据会导致特征空间里的决策边缘倾向样本多的类别,导致分类效果的下降.为了解决该问题,提出一种基于卷积神经网络考虑特征类内紧凑性的不平衡医学图像分类方法（Z-Score Compactness-based Convolutional Neural Network,ZC3NC）.首先,从一个卷积神经网络的最后一层卷积层提取训练集样本与测试集样本的特征图,随后引入一个新的Z分数来度量测试集数据的特征图相对训练集每个类在特征空间上的偏离度,偏离度的度量基于类内的紧凑度,其主要关注样本的分布特性,对各类样本数量的不平衡性不敏感.最终,根据计算的偏离度,对测试集的数据进行分类.在DermaMNIST数据集上的实验表明,在不对数据和神经网络模型做任何额外增强的情况下,该方法的平衡准确率比原卷积神经网络模型平均提高11.15%,最多提高14.08%,证明提出的分类方法能有效地提高多种卷积神经网络对不平衡医学图像数据的分类性能.此外,和最先进的不平衡分类方法 Und...     

基于迁移学习的高分辨率遥感影像场景分类研究

对于小样本集合的遥感影像场景分类问题,采取了一种基于迁移学习的卷积神经网络高分辨率遥感影像识别方法,通过深度卷积神经网络Inception-v4在ImageNet上训练,得到预训练模型以及相应的初始化参数,随后将小样本遥感数据按比例划分注入预训练模型当中,根据样本集合特征,不断调整网络参数以便获得最佳识别分类模型.最后将本文的方法与现有的场景分类方法进行实验对比,测得该方法在UC merced land use场景影像数据集上取得97.92%的准确率,有效提高了高分影像场景分类精度.     

基于超像素分割的图注意力网络的高光谱图像分类

针对卷积神经网络(CNN)仅能应用于欧氏数据,无法有效获取像素间的全局关系特征以及长距离上下文信息的问题,构建一个基于超像素分割的图注意力网络SSGAT.该网络将超像素分割后的超像素块视为图结构中的图节点,有效减少了图结构的复杂度,并降低了分类图的噪声.在3个数据集上对SSGAT及对比算法的分类精度进行测试,分别获得了94.11%,95.22%,96.37%的总体分类精度.结果表明该方法性能优异,在处理大尺度区域的分类问题时优势明显.     

基于图卷积和全局对齐策略的图分类网络

受限于图数据拓扑结构的不规则性,以及图结点的无序性和规模多变性,现有图分类网络往往对结点嵌入向量采取简单聚合或排序等方式来构建图级别的表示向量,这会导致特征过度压缩以及特征平移等问题.针对这些问题,提出基于全局对齐策略的图卷积网络,通过构建子图特征近似分布将图表示特征向量做全局对齐,在避免过度压缩和特征平移、有效提高下游分类网络对于特征信息挖掘效率的同时,又利用子图特征的分布信息,进一步学习图数据之间内在的结构相似性,从而提升整体网络对于图分类任务的推理能力.在多个图分类数据集上的实验结果表明,采用全局对齐的图卷积网络相较于其他网络模型有2％～6％左右分类精度的稳定提升,消融实验和超参数敏感性分析实验也进一步证实了全局对齐策略的有效性和鲁棒性.     

基于人工神经网络的连续油管疲劳寿命预测

利用人工神经网络理论预测带有表面缺陷的连续油管的低周疲劳寿命。基于自组织特征映射神经网络(SOFM)与径向基函数神经网络(RBF),考虑连续油管表面缺陷的影响,建立连续油管寿命预测的混合网络模型。该模型利用SOFM神经网络的自组织聚类能力对样本进行分类,并将其分类中心及对应的权值向量传递给RBF神经网络,作为RBF神经网络径向基函数的中心,再利用RBF神经网络非线性逼近能力预测连续油管寿命。结果表明,SOFM和RBF混合神经网络的预测结果在精度与稳定性上优于BP神经网络。     

基于先验概率的加权神经网络模型

针对不平衡分类问题中各类别规模差异较大导致的较小类别分类精度不高的情况，提出基于先验概率的加权神经网络模型．为了提高较小类别在迭代神经网络中的重要性，以每一类样本的先验概率的倒数作为该类数据的权重，将该权重加人神经网络的目标损失函数中，并基于新构造的目标函数进行网络迭代，加强对少数类别的代价敏感学习，从而提高对小类别样本的识别率．最后利用真实分类数据进行实证分析，与经典神经网络对比，证明模型的有效性与实用性．     

基于图增强和图神经网络的层次社区发现方法

[目的]现有的多分辨率层次社区发现方法需要搜索分辨率参数得到特定层次的社区划分,且无法利用网络拓扑与节点属性之间的关联获取社区结构信息.为解决这些限制,本文提出一种基于图增强和图神经网络的层次社区发现方法HCEG.[方法]首先在图增强过程中对原始网络进行重构,使得构建的初始社区种子能涵括节点属性和拓扑信息,然后对初始种子社区集进行合并,再采用基于图神经网络的方法进行拓展,以搜寻网络中不同层次的社区划分.[结果]与其他SOTA方法相比,所提出的HCEG方法可以准确地找到不同类型真实网络中的分层社区结构,并可在不同规模的真实网络中可以获得良好的社区发现性能.[结论]在社交网络、引文网络、网页超链接网络等真实数据集上的一系列实验,验证了HCEG方法的可行性和有效性.     

采用ACGAN及多特征融合的 高光谱遥感图像分类

为解决标记样本缺乏、提升分类精度及增强模型容错性等问题,提出一种基于辅助分类器生成对抗网络(ACGAN)的分类方法.首先,将预训练的ACGAN模型作为光谱特征提取器,采用局部二值模式(LBP)算法提取图像的纹理特征;然后,融合光谱特征和纹理特征,由卷积神经网络(CNN)进行分类.在2个广泛使用的数据集上进行实验,结果表明:相较于其他方法,文中方法可显著提高分类精度.     

基于异质图神经网络的推荐算法研究

基于图神经网络的推荐算法通过从图中获取知识,提高了推荐的可解释性.然而随着推荐系统网络数据规模的不断扩大,用户-项目评分矩阵呈现出稀疏性问题,图神经网络难以学习到高质量的网络节点特征,导致推荐质量下降.本文将图神经网络与异质信息网络相结合,提出一种基于异质图神经网络的推荐算法.该算法使用异质信息网络对多源异质数据进行联合解码,将注意力机制引入用户-项目交互网络和用户社交网络的用户、项目聚合表示过程,从而实现用户-项目交互和用户社交两类网络间的节点及拓扑结构特征的有效融合.两个公开数据集上的对比实验结果表明,本文提出的算法在不断稀疏化的数据集上的推荐误差比基线方法少40％.     

基于SBN模型的Internet应用协议识别方法

针对网络流量协议标注比较困难的问题,提出一种基于贝叶斯网络的半监督学习模型,以提高Inter-net协议的识别精度.该模型首先使用少量的标注样本训练贝叶斯网络分类模型,并对未标注样本进行初始分类,然后从未标注样本中挑选分类损失最小的样本加入到训练集中并重复训练分类模型,经过多次循环训练出最终的分类器.该模型可以使用未标注样本和标注样本共同训练分类模型,非常适合于标注比较困难的Internet应用协议的识别.实验结果表明：在标注样本较少的情况下,该模型的识别精度和稳定性均优于朴素贝叶斯模型和贝叶斯网络模型,对于提高Internet协议的识别精度是有效的.     

基于反馈图卷积神经网络的事件检测方法

事件检测是自然语言处理领域的重要任务之一,其结果可以有效支撑信息抽取、文本分类和事件推理等下游任务. 预训练语言模型BERT在事件检测任务上取得了显著的成绩,然而该类方法无法有效获取长距离和结构化的文本信息. 为了缓解该问题,本文提出基于反馈网络的图卷积神经网络模型进行文本结构信息捕获,同时这种新方法能够有效解决图卷积神经网络带来的语义信息衰减性问题. 本文首先使用BERT预训练模型获取文本的语义特征,然后使用融入反馈网络的图卷积神经网络提取文本的句法结构特征,最终使用多分类器实现对事件触发词的识别和分类.公开数据集ACE 2005上的实验结果表明,本文提出的事件检测方法在事件触发词识别和分类任务上的F1值分别达到了74.46%和79.49%,较现有工作平均提高了4.13%和4.79%.     

用于控制图模式识别的广义神经网络系统

面向过程控制图的模式识别,提出了一个广义神经网络系统.该系统基于广义过程对象模型发生数据,离线训练后能够在线识别各类工业过程常见的控制图模式,模块化的设计使得神经网络系统的结构相对简单,有效地提高了网络的训练速度和模式识别的准确率.首先研究了广义过程对象模型参数对神经网络控制图模式识别率的影响,并基于此影响规律设计了包含模式识别分类模块与模式参数估计模块的集成化神经网络系统结构;其次使用基于广义对象模型产生的数据对神经网络系统进行了训练和验证,讨论了学习训练方法,并进行了控制图模式识别性能的仿真测试,获得了满意的结果.在TE过程仿真平台上进行了实验,给出了对上升阶跃模式和下降阶跃模式的识别结果,表明了具有较高的识别率.     

着装脸谱图的分类新算法

基于多元统计图表示的脸谱图方法和最小均值分类器的思想,提出了最近脸谱图分类器新方法.针对脸谱图不能有效表达数据样本维数的特点,提出了着装脸谱图,并给出了新的图形特征:面积特征和重心特征.针对脸谱图分类器的主观性,提出了利用最近均值分类器实现脸谱图图形特征的自动分类.8种真实数据集的实验结果证明了该方法的有效性.     

基于正则约束的分层仿射图神经网络文本分类模型

文本分类是自然语言处理中一个重要的研究课题。近年来，图神经网络（graph neural network，GNN）在这一典型任务中取得了良好的效果。目前基于图结构的文本分类方法存在边噪声和节点噪声干扰、缺乏文本层次信息和位置信息等问题。为了解决这些问题，提出了一种基于正则约束的分层仿射图神经网络文本分类模型Text-HARC，该模型融合了图注意力网络（graph attention network，GAT）与门控图神经网络（gated graph neural network，GGNN），引入正则约束过滤节点与边噪声，分别使用仿射模块与相对位置编码补充词语表示。通过实验，该方法在TREC、SST1、SST2、R8四个基准数据集上的准确率提升明显，消融实验结果也验证了该方法的有效性。     

融合多源图信息的图神经网络会话推荐算法

现有的基于图神经网络的会话推荐算法通过将会话序列构筑为图形结构捕捉项目转换关系,能够有效提高推荐性能.然而多数图神经网络及其改进模型在建模会话时仅考虑会话序列中项目的单次转换关系,忽略了会话中包含的大量有效信息,同时缺乏对项目间隐藏关联性的分析.因此提出融合多源图信息的图神经网络会话推荐算法.将用户重复行为信息,项目内容关联信息纳入到会话图建模过程当中,有效提取项目更深层次的复杂转换关系,并通过线性转换进行聚合.此外采用外部注意力机制辅助获取会话序列项目隐藏关联信息,使得生成的会话向量在推荐过程中更加精确.在真实数据集Yoochoose和Diginetica上进行实验,实验结果表明该模型优于基准模型,特别地,相较于SR-GNN模型在MRR@20指标上提高了12.50%,能更好地预测用户的下一次点击项目.