基于图注意力网络的多行为推荐算法

现有的多行为推荐系统未有效利用不同层次的图传播信息,难以捕获用户不同行为的影响。为解决此问题,文章提出了一种基于图注意力网络的多行为推荐模型(GABR)：首先,采用小批量采样节点嵌入方法聚合同一行为类型交互的邻域节点,以提高特征表示效率;接着,采用注意力机制学习不同行为类型的影响系数,以进一步融合节点特征;然后,合并多层用户和项目表示,以有效利用不同层次的图传播信息;最后,将已交互的用户-项目对和随机采样未交互过的用户-项目对作为正负样本对来训练目标模型,以优化模型性能。为验证模型推荐性能,在3个真实数据集(Yelp、Scholat、Beibei)上与现有9种推荐模型进行对比。实验结果表明GABR模型能够有效利用融合了不同行为类型影响系数的多层图传播信息,更好地预测用户偏好：在3个真实数据集上,与目前最佳的基线模型(GNMR)相比,GABR模型的HR、NDCG平均提高了1.73%、2.43%。     

基于混合神经网络的序列推荐算法

为了提高推荐算法的推荐性能,在序列建模过程中,针对循环神经网络(recurrent neural network,RNN)无法并行运算导致建模速度与准确度较低,以及在偏好预测过程中对用户不同阶段偏好没有动态融合的问题,提出了一种基于混合神经网络的序列推荐算法.在算法模型的用户交互序列建模阶段,考虑到用户近期偏好变化频繁...     

融合多源图信息的图神经网络会话推荐算法

现有的基于图神经网络的会话推荐算法通过将会话序列构筑为图形结构捕捉项目转换关系,能够有效提高推荐性能.然而多数图神经网络及其改进模型在建模会话时仅考虑会话序列中项目的单次转换关系,忽略了会话中包含的大量有效信息,同时缺乏对项目间隐藏关联性的分析.因此提出融合多源图信息的图神经网络会话推荐算法.将用户重复行为信息,项目内容关联信息纳入到会话图建模过程当中,有效提取项目更深层次的复杂转换关系,并通过线性转换进行聚合.此外采用外部注意力机制辅助获取会话序列项目隐藏关联信息,使得生成的会话向量在推荐过程中更加精确.在真实数据集Yoochoose和Diginetica上进行实验,实验结果表明该模型优于基准模型,特别地,相较于SR-GNN模型在MRR@20指标上提高了12.50%,能更好地预测用户的下一次点击项目.     

融合图注意力网络和注意力因子分解机的服务推荐方法

为了解决服务推荐过程中的特征稀疏问题、提高服务的语义表示能力,进而提升推荐的准确性和有效性,提出基于图注意力网络(graph attention networks,GAT)研究服务推荐方法,引入服务的组合权重和组合的结构信息,综合利用多种服务特征,提高服务推荐质量。将GAT和注意力因子分解机(attention factorization machine,AFM)结合在一起,利用多头自注意力机制,学习每个节点在图邻域中的重要性;进行信息聚合,处理网络中的不同图结构,以适应服务动态变化的场景。 实验结果显示,在数据平衡的情况下,提出的方法性能表现均好于对比方法;在数据不平衡的情况下,提出的方法大部分性能指标也表现良好,达到了提升服务推荐准确性和有效性的目标。     

基于会话的双层注意力机制新闻推荐方法

随着新闻信息的爆炸式增长,个性化新闻推荐对用户快速找到感兴趣的新闻变得非常重要.基于会话的推荐旨在根据用户的行为序列向用户推荐下一个可能感兴趣的项目.但是,现有方法大都忽略了会话内用户阅读行为的随机性和偶然性,难以捕捉用户的主要兴趣,或者将用户会话视为单个序列,忽视了用户兴趣在不同会话之间的演变和关联.文中提出了一种基...     

基于异质图神经网络的推荐算法研究

基于图神经网络的推荐算法通过从图中获取知识,提高了推荐的可解释性.然而随着推荐系统网络数据规模的不断扩大,用户-项目评分矩阵呈现出稀疏性问题,图神经网络难以学习到高质量的网络节点特征,导致推荐质量下降.本文将图神经网络与异质信息网络相结合,提出一种基于异质图神经网络的推荐算法.该算法使用异质信息网络对多源异质数据进行联合解码,将注意力机制引入用户-项目交互网络和用户社交网络的用户、项目聚合表示过程,从而实现用户-项目交互和用户社交两类网络间的节点及拓扑结构特征的有效融合.两个公开数据集上的对比实验结果表明,本文提出的算法在不断稀疏化的数据集上的推荐误差比基线方法少40％.     

基于双层注意力机制的联合深度推荐模型

许多电子商务网站中存在用户编写的大量评论信息,大部分推荐系统虽然利用了评论信息,但仅从单词级别而不是评论级别来评估评论的重要性。如果只考虑评论中的重要单词,而忽略了真正有用的评论,则会降低推荐模型的性能。基于此,文中提出了一种基于双层注意力机制的联合深度推荐模型(DLALSTM)。该模型首先利用双向长短期记忆网络(BiLSTM)分别对用户和项目评论进行词以及评论级别联合建模,并通过两层注意力机制聚合为评论表示和用户/项目表示,然后把从评论中学习的用户和项目的潜在表示融入由评分矩阵得到的用户偏好和项目特征,实现评分预测。采用文中模型在Yelp和亚马逊的不同领域数据集上进行实验评估,并与常用的推荐方法进行比较,发现文中提出的模型性能超过目前常用的推荐方法,同时该模型能够缓解数据稀疏问题,且具有较好的可解释性。     

面向强化当前兴趣的图神经网络推荐算法研究

在基于会话的推荐中,与传统序列建模相比,将会话序列建模为图结构在该领域表现得更为出色。但是,现有的研究方法仅利用图结构来挖掘项目之间转换特性,以此捕获用户当前兴趣的能力有限。本文提出一种面向强化当前兴趣的图神经网络推荐算法,通过引入位置嵌入,并与图神经网络相结合,从而互补顺序感知模型和图形感知模型的优势。会话序列被建模为图结构,并取原始序列的最后一次点击,通过多头注意力机制计算其对图节点信息的注意力权重,以更加准确地获取用户当前兴趣的表示。同时,在2个真实的数据集上进行验证实验,结果表明本文提出的方法实现了所有方法的最佳性能,特别是在Diginetica数据集上,所有评价指标都提升了7%以上,MRR@10指标甚至提升了9.52%,证明本文所提方法对基于会话推荐的正确性和有效性。     

基于注意力模型的卷积循环神经网络城市声音识别

环境声音识别（Eenvironment Ssound Rrecognition ,ESR）在基于情景感知和辅助技术等领域发挥着重要作用。卷积神经网络（CNN）和循环神经网络（RNN）作为两种最具代表性的特征提取方法,在语音和音乐信号处理方面都取得显著效果,然而二者都存在一定缺点,CNN无法有效提取时间特征,RNN在提取空间特征上也存在明显劣势。为了有效的提取并利用时间特征和空间特征,提出一种新模型,利用时间分布卷积神经网络（CNN）从梅尔频谱图中提取城市环境声音特征,然后应用双向长短时记忆网络（BiLSTM）从CNN输出中获取时间信息,最后在BRNN的输出序列上实施注意力机制,从而关注到与城市环境声音最相关的特征进而做出分类判断,注意力机制既提高了分类准确性,又增强了模型的可解释性。实验结果表明,在Urbansound8K数据集中,该模型可获得80.2%的分类准确率,这优于以前在同一数据集的报告结果     

基于异构图神经网络的药物重定位研究

提出了一种基于异构图神经网络(HGNN)的药物重定位方法。该方法对药物-疾病关联网络、药物-药物相似性网络和疾病-疾病相似性网络的信息进行并行融合,有效地保留了各个网络的信息。此外,针对图卷积神经网络(GCN)提取信息能力的不足,本工作加入了图注意力网络(GAT)和层注意力机制,增强了特征提取能力,进一步提高了模型的预测性能。实验验证表明,提出的网络在Fdataset上达到了94.4%的AUROC和57.0%的AUPRC,在Cdataset上达到了95.9%的AUROC和65.3%的AUPR,超过了现有的基准方法。     

Event Temporal Relation Extraction with Attention Mechanism and Graph Neural Network

Event temporal relation extraction is an important part of natural language processing. Many models are being used in this task with the development of deep learning. However, most of the existing methods cannot accurately obtain the degree of association between different tokens and events, and event-related information cannot be effectively integrated. In this paper, we propose an event information integration model that integrates event information through multilayer bidirectional long short-...     

混合型神经网络专家系统

本文在分析传统人工智能与神经网络信息处理的各自特点的基础之上,指明二者相互结合的必然性,并给出了混合型神经网络专家系统的框架。     

基于神经网络的客车车身造型评价专家系统

阐述了利用人工神经网络(ANN)技术构建专家系统对客车车身造型进行评价的方法,从数据收集、图形的预处理、知识库的构建及神经网络模型的设计与训练等方面研究了准三维造型评价专家系统的关键技术问题.开发了客车造型评价专家系统软件,并通过实际客车造型任务,验证了所开发软件的有效性.     

一种时序边界注意力循环暴力行为检测神经网络

暴力行为检测是行为识别的一个重要研究方向,在网络信息审查和智能安全领域具有广阔的应用前景.针对目前的时序模型在复杂背景下不能有效提取人体运动特征和常规循环神经网络无法联系输入上下文的问题,本文提出一种时序边界注意力循环神经网络TEAR-Net.首先,以本文提出的一种全新的运动特征提取模块MOE为基础,在保留输入视频段序列背景信息的前提下加强运动边界区域.运动边界对于动作识别的作用要远大于图像其他区域,因此运动边界加强能够有效提高动作特征的提取效率,从而提升后续网络的识别精度.其次,引入了一种全新的结合上下文语境和注意力机制的循环卷积门单元(CSA-ConvGRU),提取连续帧之间的流特征以及不同帧的独立特征,并关注关键帧,能够极大提升动作识别的效率,以少量参数和较低计算量的代价掌握视频流的全局信息,从而有效提高识别准确率.本文提出的模型在目前最新的公开数据集RWF-2000和RLVS上进行了多种实验.实验结果表明,本文提出的网络在模型规模和检测精度上均优于目前主流的暴力行为识别算法.     

采用循环神经网络的情感分析注意力模型

针对目前情感分析中的循环神经网络模型缺乏对情感词的关注的问题,提出一种基于循环神经网络的情感词注意力模型,通过引入注意力机制,在情感分类时着重考虑文本中的情感词的影响.在NLPCC 2014情感分析数据集及IMDB影评数据集上进行试验,结果表明:该模型能够提高情感分析的效果.     

基于神经网络的专家系统

人工神经网络与专家系统,作为人工智能应用的两大分支,在实际应用中都有许多成功的范例,但作为单个系统来讲,二者都存在很大的局限性。主要是专家系统知识获取的"瓶颈问题"和神经网络知识表达的"黑箱结构"。为解决这个问题,本文提出将专家系统与神经网络技术集成,达到优势互补的目的。利用神经网络优良的自组织、自学习和自适应能力来解决令家系统知识获取的困难,同时用专家系统良好的解释机能来弥补神经网络中知识表达的缺陷。论文提出了基于神经网络专家系统的结构模型,知识表示方式以及推理机制等。     

基于神经网络的专家系统

人工神经网络与专家系统，作为人工智能应用的两大分支，在实际应用中都有许多成功的范例，但作为单个系统来讲，二者都存在很大的局限性。主要是专家系统知识获取的“瓶颈问题”和神经网络知识表达的“黑箱结构”。为解决这个问题，本文提出将专家系统与神经网络技术集成，达到优势互补的目的。利用神经网络优良的自组织、自学习和自适应能力来解决令家系统知识获取的困难，同时用专家系统良好的解释机能来弥补神经网络中知识表达的缺陷。论文提出了基于神经网络专家系统的结构模型，知识表示方式以及推理机制等。     

寻找图的最小割集的神经网络方法

针对问题的特点,建立了Ｈｏｐｆｉｅｌｄ网络的能量函数,提出并构造了一种寻找任意图最小割集的神经网络算法－ＮＮＭＣ（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ Ｍｉｎｉｍａｌ Ｃｕｔ）算法。该算法充分利用了Ｈｏｐｆｉｅｌｄ网络快速收敛的特性,并具有跳出局部极小点的方法。