基于会话的双层注意力机制新闻推荐方法

随着新闻信息的爆炸式增长,个性化新闻推荐对用户快速找到感兴趣的新闻变得非常重要.基于会话的推荐旨在根据用户的行为序列向用户推荐下一个可能感兴趣的项目.但是,现有方法大都忽略了会话内用户阅读行为的随机性和偶然性,难以捕捉用户的主要兴趣,或者将用户会话视为单个序列,忽视了用户兴趣在不同会话之间的演变和关联.文中提出了一种基...     

基于双编码器的会话型推荐模型

针对现有会话型推荐模型难以准确捕获物品间全局依赖的问题,提出了一种基于双编码器的会话型推荐模型(SR-BE)。该双编码器由基于自注意力网络的全局编码器和基于图神经网络的局部编码器组成,无论被浏览物品之间的时间间隔长还是短,全局编码器都能够利用注意力机制自适应地捕获被浏览物品之间的全局依赖,并将其编码为全局隐向量。为弥补自注意力网络没有结构信息而难以捕获邻近物品间局部依赖的不足,在局部编码器中,首先将会话序列构建成会话图,然后通过图神经网络在会话图上捕获邻近物品间的局部依赖,并将其编码为局部隐向量。最后将从双编码器得到的全局隐向量和局部隐向量线性组合为会话表示,再通过预测层解码会话表示得到每个候选物品被点击的概率。实验结果表明:将基于自注意力网络的全局编码器与基于图神经网络的局部编码器结合在一起,比单一地使用全局编码器或局部编码器在命中率上分别提高了3.11%和6.55%。通过与同类模型客观定量比较,SR-BE模型在两个公开数据集上取得了突出的效果,表明该模型有效、可行。     

提高会话推荐多样性的SRL推荐系统模型

现有的各种推荐多样性定义难以体现用户在会话期内推荐项目的多样性,且现有的各种提高推荐多样性的方法通常以牺牲推荐准确率为代价.提出了会话推荐多样性的概念,分析了现有推荐系统会话推荐多样性偏低的主要原因是推荐树中存在过多的重复节点.设计了一种会话推荐列表SRL(sessionrecommendationlist)推荐系统模型,为每个活跃用户建立会话推荐列表,能够有效避免推荐树中出现推荐环路或弱推荐环路.通过MovieLens数据集测试表明,SRL推荐系统模型可以大幅度提高会话推荐多样性,同时也提高了推荐准确率.     

基于会话的独立邻域矩阵偏好交互推荐

通过合并输入和输出邻域矩阵可以使一些工作生成全局和局部偏好,并直接对这2个偏好建模来构建会话表示,从而实现改进。然而,一个会话的输入矩阵和输出矩阵并没有很强的相关性,它们的连接可能会为构建2个偏好引入噪声。其次,全局偏好和局部偏好可以相互促进,且邻域会话的协同信息可能有助于提高推荐性能。因此,一种基于会话的偏好交互推荐被提出,它来自独立的输入邻域矩阵和输出邻域矩阵框架,包括2个并行模块：输入会话表示编码器(ISE)和输出会话表示编码器(OSE)。ISE通过GNN和并行协同注意力机制对具有输入信息的会话表示进行建模。OSE通过GNN和并行协同注意力机制对具有输出信息的会话表示进行建模。最后,引入一种融合门控机制来平衡ISE和OSE产生的会话表示的重要性。结果表明,在Yoochoose和Diginetica数据集上,提出的模型明显优于其他先进的方法。     

基于整体序列建模的会话推荐模型

会话推荐常用的循环神经网络根据会话的短期交互生成相关表示。循环神经网络采用多次迭代的方式逐步生成表示,在每次迭代中选取局部最优解,无法从全局角度考虑会话记录中各项目的重要性,使会话表示的性能受限。针对该问题,该文提出一种基于整体序列建模的会话推荐模型,通过综合考虑各项目内容对会话表示的重要性,生成更为有效的会话表示。为了更好地挖掘项目内容在会话推荐中的重要性,该文联合分析了该项目在会话历史中所处的位置和该项目与会话最新交互项目的关系等信息,衡量该项目在会话中的权重,最后融合会话历史中的各项目信息生成整体的会话表示。在3个公开数据集上进行的大量实验表明,该文方法明显优于现有方法,证明了其有效性。     

基于会话的图卷积递归神经网络推荐模型

基于会话的推荐是为了解决匿名用户的推荐问题,是推荐系统中的一个重要分支.现有的采用图神经网络的研究方法尽管已经取得了不错的效果,但是它们无法捕获更准确的用户会话间的潜在信息.针对上述问题,论文提出了基于会话的图卷积递归神经网络(GCRNN)推荐模型,通过图卷积网络层捕捉用户会话图的结构信息,利用递归神经网络层来获得会话的时序信息和会话之间的依赖关系,以此捕获更丰富更准确的用户会话间潜在信息,从而提升推荐效果.模型在两个公开数据集上进行广泛的实验,结果表明GCRNN优于现有的研究方法.     

面向强化当前兴趣的图神经网络推荐算法研究

在基于会话的推荐中,与传统序列建模相比,将会话序列建模为图结构在该领域表现得更为出色。但是,现有的研究方法仅利用图结构来挖掘项目之间转换特性,以此捕获用户当前兴趣的能力有限。本文提出一种面向强化当前兴趣的图神经网络推荐算法,通过引入位置嵌入,并与图神经网络相结合,从而互补顺序感知模型和图形感知模型的优势。会话序列被建模为图结构,并取原始序列的最后一次点击,通过多头注意力机制计算其对图节点信息的注意力权重,以更加准确地获取用户当前兴趣的表示。同时,在2个真实的数据集上进行验证实验,结果表明本文提出的方法实现了所有方法的最佳性能,特别是在Diginetica数据集上,所有评价指标都提升了7%以上,MRR@10指标甚至提升了9.52%,证明本文所提方法对基于会话推荐的正确性和有效性。     

融合多源图信息的图神经网络会话推荐算法

现有的基于图神经网络的会话推荐算法通过将会话序列构筑为图形结构捕捉项目转换关系,能够有效提高推荐性能.然而多数图神经网络及其改进模型在建模会话时仅考虑会话序列中项目的单次转换关系,忽略了会话中包含的大量有效信息,同时缺乏对项目间隐藏关联性的分析.因此提出融合多源图信息的图神经网络会话推荐算法.将用户重复行为信息,项目内容关联信息纳入到会话图建模过程当中,有效提取项目更深层次的复杂转换关系,并通过线性转换进行聚合.此外采用外部注意力机制辅助获取会话序列项目隐藏关联信息,使得生成的会话向量在推荐过程中更加精确.在真实数据集Yoochoose和Diginetica上进行实验,实验结果表明该模型优于基准模型,特别地,相较于SR-GNN模型在MRR@20指标上提高了12.50%,能更好地预测用户的下一次点击项目.     

基于文本增强的共注意机制的多模态标签推荐

针对新型社交平台用户发布帖子时通常会使用标签来标记帖子的关键词或话题来提高自己在社交媒体中参与度的问题,使用了层级结构,从单词、短语和句子三个层级来提取文本特征。并且提出文本内容的汇总注意机制,将每个层级的语义内容总结为一个特征向量,然后提出一个文本增强的共注意模型,将每个层级的语义分别与图像模态进行语义融合。同时,考虑到不同用户使用标签的偏好习惯等各不相同,引入一个外部存储单元来记录每个用户的历史标签习惯,计算当前待推荐帖子与历史帖子之间的相似度影响向量,建立用户的个性化模块。在真实数据集上的实验结果表明,文中基于多模态帖子内容理解和个性化模块分析模型相比与其他模型,在精确率、召回率和F₁分数上都有很大提升;提出的两个关于多模态内容理解的注意力机制和用户的个性化建模都对整体推荐效果有显著的贡献。     

基于图注意力网络的多行为推荐算法

现有的多行为推荐系统未有效利用不同层次的图传播信息,难以捕获用户不同行为的影响。为解决此问题,文章提出了一种基于图注意力网络的多行为推荐模型(GABR)：首先,采用小批量采样节点嵌入方法聚合同一行为类型交互的邻域节点,以提高特征表示效率;接着,采用注意力机制学习不同行为类型的影响系数,以进一步融合节点特征;然后,合并多层用户和项目表示,以有效利用不同层次的图传播信息;最后,将已交互的用户-项目对和随机采样未交互过的用户-项目对作为正负样本对来训练目标模型,以优化模型性能。为验证模型推荐性能,在3个真实数据集(Yelp、Scholat、Beibei)上与现有9种推荐模型进行对比。实验结果表明GABR模型能够有效利用融合了不同行为类型影响系数的多层图传播信息,更好地预测用户偏好：在3个真实数据集上,与目前最佳的基线模型(GNMR)相比,GABR模型的HR、NDCG平均提高了1.73%、2.43%。     

基于情感信息预处理和Bi-GRU的虚假评论识别模型

虚假评论识别在电子商务、社交媒体等领域具有重要的应用价值。尽管现有虚假评论识别模型融合了文本的情感信息,但在预训练过程中忽视了对情感信息的提取,导致准确率不高。针对此问题,本文提出一种基于情感信息预处理和双向门控循环单元(Bidirectional Gated Recurrent Unit, Bi-GRU)的虚假评论识别模型(FR-SG),用于提高虚假评论识别的准确率。首先,通过Albert模型获取文本的语义向量;然后,使用词频-逆文本频率(Term Frequency-Inverse Document Frequency, TF-IDF)和K-均值(K-means++)聚类的方法从评论中挖掘情感种子词,基于种子词对文本中的属性词和情感词进行掩码(mask);接着,使用面向情感的目标优化函数,将情感信息嵌入到语义表示中,生成情感向量;最后,将这两组向量的拼接结果输入虚假评论识别网络中,得到文本的分类结果。实验结果表明,相较于Bi-GRU+Attention模型,FR-SG提高了虚假评论识别的准确率。     

融合动态兴趣偏好与特征信息的序列推荐

传统的序列推荐通常忽略用户和项目特征信息的重要性,且无法有效对动态的兴趣偏好进行建模.因此,提出融合动态兴趣与特征信息的序列推荐算法.该算法通过对目标项目进行动态兴趣建模,克服兴趣转移带来的影响;同时融合用户和项目特征信息模拟真实的用户行为以提高推荐的性能.首先,针对动态兴趣建模,采用辅助函数应用下一个行为监督上一个隐藏兴趣状态的学习,并采用带注意力机制的门控循环单元为不同的兴趣状态对目标影响程度赋予不同的权重;然后,针对用户和项目特征信息特征融合,采用平凡注意力机制为影响目标项目的特征赋予不同的权重,并通过多头注意力机制进行深层次的特征提取;最后,融合用户动态兴趣表示和用户项目特征表示输入到多层感知机.在Yelp和MovieLens-1M数据集上进行仿真实验,结果表明提出模型的性能比一些基线模型有较好的提升.     

基于全局有向图的商品会话序列推荐算法

针对商品会话序列推荐中传统推荐算法过分依赖临近点击状况, 在一定程度上丢失整体商品访问趋势的问题, 提出一种新的基于全局有向图的商品会话序列推荐算法. 首先, 构建商品会话序列全局有向图, 图中节点为商品, 节点间的弧表示点击次序, 并用图数据库存储该有向图; 其次, 给出在有向图上的全局偏好传播策略, 同时考虑点击时间因素对推荐的重要影响; 最后, 获得待推荐商品的评分. 在Diginetica和Yoochoose标准数据集上, 该算法根据P@20标准, 比传统Item-KNN方法推荐准确率分别提升了6.12%和30.25%; 根据MRR@20标准, 则分别提升了15.04%和33.88%. 实验结果表明, 该全局有向图搜索和评分策略有效.     

基于双层注意力机制的联合深度推荐模型

许多电子商务网站中存在用户编写的大量评论信息,大部分推荐系统虽然利用了评论信息,但仅从单词级别而不是评论级别来评估评论的重要性。如果只考虑评论中的重要单词,而忽略了真正有用的评论,则会降低推荐模型的性能。基于此,文中提出了一种基于双层注意力机制的联合深度推荐模型(DLALSTM)。该模型首先利用双向长短期记忆网络(BiLSTM)分别对用户和项目评论进行词以及评论级别联合建模,并通过两层注意力机制聚合为评论表示和用户/项目表示,然后把从评论中学习的用户和项目的潜在表示融入由评分矩阵得到的用户偏好和项目特征,实现评分预测。采用文中模型在Yelp和亚马逊的不同领域数据集上进行实验评估,并与常用的推荐方法进行比较,发现文中提出的模型性能超过目前常用的推荐方法,同时该模型能够缓解数据稀疏问题,且具有较好的可解释性。     

基于自注意力机制的TransNet推荐模型

在神经网络的推荐模型基础上引入自注意力机制,提出一种改进的基于自注意力机制TransNet推荐模型SATransNet。SATransNet模型使用卷积神经网络提取评论特征,通过自注意力神经网络自动学习特征内部的依赖关系,由依赖关系来决定需要关注的特征,从而解决数据表达能力不足的缺陷。本文在不同数据集上进行了实验比较与分析,SATransNet推荐模型在不同数据集上的预测评分较好,均方误差总体呈优。与基于注意力机制的推荐模型相比,SATransNet推荐模型的归一化折损累计增益均有提升,具有较好的预测评分效果和推荐相关性。     

基于自监督学习的序列推荐算法

针对现有序列推荐算法易受数据稀疏影响以及对用户短期动态偏好建模不充分的问题,提出基于自监督学习的序列推荐算法。针对短期序列中的原始项目关系更易受到随机数据增强破坏的问题,对长短期序列使用不同的数据增强方法来构建更有效的自监督信号;利用对比式自监督学习框架对用户长期偏好和短期偏好进行多任务联合建模;针对现有自注意力机制无法建模序列中项目相对位置关系的问题,将自然语言处理领域中的解耦注意力机制引入到用户短期偏好学习过程中,充分捕获用户短期序列中项目的相对位置信息。实验结果证明了所提算法的有效性。     

基于Agent和推荐技术的网络教学模型研究

通过分析目前网络教学系统的不足,提出一种基于Agent和推荐技术相结合的网络教学模型.该模型通过Agent动态收集用户兴趣爱好,分析学生的学习行为,生成用户的兴趣模型,然后使用协同过滤技术将相关的资源推荐给其他用户.模型充分发挥了教师在教学中的作用,教师和学生之间可以互相推荐学习资源,提高了用户之间信息资源的共享和交互能力,提高了系统的个性化服务水平.     

基于多头注意力胶囊网络的文本分类模型

文本序列中各单词的重要程度及其之间的依赖关系对于识别文本类别有重要影响。胶囊网络不能选择性关注文本中重要单词,并且由于不能编码远距离依赖关系,在识别具有语义转折的文本时有很大局限性。为解决上述问题,该文提出了一种基于多头注意力的胶囊网络模型,该模型能编码单词间的依赖关系、捕获文本中重要单词,并对文本语义编码,从而有效提高了文本分类任务的效果。结果表明:该文模型在文本分类任务中效果明显优于卷积神经网络和胶囊网络,在多标签文本分类任务上效果更优,能更好地从注意力中获益。     

基于混合神经网络的序列推荐算法

为了提高推荐算法的推荐性能,在序列建模过程中,针对循环神经网络(recurrent neural network,RNN)无法并行运算导致建模速度与准确度较低,以及在偏好预测过程中对用户不同阶段偏好没有动态融合的问题,提出了一种基于混合神经网络的序列推荐算法.在算法模型的用户交互序列建模阶段,考虑到用户近期偏好变化频繁...     

基于记忆的注意力图神经网络专家推荐方法

在问答社区专家推荐算法中,图神经网络主要利用问答社区中用户与问题的交互关系建模,其模型性能取决于交互数据的稠密度,难以对无交互信息的用户及问题进行有效表示学习.针对这一问题,提出了一个基于记忆的注意力图神经网络专家推荐方法.该方法首先设计了面向用户多维特征的联合表示子网络,然后构建了一个记忆网络,为每个问题保存用户回答...