融合用户兴趣度的基于自注意力的序列推荐模型

序列推荐试图利用用户的连续行为、用户偏好、物品流行度以及用户和项目之间的交互动作进行建模,传统的马尔科夫链(MC)、递归神经网络(RNN)和基于自注意力的模型已被大量应用于序列推荐,但它们只是将交互历史假设成有序序列,忽略各个交互之间的时间间隔,也不考虑序列中项目之间交互的可能性存在大小关系以及用户对项目的兴趣度可能随着时间推移而发生变化。文中对基于时间间隔感知自注意力的序列推荐模型TiSASRec进行优化,提出了考虑到用户对项目的兴趣度会发生变化的改进模型TiSeqRec,该模型基于TiSASRec,进一步捕获用户整体偏好和局部偏好,并使用一致性感知门控网络将两种偏好智能结合,预测下一项的内容。通过大量的实验验证了TiSeqRec模型在稀疏、密集数据集和不同的评价指标上都优于已有的最新的序列推荐模型。     

融合时间感知和多兴趣提取网络的序列推荐

针对序列推荐任务中的时间动态性和多重兴趣建模问题,提出一种时间感知的项目嵌入方法,用于学习项目之间的时间关联性。在此基础上,提出一种融合时间感知和多兴趣提取网络的序列推荐(time-aware multi-interest sequence recommendation,TMISA)方法。TMISA采用自注意力序列推荐模型作为局部特征学习模块,以捕捉用户行为序列中的动态偏好;通过多兴趣提取网络对用户的全局偏好进行建模;引入门控聚合模块将局部和全局特征表示动态融合,生成最终的用户偏好表示。实验证明,在5个真实推荐数据集上,TMISA模型表现出卓越性能,超越了多个先进的基线模型。     

融合隐式信任与属性偏好的群组推荐算法

随着互联网和推荐系统的不断发展,推荐服务的对象由单一用户扩展为群组成员,获取并融合组内成员的偏好、提升群组推荐效果成为当前推荐领域研究的热点问题.利用用户提供的多属性评分矩阵,提出一种融合隐式信任与属性偏好的群组推荐算法.首先,基于用户共同评分项目数和多属性评分相似度计算用户间的直接隐式信任,并利用信任传递机制获取用户间的间接信任,降低数据稀疏性.然后,通过计算用户各属性评分与总体评分间的距离来挖掘用户的属性偏好,在此基础上,利用注意力机制学习组内用户权重,将用户偏好聚合为群组偏好,进而结合深度学习框架对候选项目进行预测,生成最终的推荐列表.最后,四个数据集上的实验验证了提出的算法的有效性和可行性,实验结果表明,该算法的准确率、nDCG等评价指标明显优于对比算法.     

基于注意力机制的特征融合序列标注模型

序列标注任务是自然语言处理领域的重要问题,包括命名实体识别、词性标注、意见抽取等具有重要应用价值的子任务。目前,长短期记忆网络-条件随机场模型(LSTM-CRF)作为序列标注任务的主流框架,虽然取得了很好的性能并被广泛使用,但仍存在局部依赖性以及受限于序列化特征学习的缺点。为了同步建模句子中每个词的局部上下文语义与全局语义,并将两部分语义进行有效融合,提出基于注意力机制的特征融合序列标注模型。具体地,本模型利用多头注意力机制建模句子中任意两个词之间的语义关系,得到每个词应关注的全局语义。考虑到LSTM学习的局部上下文信息和注意力机制学习的全局语义具有互补性,进一步设计了三种特征融合方法将两部分语义深度融合以得到更丰富的语义依赖信息。为验证模型的有效性,在四个数据集上进行了大量的实验,实验结果表明本模型达到较优的性能。     

融合注意力机制的群组推荐研究

现有群组推荐方法在偏好融合时大多采用预定义策略,这种静态方法忽略了群组间用户的交互,难以对复杂的决策过程进行建模,从而影响推荐效果。针对该问题,提出了一种基于注意力机制的群组推荐方法,使用注意力机制获取群组中每个用户对其他用户的注意力权重,为群组选出一个决策者,以此来模拟群组中用户的交互,再根据用户的加权偏好为群组推荐项目。通过在CAMRa2011和MovieLens1M数据集上与基线方法的对比可知,该方法在命中率和归一化折扣累计增益方面都有较大提高。     

一种基于用户偏好的学习推荐方法

传统的推荐算法一定程度上为学习者提供了自适应的学习服务,但忽略了用户的学习兴趣偏好,难以提供学习者满意的推荐服务.为了提高学习推荐的效率,对用户的偏好进行进算,根据兴趣偏好对基本用户进行聚类,然后根据用户之间的兴趣相似性初步预测目标用户的兴趣度,进而给用户推荐兴趣度较高的学习服务.实验结果表明,该方法可显著地提高推荐质量.     

数字图书馆信息推荐服务中用户需求偏好模型研究

从用户需求偏好模型逻辑结构、用户需求偏好特征的抽取方式、用户需求偏好模型动态更新3个方面,阐述了当前国内外数字图书馆信息推荐服务中用户需求偏好模型的研究现状,分析了用户需求偏好模型研究所遇到的困难和发展趋势。     

一种考虑兴趣偏好的Top-k众包开发者推荐方法

随着云开发技术的不断发展,以众包软件平台为代表的在线开发者社区成为软件工程领域一个新的研究热点.如何为平台中的任务发布者及时、准确地推荐开发者是具有现实意义的重要问题.本研究提出一种考虑兴趣偏好的Top-k众包开发者推荐方法,改变传统Top-k推荐列表的生成模式,有针对性地为任务推荐符合条件的开发者.首先结合平台丰富的...     

基于会话的独立邻域矩阵偏好交互推荐

通过合并输入和输出邻域矩阵可以使一些工作生成全局和局部偏好,并直接对这2个偏好建模来构建会话表示,从而实现改进。然而,一个会话的输入矩阵和输出矩阵并没有很强的相关性,它们的连接可能会为构建2个偏好引入噪声。其次,全局偏好和局部偏好可以相互促进,且邻域会话的协同信息可能有助于提高推荐性能。因此,一种基于会话的偏好交互推荐被提出,它来自独立的输入邻域矩阵和输出邻域矩阵框架,包括2个并行模块：输入会话表示编码器(ISE)和输出会话表示编码器(OSE)。ISE通过GNN和并行协同注意力机制对具有输入信息的会话表示进行建模。OSE通过GNN和并行协同注意力机制对具有输出信息的会话表示进行建模。最后,引入一种融合门控机制来平衡ISE和OSE产生的会话表示的重要性。结果表明,在Yoochoose和Diginetica数据集上,提出的模型明显优于其他先进的方法。     

基于混合神经网络的序列推荐算法

为了提高推荐算法的推荐性能,在序列建模过程中,针对循环神经网络(recurrent neural network,RNN)无法并行运算导致建模速度与准确度较低,以及在偏好预测过程中对用户不同阶段偏好没有动态融合的问题,提出了一种基于混合神经网络的序列推荐算法.在算法模型的用户交互序列建模阶段,考虑到用户近期偏好变化频繁...     

融合多源图信息的图神经网络会话推荐算法

现有的基于图神经网络的会话推荐算法通过将会话序列构筑为图形结构捕捉项目转换关系,能够有效提高推荐性能.然而多数图神经网络及其改进模型在建模会话时仅考虑会话序列中项目的单次转换关系,忽略了会话中包含的大量有效信息,同时缺乏对项目间隐藏关联性的分析.因此提出融合多源图信息的图神经网络会话推荐算法.将用户重复行为信息,项目内容关联信息纳入到会话图建模过程当中,有效提取项目更深层次的复杂转换关系,并通过线性转换进行聚合.此外采用外部注意力机制辅助获取会话序列项目隐藏关联信息,使得生成的会话向量在推荐过程中更加精确.在真实数据集Yoochoose和Diginetica上进行实验,实验结果表明该模型优于基准模型,特别地,相较于SR-GNN模型在MRR@20指标上提高了12.50%,能更好地预测用户的下一次点击项目.     

融合多种影响因子的兴趣点推荐算法

为了解决兴趣点推荐任务中的数据稀疏性问题和充分利用位置社交网络中的多样信息提高个性化推荐质量,提出了一种融合多种影响因子的兴趣点推荐算法。分别对地理信息和社会信息进行地理影响力建模和社会影响力建模,并联合时间信息和地理信息进行时空影响力建模,然后以加权求和的方式整合3种影响力评分得到用户偏好分数,根据用户偏好分数为每个用户提供1个包含Top-N[WT]个兴趣点的推荐列表。实验结果显示,在2个公开数据集上,融合多种影响因子的兴趣点推荐模型的性能优于对比模型。地理-社会-时空影响是兴趣点推荐任务中的关键,对这3种影响建模可为融合关键信息的兴趣点推荐研究提供参考。     

基于时空序列模式匹配的兴趣点推荐方法

兴趣点(point of interest,POI)是地理空间信息的重要组成部分,在基于位置的信息服务中被广泛使用.针对用户对兴趣点访问所产生的时空序列,利用闭合序列模式挖掘方法分析频繁模式,在此基础上根据用户当前所处位置或最近访问序列,通过序列分析进行时空序列模式匹配,并按照序列的匹配程度给出兴趣点推荐列表.实验结果...     

基于时空序列模式匹配的兴趣点推荐方法

兴趣点(point of interest,POI)是地理空间信息的重要组成部分,在基于位置的信息服务中被广泛使用。针对用户对兴趣点访问所产生的时空序列,利用闭合序列模式挖掘方法分析频繁模式,在此基础上根据用户当前所处位置或最近访问序列,通过序列分析进行时空序列模式匹配,并按照序列的匹配程度给出兴趣点推荐列表。实验结果表明,闭合序列模式挖掘与时空序列模式匹配相结合的方法能够有效地应用在兴趣点推荐中,有利于引导用户的兴趣点访问行为,从而提升位置服务的质量。     

用户偏好建模：考虑长期与短期兴趣因素

鉴于电子商务网站推荐系统的需要,将用户兴趣分为长期兴趣和短暂兴趣,并提出一种基于长期兴趣和短暂兴趣的用户偏好表示法.利用web服务器数据库的数据,采用无监督学习方法,对用户注册信息进行挖掘,提取出用户长期兴趣.基于向量映射,对web服务器日志上的用户使用记录数据和内容数据进行分析,提取用户短暂兴趣.通过用户反馈信息修正"粗糙"用户偏好文档,使得用户偏好文档更新得以实现.最后,应用了实证案例验证了该方法的合理性和有效性.     

一种基于位置和时间信息的兴趣点推荐方法

在社交网络中,人们往往会访问自己比较感兴趣和离自己比较近的地方,而兴趣点推荐就是根据用户的兴趣偏好能够有效地帮助用户选择自己比较感兴趣的地点。笔者提出一种基于位置和时间信息的兴趣点推荐方法。该方法从兴趣点的角度出发分为3个步骤,首先使用用户历史访问的兴趣点的位置信息计算用户历史访问兴趣点和用户未曾访问过的兴趣点的相似度;然后使用时间信息,将一天划分为不同的时间段,统计所有兴趣点在一天中不同时间段被签到的次数,计算用户历史访问兴趣点和用户未曾访问过的兴趣点的相似度;最后根据兴趣点的位置和时间信息综合计算用户历史访问兴趣点与用户未曾访问兴趣点的相似度,根据Top-N策略向用户推荐用户未曾访问过的兴趣点。在现实社会中的真实数据集上进行实验验证,实验结果表明笔者提出的方法是有效的。     

面向强化当前兴趣的图神经网络推荐算法研究

在基于会话的推荐中,与传统序列建模相比,将会话序列建模为图结构在该领域表现得更为出色。但是,现有的研究方法仅利用图结构来挖掘项目之间转换特性,以此捕获用户当前兴趣的能力有限。本文提出一种面向强化当前兴趣的图神经网络推荐算法,通过引入位置嵌入,并与图神经网络相结合,从而互补顺序感知模型和图形感知模型的优势。会话序列被建模为图结构,并取原始序列的最后一次点击,通过多头注意力机制计算其对图节点信息的注意力权重,以更加准确地获取用户当前兴趣的表示。同时,在2个真实的数据集上进行验证实验,结果表明本文提出的方法实现了所有方法的最佳性能,特别是在Diginetica数据集上,所有评价指标都提升了7%以上,MRR@10指标甚至提升了9.52%,证明本文所提方法对基于会话推荐的正确性和有效性。     

基于用户兴趣的个性化推荐技术综述

网络时代下,个性化推荐系统是解决"信息爆炸"现象的重要技术.介绍了个性化推荐系统的研究现状并分别对个性化推荐系统的几项关键技术进行了阐述及推荐评价.最后提出了推荐系统未来的发展趋势.     

基于Bi-GRU和外部注意网络的会话推荐模型

基于会话的推荐系统(SRS)可以根据匿名用户的历史行为序列预测用户的下一个动作。现有推荐模型大都会忽略当前会话与其他会话的潜在相关性,不能捕捉用户的主要意图。为解决该问题,提出一种基于Bi-GRU和外部注意网络的会话推荐模型(SR-BGEAN)。该模型首次将外部注意机制引入会话推荐任务中,并结合Bi-GRU进行建模,同时捕获会话内物品双向顺序信息和会话样本间全局信息,形成最终的兴趣表示。在Diginetica和Yoochoose数据集上的实验结果表明,相对最优的基线模型,SR-BGEAN模型在推荐的前20个项目中的命中率更高,可达到71.50%。     

融合非偏好注意力跨度的预训练语言模型

语言模型是自然语言处理领域最重要的任务之一,并以迁移学习的方式影响着机器翻译、机器阅读理解、自动文本摘要等诸多下游任务。依托多头自注意力构建的大规模预训练语言模型在特征提取和文本表征能力上相较之前的神经网络模型取得了较大提升,却也极大地增加了模型训练的时空复杂度。为此,从模糊群决策的角度出发,将毕达哥拉斯模糊非偏好函数用作多头注意力跨度范围的先验,提出一种自适应的注意力跨度调节机制,较大程度地改善了模型捕捉长距离文本依赖的能力,并使模型的整体计算复杂度相较原始Transformer结构维持在较低水平。公开语言模型数据集上的实验表明：所提方法在困惑度指标上取得了较好的性能,超越了多种以往的方法。