基于自注意力机制的TransNet推荐模型

在神经网络的推荐模型基础上引入自注意力机制，提出一种改进的基于自注意力机制TransNet推荐模型SATransNet。SATransNet模型使用卷积神经网络提取评论特征，通过自注意力神经网络自动学习特征内部的依赖关系，由依赖关系来决定需要关注的特征，从而解决数据表达能力不足的缺陷。本文在不同数据集上进行了实验比较与分析，SATransNet推荐模型在不同数据集上的预测评分较好，均方误差总体呈优。与基于注意力机制的推荐模型相比，SATransNet推荐模型的归一化折损累计增益均有提升，具有较好的预测评分效果和推荐相关性。     

基于双层注意力机制的联合深度推荐模型

许多电子商务网站中存在用户编写的大量评论信息,大部分推荐系统虽然利用了评论信息,但仅从单词级别而不是评论级别来评估评论的重要性。如果只考虑评论中的重要单词,而忽略了真正有用的评论,则会降低推荐模型的性能。基于此,文中提出了一种基于双层注意力机制的联合深度推荐模型(DLALSTM)。该模型首先利用双向长短期记忆网络(BiLSTM)分别对用户和项目评论进行词以及评论级别联合建模,并通过两层注意力机制聚合为评论表示和用户/项目表示,然后把从评论中学习的用户和项目的潜在表示融入由评分矩阵得到的用户偏好和项目特征,实现评分预测。采用文中模型在Yelp和亚马逊的不同领域数据集上进行实验评估,并与常用的推荐方法进行比较,发现文中提出的模型性能超过目前常用的推荐方法,同时该模型能够缓解数据稀疏问题,且具有较好的可解释性。     

基于评论主题的个性化评分预测模型

针对现有基于评论分析的推荐算法没有充分考虑个性化的问题, 通过对评论进行主题分析, 挖掘用户的喜好, 分别建立基于用户和物品的个性化评分预测模型。在真实数据集上进行实验验证, 结果表明该模型有效地提高了推荐系统的评分预测性能。     

基于评分与文本融合的多注意力跨域推荐算法

为解决在目标领域推荐过程中用户与物品交互数据的稀疏性问题,提出一种新的跨域推荐模型。将辅助领域中的知识迁移到目标域中,基于前馈神经网络分别获得评分信息与评论文本信息的域独有特征;通过采用基于神经网络的特征提取器与基于向量嵌入的域鉴别器融合后的对抗模型,获得评分信息与评论文本信息的域共享特征;再基于多层注意力机制将域独有特征与域共享特征进行融合,从而获得用户对物品的兴趣度。研究结果表明：对于两种经典的推荐评价性能指标,所提出的模型在Amazon数据集上可以获得更好的推荐性能。     

基于评论特征提取和隐因子模型的评分预测推荐系统

评分预测是推荐系统研究的核心问题,通过用户的历史行为来预测用户对商品的评分,根据评分高低来推荐用户喜欢的商品.当前基于评论评分预测推荐系统普遍只使用卷积神经网络捕获局部特征或者循环神经网络捕获全局特征,忽略了将这两类特征的有效融合.针对现存问题,本文提出基于评论特征提取和隐因子模型的评分预测推荐模型,使用自适应感受野的卷积神经网络(CNN)提取局部特征,同时使用门控循环单元(GRU)提取全局特征,将不同特征融合为评论的嵌入表达.再结合隐因子模型(LFM)对用户的特征偏好和商品的特征属性进行建模.最后,通过对用户和商品的嵌入表达进行评分预测.实验结果表明,本文模型在5个数据集上均高于现有基线模型.     

基于评论分析的评分预测与推荐

推荐系统广泛地应用在网络平台中,推荐模型需要预测用户的喜好,帮助用户找到适合的电影、书籍、音乐等商品.通过对用户评分和评论信息的分析,可以发现用户关注的商品特征,并根据商品的特征,推测用户对该商品的喜好程度.本文提出将评论中隐含的语义内容与评分相结合,设计并实现了一种新颖的商品推荐模型.首先利用主题模型挖掘评论文本中隐含的主题分布,用主题分布刻画用户偏好和商品画像,在逻辑回归模型上训练主题与打分的关系,最终评分可以被视为是对用户偏好和商品画像的相似程度的量化表示.最后,本文在真实数据上进行了大量对比实验,结果证明该模型比对比系统性能优越且稳定.     

结合用户评论与评分信息的推荐算法

为了提高推荐系统为用户推荐新产品的准确率,挖掘出每位顾客的隐藏喜好以及每个产品的性能十分关键。基于用户反馈技术经常被用于发现产品的潜在特性和用户维度,本文提出了一种将用户评分中的潜在因子和评论中的潜在主题相结合的推荐模型。该模型通过对评论文本进行分析从而实现更精确的评分预测,特别适用于对新产品和新用户的评分预测。通过在公开数据集上的验证实验,证明了该模型较传统推荐系统在性能上有显著提升。     

基于双层注意力机制的对偶正则化评分预测

基于深度学习的推荐系统已成为学界发展的趋势,针对其因数据稀疏而造成的预测精度下降的问题,提出了一个基于评论信息的深度协同过滤推荐系统.首先,嵌入表示用户或物品的评论文本,将其送入BiGRU层以增强长文本中前后单词的关联性;然后,采用双层注意力机制来分配不同评论对于中间表征向量贡献度的权重;最后,利用概率矩阵分解法融合用户及物品表征向量,从而预测出用户对物品的评分.实验结果表明,此模型可以显著减少评分预测的误差,有效提高推荐的精度.     

基于用户评论的协同过滤推荐算法

提出融合用户评论的协同过滤推荐算法,通过挖掘电商网站的用户评论信息,获取用户评论中的产品特征和意见,通过计算每个特征意见对的极性,得到特征矩阵,结合用户意见质量形成的用户评分矩阵,求出用户评分的相似度.最后结合特征矩阵和用户评分相似度得出目标用户的综合相似度,并由预测评分得出产品推荐表,对用户进行产品推荐.实验结果表明,提出的算法与常用的推荐算法相比,改善了推荐的质量,同时推荐精度得到提高.     

基于深度学习加强的混合推荐方法

近年来基于矩阵分解的协同过滤算法在评分预测上取得了显著成果,但仍未能很好地解决冷启动、数据稀疏等问题。因此,如何将评论信息引入推荐系统以缓解上述问题成为研究的热点之一。该文尝试基于深度学习来加强个性化推荐,提出将层叠降噪自动编码器(stacked denoising auto-encoder,SDAE)与隐含因子模型(latent factor model,LFM)相结合的混合推荐方法,综合考虑评论文本与评分,以提升推荐模型对潜在评分预测的准确性。在常用大规模公开Amazon数据集上进行的测试结果表明:与传统推荐模型相比,该文提出的方法可有效提高评分预测的准确性,性能提升最高可达64.43%。     

基于BiLSTM-Attention的电商评论情感分析

为了更加准确的对电商评论中的文本信息进行情感分析,提出了一种融合注意力机制与双向长短期神经网络(LSTM)的混合模型结构。首先,利用长短期记忆神经网络对于时序序列结构的分析,充分挖掘句子中的潜在信息,有效克服长期遗忘的问题,然后通过注意力机制的使用能够对句子中不同特征分配权重,对于句子中倾向于用户情感的特征信息进行关注,有效改善识别效率。通过在有标签的京东某手机评论数据集上的实验,表明该方法在该领域具有良好的性能。     

基于双注意力深度学习的在线资源推荐

为了提高在线资源推荐的性能，采用深度学习卷积神经网络(Convolutional neural network, CNN)进行资源推荐，同时对资源-用户特征进行双注意力机制特征提取，以进一步提高推荐精准度。对资源-用户特征进行编码并初始化，分别进行通道注意力机制运算和空间注意力机制运算。将两个注意力机制的运算结果加权求和得到新的用户-资源特征。建立基于CNN的在线资源推荐模型，并以资源和用户的最小特征差作为损失函数进行迭代优化，从而求解出CNN网络参数。通过双注意力机制的用户-资源特征输入到CNN模型，并执行训练以获得符合用户需求的推荐结果。试验结果表明，通过合理设置双注意力机制通道数及卷积核尺寸等参数，可以有效提高双注意力CNN的推荐性能。与常用资源推荐算法相比，所提算法在推荐准确度及稳定性方面均具有一定的提升。     

基于双重注意力机制的深度人脸表示算法

针对现有模型很少对人脸特征进行设计且人脸特征区分性较弱的问题, 提出一种基于双重注意力机制的深度人脸表示算法. 该算法采用双重注意力机制的网络结构, 通过细节注意力机制设计低层特征, 自动和自适应地学习层次特征, 关注局部特征; 通过语义注意力机制设计高层特征, 自适应地进行语义分组, 关注语义特征. 在LFW,YTF,MegaFace,IJB-B和IJB-C数据集上的实验结果表明, 双重注意力机制方法的识别精确度分别高达99.87%,97.9%,98.91%,95.02%和96.28%, 比同类算法Groupface平均提升了0.02%,0.1%,0.2%,1%和1%, 表明了双重注意力机制网络的优势.     

基于二向注意力循环神经网络的PM2.5浓度预测

针对PM2.5浓度预测模型效果不稳定、泛化能力差的问题,以循环神经网络和注意力机制为基础,提出了二向注意力循环神经网络（TDA RNN）。首先,TDA-RNN模型通过注意力机制获取输入数据的时序注意力和类别注意力,并将其进行融合;然后通过特征编码器对融合后的数据进行编码,获得中间特征;最后将中间特征与PM2.5浓度的历史信息融合,并通过特征解码器获取预测值。对北京地区的PM2.5浓度进行了预测。结果表明,相比前向型神经网络、长短期记忆神经网络、门控循环单元模型和滑动平均模型,TDA-RNN模型预测精度更高;在抗干扰测试中,当输入数据存在无关因素时,TDA RNN模型的预测精度出现轻微下降,但仍高于其他模型。该二向注意力循环神经网络特征提取能力强,预测精度高,同时可适用于其他场景的多变量时间序列预测。     

基于朴素贝叶斯降噪的协同过滤算法

协同过滤作为推荐系统中应用最为广泛的推荐算法,在如今信息时代的个性化推荐中占据了重要的地位。但是用来进行协同过滤推荐的初始评分数据集中,蕴含着大量的垃圾评分和无效信息。这些噪音数据始终影响着推荐结果的准确性。为了解决垃圾评分带来的推荐误差问题,提出用朴素贝叶斯算法来对数据集中的垃圾评分和无效信息进行数据降噪处理。朴素贝叶斯算法通过构建贝叶斯分类器的训练模型来计算待分类评论为垃圾评论的概率,和为正常评论的概率,并加以比较,来判断是否为垃圾评论。使用除去垃圾评论干扰的数据集进行基于项目的协同过滤推荐。实验结果证明这种方法能有效地满足不同用户、不同偏好的个性化推荐,同时具有更高的推荐精准度。     

基于贝叶斯优化注意力机制LSTNet模型的短期电力负荷预测

为更充分挖掘多元负荷序列间的有效信息,从而提高预测精度,提出了一种集成贝叶斯超参数优化算法、注意力机制的长期和短期时间序列网络（long and short-term time-series network with attention,LSTNet-attention）以及误差修正的短期负荷预测模型。首先,构建基于贝叶斯优化的LSTNet-attention模型进行初步预测,利用贝叶斯算法优化模型多个结构参数,降低人工设置参数的随机性,并通过注意力机制合理分配特征权重;然后,通过基于贝叶斯参数优化的极端梯度提升算法(extreme gradient boosting,XGBoost)误差修正模型来挖掘初步预测误差序列中潜在、未被利用的有效信息,进行误差预测和修正,进而得到最终的预测结果。通过使用澳大利亚某地真实负荷数据进行实证分析,实验结果表明,所提预测模型相较于其它模型具有更好的预测效果,可为负荷预测等工作提供一定参考。     

结合双向LSTM和注意力机制的车辆轨迹预测

为提升智能交通、自动驾驶等系统的管理和服务质量,提出一种双向长短期记忆网络结合注意力机制的车辆轨迹预测模型。采用道格拉斯-普克压缩算法对轨迹数据进行压缩预处理,减少数据中的冗余;在编码器中使用双向长短期记忆网络充分捕获时间相关性特征,并采用自注意力机制获得与邻近车辆之间的全局空间相关性特征;通过解码器的全连接层获取车辆的未来位置,并通过模型迭代获得完整的预测轨迹路线。实验结果表明,提出的模型预测性能优于对比模型。此外,消融实验结果表明,引入轨迹压缩算法与改进的长短期记忆网络结合注意力机制对预测准确度均有积极贡献。     

融合隐式信任与属性偏好的群组推荐算法

随着互联网和推荐系统的不断发展，推荐服务的对象由单一用户扩展为群组成员，获取并融合组内成员的偏好、提升群组推荐效果成为当前推荐领域研究的热点问题.利用用户提供的多属性评分矩阵，提出一种融合隐式信任与属性偏好的群组推荐算法.首先，基于用户共同评分项目数和多属性评分相似度计算用户间的直接隐式信任，并利用信任传递机制获取用户间的间接信任，降低数据稀疏性.然后，通过计算用户各属性评分与总体评分间的距离来挖掘用户的属性偏好，在此基础上，利用注意力机制学习组内用户权重，将用户偏好聚合为群组偏好，进而结合深度学习框架对候选项目进行预测，生成最终的推荐列表.最后，四个数据集上的实验验证了提出的算法的有效性和可行性，实验结果表明，该算法的准确率、nDCG等评价指标明显优于对比算法.     

基于张量特征-GRU和多头自注意力机制的水质预测模型方法

针对现有水质预测模型对水质监测指标间存在数据特征利用不足,导致预测精度不高的问题,本文提出了一种基于张量分解融合门控神经网络(gate recurrent unit, GRU)和多头自注意力机制(Multi Head Self-Attention)的多指标水质预测模型(TGMHA)。该模型通过标准延迟嵌入变换(Standard delay embedding transform, SDT)将时序水质指标数据转换为张量数据,利用Tucker张量分解提取数据特征,然后结合多头自注意力机制挖掘多种水质指标数据特征之间的潜在关系,最后采用GRU模型实现多指标水质预测。对比实验证明了该模型预测相比传统GRU水质预测模型,得到的均方根误差(RMSE)、平均绝对误差(MAE)、平均绝对百分比误差(MAPE)和决定系数(R²)四个指标有5-10%的提升,有效提升了水质预测的精度,具有较好的鲁棒性,为水质预测和环境监测管理提供了科学决策依据。     

面向本地和外地用户情感分析推荐模型

针对地理标签和评论信息的情感倾向对于推荐系统性能的影响,本文基于地理标签和用户评论情感分析提出有关兴趣点的推荐策略,并建立了一种基于内容的推荐模型.本系统首先对用户兴趣点信息进行有效的补充,并实现了用户兴趣点相似度度量.对无标签评论数据进行情感分析及挖掘,获取其情感倾向度.同时本系统结合了时间滑动窗口,更准确地把握用户...