基于双编码器的会话型推荐模型

针对现有会话型推荐模型难以准确捕获物品间全局依赖的问题,提出了一种基于双编码器的会话型推荐模型(SR-BE)。该双编码器由基于自注意力网络的全局编码器和基于图神经网络的局部编码器组成,无论被浏览物品之间的时间间隔长还是短,全局编码器都能够利用注意力机制自适应地捕获被浏览物品之间的全局依赖,并将其编码为全局隐向量。为弥补自注意力网络没有结构信息而难以捕获邻近物品间局部依赖的不足,在局部编码器中,首先将会话序列构建成会话图,然后通过图神经网络在会话图上捕获邻近物品间的局部依赖,并将其编码为局部隐向量。最后将从双编码器得到的全局隐向量和局部隐向量线性组合为会话表示,再通过预测层解码会话表示得到每个候选物品被点击的概率。实验结果表明:将基于自注意力网络的全局编码器与基于图神经网络的局部编码器结合在一起,比单一地使用全局编码器或局部编码器在命中率上分别提高了3.11%和6.55%。通过与同类模型客观定量比较,SR-BE模型在两个公开数据集上取得了突出的效果,表明该模型有效、可行。     

基于混合自编码器的脑力负荷识别

为了消除多通道近红外光谱信号中存在的冗余信息并提取抽象特征，构建了基于混合自编码器的脑力负荷识别模型。首先，将原始信号送入栈式自编码器中进行通道降维；然后使用卷积自编码器对降维后的信号进行无监督学习从而提取抽象特征，并将特征依次送入支持向量机、K最近邻、随机森林这3种基分类器中进行建模；最后，用软、硬投票的集成策略来提高模型对脑力负荷识别的准确性。实验结果表明，混合自编码器具有良好的通道降维和提取抽象特征的能力，该模型在脑力负荷三分类任务中的准确率可以达到95.12%，相对于同类研究准确率有明显提升。     

基于记忆增强的对抗自编码器异常检测算法

深度自编码器是异常检测领域中被广泛使用的深度学习模型.记忆增强的自编码器模型(Memory-augmented Autoencoder Model,MemAE)通过记忆增强模块解决传统自编码器泛化能力过强的问题,并取得了良好的效果.针对自编码器对于训练数据的正常模式提取能力有限这个问题,通过融合对抗自编码器(Adver...     

基于条件变分自编码器的问题生成方法

将条件变分自编码器作为辅助模块,引入预训练语言模型的编码解码过程,通过数据增强(潜在的语义扩充)以提高模型的鲁棒性。通过建立陈述句与疑问句之间的高维分布联系,由分布采样实现一对多的问题生成。结果表明,融合条件变分自编码器不仅能生成多样性的问题,也有助于提升问题生成的模型性能。在基于SQuAD数据集划分的2个答案可知问题生成数据集Split1和Split2上,BLEU-4值分别被提升到20.75%和21.61%。     

基于SNGAN的黑盒恶意软件对抗样本生成方法

基于变分自编码器的协同推荐算法可以帮助解决推荐算法中的稀疏性问题，但是由于变分自编码器模型先验是单一的高斯分布，使得表达趋向简单和平均，存在拟合不足的问题.高斯混合变分自编码器模型拥有更加复杂的先验，相对于原本的变分自编码器模型，它对于非线性的任务有着更强的适应性和效果，已被广泛应用于无监督聚类和半监督学习.受此启发，本文研究基于高斯混合变分自编码器模型的协同过滤算法.本文基于Cornac推荐系统比较框架设计实验，将高斯混合变分自编码器改进后用于协同推荐任务中，利用生成模型重新生成的用户-物品矩阵进行推荐.在推理模型和生成模型中分别用一层隐藏层提取深层特征增加模型鲁棒性，并且使用提前停止的训练策略以减少过拟合.本文在多组公开数据集上进行实验，与其他推荐算法在NDCG和召回率指标上进行对比.实验证明，改进的基于高斯混合变分自编码器模型的协同过滤算法在推荐任务中表现优异.     

基于对比自监督的遥感图像场景分类

基于视觉Transformer的自监督模型掩码自编码器因其优秀的全局特征捕捉能力，被广泛应用于遥感图像分类领域。但该模型存在图像重建训练时局部上下文语义信息易丢失从而限制其分类精度的进一步提升。针对以上问题，本文提出了融合掩码重建和对比学习的三阶段自监督遥感图像分类新模型——对比掩码自编码器。第一阶段进行掩码重建预训练，以提取遥感图像全局特征；第二阶段则通过对比学习中的正负样本补充第一阶段掩码建模过程中丢失的局部上下文信息；最后通过训练线性分类器完成特征分类。在公开遥感图像数据集AID和NWPU-RESISC45上将本文方法与主流自监督分类方法、监督分类方法进行对比实验。实验结果表明，该模型在两个数据集上分类精度分别达到95.37%和95.14%,性能优于DINO、MoCo、SSGANs等主流自监督模型，接近GLANet、CANet、MG-CAP (Sqrt-E)等主流监督模型，具有良好的应用价值。     

深度自编码器用于人脸美丽吸引力预测的研究

为了挖掘人脸美丽的内在本质,本文提出了基于深度自编码器的人脸美丽吸引力预测模型:首先利用大量无标签人脸图像数据对深度自编码器进行预训练,然后结合Polak-RibierePolyak共轭梯度反向传播算法对深度自编码器的权值进行微调,从而建立深度自编码器的人脸美丽特征提取模型.最后经过支持向量机(SVM)分类器对人脸图像进行美丽预测.实验结果显示SVM分类器预测的平均识别率为77.3%,表明深度自编码器用于人脸美丽吸引力预测是有效的.     

基于变分自编码器的情感回归半监督领域适应方法

提出一个新的情感回归半监督领域适应方法.首先使用长短期记忆网络(long short-term memory,LSTM)实现回归模型,其次使用变分自编码器(variational autoencoder,VAE)实现生成模型,最后联合学习LSTM回归模型和VAE生成模型,实现基于变分自编码器的情感回归半监督领域适应模型.实验结果表明,所提出的基于变分自编码器的情感回归半监督领域适应方法较其他基准方法能有效提高实验性能.     

基于行列式点过程的变分拉普拉斯自编码器

变分自编码器(Variational Autoencoders,VAE)是一类重要的学习概率潜在变量的生成模型,然而VAE对复杂模型的表现力较差,生成的图像往往比较模糊.为了解决VAE生成图像模糊的问题,提出一种基于行列式点过程的变分拉普拉斯自编码器(Variational Laplace Autoencoders-Determinantal Point Process,VLAE-DPP)模型,将行列式点过程方法引入变分拉普拉斯自编码器模型,在原始目标函数的基础上添加一项无监督惩罚损失,以此来提高生成图像的质量.VLAE-DPP模型利用行列式点过程来捕获一个与真实数据类似的多样性,然后通过从编码器中提取特征来学习核.最后,训练解码器优化核的伪、实、特征值和特征向量之间的损失,以鼓励解码器模拟真实数据的多样性,从而生成高质量的图像.在Fashion-MNIST,SVHN,CIFAR10数据集上的实验结果表明,VLAE-DPP模型能提高生成图像的质量.     

基于LGC的lncRNA-疾病关联预测

针对现有预测模型的局限性，结合图卷积推荐算法提出一种预测lncRNA和疾病关联关系的模型LGCLDA,使用疾病相关的lncRNA、基因和miRNA信息，构建疾病综合特征。利用图进行疾病信息嵌入提取，实现对潜在与疾病相关的lncRNA的推荐。在相同数据集上采用五折交叉验证法与现有预测模型MHRWR、 SIMCLDA、 ILNCSIM进行比较，提出的模型将AUC值分别提高了15.9%、8.8%、67.0%。对乳腺癌进行了详细的案例研究，预测结果得到了最近的生物医学文献的证明，进一步表明了算法的有效性。     

一种自动求解数学应用题的双路文本编码器

近年来，得益于人工智能技术(Artificial Intelligence, AI)的快速发展，关于自动求解数学应用题(Math Word Problem, MWP)的研究越来越趋向成熟。在自动求解数学应用题任务中，对问题文本进行建模至关重要。针对这一问题，文章提出了一个基于循环神经网络(Recursive Neural Network, RNN)和Transformer编码网络的双路文本编码器(Dual Channel Text Encoder, DCTE):首先，使用循环神经网络对文本进行初步的编码；然后，利用基于自注意力(Self-attention)机制的Transformer编码网络来获得词语的远距离上下文语义信息，以增强词语和文本的语义表征。结合DCTE和GTS(Goal-Driven Tree-structured MWP Solver)解码器，得到了数学应用题求解器(DCTE-GTS模型),并在Math23k数据集上，将该模型与Graph2Tree、HMS等模型进行了对比实验；同时，为探讨编码器配置方法对模型效果的影响，进行了消融实验。对比实验结果表明：DCTE-GTS...     

无监督异常检测的深度变分自编码高斯混合模型

针对高维数据无监督异常检测难以重构异常样本,无法保留低维空间信息的问题,提出一种深度变分自编码高斯混合模型（deep variational autoencoding gaussian mixture model,DVAGMM）。该模型利用深度变分自编码器为每个输入样本生成低维数据和重构误差,并将这些数据输入高斯混合模型。为更好地学习到原始样本的低维特征,同时避免自编码器自身的局部优化问题,减少重构误差,模型采用联合优化深度变分自编码器和高斯混合模型参数的方法,并利用单独的估计网络促进混合模型的参数学习。实验结果表明,该模型在几个基准数据集上的检测准确率和效果都比其他传统模型更高,以F1值作为综合评价指标,模型的综合分数比第二名高出大约4%。     

λ≤6的旗传递6-(v,k,λ)设计

Cameron P J和Praeger C E证明了不存在单的7-(v,k,λ)设计.直到现在,所有已知的t≥6的t-(v,k,λ)设计都有λ≥4.文章考虑了旗传递6-(v,k,λ)设计,并且证明了当λ≥6时不存在非平凡旗传递6-(v,k,λ)设计     

卷积神经网络在锚杆锚固类型识别中的应用

为了解决手工特征提取方法依赖广泛的专业知识和先验知识,难以挖掘新特征而影响识别结果的问题,将一维卷积神经网络应用于锚杆锚固系统类型识别,以实现端到端的分类过程;为了避免随机初始化卷积核会造成网络在训练时收敛速度慢、易陷入局部最优等问题,利用稀疏自编码器对网络的卷积核进行预训练,并利用实验锚杆锚固数据对稀疏自编码器一维卷积神经网络模型、传统一维卷积神经网络模型和反向传播神经网络模型进行测试。结果表明:一维卷积神经网络可应用于锚杆锚固系统类型识别,实现端到端的分类过程;在锚杆锚固系统类型识别中,稀疏自编码器一维卷积神经网络模型的准确率高于传统一维卷积神经网络模型和反向传播神经网络模型的准确率,识别率可达98.57%。     

旗传递5-(v,k,2)设计

如果一个非平凡的t-设计具有一个旗传递的自同构群,那么t≤6,并且它的自同构群是[(t+1)/2]齐次本原群.因此,一个旗传递5-(v,k,2)设计的自同构群是3-齐次本原置换群.利用3-齐次本原置换群分类定理,讨论了旗传递5-(v,k,2)设计的分类问题.通过分析5-(v,k,2)设计的组合数量关系和3-齐次本原置换群的性质,部分解决了旗传递5-(v,k,2)设计的分类.证明了如果群G是一个非平凡的5-(v,k,2)设计D的旗传递自同构群,那么Soc(G)=PSL(2,q),并且q=2e或3e.     

基于流形正则的堆叠胶囊自编码器优化算法

针对堆叠胶囊自编码器存在检测性能慢、不能更好挖掘图像局部特征的问题，本文提出基于流形正则的堆叠胶囊自编码器优化算法。采用Scharr滤波器对堆叠胶囊自编码器模型中的图像进行重建，加强图像目标检测的精度，并在损失函数中引入流形正则项，从而加强对原始数据空间局部特征的提取，最终使用基于流形正则的堆叠胶囊自编码器学习参数，选择出更加具有区别性的特征。在MNIST和Fashion MNIST数据集上的实验结果显示，该优化算法相比于原网络结构，图像分类准确率分别提高了0.26和9.23个百分点，且模型训练速度也得到较大提高。     

一种基于深度融合模型的滚动轴承故障诊断方法

针对噪声环境下滚动轴承故障难以诊断的问题,提出一种基于深度学习融合网络的轴承故障识别新方法。该方法首先对轴承振动信号进行一定程度的随机损坏,并将加噪后的数据输入卷积降噪自编码器(convolutional denoising autoencoder, CDAE)中对网络进行训练,目的是降低信号中的噪声干扰并提取浅层特征;然后,利用深度信念网络(deep belief network, DBN)学习深层特征并建立轴承状态识别模型,输出故障识别结果。在融合模型中,将卷积降噪自编码器作为网络的第一层以增强网络的抗干扰能力,提高故障的识别精度。使用凯斯西储大学(CWRU)滚动轴承数据对所提模型进行验证,结果表明提出的融合模型在噪声环境下能够较好地实现轴承的故障状态识别。     

一种基于深度融合模型的滚动轴承故障诊断方法

针对噪声环境下滚动轴承故障难以诊断的问题,提出一种基于深度学习融合网络的轴承故障识别新方法。该方法首先对轴承振动信号进行一定程度的随机损坏,并将加噪后的数据输入卷积降噪自编码器(convolutional denoising autoencoder,CDAE)中对网络进行训练,目的是降低信号中的噪声干扰并提取浅层特征;然后,利用深度信念网络(deep belief network,DBN)学习深层特征并建立轴承状态识别模型,输出故障识别结果。在融合模型中,将卷积降噪自编码器作为网络的第一层以增强网络的抗干扰能力,提高故障的识别精度。使用凯斯西储大学(CWRU)滚动轴承数据对所提模型进行验证,结果表明提出的融合模型在噪声环境下能够较好地实现轴承的故障状态识别。     

基于改进堆叠降噪自编码器的连铸机扇形段故障特征提取

为了提取连铸机扇形段在正常浇铸状态下的故障特征,设计一种利用鲸鱼优化算法(WOA)改进的堆叠降噪自编码器(SDAE)网络模型,命名为WOA-SDAE,并应用于扇形段拉矫力信号特征学习和故障分类。首先,从完整的浇铸周期中获取正常浇铸状态下的数据,对低频的拉矫力信号进行时域特征提取,将一维拉矫力信号转换为多维时域特征信号,并建立评价体系以寻找最优时域参数;其次,运用堆叠降噪自编码器与softmax分类器组成网络模型对故障信号进行分类,采用鲸鱼优化算法确定SDAE模型中隐含层层数与节点数。通过实际生产过程中的连铸机扇形段拉矫力信号来验证所提方法的可行性。试验结果表明,WOA-SDAE可有效提取扇形段的故障特征,在测试集上的识别准确率达到92.23%。     

基于正弦模型的多描述分层语音编码器

提出一种多描述分层语音编码器. 该编码器基于正弦和等效矩形带宽(ERB)模型,将正弦和噪声模型参数根据能量大小进行适当分配以得到不同的描述和感知层,两个描述中任一描述内包含一个基本层和两个增强层. 该编码器结合了多描述编码(MDC)和分层编码的优点,能够提供稳定的传输质量和速率的自适应. 在有记忆和无记忆信道下对编码器性能的仿真和实验结果表明,在存在分组丢失的情况下,该编码器的性能优于相同速率下的其他编码器.