基于稀疏自编码神经网络的抽油机井故障诊断

针对传统示功图识别方法对抽油机井进行故障诊断存在人工选取示功图几何特征,识别准确度低等问题,提出一种基于稀疏自编码神经网络的示功图智能识别模型。采用无监督学习方式的稀疏自编码器构建特征学习网络自动提取无标签示功图训练集图像特征,然后采用有标签示功图训练集对softmax分类器进行有监督训练,最后通过稀疏自编码神经网络对学习到的有标签示功图测试集特征进行分类并给出故障诊断结果。结果表明,将稀疏自编码神经网络应用于示功图识别,测试准确度能够达到99.44%,优于其它分类模型。稀疏自编码神经网络直接从像素层面提取所需要的特征,不需要人为选定设计特征,为提高示功图识别准确度提供了帮助,进而解决了抽油机井故障难以准确诊断的难题。     

基于堆栈稀疏自编码器和微动特征的身份认证技术

从人体目标雷达回波数据中提取可分性较好的微动特征是实现目标分类的关键。针对传统谱图结构特征无法对体型相似的人体目标精细识别,提出了基于堆栈稀疏自编码器的人体身份认证方法。首先构造堆栈稀疏自编码器网络,利用人体微动数据进行无监督预训练,在不同层提取人体微动特征,然后将得到的特征输入softmax分类器进行有监督训练,用交叉验证调整网络参数,最后用训练好的网络进行人体目标分类。在不同人走路实测数据集上,3人平均识别率达到了83%,优于提取谱图结构特征分类的方法。     

基于去噪自编码器的镜像极限学习机设计

针对极限学习机在高维度、含噪声数据集中需要大量隐含层节点来保证分类性能的问题,设计了镜像极限学习机.该算法使用伪逆法确定输入权值,随机生成输出权值和偏置,在对数据进行分类时,它仅需极少的隐含层节点.为了提升镜像极限学习机的分类性能和抗噪性,将它与去噪自编码器相结合.利用去噪自编码器对输入数据进行特征提取,并将提取到的特征作为镜像极限学习机的输入数据,再进行网络训练.在无噪和含噪声的MNIST,Fashion MNIST,Rectangles和Convex数据集中,将基于去噪自编码器的镜像极限学习机与ELM,PCA-ELM,SAA-2和DAE-ELM作对比实验,结果表明,基于去噪自编码器的镜像极限学习机的综合性能最优,用于分类的网络隐含层节点数最少.     

基于去噪自编码器的镜像极限学习机设计

针对极限学习机在高维度、含噪声数据集中需要大量隐含层节点来保证分类性能的问题，设计了镜像极限学习机.该算法使用伪逆法确定输入权值，随机生成输出权值和偏置，在对数据进行分类时，它仅需极少的隐含层节点.为了提升镜像极限学习机的分类性能和抗噪性，将它与去噪自编码器相结合.利用去噪自编码器对输入数据进行特征提取，并将提取到的特征作为镜像极限学习机的输入数据，再进行网络训练.在无噪和含噪声的MNIST，Fashion MNIST，Rectangles和Convex数据集中，将基于去噪自编码器的镜像极限学习机与ELM，PCA-ELM，SAA-2和DAE-ELM作对比实验，结果表明，基于去噪自编码器的镜像极限学习机的综合性能最优，用于分类的网络隐含层节点数最少.     

一种基于深度融合模型的滚动轴承故障诊断方法

针对噪声环境下滚动轴承故障难以诊断的问题,提出一种基于深度学习融合网络的轴承故障识别新方法。该方法首先对轴承振动信号进行一定程度的随机损坏,并将加噪后的数据输入卷积降噪自编码器(convolutional denoising autoencoder, CDAE)中对网络进行训练,目的是降低信号中的噪声干扰并提取浅层特征;然后,利用深度信念网络(deep belief network, DBN)学习深层特征并建立轴承状态识别模型,输出故障识别结果。在融合模型中,将卷积降噪自编码器作为网络的第一层以增强网络的抗干扰能力,提高故障的识别精度。使用凯斯西储大学(CWRU)滚动轴承数据对所提模型进行验证,结果表明提出的融合模型在噪声环境下能够较好地实现轴承的故障状态识别。     

一种基于深度融合模型的滚动轴承故障诊断方法

针对噪声环境下滚动轴承故障难以诊断的问题,提出一种基于深度学习融合网络的轴承故障识别新方法。该方法首先对轴承振动信号进行一定程度的随机损坏,并将加噪后的数据输入卷积降噪自编码器(convolutional denoising autoencoder,CDAE)中对网络进行训练,目的是降低信号中的噪声干扰并提取浅层特征;然后,利用深度信念网络(deep belief network,DBN)学习深层特征并建立轴承状态识别模型,输出故障识别结果。在融合模型中,将卷积降噪自编码器作为网络的第一层以增强网络的抗干扰能力,提高故障的识别精度。使用凯斯西储大学(CWRU)滚动轴承数据对所提模型进行验证,结果表明提出的融合模型在噪声环境下能够较好地实现轴承的故障状态识别。     

基于堆叠自动编码器的网络行为识别

网络行为识别一直是网络安全中的研究热点,随着网络中数据量的海量增大以及数据的非线性等问题的影响,对于网络行为识别的特征提取和识别技术提出更高的要求。文章提出了一种基于堆叠自动编码器的网络行为识别方法,该方法通过构建堆叠自动编码器和SOFTMAX分类器的深度学习框架,结合无监督的预训练和有监督的全局微调,优化堆叠自动编码器的特征提取性能,实现了网络行为特征的深度提取,从而对高校流量数据中上网行为进行分析识别。     

基于改进堆叠降噪自编码器的连铸机扇形段故障特征提取

为了提取连铸机扇形段在正常浇铸状态下的故障特征,设计一种利用鲸鱼优化算法(WOA)改进的堆叠降噪自编码器(SDAE)网络模型,命名为WOA-SDAE,并应用于扇形段拉矫力信号特征学习和故障分类。首先,从完整的浇铸周期中获取正常浇铸状态下的数据,对低频的拉矫力信号进行时域特征提取,将一维拉矫力信号转换为多维时域特征信号,并建立评价体系以寻找最优时域参数;其次,运用堆叠降噪自编码器与softmax分类器组成网络模型对故障信号进行分类,采用鲸鱼优化算法确定SDAE模型中隐含层层数与节点数。通过实际生产过程中的连铸机扇形段拉矫力信号来验证所提方法的可行性。试验结果表明,WOA-SDAE可有效提取扇形段的故障特征,在测试集上的识别准确率达到92.23%。     

基于流形正则的堆叠胶囊自编码器优化算法

针对堆叠胶囊自编码器存在检测性能慢、不能更好挖掘图像局部特征的问题，本文提出基于流形正则的堆叠胶囊自编码器优化算法。采用Scharr滤波器对堆叠胶囊自编码器模型中的图像进行重建，加强图像目标检测的精度，并在损失函数中引入流形正则项，从而加强对原始数据空间局部特征的提取，最终使用基于流形正则的堆叠胶囊自编码器学习参数，选择出更加具有区别性的特征。在MNIST和Fashion MNIST数据集上的实验结果显示，该优化算法相比于原网络结构，图像分类准确率分别提高了0.26和9.23个百分点，且模型训练速度也得到较大提高。     

基于深度学习的离心泵空化状态识别

空化状态识别是离心泵状态监测的难点之一,为了提高空化状态识别的效果,提出了一种基于深度学习的离心泵空化状态识别方法。首先,采集了在3种工况下泵壳的振动信号,分别构建了振动信号的改进倍频带特征矩阵和时频特征矩阵;然后,基于自动编码器构建了深度学习网络,通过无监督训练自动学习输入数据的特征,利用监督训练对网络的参数进行了调整;最后,运用深度学习网络,对离心泵的4类空化状态进行了分类识别。研究表明,无论是基于改进倍频带特征矩阵还是基于时频特征矩阵,深度学习网络对4类空化状态都有很好的识别效果,尤其是对于弱空化状态,深度学习网络比BP神经网络更有效。     

卷积神经网络在锚杆锚固类型识别中的应用

为了解决手工特征提取方法依赖广泛的专业知识和先验知识,难以挖掘新特征而影响识别结果的问题,将一维卷积神经网络应用于锚杆锚固系统类型识别,以实现端到端的分类过程;为了避免随机初始化卷积核会造成网络在训练时收敛速度慢、易陷入局部最优等问题,利用稀疏自编码器对网络的卷积核进行预训练,并利用实验锚杆锚固数据对稀疏自编码器一维卷积神经网络模型、传统一维卷积神经网络模型和反向传播神经网络模型进行测试。结果表明:一维卷积神经网络可应用于锚杆锚固系统类型识别,实现端到端的分类过程;在锚杆锚固系统类型识别中,稀疏自编码器一维卷积神经网络模型的准确率高于传统一维卷积神经网络模型和反向传播神经网络模型的准确率,识别率可达98.57%。     

基于注意力机制BiLSTM的设备智能故障诊断方法

状态监测与故障诊断是保证机械设备安全稳定运行的必要手段.本文提出一种基于注意力机制双向LSTM网络(ABiLSTM)的深度学习框架用于机械设备智能故障诊断.首先,将传感器采集的设备原始数据进行预处理,并划分为训练样本集与测试样本集;其次,训练多个不同尺度的双向LSTM网络对原始时域信号进行特征提取,得到设备故障多尺度特征;再次,通过引入注意力机制,对不同双向LSTM网络提取特征的权重参数进行优化,筛选保留目标特征,滤除冗杂特征,以实现精准提取有效故障特征;最后,在输出端利用Softmax分类器输出故障分类结果.通过利用发动机气缸振动实验数据和凯斯西储大学滚动轴承实验数据进行故障诊断实验,故障识别准确率均达到99%以上.实验结果表明,ABiLSTM模型可以实现对原始时域信号的多尺度特征提取和故障诊断,通过与深度卷积网络(CNN)、深度去噪自编码器(DAE)和支持向量机(SVM)等方法进行对比,ABiLSTM模型的故障识别性能优于各类常见模型.另外,通过利用凯斯西储大学滚动轴承在不同工况条件下的数据,对ABiLSTM模型进行泛化性能实验,变工况样本的故障识别准确率仍然能够达到95%以上.     

基于自适应指数蝙蝠和SAE的并行大数据分类

为解决深度学习进行大数据分类时效率低的问题，本文提出一种基于自适应指数蝙蝠和堆叠自编码器(SAE)的并行大数据分类方法.在并行计算框架中，Map阶段使用自适应指数蝙蝠算法进行特征选择，自适应指数加权移动平均值蝙蝠算法(AEB)由指数加权移动平均值(EWMA)和自适应权重策略得到.将选择的特征作为Reduce输入进行大数据分类，Reduce阶段使用AEB算法训练的深度堆叠自动编码器(SAE)进行分类，进一步提高了分类精度.实验结果表明，针对不同的训练数据百分比，本文所提方法在准确度和真正例率(TPR)性能方面优于其他现有方法.     

基于对比自监督的遥感图像场景分类

基于视觉Transformer的自监督模型掩码自编码器因其优秀的全局特征捕捉能力，被广泛应用于遥感图像分类领域。但该模型存在图像重建训练时局部上下文语义信息易丢失从而限制其分类精度的进一步提升。针对以上问题，本文提出了融合掩码重建和对比学习的三阶段自监督遥感图像分类新模型——对比掩码自编码器。第一阶段进行掩码重建预训练，以提取遥感图像全局特征；第二阶段则通过对比学习中的正负样本补充第一阶段掩码建模过程中丢失的局部上下文信息；最后通过训练线性分类器完成特征分类。在公开遥感图像数据集AID和NWPU-RESISC45上将本文方法与主流自监督分类方法、监督分类方法进行对比实验。实验结果表明，该模型在两个数据集上分类精度分别达到95.37%和95.14%,性能优于DINO、MoCo、SSGANs等主流自监督模型，接近GLANet、CANet、MG-CAP (Sqrt-E)等主流监督模型，具有良好的应用价值。     

基于变分自编码器的情感回归半监督领域适应方法

提出一个新的情感回归半监督领域适应方法.首先使用长短期记忆网络(long short-term memory,LSTM)实现回归模型,其次使用变分自编码器(variational autoencoder,VAE)实现生成模型,最后联合学习LSTM回归模型和VAE生成模型,实现基于变分自编码器的情感回归半监督领域适应模型.实验结果表明,所提出的基于变分自编码器的情感回归半监督领域适应方法较其他基准方法能有效提高实验性能.     

基于混合自编码器的脑力负荷识别

为了消除多通道近红外光谱信号中存在的冗余信息并提取抽象特征，构建了基于混合自编码器的脑力负荷识别模型。首先，将原始信号送入栈式自编码器中进行通道降维；然后使用卷积自编码器对降维后的信号进行无监督学习从而提取抽象特征，并将特征依次送入支持向量机、K最近邻、随机森林这3种基分类器中进行建模；最后，用软、硬投票的集成策略来提高模型对脑力负荷识别的准确性。实验结果表明，混合自编码器具有良好的通道降维和提取抽象特征的能力，该模型在脑力负荷三分类任务中的准确率可以达到95.12%，相对于同类研究准确率有明显提升。     

基于SBN模型的Internet应用协议识别方法

针对网络流量协议标注比较困难的问题,提出一种基于贝叶斯网络的半监督学习模型,以提高Inter-net协议的识别精度.该模型首先使用少量的标注样本训练贝叶斯网络分类模型,并对未标注样本进行初始分类,然后从未标注样本中挑选分类损失最小的样本加入到训练集中并重复训练分类模型,经过多次循环训练出最终的分类器.该模型可以使用未标注样本和标注样本共同训练分类模型,非常适合于标注比较困难的Internet应用协议的识别.实验结果表明：在标注样本较少的情况下,该模型的识别精度和稳定性均优于朴素贝叶斯模型和贝叶斯网络模型,对于提高Internet协议的识别精度是有效的.     

基于对抗性自编码器的入侵检测算法

针对当前无监督学习的入侵检测算法准确度低、误报率高以及有监督学习算法所需训练样本标记成本高的问题,提出一种基于对抗性自编码器的入侵检测算法.这是一种半监督学习算法,仅需要训练数据集中少量标记数据进行训练,并在训练数据集中支持未标记数据,从而提高性能.首先,自编码器通过提取重要特征作为潜在变量来降低输入数据的维数;其次,利用生成对抗网络使自编码器的潜在变量遵循任意分布以进行正则化;最后,利用标记数据的交叉熵损失来实现半监督学习的分类.实验结果表明:相较于其他算法,本文所提算法对少量标记的数据集检测具有一定的优势,在实现高准确度、低误报率的同时,降低对标记数据的需求.     

采用多变量耦合网络与变分图自编码器的机械设备异常检测方法

为了全面准确地检测出潜在的设备异常,针对汽轮机、风电转子等高关联耦合分布式系统多测点多源传感器产生的多维多态监测数据,提出了一种基于多变量耦合网络与变分图自编码器的异常检测方法。首先采用去趋势互相关分析(DCCA),定量分析多维变量间的耦合关系,构建复杂系统多变量耦合关系网络。在此基础上,建立基于无监督学习的变分图自编码模型,对系统多变量耦合关系网络进行特征提取,使用正常数据训练该模型,图卷积网络作为编码器学习输入数据的分布,采样获得其潜在表示,以实现耦合网络的重构,采用重建概率作为系统多维多态监测数据异常检测评价指标。最后以某火电厂汽轮机组转子系统监测数据为例开展异常检测分析,结果表明:考虑多维多态监测数据间的耦合关系,提高了系统异常检测的准确性和可靠性;引入基于变分图自编码器的无监督学习方法,降低了经验依赖性并克服了异常样本少的问题。     

堆叠自编码网络性能优化及其在滚动轴承故障诊断中的应用

为了解决堆叠自编码网络在参数较多时的梯度弥散问题,对网络每层的编码值进行了统计分析,发现大部分分布于激活函数的饱和区,这直接导致了神经元权值梯度的消失。为此,引入了一种标准化策略,将神经元按照样本进行归一化,然后引入两个待学习参数进行缩放和平移,最后通过激活函数输出到下一级神经元。运用带标准化的堆叠自编码网络进行滚动轴承故障诊断,将振动信号的频谱输入到网络中。与普通堆叠自编码网络相比,该标准化策略可有效地使网络编码值均匀分布,如将第一层编码值的熵从0.88bit提高到了16.29bit。带标准化的堆叠自编码网络可有效提高网络的抗噪能力和训练速度:在凯斯西储大学滚动轴承数据集上,当人为添加噪声信号的信噪比为0dB时,识别正确率从16.18%提高到了100%;在实验室实测数据集上,不仅训练时间下降了37.22%,而且识别正确率从97.93%提高到了99.95%。对网络的编码值进行分析以及引入的标准化策略,可为科研技术人员构建堆叠自编码网络时提供参考,也为滚动轴承故障诊断提供了一种策略。