基于特征金字塔卷积循环神经网络的故障诊断方法

变工况、变载荷设备部件不同故障的特征在信号中所占比例和位置不固定,且包括大量不同场景下的原始振动信号的多尺度复杂性.对此,提出一种基于特征金字塔网络(FPN)的卷积循环神经网络(CRNN)滚动轴承故障诊断方法.利用卷积神经网络(CNN)框架,并联CNN的卷积层和循环神经网络(RNN)中的长短时记忆(LSTM)层,形成新的CRNN,以充分利用CNN对空间域信息和RNN对时域信息的学习能力;在每一层中权值共享,减少网络参数;利用FPN构建全新特征图,输入一维信号和堆叠后形成的二维信号,对传感器采集的信号进行特征提取,实现故障诊断.利用行星齿轮箱进行故障试验,并进行5折交叉验证,该方法的诊断准确率平均值为99.20%,比基本神经网络模型至少高3.62%,表明该方法诊断精度高、鲁棒性强;利用凯斯西储大学轴承数据集进行验证,证明该方法具有良好的泛用性;利用t-SNE方法对模型的特征学习效果进行可视化分析,结果表明不同故障类别特征具有良好的聚类效果.     

基于改进LSTM神经网络的化工过程故障诊断

针对现代化工过程中数据非线性、高维度以及动态时序等特点,传统的故障诊断模型对化工过程的故障诊断精度较低.基于此,设计了一种基于改进的长短时记忆神经网络(LSTM)故障诊断方法.首先,将采集的故障数据输入卷积神经网络(CNN),对数据进行特征提取和降维;其次,将处理过的数据输入改进的LSTM网络,进行深层特征提取;最后,把提取的深层特征信息输入到注意力机制进行特征“聚焦”,实现特征融合后输入softmax分类器实现故障分类.由田纳西-伊斯曼(TE)过程诊断实验结果表明,基于改进的LSTM网络的故障诊断方法在故障分类精度、训练速度方面都更优于递归神经网络(RNN)、门控循环神经网络(GRU)、卷积神经网络(CNN)和深度自编码网络(DAEN),在实际化工过程的应用有一定的优势.     

基于深度学习的轨道不平顺估计车体横向加速度研究

针对轨道不平顺影响行车安全和乘坐舒适性的问题,开展轨道不平顺和车体振动响应之间关联关系的研究.根据轨道不平顺与车体横向加速度数据之间的时空传递特性,基于卷积神经网络（Convolutional Neural Network, CNN）与长短期记忆网络（Long Short-Term Memory, LSTM）,建立一种CNN-LSTM组合模型.首先,对轨道不平顺与车体横向加速度之间的相干性进行分析,同时探究列车运行速度对车体横向加速度的影响,进而确定模型的输入数据;然后,对模型进行优化,确定CNN-LSTM组合模型参数细节;最后,利用CNN-LSTM组合模型、LSTM模型和多体动力学仿真模型对车体横向加速度进行估计,并与实测的车体横向加速度进行对比分析.研究结果表明：CNN-LSTM组合模型预测的平均均方根误差值为0.046,相比于LSTM模型、多体动力学仿真模型的平均均方根误差值分别减少了0.006和0.026,说明了CNN-LSTM组合模型能够对车体横向加速度进行有效估计.     

水下目标工频磁场扰动信号检测方法研究

为了解决水下目标磁场近程化探测中磁信号衰减快、干扰强及扰动特征不明确、无法有效探测信号等问题,提出了一种基于混合神经网络与注意力机制(Att-CNN-GRU)的工频磁场水下目标时间序列扰动信号检测方法。将CNN,GRU神经网络与Attention机制相结合拟合信号,构建分类神经网络,对目标信号进行分类识别,同时与未引入注意力机制的CNN-LSTM模型及单一CNN和LSTM网络模型的预测及检测性能进行比较。结果表明,相较于传统方法,信号拟合效果将误差分别减小了36.24%,14.44%和4.878%,目标检测准确率达到83.3%。因此,加入Attention机制的CNN-GRU模型检测性能比CNN,LSTM和CNN-GRU模型更优异,作为辅助手段,能有效解决工频磁场探测中扰动信号微弱、扰动规律不明确、背景噪声多等问题,实现对水下目标造成的工频磁场扰动信号的拟合与检测。     

基于CNN-LSTM-lightGBM组合的超短期风电功率预测方法

近年来,风电装机规模逐年增加,风电数据采集量呈现规模化增长,面对海量多维、强波动的风电数据,风电功率预测精度仍面临一定的挑战。为提高风电功率预测精度,提出了基于卷积神经网络(convolutional neural networks, CNN)-长短期记忆网络(long short-term memory, LSTM)和梯度提升学习(light gradient boosting machine, lightGBM)组合的超短期风电功率预测方法。首先,分别建立CNN-LSTM和lightGBM的风电功率超短期预测模型。其中,CNN-LSTM模型采用CNN对风电数据集进行特征处理,并将其作为LSTM模型的数据输入,从而建立CNN-LSTM融合的预测模型;然后,采用误差倒数法对CNN-LSTM和lightGBM的预测数据进行加权组合,建立CNN-LSTM-lightGBM组合的预测模型;最后,采用张北曹碾沟风电场的风电数据集,以未来4 h风电功率为预测目标,验证了组合模型的有效性。预测结果表明：相较于其他3种单一模型,组合模型具有更高的预测精度。     

基于深度学习的含未知复合故障多传感器信号故障诊断

深度学习在故障诊断领域的应用已比较成熟,其中卷积神经网络（CNN,convolution neural networks）和长短时记忆网络（LSTM,long short-term memory networks）就是典型模型之一。CNN作为一种常用的多传感器信号故障诊断方法,能够获得较好的诊断效果,却无法实现未知复合故障的诊断,为解决这个问题,提出CNN-LSTM-FCM （fuzzy C-means）模型。LSTM对具有前后联系的时间信号更敏感,利用这个特点将LSTM与CNN相结合,实现未知信号的诊断,并通过概率分类输出实现了复合故障的解耦,CNN-LSTM-FCM模型本身优化参数设计,进一步提高了诊断精度。使用化学过程故障测量数据进行实验,结果表明CNN-LSTM-FCM模型诊断准确率可达到97.15%,优于CNN模型和LSTM模型,具有较高的应用价值。     

一维卷积神经网络在往复式压缩机气阀故障诊断中的应用

针对往复式压缩机气阀故障诊断问题，对气阀盖上的振动信号进行分析，提出了一种基于一维卷积神经网络(1D-CNN)的故障诊断模型。首先，将原始一维振动信号经傅里叶变换从时域转换为频域；然后，将频域信号作为1D-CNN的输入，利用卷积层实现自适应提取特征；最后，网络输出层利用Softmax函数实现多种故障的模式识别。在往复式压缩机故障模拟实验台上进行了气阀正常、阀片裂纹、阀片断裂、弹簧失效4种工作状况下气阀盖振动信号的测量并对提出的模型进行验证。结果表明，气阀盖上的振动信号能够明显反映气阀的工作状态，而且信号易提取、十分适合用于气阀的故障诊断；将振动信号从时域转换成频域作为1D-CNN的输入明显地提高了故障分类的准确率；与采用原始一维振动信号作为1D-CNN输入的模型相比，采用频域信号作为输入的故障诊断模型具有更优越的表现，准确率更高，可达100%,而且模型结构简单，能够实现端到端的快速故障诊断。     

基于时空特征组合模型的转辙机故障诊断

为解决转辙机故障诊断领域中存在的单一特征信息提取不足、单一诊断方法难以避免因方法局限性造成的分类误差,同时其存在一定程度的过拟合,以及泛化能力、鲁棒性不足的问题,提出了一种基于时空特征组合模型的故障诊断方法。首先,在ZYJ7电液转辙机的8种故障模式和正常模式所对应的油压曲线上提取时频域小波系数作为原始数据集,采用核主成分分析（KPCA）和长短期记忆网络（LSTM）提取其空间、时间特征,之后基于add思想构建时空特征集。其次,对卷积神经网络（CNN）、LSTM两分类器关键参数寻优后分别进行故障诊断,得到各个故障类型的概率值和误差系数。最后,利用误差倒数法对两分类器各个故障类型的概率值赋予权重,得到最终输出结果。仿真结果表明：CNN-LSTM组合模型诊断准确率达98.14%,较单一多层感知机（MLP）、CNN、LSTM模型准确率分别提升7.40%、5.55%、1.85%。可见此方法有效提高了转辙机诊断准确率,为集成学习模型在转辙机故障诊断领域的应用提供了一种思路。     

基于卷积神经网络的轴承故障诊断研究

针对复杂工况下的采煤机摇臂轴承故障诊断,以经典AlexNet为基础,为适应一维时域信号,采用滑窗法,以滑窗长度150 ms,移动步长120 ms构建样本,建立一种由池化层和多级交替卷积层组成的轴承故障诊断模型1CNN,可完成原始输入信号特征的自适应提取,并通过全连接层分类识别轴承故障.为验证1CNN模型故障诊断率,利用...     

采用递归图编码技术与残差网络的滚动轴承故障诊断

针对传统故障诊断方法未充分挖掘故障信号的时间序列间关联性特征的问题,将递归图编码技术引入故障诊断领域,提出了递归图编码技术与残差网络的滚动轴承故障诊断模型。采用递归图编码方式将振动信号转换为增强信号特征的二维纹理图像;将这些特征图像输入残差网络中,结合残差网络对二维图像数据优秀的自适应特征提取能力,对滚动轴承进行故障诊断。使用凯斯西储大学轴承数据集和某局机务段采集的真实机车轴承数据进行试验验证,结果表明：所提模型对轴承故障诊断的识别准确率为99.99%和99.83%;在输入不同的数据长度和变工况的试验中,所提模型均保持了良好的故障诊断效果;对比其他常见的故障诊断方法,所提模型拥有更好的泛化性能和识别准确率。     

多深度学习模型决策融合的齿轮箱故障诊断分类方法

针对齿轮故障诊断中单一传感器采集信息不完全、容错性不佳及一种神经网络模型具有局限性,传统信号处理技术提取特征困难等问题,提出了多深度学习模型决策融合的齿轮箱故障诊断分类方法,构建了基于卷积神经网络(convolutional neural networks, CNN)和改进堆叠降噪自动编码器(stacked denoising autoencoders, SDAE)的混合网络模型,根据改进的Dempster-Shafer(D-S)证据理论实现决策级融合诊断。以时频信号作为CNN的输入,以频域信号作为SDAE的输入,采用Adam优化算法和dropout、批量归一化技术训练该混合模型。实验结果表明：利用该融合方法对齿轮进行故障诊断相比单个的网络模型CNN和SDAE诊断正确率有所提高,为齿轮故障智能诊断分类提供了新路径。     

基于注意力机制BiLSTM的设备智能故障诊断方法

状态监测与故障诊断是保证机械设备安全稳定运行的必要手段.本文提出一种基于注意力机制双向LSTM网络(ABiLSTM)的深度学习框架用于机械设备智能故障诊断.首先,将传感器采集的设备原始数据进行预处理,并划分为训练样本集与测试样本集;其次,训练多个不同尺度的双向LSTM网络对原始时域信号进行特征提取,得到设备故障多尺度特征;再次,通过引入注意力机制,对不同双向LSTM网络提取特征的权重参数进行优化,筛选保留目标特征,滤除冗杂特征,以实现精准提取有效故障特征;最后,在输出端利用Softmax分类器输出故障分类结果.通过利用发动机气缸振动实验数据和凯斯西储大学滚动轴承实验数据进行故障诊断实验,故障识别准确率均达到99%以上.实验结果表明,ABiLSTM模型可以实现对原始时域信号的多尺度特征提取和故障诊断,通过与深度卷积网络(CNN)、深度去噪自编码器(DAE)和支持向量机(SVM)等方法进行对比,ABiLSTM模型的故障识别性能优于各类常见模型.另外,通过利用凯斯西储大学滚动轴承在不同工况条件下的数据,对ABiLSTM模型进行泛化性能实验,变工况样本的故障识别准确率仍然能够达到95%以上.     

基于神经网络的光伏电站气象-功率模型

基于双层前馈神经网络建立光伏电站输出功率与辐照等气象因素间的非机理模型。建立光伏电站输出功率与气象因素的神经网络模型;对功率模型的输入特征进行选择,分析不同气象因素的组合作为输入变量对模型准确度的影响,明确功率模型的输入变量;分析该模型网络的训练算法、隐含层神经元个数及训练次数对模型准确度的影响,据此确定功率模型的最优结构与参数;基于光伏电站的实际数据对功率模型进行验证。结果表明,基于双层前馈神经网络的光伏电站气象-功率模型具有较高的准确度。     

基于Attention机制的CNN-LSTM驾驶人意图识别方法研究

在自动驾驶系统中，系统需要准确识别驾驶人的意图，来帮助驾驶人在复杂的交通场景中安全驾驶。针对目前驾驶人意图识别准确率低，没有考虑优化特征对模型准确率影响的问题，运用深度学习知识，提出了一种基于时间序列模型的驾驶人意图识别方法。该方法基于Attention机制融合了卷积神经网络(convolutional neural networks, CNN)和长短时记忆网络(long short-term memory network,LSTM),引入车辆自身信息和环境信息作为时空输入来捕捉周围车辆的空间交互和时间演化。该方法可同时预测目标车辆驾驶人横向驾驶意图和纵向驾驶意图，并在实际道路数据集NGSIM(next generation simulation)上进行了训练和验证。实验结果表明，所提出的CNN-LSTM-Attention模型能够准确预测高速公路环境下驾驶人的驾驶意图，与LSTM模型和CNN-LSTM模型相比具有明显的优势，为自动驾驶系统的安全运行提供了有效保障。     

融合GAN与深度神经网络的混合信用评估方法

随着信用卡和个人贷款业务在金融业的快速增长,如何在信息有限的情况下检测潜在违约或坏账业务已经变得极其重要。信用评分领域面临的主要困难是样本不平衡以及分类器性能不佳,为此本研究首先提出了一种基于表格数据的生成对抗网络Tab-GAN,从原始数据中生成足够的违约样本;随后设计了一种基于CNN-LSTM的混合深度学习模型用于特征提取,该模型包含卷积神经网络(Convolutional Neural Networks,CNN)和长短期记忆神经网络(Long Short-Term Memory,LSTM)两个子模型,分别从用户数据中提取静态局部特征和动态时间特征,并加入时空注意力模块对模型的输出进行重要度计算,从而抽取更关键的信息;最后在分类器层面引入焦点损失函数改进轻量级梯度提升机(Light Gradient Boosting Machine,LightGBM)分类器,实现违约风险的概率输出。在两个真实世界数据集中验证风险预测模型,实验结果表明生成对抗网络可以有效解决样本不平衡问题,CNN-LSTM+LightGBM模型在各项分类评价指标上均优于信用评分领域的其他先进算法,证明了该模型在信用评分领域的有效性和可移植性。     

基于CNN-LSTM的脑电情感四分类研究

为深入研究脑电信号时空特征之间的关联,解决因手动提取特征导致的脑电情感识别准确率较低问题。将卷积神经网络（Convolutional neural network, CNN）和长短时记忆网络（Long short- term memory, LSTM）相结合,构造出了CNN-LSTM模型。首先,提取了5个频段的5个不同特征：功率谱密度(PSD)、差分熵(DE)、差分不对称(DASM)、理性不对称(RASM)和差分熵差分(DCAU)。其次,将特征输入CNN-LSTM模型,在DEAP数据集中的效价和唤醒两种情感维度上展开四分类实验。最后,将堆栈自编密码器(SAE),卷积稀疏自编码器(CSAE),深度置信网络(DBN)分别与LSTM组合,构造SAE-LSTM,CSAE-LSTM,DBN-LSTM三种混合模型同CNN-LSTM进行分类准确率比较。实验结果表明,DE特征的分类识别效果在五种特征中占最优,β和γ频段上所有特征的识别准确率远高于其他频段,尤其是γ频段。CNN-LSTM模型获得了最高的平均分类准确率92.48%,充分证明了CNN-LSTM模型的有效性。     

基于多源信息融合和ADCNN的离心鼓风机故障诊断

针对离心鼓风机故障识别过程中单一传感器信号故障信息有限,传统的卷积神经网络(CNN)在处理多源高维数据时特征提取能力不足的问题,提出一种基于多源信息融合和自适应深度卷积神经网络(ADCNN)的离心鼓风机故障诊断方法。首先,基于相关性方差贡献率法实现离心鼓风机多源同类信息的数据层融合,建立多源信息融合框架;然后,利用ADCNN自适应地提取各异类信息的特征并完成特征融合,建立融合多源信息的ADCNN故障诊断模型;最后,将此方法应用于离心鼓风机转子故障诊断上,并与传统的融合模式以及CNN、反向传播神经网络(BPNN)、支持向量机(SVM)方法进行对比,试验结果表明:提出的方法在诊断精度与鲁棒性上均优于其他方法。     

基于小波包与CNN的滚动轴承故障诊断

滚动轴承的振动信号具有较强的非平稳性,小波包(Wavelet Packet,WP)时频分析方法能有效提取非平稳信号的时频特征,具有精细的时频分辨率。而卷积神经网络(Convolutional Neural Network,CNN)强大的特征学习能力使其具有优于浅层网络的故障识别率。为了更准确地诊断出滚动轴承的运行状态,提出一种基于小波包与CNN相结合的滚动轴承故障诊断方法:对采集的轴承振动信号进行小波包时频分析,得到各类信号的时频特征图,采用fine-tuning技术在CNN模型caffe Net上进行微调,解决少量样本训练CNN模型的问题,最终得到了可用于滚动轴承故障诊断的CNN模型。采用小波包与CNN相结合进行故障诊断,故障识别率达到了99.1%,高于连续小波变换(CWT)和短时傅里叶变换(STFT)与CNN相结合的故障识别率。而采用主成分分析(PCA)与支持向量机(SVM)相结合的故障识别率最低,且对复合故障的识别效果明显不足。     

基于CNN的棉田杂草识别方法

针对杂草的精确喷洒问题提出一种基于卷积神经网络(Convolution Neural Network, CNN)的棉花植株和杂草的检测识别方法。首先采集不同环境下棉田中棉花植株和不同种类的杂草图像作为网络模型的数据集，对数据集进行数据增强来增加数据集的数量，将其分为训练集与测试集；然后构建CNN模型，在模型中添加Dropout层，以防止网络出现过拟合，将训练集数据输入网络模型，使模型学习棉花植株和杂草的特征信息；最后将测试集数据输入CNN模型，测试CNN模型对棉花植株和杂草的识别能力。研究结果表明CNN对于棉花植株和杂草的分类结果精度超过了99.95%,识别时间为197.2s,证明CNN可以快速高效的识别棉田中棉花植株和杂草，为农业智能精确除草装备的研发提供研究基础。     

融合注意力机制的煤层气产量动态预测

为了提升煤层气产量的预测精度,提出融合注意力(Attention)机制并结合卷积神经网络（convolutional neural networks,CNN）和长短期记忆神经网络（long short term memory,LSTM)的煤层气产量动态预测模型。利用随机森林变量筛选方法,确定井底流压、动液面高度、套压、冲次为排采过程中影响煤层气产量的主控因素;利用CNN信息提取优势,提取煤层气排采数据的特征向量,并将特征向量作为LSTM网络的输入;再将LSTM隐含层融合注意力机制提取重要信息权重,有效解决信息长期依赖性和信息丢失。实验结果表明：融合注意力机制的CNN-LSTM煤层气产量动态预测模型各方面均表现较优。具体表现为：1. 模型预测性能较好,利用不同模型对比预测,改进后的煤层气产量预测模型精度最高,比标准的LSTM预测精度提升了3%~4%;2. 泛化性能较优,预测同一区块不同生产天数的6口煤层气井产量时,预测60天日产气量的平均相对误差均小于5%,预测200天日产气量的平均相对误差均小于8%。