基于注意力机制和双向长短期记忆网络的电能质量扰动识别

提出一种基于深度学习的电能质量扰动信号分类新方法.该方法应用注意力机制和双向长短期记忆网络构建分类模型,并利用Matlab仿真产生训练数据集与验证数据集.考虑了7种常见的复合扰动信号,并将其作为序列数据直接输入到网络中进行训练和验证.实验结果表明,本方法能准确地识别不同的扰动信号,在验证集上模型的识别准确率可以达到99...     

基于改进的长短期记忆网络的调制识别算法

自动调制分类技术是无线通信技术中的一个重要研究领域,卷积神经网络以及长短期记忆网络(Long Short-Term Memory,LSTM)两种深度学习模型在基于特征的自动调制分类技术中得到了广泛的应用.然而在实际应用中这两种模型都存在着一些问题,卷积神经网络模型在处理长时间依赖序列的分类任务时的准确率不佳,LSTM模...     

基于双向长短期记忆神经网络的岩相预测方法

介绍一种基于双向长短期记忆神经网络(Bi-directional long short-term memory,Bi-LSTM)的岩相预测方法,综合利用测井和地震数据进行高效准确的岩相预测.通过合成地震记录,进行井震数据的时深匹配,以地震吸收衰减数据、纵波阻抗、密度和伽马拟声波阻抗作为输入,以岩相作为标签,通过Bi-L...     

采用小波变换和双向长短期记忆网络的脑电睡眠分期模型

针对睡眠生理信号采集难度大、睡眠分期精度低的问题,提出一种采用小波变换和双向长短期记忆网络的脑电睡眠分期模型。首先使用连续小波变换提取睡眠脑电的时频图;然后使用卷积神经网络从脑电信号的时频图中提取睡眠相关的脑电特征,作为单个睡眠片段的分期依据,再使用双向长短期记忆网络进一步提取睡眠片段之间的状态转换规则;最后利用深度学习方法建立特征、规则与睡眠阶段的映射,使用数据扩充和两步训练法训练模型,削弱数据不均衡的影响,完成连续片段的睡眠分期。采用SHHS公开数据库的5 793名被试者的睡眠脑电数据对该模型进行验证,实验结果表明,睡眠分期准确率达到85.82%,整体F1达到78.39,Kappa系数达到0.799,和现有方法相比性能明显提升。     

基于溶解氡数据和长短期记忆网络的地震预报

溶解气氡浓度异常为可靠地震前兆,通过对历史观测数据进行建模,预测溶解气氡未来趋势,是快速检测溶解气氡浓度异常、研究震-氡机制的前提。溶解气氡浓度数据为典型的时间序列数据,传统的时间序列预测技术主要为自回归(AR)方法和自回归滑动平均(ARMA)方法。这些方法以线性方法为主,其拟合精度有限。采用目前最流行的深度学习技术长短期记忆(LSTM)模型对姑咱地震台、西昌地震台和雅安地震台一段时间内连续观测的溶解气氡日观测数据集溶解气氡浓度数据进行建模,采用90%的数据作为训练数据训练LSTM网络,10%的数据作为预测数据,采用均方根误差评价指标来评价模型的效果。在三种数据集上,LSTM的预测误差均方根误差均明显低于AR和ARMA方法。该结果表明,LSTM的预测精度高于传统的AR、ARMA方法。     

基于卷积神经网络-双向长短期记忆网络的人体活动识别方法

针对人体活动传感器数据的时序性特点,以及当前机器学习算法过度依赖手工特征提取的问题,提出了一种融合卷积神经网络和双向长短期记忆网络的深度学习模型(convolutional neural network-bidirectional long short term memory network,CNN-BiLSTM)进行...     

基于双向长短期记忆神经网络的配网电压异常数据检测

受自然环境、计量仪器等影响,量测数据会出现异常,导致调度人员错误决策,威胁电力系统安全稳定运行。为保障电力系统安全稳定运行,提出了一种基于双向长短期记忆(bidirectional long short-term memory, Bi-LSTM)神经网络的配网电压无监督异常数据检测方法。利用Bi-LSTM神经网络处理时序数据的双向特性,建立时序预测模型,通过对比预测值和实际值的误差检测异常数据。最后,基于某实际配网电压数据进行仿真验证,仿真结果表明:所提方法在准确率、F1分数等指标方面均优于决策树、K近邻、支持向量机、长短期记忆(long short-term memory, LSTM)神经网络。     

基于注意力机制优化长短期记忆网络的短期电力负荷预测

在电力系统的经济调度中,如何合理利用电力负荷的过去和现在来推测其未来价值,具有非常长远的社会经济价值.短期电力负荷数据具有明显的时间特征,传统的深度模型越来越多地应用于该领域.然而,深度模型可能存在梯度爆炸或梯度消失,为此,提出了一种注意力机制优化长短期记忆网络的短期负荷预测模型.该模型将长短期记忆网络单元中的激活函数改进为加权激活函数组,并加入注意力机制以提高预测精度.     

基于形变长短期记忆网络的换道意图预测

混行交通下的自动驾驶车辆需具备换道意图预测能力来保障行驶安全。为尽早预测车辆换道意图,提出一种基于形变长短期记忆(mogrifier long short-term memory, M-LSTM)网络的换道意图预测模型。首先采用S-G (Savitzky-Golay)滤波器对自然驾驶数据集NGSIM(next generation simulation)进行降噪筛选,按向左换道、向右换道、直线行驶对不同时间长度的轨迹序列标注,选取车辆运动信息与环境信息输入模型,最后采用softmax函数进行意图分类。试验结果表明,在不同预判时间下,模型准确率均高于支持向量机(support vector machine, SVM)、LSTM模型,且越接近换道点预测准确率越高,在1.0、2.5 s时预测准确率分别为93.83%与81.30%。提出的模型具有良好的准确性与预判性,能为自动驾驶车辆尽早识别换道意图提供技术支持。     

基于双向长短期记忆网络和自注意力机制的食品安全裁判文书分类方法

目前食品安全领域裁判文书数量持续增长,而其类别标签的缺失导致检索困难。针对将裁判文书自动化分类的问题,提出一种结合self-attention机制和BLSTM(bi-long short-term memory)网络的分类方法,该方法使用自训练注意力机制,对向量化的文本进行加权表示,从而对裁判文书中的重要特征重点关注。同时,由两个方向相反的LSTM网络组成的BLSTM网络,能够更好地学习上下文信息,提高网络性能。通过实验,准确率达到了95. 23%,相较于传统的机器学习方法,所提方法能够更好地完成食品安全领域裁判文书分类任务。     

基于长短期记忆网络的电力系统扰动后的功率缺额预测方法

电力系统在发生发电机脱落或发电机母线断线等严重的有功不平衡扰动时,会导致频率骤降。提出一种基于长短期记忆（long short-term memory,LSTM）网络的电力系统扰动后的功率缺额预测方法。该方法无需获取实时的系统惯量,仅根据负荷侧的信息就能预测出扰动后系统的功率缺额,有效改善了现有的功率缺额计算方法。在IEEE-39节点系统上的仿真结果表明,本方法得到的功率缺额预测值与真实值的相对误差较小,预测时间较短。与深度神经网络（deep neural networks,DNN）和支持向量回归（support vector regression,SVR）算法的预测结果进行比较,本方法能快速、准确地预测出扰动后系统的功率缺额,对保障系统的频率稳定具有重要意义。     

注意力机制的长短时记忆神经网络航线订座需求预测

针对航线订座需求预测中存在的预测结果不稳定,偏差较大的问题,提出了一种基于注意力机制 的长短时记忆神经网络(Long Short-term Memory Neural Network,LSTM)航线订座需求预测模型。首先, 对采集得到的航线订座需求数据进行数据清洗与指标计算处理,接着,对处理后的指标数据基于注意力机 制做权重分配,然后进行 LSTM 航线订座需求预测模型的建立,从而得到航线订座需求的最终预测结果 值。将训练优化得到的模型应用于国内某航司的航线订座需求预测中,计算出预测结果。实验结果表明, 基于注意力机制的 LSTM 航线订座需求预测模型预测精度较高,以厦门-上海为例,预测结果在与真实值 的对比下,平均绝对误差(Mean Absolute Error,MAE)为 13.1,均方根误差(Root Mean Square Error,RMSE) 为 17.2,相比较于移动平均法,指数平滑法,循环神经网络（Recurrent Neural Network,,RNN）,CNN-LSTM 混合模型有较好的预测效果。     

基于小波分解和长短时记忆网络的地铁进站量短时预测

针对城市地铁车站进站客流量短时预测问题,提出了小波分解和长短时记忆网络(LSTM)相结合的组合预测模型,小波分解和重构可以有效处理数据的波动性,长短时记忆网络可以学习时序信息。以北京地铁西直门站为实例,实现了组合模型对进站量的预测,发现本方法能够得到比较准确的预测效果,平均绝对百分误差为5.48%,与单独使用LSTM和经验模态分解与LSTM结合这两种方法相比分别下降了8.59%和2.94%,表明本方法有更好的预测精度。     

考虑地质分层约束的长短期记忆循环神经网络测井曲线重构

延长油田东部裸眼井区早期测井资料普遍只有自然电位（SP）、自然伽马（GR）及梯度电阻率(R2.5)三条曲线,因缺失声波（AC）、地层电阻率（RT）等测井曲线,难以满足精细油藏地质研究需求。东部裸眼井区开发时间长、单井产量低,重新测井缺乏可行性及经济性。采用长短期记忆循环神经网络(Long Short-Term Memory,LSTM)进行缺失测井曲线重构是一种经济有效方法,适用于地层测井序列数据。然而延长油田东部浅层油藏上覆黄土层段测井数据信号干扰大,直接应用模型精度较差。针对此问题,本文采用考虑地质分层约束的LSTM模型进行缺失测井曲线的重构,通过分层数据截取每口井长6层段测井数据作为样本数据,既保留了LSTM模型处理序列数据的优势,同时又避免了上覆黄土层测井数据对模型的干扰。利用裸眼井区完整测井数据进行模型训练优化和验证,讨论了考虑地质分层约束的LSTM测井曲线重构精度,结果表明通过引入地质分层约束,模型重构测井曲线精度更高。应用优化后模型实现裸眼井区50口仅有GR、SP、R2.5三条曲线数据井的AC、RT曲线重构,对50口井的142个射孔段进行二次解释,对比试油解释结论符合率达到89.4%,验证了该方法对测井曲线重构的实用性和有效性。     

基于层次分析的长短记忆网络(AHP-LSTM)的食品安全网络舆情预警模型

随着互联网技术的迅猛发展,网络已成为社会舆情的重要阵地,而网络舆情是食品风险预警的一个方向。传统舆情预警模型在指标体系的基础上结合反向传播神经网络（back propagation neural network,BP）等神经网络模型进行分析,存在运行不稳定、预测精度不高等问题。为了解决这些问题,采用具有较高预测精度的长短记忆（long short-term memory,LSTM）网络算法,在网络事件指标体系的基础上引入层次分析法（analytic hierarchy process,AHP）并融合食品安全事件指标数据,将融合结果作为LSTM的期望输出,以建立更为稳定、精度更高的风险预警模型AHP-LSTM。实验结果表明,与传统模型相比,AHP-LSTM对于事件指标数据具有较强的处理能力和较高的预警精度。因此构建基于AHP-LSTM的食品安全事件预警方法,可为相关部门有效防范和管理食品安全网络事件提供一定的理论依据和数据支撑。     

基于长短期记忆神经网络模型的空气质量预测

随着城市化和工业化的快速发展,空气污染问题日益突出,空气质量预测显得尤为重要。当前一些有代表性的研究对空气质量进行实时监测和预报,例如周广强等采用数值预报的方法对中国东部地区的空气质量进行分析,但其实验结果表明该方法难以预测非常重的污染;SANKAR等使用多元线性回归对空气质量进行预测,但其实验结果表明线性模型预测精度低、效率慢;PéREZ等使用统计方法对空气质量进行预测,实验结果证明统计方法的预测精度比较低;WANG等采用改进的BP神经网络建立了空气质量指数的预测模型,其实验验证了BP神经网络收敛速度慢、容易陷入局部最优解的问题;YANG等利用相邻网格的空气质量浓度效应,建立了基于随机森林的PM_(2.5)浓度预测模型,通过实验过程证明网格划分程序削弱了后续空气质量分析的质量和效率。这些方法都难以从时间角度建模,其中预测精度低是比较重要的问题。因为预测精度低可能会导致空气质量预测结果出现较大的误差。针对空气质量研究中预测精度低的问题,提出了基于长短期记忆单元(long short-term memory,LSTM)的神经网络模型。该模型使用MAPE,RMSE,R,IA和MAE等指标来检测LSTM神经网络与对比模型的预测性能。由于Delhi和Houston是空气污染程度比较严重的城市,所以使用的实验数据集来自Delhi的Punjabi Bagh监测站2014—2016年的空气质量数据和Houston的Harris County监测站2010—2016年的空气质量数据。LSTM神经网络与多元线性回归和回归模型(SVR)的比较结果表明,LSTM神经网络适应多个变量或多输入的时间序列预测问题,LSTM神经网络具有预测精度高、速度快和较强的鲁棒性等优点。     

基于LSTM-DAE的化工故障诊断方法研究

现代化工过程愈加精密化、复杂化,使得化工过程数据呈现高度非线性、强耦合等特点,传统的故障诊断模型难以学习此类数据的有效特征表示,且无法挖掘隐含的时间序列信息。针对上述问题,提出了一种长短期记忆（long short-term memory,LSTM）网络与降噪自编码器（denoising auto-encoder,DAE）结合的LSTM-DAE化工故障诊断方法,用基于LSTM的特殊编码方式代替传统DAE模型的全连接网络编码方式,并结合高斯噪声处理和全连接网络解码层,搭建出基于LSTM-DAE的特征提取模型,最后由Softmax分类器输出故障诊断结果。该方法结合了DAE与LSTM的优点,确保了编码特征获取的有效性。使用田纳西-伊斯曼（Tennessee-Eastman,TE）过程数据设计所提方法与其他5类模型的对比实验,实验结果表明：在多故障诊断效果上,基于LSTM-DAE的化工故障诊断方法的训练集正确率达到了96.02%,测试集正确率达到了97.31%,平均误报率仅为0.65%,平均漏检率仅为3.19%,在6类模型中为最优;在单故障诊断效果上,基于LSTM-DAE的化工故障诊断方法能够提高对故障14的分辨能力,并缩短对故障18的检测延迟时间,有效降低了漏检率,表明所提方法能够在实际化工过程中进行有效的故障诊断。     

基于 BP 神经网络的叠前流体识别方法

探讨塔里木盆地桑塔木地区三叠系辫状河三角洲沉积储层流体识别方法。该地区储层横向变化大,流体类型复杂。本文提出利用 BP 神经网络的信息整合模式识别功能来进行储层流体识别的方法,通过叠前反演得到对流体敏感的弹性参数数据体和电测解释结果标定建模样本,采取随机抽样形成建模样本集与测试样本集,选取26口井的700个样本作为学习样本,62个作为测试样本,建立 BP 神经网络模型。预测结果和实钻结果吻合程度高,正确率达90％以上。该方法可以很好地对桑塔木地区储层中所含流体进行识别。     

基于测井数据的砂岩型铀矿异常识别BP神经网络方法应用

为了快速有效的获取砂岩型铀矿矿集区铀矿异常分布信息,以砂岩型铀矿异常的测井响应特征为理论依据,利用BP神经网络强大的非线性映射和学习能力,以已知铀矿矿化层信息为学习样本,构建3层BP(back propagation)神经网络模型。对松辽盆地大庆长垣南端某铀矿矿集区铀矿钻孔测井数据进行异常层和矿化层的识别提取,并将模型识别结果与已知矿化层信息进行分析对比。结果表明:BP神经网络模型识别准确率达86.55%,效果较好,矿化层的识别结果同已知矿化层信息重合度高,同常规的铀矿异常识别方法相比更加接近铀矿异常分布的形态。此方法能快速有效的获取未知孔的异常信息、降低人为解释工作带来的误差,具有较高的准确性,优势明显。BP神经网络技术应用于铀矿勘察工作中具有良好的前景。