基于改进长短时记忆网络的文本分类方法

针对传统长短时记忆网络(long short-term memory,LSTM)在文本分类中无法自动选取最重要潜在语义因素的问题,提出一种改进的LSTM模型。首先,将传统LSTM的运算关系拓展为双向模式,使网络充分记忆输入特征词的前后关联关系;然后在输出层前面增加池化层,以便更好选择找到最重要的潜在语义因素。互联网电影资料库评论数据实验结果表明,该模型优于传统长短时记忆神经网络以及其他同类模型,揭示了改进方案对提高文本分类准确率是有效的。     

基于长短时记忆神经网络的生猪价格预测模型

生猪价格序列的长短周期现象是困扰生猪价格预测的一个难题.针对这一问题,研究了生猪价格序列的波动特点和影响因素,提出了萤火虫算法(firefly algorithm,FA)优化长短时记忆神经网络(long-short term memory,LSTM)的生猪价格预测方法.首先对生猪价格序列进行预处理和分析;然后采用萤火虫...     

一种双向长短时记忆循环神经网络的问句语义关系识别方法

提出一种基于双向长短时记忆循环神经网络的问句语义关系识别方法.利用循环神经网络直接从词学习问句的语义特征表示,不需要自然语言处理工具进行特征抽取,有效避免了误差传递问题.同时,在网络中加入双向结构和长短时记忆模块,有效改善传统循环神经网络在训练过程中的"梯度弥散"问题.加入基于主实体位置的分段最大池化操作,相对于传统单一最大池化,能保留问句文本中的有效语义特征.通过在电力领域真实问题集上实验比较,本方法相对于传统方法能有效提升问句语义关系识别的性能,问句语义关系分类结果F1值提高4.5%.     

基于鲸鱼优化混合神经网络的滑坡位移预测

针对静态机器学习模型难以有效反映滑坡的动态演化特性,且存在时序过长时历史数据遗忘导致位移预测结果不稳定的问题。本文提出了一种基于鲸鱼优化卷积神经网络(convolutional neural networks,CNN)和双向门控循环神经网络(bidirectional gated recurrent neural network,BiGRU)的滑坡位移动态预测方法。首先对滑坡影响因子进行特征筛选,构建数据集,建立CNN-BiGRU网络模型,使用鲸鱼优化算法(whale optimization algorithm,WOA)对模型进行超参数寻优,使用CNN网络模型从滑坡数据中提取潜在的特征向量,将特征向量以时间序列的形式输入到BiGRU模型中,利用其处理时间序列数据的优势,完成滑坡位移预测。结果表明,本文提出的模型得到的滑坡位移预测精度较高,与未优化的CNN-BiGRU相比均方根误差(RMSE)下降了0.0305mm。     

基于长短时记忆网络的结构智能控制算法研究

为提高建筑结构智能控制的控制精度及稳定性,在长短时记忆(LSTM)网络理论基础上,提出一种基于深度学习的智能控制算法.通过构建深度学习框架,设计LSTM智能控制器,并将其性能测试结果与反向传播(BP)和径向基函数(RBF)神经网络控制器进行对比.以Benchmark模型为对象,分析了不同外部激励工况下LSTM智能控制器的泛化能力,并提出了基于结构响应的H_2范数评价指标.结果表明:BP和RBF神经网络框架的预测结果相比LSTM框架可能发生局部最优现象,且收敛精度较低;原输入工况下,LSTM控制器的误差为3.30×10~(-4),控制效果最高达65.0%;变激励工况下,LSTM控制器的响应峰值及H_2范数评价指标均优于BP和RBF神经网络控制器,说明LSTM智能控制器具有良好的控制和泛化性能.     

注意力机制的长短时记忆神经网络航线订座需求预测

针对航线订座需求预测中存在的预测结果不稳定,偏差较大的问题,提出了一种基于注意力机制 的长短时记忆神经网络(Long Short-term Memory Neural Network,LSTM)航线订座需求预测模型。首先, 对采集得到的航线订座需求数据进行数据清洗与指标计算处理,接着,对处理后的指标数据基于注意力机 制做权重分配,然后进行 LSTM 航线订座需求预测模型的建立,从而得到航线订座需求的最终预测结果 值。将训练优化得到的模型应用于国内某航司的航线订座需求预测中,计算出预测结果。实验结果表明, 基于注意力机制的 LSTM 航线订座需求预测模型预测精度较高,以厦门-上海为例,预测结果在与真实值 的对比下,平均绝对误差(Mean Absolute Error,MAE)为 13.1,均方根误差(Root Mean Square Error,RMSE) 为 17.2,相比较于移动平均法,指数平滑法,循环神经网络（Recurrent Neural Network,,RNN）,CNN-LSTM 混合模型有较好的预测效果。     

注意力机制的长短时记忆神经网络航线订座需求预测

针对航线订座需求预测中存在的预测结果不稳定,偏差较大的问题,提出一种基于注意力机制的长短时记忆神经网络航线订座需求预测模型. 首先,对采集得到的航线订座需求数据进行数据清洗与指标计算处理;接着,对处理后的指标数据基于注意力机制做权重分配;然后进行长短时记忆神经网络航线订座需求预测模型的建立,从而得到航线订座需求的最终预测结果值. 将训练优化得到的模型应用于国内某航司的航线订座需求预测中,计算出预测结果. 实验结果表明,基于注意力机制的长短时记忆神经网络航线订座需求预测模型预测精度较高,以厦门-上海航线为例,预测结果与真实值对比,平均绝对误差为13.1,均方根误差为17.2,相比较于移动平均法、指数平滑法及循环神经网络,CNN-LSTM混合模型有较好的预测效果.     

基于小波分解和长短时记忆网络的地铁进站量短时预测

针对城市地铁车站进站客流量短时预测问题,提出了小波分解和长短时记忆网络(LSTM)相结合的组合预测模型,小波分解和重构可以有效处理数据的波动性,长短时记忆网络可以学习时序信息。以北京地铁西直门站为实例,实现了组合模型对进站量的预测,发现本方法能够得到比较准确的预测效果,平均绝对百分误差为5.48%,与单独使用LSTM和经验模态分解与LSTM结合这两种方法相比分别下降了8.59%和2.94%,表明本方法有更好的预测精度。     

基于长短时记忆神经网络的潜油电泵故障预警

以潜油电泵机组的运行电流为主要判别依据,将长短时记忆神经网络应用于潜油电泵运行状态预测中,对于特征不明显的故障类型,利用潜油电泵井运行电压、运行电流、功率、油压、井口温度和瞬时流量数据预测下一时刻的电流值,并利用单分类支持向量机模型来预判潜油电泵机组的运行状态,从而实现潜油电泵的故障预警。最后,利用实际生产数据对模型进行验证。结果表明,所提方法预测准确度较高,可将报警时间提前1 h,实现故障的预警及诊断。     

基于ARIMA模型的滑坡位移预测

利用斜坡累积变形—时间曲线的建模分析,可以获知当前滑坡的变形发育阶段、预测滑坡未来发展趋势,是滑坡灾害预警预报的基础.滑坡累积位移是关于时间的变量,往往具有非平稳性,通过差分得到平稳的时间序列过程,建立差分自回归移动平均模型(ARIMA模型).以三峡库区某滑坡为研究对象,对累积位移采取等时距差值处理后,建立了适用于该滑坡的ARIMA时间序列模型对滑坡累积位移进行分析预测.通过比较2014年1月至5月该斜坡位移的实测值与预测值,得平均预测误差为3.2%,结果表明,所建立模型能满足预测要求,计算过程容易实现,在滑坡累积位移短期预测中具有一定的适用性.     

基于时间序列与时间卷积网络的滑坡位移预测

滑坡位移预测作为滑坡监测预警的重要组成部分,对滑坡灾害的防治具有重要意义。目前,滑坡位移预测大多集中在循环架构的神经网络模型上,其存在梯度爆炸、消失问题等问题。为此,提出了一种基于时间序列与时间卷积网络(time convolution network, TCN)的滑坡位移预测模型。首先,该模型通过移动平均法将滑坡位移分解为趋势项位移和周期项位移。其次,采用Holt线性趋势模型预测趋势项位移,并建立时间卷积网络预测周期项位移。最后,将趋势项位移和周期项位移叠加,实现滑坡位移的预测。将该模型用于八字门滑坡的观测研究,结果表明：该模型相较于循环架构的神经网络模型能更有效地提取时序特征,预测精度更高。将基于TCN的滑坡位移预测模型应用于滑坡位移预测具有广阔的应用前景。     

基于双向长短期记忆神经网络的岩相预测方法

介绍一种基于双向长短期记忆神经网络(Bi-directional long short-term memory,Bi-LSTM)的岩相预测方法,综合利用测井和地震数据进行高效准确的岩相预测.通过合成地震记录,进行井震数据的时深匹配,以地震吸收衰减数据、纵波阻抗、密度和伽马拟声波阻抗作为输入,以岩相作为标签,通过Bi-L...     

山地城市滑坡灾害空间分布特征及影响因素分析

针对山地城市滑坡灾害影响区域的不确定性,选择重庆市中心城区典型滑坡作为研究对象,利用最邻近指数、空间热点探测与核密度估计方法分析了历史滑坡灾害点的空间分布特征;并选择高程、坡度、坡向、地貌类型、土壤类型、土壤侵蚀、降雨、水系、地表覆盖、归一化植被指数(NDVI)、人口密度和道路等12个影响因素建立滑坡因子数据库,利用神经网络模型分析滑坡灾害空间分布特征的驱动因素,并定量计算各影响因子的贡献权重。利用受试者工作特征曲线(ROC)对模型进行准确性评估。最邻近指数结果表明研究区历史滑坡灾害点呈聚集型分布特征,空间热点探测与核密度估计均显示渝中区、沙坪坝区和巴南区北部是滑坡聚集程度最大的地区;在所有的影响因子中,人口密度、地貌类型和降雨对研究区滑坡灾害的空间分布影响最大,而坡向和道路影响最低。ROC曲线下面积AUC值达到0.917,表明该神经网络模型能准确反映出该地区滑坡影响因子的影响程度。     

基于Attention机制的LSTM股价预测模型

针对时间序列分析方法和神经网络对于股价预测具有一定局限性的问题,将基于Attention机制的LSTM模型应用于股价预测;以2014-01-02—2020-09-22日的上证工业指数、上证环保指数等相关数据为样本,在LSTM模型中引入Attention机制,使模型聚焦于重要的股价特征信息,预测股票第二日的最高价;实证研...     

基于形变长短期记忆网络的换道意图预测

混行交通下的自动驾驶车辆需具备换道意图预测能力来保障行驶安全。为尽早预测车辆换道意图,提出一种基于形变长短期记忆(mogrifier long short-term memory, M-LSTM)网络的换道意图预测模型。首先采用S-G (Savitzky-Golay)滤波器对自然驾驶数据集NGSIM(next generation simulation)进行降噪筛选,按向左换道、向右换道、直线行驶对不同时间长度的轨迹序列标注,选取车辆运动信息与环境信息输入模型,最后采用softmax函数进行意图分类。试验结果表明,在不同预判时间下,模型准确率均高于支持向量机(support vector machine, SVM)、LSTM模型,且越接近换道点预测准确率越高,在1.0、2.5 s时预测准确率分别为93.83%与81.30%。提出的模型具有良好的准确性与预判性,能为自动驾驶车辆尽早识别换道意图提供技术支持。     

基于管土作用模型的极限滑坡位移预测

滑坡作为典型地质灾害之一,严重威胁埋地管道的安全运行。若能准确预测管道所能承受的极限滑坡位移,则可结合先进的滑坡监测技术对管道失效事故进行有效预判。有鉴于此,首先建立并验证了基于非线性接触的管土作用模型,之后对模型参数及边界条件设置进行了讨论,最后基于形成的模拟方法研究了应力/应变准则下极限滑坡位移预测方法。结果表明：两侧设置无限边界的非线性接触管土作用模型更适用于真实滑坡工况下管道力学响应分析,可实现土体与管道大变形及管土分离的有效模拟,并可用于基于应力及应变准则的极限滑坡位移预测。本文为山区管道的安全设计及滑坡事故的防控提供了有效的技术手段。     

基于二次分解与LSTM的金融时间序列预测算法研究

现有结合特征提取与预测模型的方法不能准确把握金融时间序列的混沌性与交互性,导致预测精度不高。针对此问题,提出一种基于二次分解与长短期记忆(long short term memory, LSTM)网络的金融时间序列预测算法。使用变分模态分解方法与集成经验模态分解方法依次解析金融时间序列数据,得到能表达数据混沌性特征的模态;将模态信息输入到融合有因子分解机(factorization machine, FM)的长短期记忆网络模型中,融合获取到的长记忆性特征与交互性特征,进而预测最终的结果;选取沪深300指数的历史数据作为实验数据集,通过多组对比实验验证算法的有效性。实验结果表明,提出的算法可以有效提升模型的预测能力,同时表达金融时间序列的混沌性、长记忆性、交互性。     

基于特征空间变换与LSTM的中短期电煤价格预测

针对电煤价格影响因素多且非线性多时间滞后难以建模的问题,提出一种基于特征变换与LSTM的数据驱动的中短期电煤价格预测方法.为了充分挖掘海量数中蕴含的电煤价格规律,提出不同时间尺度颗粒度信息的特征变换方法;为解决多变量少样本造成过拟合,基于卡方分析和相关系数筛选中短期煤价的主要影响因素;以LSTM神经网络为基础,采用特征...     

基于CNN-LSTM的综合能源系统负荷预测模型

负荷的准确预测是综合能源系统设计、运行、调度和管理的前提。现有的负荷预测模型中大都考虑了气象、日期因素,却没有考虑系统中电、冷、热负荷间的相关性,这会对模型的预测精度造成影响。使用了科普拉理论对系统中3种负荷之间的相关性进行分析。从分析结果看,它们之间具有强相关的关系。基于上述分析结果,提出了一种基于深度学习的智慧综合能源系统负荷预测模型,该模型使用卷积神经网络(convolutional neural network,CNN)来提取系统中电、冷、热负荷间的耦合特性相关的特征量。将得到的特征量转换为时间序列后,输入到长短期记忆(long short-term memory,LSTM)网络中进行负荷预测。实验显示,所提出的CNN-LSTM组合模型的预测精度更为精准,可为综合能源系统的负荷预测提供参考。     

深度残差网络和LSTM结合的图像序列表情识别

为了改善图像表情和图像序列表情识别效果,针对传统表情识别特征提取复杂和效果不理想问题,提出了一种深度残差网络和局部二值模式(local binary patterns,LBP)相结合的特征提取方法,利用深度残差网络提取数据集的空域特征,长短期记忆网络(long short-term memory,LSTM)处理时域特征,实现空域与时域特征的结合。研究了不同层数的残差网络、不同形式的LBP算子以及其他网络结构对人脸表情识别的影响,对比了支持向量机和随机森林实现的序列表情识别算法。在Cohn-Kanade数据集和AFEW6.0数据集上进行了验证,实验结果表明,算法在验证集上的准确率分别为73.1%和58.4%,相比其他算法有一定程度的提升。