基于4种长短时记忆神经网络组合模型的畸形波预报

为提高长短时记忆神经网络对畸形波预报精度,研究了长短时记忆神经网络与卷积神经网络(Convolution Neural Networks,CNN)、经验模式分解(Empirical Mode Decomposition,EMD)、差分自回归移动(Auto-Aggressive Integrated Moving Ave...     

基于长短时记忆神经网络的生猪价格预测模型

生猪价格序列的长短周期现象是困扰生猪价格预测的一个难题.针对这一问题,研究了生猪价格序列的波动特点和影响因素,提出了萤火虫算法(firefly algorithm,FA)优化长短时记忆神经网络(long-short term memory,LSTM)的生猪价格预测方法.首先对生猪价格序列进行预处理和分析;然后采用萤火虫...     

基于层次分析的长短记忆网络(AHP-LSTM)的食品安全网络舆情预警模型

随着互联网技术的迅猛发展,网络已成为社会舆情的重要阵地,而网络舆情是食品风险预警的一个方向。传统舆情预警模型在指标体系的基础上结合反向传播神经网络（back propagation neural network,BP）等神经网络模型进行分析,存在运行不稳定、预测精度不高等问题。为了解决这些问题,采用具有较高预测精度的长短记忆（long short-term memory,LSTM）网络算法,在网络事件指标体系的基础上引入层次分析法（analytic hierarchy process,AHP）并融合食品安全事件指标数据,将融合结果作为LSTM的期望输出,以建立更为稳定、精度更高的风险预警模型AHP-LSTM。实验结果表明,与传统模型相比,AHP-LSTM对于事件指标数据具有较强的处理能力和较高的预警精度。因此构建基于AHP-LSTM的食品安全事件预警方法,可为相关部门有效防范和管理食品安全网络事件提供一定的理论依据和数据支撑。     

CNLSTM模型预测城市积水

物联网平台能够为积水预测提供海量的传感器时间序列数据基础.为了精准且快速地预测城市内涝点积水趋势,提出一种基于神经网络的组合时序预测模型(CNLSTM),对多变量积水时间序列数据进行建模预测.此模型利用卷积神经网络(convolutional neural network,CNN)提取多变量数据之间的空间特征,得到具有...     

基于改进长短时记忆网络的文本分类方法

针对传统长短时记忆网络(long short-term memory,LSTM)在文本分类中无法自动选取最重要潜在语义因素的问题,提出一种改进的LSTM模型。首先,将传统LSTM的运算关系拓展为双向模式,使网络充分记忆输入特征词的前后关联关系;然后在输出层前面增加池化层,以便更好选择找到最重要的潜在语义因素。互联网电影资料库评论数据实验结果表明,该模型优于传统长短时记忆神经网络以及其他同类模型,揭示了改进方案对提高文本分类准确率是有效的。     

基于长短时记忆与多影响因子的滑坡位移动态预测

针对传统滑坡位移预测模型存在对历史数据遗忘的问题,提出了一种基于长短时记忆（LSTM）网络的滑坡位移动态预测模型。首先,将滑坡累计位移分解为趋势项位移与波动项位移,利用多项式拟合预测趋势项位移;然后,通过灰色关联度筛选外界诱发因子并运用LSTM模型预测波动项位移;最后,叠加周期项位移与波动项位移,得到累计位移。以新滩滑坡为例,并与RNN模型以及传统静态神经网络模型BP、ELM进行对比分析,采用平均百分比误差（MAPE）,均方根误差（RMSE）,拟合优度（R2）分别对其进行评价。应用结果表明：相比于传统静态模型,LSTM与RNN均适用于滑坡位移动态预测;对比结果显示,LSTM模型具有较好的预测精度,MAPE与RMSE值分别为1.026%、0.327 mm,拟合优度R2为0.978。     

基于长短时记忆网络的结构智能控制算法研究

为提高建筑结构智能控制的控制精度及稳定性,在长短时记忆(LSTM)网络理论基础上,提出一种基于深度学习的智能控制算法.通过构建深度学习框架,设计LSTM智能控制器,并将其性能测试结果与反向传播(BP)和径向基函数(RBF)神经网络控制器进行对比.以Benchmark模型为对象,分析了不同外部激励工况下LSTM智能控制器的泛化能力,并提出了基于结构响应的H_2范数评价指标.结果表明:BP和RBF神经网络框架的预测结果相比LSTM框架可能发生局部最优现象,且收敛精度较低;原输入工况下,LSTM控制器的误差为3.30×10~(-4),控制效果最高达65.0%;变激励工况下,LSTM控制器的响应峰值及H_2范数评价指标均优于BP和RBF神经网络控制器,说明LSTM智能控制器具有良好的控制和泛化性能.     

基于长短时记忆网络的多模态情感识别和空间标注

情感计算中音/视频的情感识别对人机交互等领域的深层次认知具有重要应用价值,在现代远程教育中可作为教学过程性实时评估的重要技术之一.为克服单一模态模型识别精度依赖于情感类型这一问题,本文提出一种基于长短时记忆(LSTM)网络的多模态情感识别模型,采用双路LSTM分别模拟人类听觉和视觉处理通路处理语音和面部表情的情感信息,在eNTERFACE’05双模态情感数据集上进行训练和测试,并模拟人脑边缘系统情感区进行决策层加权特征融合,传统情绪六分类标准的准确率可达74.7%.同时,考虑到传统离散情绪六分类法无法进行程度度量,且存在外在表现相似和多情感同时并存的问题,本文提出一种新的多模态情感识别模型的空间标注法,采用模型层特征融合方法将情感分类特征映射到激活度-效价空间(Arousal-Valence Space),从而更好刻画情感的程度,实验结果显示准确率在空间两个维度上分别达到84.1%和86.6%.相比于已有的大多数相关研究,本文提出的模型运算量小,识别精度高,可进行实时在线情感识别.     

基于卷积神经网络-双向长短期记忆网络的人体活动识别方法

针对人体活动传感器数据的时序性特点,以及当前机器学习算法过度依赖手工特征提取的问题,提出了一种融合卷积神经网络和双向长短期记忆网络的深度学习模型(convolutional neural network-bidirectional long short term memory network,CNN-BiLSTM)进行...     

基于自适应神经网络的云资源预测模型

为了避免容器云资源因资源供求不均衡而导致的资源利用率差等问题,需要对未来时刻的资源需求情况进行预测来进行更精准的调度和分配资源,因此,结合神经网络的高效学习能力与自适应调整的学习率,提出一种基于自适应神经网络的云资源预测模型。首先,融合卷积神经网络(convolutional neural network, CNN)和长短期记忆(long short-term memory, LSTM)网络的特点去挖掘历史数据的特征,预测未来的资源需求;然后,根据模型预测情况自适应调整学习率,提高模型预测的精度。使用Microsoft Azure公开数据集进行测试,相较于单一模型CNN、LSTM和未加入自适应学习率的神经网络模型,均方根误差分别下降了17.74%、18.27%和6%,证明了模型的有效性。     

基于LSTM的钓鱼邮件检测系统

提出了一种基于LSTM的钓鱼邮件检测方式.该方式主要由两部分构成:分别为数据扩充部分及模型训练部分.数据扩展部分中,通过KNN与K-means算法扩大训练数据集,保证数据的数量能够满足深度学习算法的需要.在模型训练部分中,通过对数据进行预处理并将其转化为词向量矩阵,最后将转化完词向量通过训练得到LSTM神经网络模型.最终,可以根据训练好的LSTM模型将邮件分为正常邮件以及钓鱼邮件.通过实验对提出的算法进行了评估,实验结果显示提出的算法准确率可以达到95%.      

基于形变长短期记忆网络的换道意图预测

混行交通下的自动驾驶车辆需具备换道意图预测能力来保障行驶安全。为尽早预测车辆换道意图,提出一种基于形变长短期记忆(mogrifier long short-term memory, M-LSTM)网络的换道意图预测模型。首先采用S-G (Savitzky-Golay)滤波器对自然驾驶数据集NGSIM(next generation simulation)进行降噪筛选,按向左换道、向右换道、直线行驶对不同时间长度的轨迹序列标注,选取车辆运动信息与环境信息输入模型,最后采用softmax函数进行意图分类。试验结果表明,在不同预判时间下,模型准确率均高于支持向量机(support vector machine, SVM)、LSTM模型,且越接近换道点预测准确率越高,在1.0、2.5 s时预测准确率分别为93.83%与81.30%。提出的模型具有良好的准确性与预判性,能为自动驾驶车辆尽早识别换道意图提供技术支持。     

基于双通道模型的航空发动机剩余寿命预测

针对现阶段航空发动机单一剩余使用寿命预测模型数据挖掘深度不足导致预测精度低的问题,提出一种双通道模型的预测方法。首先,构建双通道网络结构：通道一使用时间卷积网络,通过残差结构和空洞卷积使得网络具有更大的感受野和计算速度;通道二使用卷积长短时间记忆网络,提取多维时空特征,捕捉数据长期依赖关系。其次,利用多头注意力机制为双通道网络特征重新赋予权重。最后,将双通道网络进行特征融合输出,实现对航空发动机剩余寿命预测。使用涡扇发动机退化数据集进行实验验证,并与其它文献中提到的卷积双向长短时间记忆网络模型、多特征注意力模型、多头注意力模型、卷积门控单元循环神经网络模型进行对比。结果表明,所提模型在3种评价指标上均取得更好的表现,为航空发动机剩余寿命预测提供了一种新思路。     

基于Holt-Winters及长短期记忆的云资源组合预测模型

云资源的预测分析对于响应资源请求并及时做出决策非常重要,针对容器云资源的过度调配、供应不足的资源管理问题以及云资源预测精度低、数据波动性等问题,为使云资源的预测能够为工作负载的需求提前响应并做出合理分配,提出了一种基于Holt-Winters和长短期记忆神经网络(long short-term memory, LSTM)(HW-LSTM)的云资源组合预测模型,并以预测残差的变异系数赋权。对亚马逊CPU数据集的预测实验表明,提出的组合模型比Holt-Winters、LSTM及卷积神经网络(convolutional neural networks, CNN)模型预测性能及稳定性更好,均方根误差(root mean squared error, RMSE)、平均绝对误差(mean absolute error, MAE)、平均绝对百分比误差(mean absolute percentage error, MAPE)、平均绝对比例误差(mean absolute scaled error, MASE)、方差D(n)优化范围分别为0.065～1.026、0.023～0.269、0.001～0....     

基于eBPF与LSTM的DDoS攻击检测系统

针对网络异常流量检测中的DDoS攻击检测,以往的基于深度学习的解决方案都是在脱离系统实体的数据集上构建模型和优化参数,提出并实现一种使用Linux内核观测技术eBPF(extended Berkeley Packet Filter)与深度学习技术结合的基于网络流量特征分析的网络异常流量检测系统。系统采用eBPF直接从Linux内核网络栈最底层高效地采集网络流量特征数据,然后使用基于长短记忆网络LSTM(Long Short Term Memory)构建的深度学习系统检测网络异常流量。在具体实现中,系统首先通过Linux内核网络栈最底层XDP(eXpress Data Path)中的eBPF程序挂载点采集网络流量特征数据。之后,使用LSTM构建神经网络模型和预测分类。将系统应用于一个仿真实验网络环境得出的实验结果表明,系统的识别精确度达到97.9%,同时,在使用该系统的情况下,网络中的TCP与UDP通信的吞吐率仅平均下降8.53%。结果表明：系统对网络通信影响较低,同时也实现了较好的检测效果,具有可用性,为网络异常流量检测提供了一种新的解决方法。     

基于流形距离的高速公路短时交通流预测模型

准确的高速公路短时交通流预测是实现交通诱导和控制的重要前提和基础。为了提高预测精度,提出一种基于流形距离(MD)的K近邻-长短期记忆(K-nearest neighbor-long short-term memory,KNN-LSTM)高速公路短时交通流预测模型。该模型利用流形相似性分析高速公路交通流的时空特性,计算多站点与目标站点之间的流形距离。然后,采用改进的KNN算法筛选出空间相关站点构造交通流数据集,通过LSTM模型提取时序特征得出预测结果。实验表明,与单一预测模型相比,该方法能更好地提取交通流时空特性且预测精度更高,可为高速公路的交通管理提供必要的依据。     

基于LSTM的短波频率参数预测

针对现有短波通信频率参数预测方法操作繁琐、预测精度不足的缺点,首次提出一种基于长短期记忆型循环神经网络（LSTM RNN）的预测方法。通过对电离层参数f0F2数据的分析,利用LSTM在处理时序相关数据时可以长期记忆网络历史数据的优势,对f0F2值进行预测。对比反向传播神经网络（BPNN）,LSTM将误差降低了7%,并将均方误差控制在2%以下。研究结果表明：基于LSTM搭建的提前预报5天的f0F2值的模型是可行的且比BP神经网络更适合预测电离层的f0F2值。     

利用SVM-LSTM-DBN的短期光伏发电预测方法

为解决传统预测算法的不足,利用深度信念网络(DBN)耦合支持向量机(SVM)和长短期记忆神经网络(LSTM),提出一种新的光伏功率组合预测方法.分别构建以高斯径向基函数为核函数的支持向量机预测模型、4层长短期记忆神经网络为单项预测模型,通过深度信念网络组合,优化预测结果并输出.根据实际出力和预测结果的误差,利用DBN动态调整以获得最优值,进一步验证SVM-LSTM-DBN模型的有效性和准确性,并以新疆维吾尔自治区某光伏电站的实测数据进行仿真验证.结果表明:基于SVM-LSTM-DBN组合的光伏出力预测模型与单一模型相比,预测精度明显提高.     

基于仿真和流量估计的服务性交通指标预测

提出了基于应用微观交通仿真模型和短期交通量预测的服务性交通参数预测模型.根据实际的交通系统和研究目的建立应用仿真模型并进行模型参数标定和有效性验证.根据实时采集的交通量采用基于小波分析和ARIMA(Autoregressive Integrated Moving Average)模型的混合模型进行下一时刻的交通量预测.将预测的交通量输入到应用仿真模型,根据仿真输出得到下一时刻的服务性交通参数指标.应用实例表明,该模型能够较好地进行服务性交通参数的预测.