基于差分自回归移动平均模型、长短期记忆网络模型及相关模型的无人机俯仰角预测

为了提高无人机俯仰角故障数据处理和预测的精确性和可靠性,避免增加无人机试飞成本,利用长短期记忆网络（Long Short Term Memory,LSTM）、注意力机制+LSTM模型和差分自回归移动平均模型（Autoregressive Integrated Moving Average Model,ARIMA）模型预测无人机试飞俯仰角故障数据。结果表明,ARIMA预测结果：MAE（Mean Absolute Error）=0.35,RMSE（Root Mean Square Error）=0.73,MAPE(Mean Absolute Percentage Error)=23.80%;LSTM模型预测结果：MAE=0.49,RMSE=0.74,MAPE=45.20%;注意力机制+LSTM模型预测结果：MAE=0.17,RMSE=0.53,MAPE=18.93%。可见注意力机制+LSTM模型比其余两种模型更适合于试飞俯仰角的数据预测,以上三种方法对无人机故障数据预测都具有实际意义,有效的预测可以推进自动飞行器和移动机器人的异常检测或外国直接投资研究的最新进展,以进一步提高自动和远程飞行操作的安全性。     

注意力机制的长短时记忆神经网络航线订座需求预测

针对航线订座需求预测中存在的预测结果不稳定,偏差较大的问题,提出了一种基于注意力机制 的长短时记忆神经网络(Long Short-term Memory Neural Network,LSTM)航线订座需求预测模型。首先, 对采集得到的航线订座需求数据进行数据清洗与指标计算处理,接着,对处理后的指标数据基于注意力机 制做权重分配,然后进行 LSTM 航线订座需求预测模型的建立,从而得到航线订座需求的最终预测结果 值。将训练优化得到的模型应用于国内某航司的航线订座需求预测中,计算出预测结果。实验结果表明, 基于注意力机制的 LSTM 航线订座需求预测模型预测精度较高,以厦门-上海为例,预测结果在与真实值 的对比下,平均绝对误差(Mean Absolute Error,MAE)为 13.1,均方根误差(Root Mean Square Error,RMSE) 为 17.2,相比较于移动平均法,指数平滑法,循环神经网络（Recurrent Neural Network,,RNN）,CNN-LSTM 混合模型有较好的预测效果。     

基于VMDLSTNet的水质预测模型

针对水质时序预测中存在长期信息和短期信息混合导致预测精度低的问题,采用变分模态分解（Variational Mode Decomposition,VMD）和长短期时间序列网络（Long- and Short-term Time-series network,LSTNet）组合使用以期望解决该问题得出更准确的水质预测。LSTNet网络中使用卷积神经网络（Convolutional Neural Networks,CNN）提取短期局部水质信息,使用循环神经网络（Recurrent Neural Network,RNN）提取长期水质信息,并且通过Skip-RNN利用序列周期特性,提取更长期信息,同时模拟自回归（Autoregressive model,AR）,为水质预测增添线性成分来达到输出能够响应输入尺度变化的目的。采用珠江流域老口站隔日采样的溶解氧数据验证模型效果,结果表明,VMDLSTNet网络处理水质预测问题的能力,不仅优于传统的BP神经网络（Back Propagation Neural Network,BPNN）、支持回归机（Support Vector Regression,SVR）模型,而且优于深度学习中时域卷积网络（Temporal Convolutional Network,TCN）模型、门循环网络（Gate Recurrent Unit,GRU）、增加注意力机制的长短时记忆网络（Long Short-Term Memory Add Attention,LSTM-AT）模型,溶解氧的预测平均绝对误差（Mean Absolute Error,MAE）为0.0931,预测均方误差（Mean Square Error,MSE）为0.0146,预测均方根误差（Root Mean Square Error,RMSE）为0.1208,水质类别的预测准确率为95%。     

基于长短时记忆网络的Encoder-Decoder多步交通流预测模型

交通流序列多为单步预测.为实现交通流序列的多步预测,提出一种基于编码器解码器(encoder-decoder,ED)框架的长短期记忆网络(long short-term memory,LSTM)模型,即ED LSTM模型.将自回归滑动平均、支持向量回归机、XGBOOST、循环神经网络、卷积神经网络、LSTM作为对照组进行实验验证.实验结果表明,当预测时间步长增加时,ED框架能够减缓模型性能的下降趋势,LSTM能够充分挖掘时间序列中的非线性关系.除此之外,在单变量输入的情况下,在PEMS-04数据集上,当预测时间步长为t+1到t+12的12个时间步时,ED LSTM模型的均方根误差(root mean squard error,RMSE)及平均绝对误差(mean absolute error,MAE)分别下降0.210～5.422、0.061～0.191.相较于单因素输入,多因素输入的ED LSTM模型在12个预测时间步长下,RMSE、MAE分别下降0.840、0.136.实验证明了ED LSTM模型能够有效地用于交通流序列的多步及单因素、多因素预测任务.     

终端区4D飞行轨迹预测与冲突预警

为提升终端区飞行轨迹预测精度,实现航空器短时冲突预警,建立一种基于孪生支持向量回归的终端区4D飞行轨迹预测模型。对历史飞行轨迹应用重采样算法,降低轨迹数据规模;利用墨卡托投影将轨迹点经度、纬度与高度化为x-y-z坐标,采用孪生支持向量回归算法学习预测模型,实现短时航空器飞行轨迹动态预测;计算两架航空器水平、垂直距离,建立航空器冲突预警指示函数;对孪生支持向量回归算法进行超参数灵敏度分析,分析各超参数对模型预测效果的影响。根据机场真实数据进行仿真实验,证明：基于孪生支持向量回归的4D飞行轨迹预测模型能够准确捕捉航空器运动趋势,且泛化能力强;所提模型x-y-z坐标预测均方根误差是BP神经网络预测结果的32%,35%和61%,单次预测计算用时减少约0.13 s。     

基于融合Dropout与注意力机制的LSTM-GRU车辆轨迹预测

在智能驾驶环境的车辆轨迹预测环节,为更好地获取环境车辆的轨迹时序特征,在长短期记忆神经网络（LSTM）基础上,嵌入Dropout层以增强网络泛化性,引入注意力机制予以预测效果影响较大的时序数据更大权重从而提高预测结果的可靠性,且将改进的LSTM模型与门控循环单元GRU模型结合,构建LSTM-GRU预测模型以进一步提升环境车辆轨迹预测的准确性.在此基础上,使用NGSIM公开数据集对模型进行训练、验证和测试.研究结果表明,融合了Dropout和注意力机制的LSTM-GRU神经网络轨迹预测模型相较标准的LSTM长短期记忆网络以及GRU门控循环单元,在预测较长时序的车辆轨迹上具有优势,提高了轨迹预测的准确性,降低了实际轨迹和预测轨迹之间的均方根误差和平均绝对误差.     

基于注意力机制的车辆行为预测

为了解决智能驾驶场景中对周边车辆未来行为的预测问题,研究了基于注意力机制的长短时记忆网络(LSTM)模型的车辆行为预测方法.首先提出了一种非均匀步长的时间序列数据划分方法,将属于特定行为的车辆时序信息进行分类;以LSTM为基本的神经网络框架,用注意力机制判断输入时序信息中各个时间步信息的重要程度,分配不同的权重值;以目标车辆及其周边车辆的历史轨迹信息作为算法输入,用来预测目标车辆将来的运动行为.结果表明:该算法可以解决固定步长的时序分类方法导致的信息遗漏或计算资源负担增加的问题,同时能够有效提高行为预测准确性,减少车辆行为预测时间.     

耦合注意力机制大坝变形改进LSTM序列到序列预测模型

目前,大坝变形预测主要采用的浅层网络结构存在难以挖掘数据序列隐含深层特征的问题．常用的LSTM和GRU等模型虽然具有分析变形序列的时间自相关性特征的特点,但忽略了环境因子序列和变形序列之间的映射关系,且难以克服深度神经网络梯度下降训练易陷入局部最优的问题．针对上述问题,提出了耦合注意力机制大坝变形改进LSTM序列到序列预测模型．利用编码和解码双层LSTM构建序列到序列结构,同步提取输入影响因子和输出变形的序列特征,并耦合注意力机制,动态度量各影响因子对变形的贡献率,以提高预测精度．进一步利用蚁群信息素及双混沌优化改进鲸鱼捕食机制,构建基于改进鲸鱼优化算法的耦合注意力机制的LSTM序列到序列网络模型的无梯度环境,规避早熟收敛,弥补梯度下降本身的缺陷．工程应用结果表明,本文所提模型能够精确预测大坝变形,在各点位测试集上平均MAPE、MAE和RMSE分别为0.125%、0.604 mm和0.865 mm．此外,时效、水位和温度分量对点位变形的贡献率依次为51.93%、30.14%和17.93%．本研究为大坝安全监控提供理论与技术支撑．     

空战飞行对敌目标逼近航迹预测仿真

针对传统航迹预测方法考虑因素少、预测时间长的问题,提出基于实时反馈长短期记忆神经网络(FF-LSTM)的航迹预测模型。该模型在长短期记忆(LSTM)神经网络的基础上,引入实时反馈,并采用随机梯度下降法和批处理方法训练网络权值和阈值,构建FF-LSTM神经网络。根据目标航迹特点,选取敌机位置、姿态信息和两机之间互信息特征作为输入数据,将航迹预测视为序列到序列的映射问题。实验结果表明,与BP神经网络和递归神经网络相比,FF-LSTM模型有更好的预测能力,可以快速准确地完成航迹预测。     

基于改进塘鹅算法优化BP神经网络的新型冠状病毒疫情预测

针对北京市和美国新型冠状病毒感染疫情的累计确诊人数的预测，提出了基于改进塘鹅优化算法（Improved Gannet Optimization Algorithm,IGOA）、优化反向传播神经网络（Back Propagation Neural Network,BP）权值和偏差的预测模型。将原塘鹅优化算法中塘鹅的位置更新方式由迭代次数的线性关系修改为非线性关系，并引入了随机数，更准确地模拟塘鹅的捕食过程；在两个阶段均采用随机选择机制，并改进了开发阶段塘鹅的位置更新方式，有效地平衡了探索阶段和开发阶段。在实验阶段利用23个基准函数的极值寻优验证了IGOA的有效性，并建立预测模型IGOA-BP，对北京市和美国新型冠状病毒感染累计确诊人数进行预测。与其他7种比较模型相比，预测模型IGOA-BP的预测结果的均方误差（Mean Square Error,MSE）、平均绝对百分比误差（Mean Absolute Percentage Error,MAPE）、平均绝对误差（Mean Absolute Error,MAE）、均方根误差（Root Mean Square Error,RMSE）均最小，表...     

航空器爬升与下降阶段4D航迹预测

准确的4D航迹预测可以在冲突探测与解脱、航迹优化和空中交通流量管理等多个领域发挥重要作用。为提高预测的准确性,提出了基于机器学习的航空器4D航迹预测方法。首先,利用爬升阶段提取研究指标,构建循环神经网络(recurrent neural network, RNN)和长短期记忆网络(long short-term memory, LSTM);其次,在下降阶段进行数据维度拓展,构建RNN、LSTM模型进行航迹预测;最后,对各个维度上的预测航迹点和实际航迹点的误差进行分析。仿真结果表明,爬升阶段模型和下降阶段模型对于航空器位置预测准确性高,展现了航迹预测模型的良好鲁棒性。     

基于关联规则及组合模型的面料需求预测

由于服装的面料组成具有复杂性,企业在不同时间对不同规格型号面料需求量不一致,传统的人工预测及单维度智能预测模型难以解决问题。针对服装企业面料需求非确定性、预测难的痛点,提出基于关联规则及组合模型的面料需求预测方法。文章首先构建Apriori面料型号关联模型,挖掘多批多类面料间的型号关联规则;然后构建Prophet时间序列模型与长短期记忆神经网络(long short-term memory,LSTM)的组合预测模型Prophet-LSTM,结合其在解决面料需求预测问题上的优势;最后将挖掘出的高关联面料型号历史需求数据作为输入,采用量子粒子群算法(quantum particle swarm optimization,QPSO)优化组合模型权值系数,进行关联面料需求量预测。使用RMES(root mean squared error,RMSE)及MAE(mean absolute error,MAE)作为评价指标设计对比实验,实验结果表明：采用量子粒子群优化的QPSOProphet-LSTM面料需求预测模型RMES较Prophet降低5.464,较LSTM降低1.184;MAE较Prophet降低4.261,较LSTM降低0.819,需求预测精度更高,支持服装企业面料柔性生产。     

毫米波雷达数据驱动的桥梁挠度预测

为监测公路桥梁健康状况从而保证车辆行驶桥面的安全性,基于毫米波雷达监测的桥梁挠度数据,结合深度学习理论,提出了一种基于卷积神经网络（convolutional neural network, CNN）与门控制循环单元（gate recurrent unit, GRU）组合的桥梁挠度预测模型。首先,获取高速公路大桥高精度挠度数据,通过数据预处理,在保留原始数据特征的基础上,修复部分噪声数据;其次,将处理后的样本数据、时间步长和特征数的三维数据,以桥梁挠度数据序列构造的输入矩阵作为输入层,经过CNN-GRU组合模型的密集连接层后,输出预测桥梁挠度值。最后,选取具有代表性的监测点数据,利用均方根误差 (root mean square error, RMSE)、平均绝对误差 (mean absolute error, MAE)、平均百分比误差 (mean absolute percentage error, MAPE)进行预测效果验证。结果表明,CNN-GRU模型的精度更高：较于传统LSTM（long short-term memory）模型在RMSE上提升了59.65%,MAE提升了61.30%;较于CNN-LSTM模型在RMSE上提升了2.48%,MAE提升了4.87%。其对于桥梁挠度极值及趋势的判断基本准确,可以作为桥梁健康状况预测的科学依据。     

基于注意力机制的CNN-LSTM模型的航迹预测

基于数学模型或统计模型的传统航迹预测方法存在一定的局限性，无法满足现代航空领域对于高效、准确、实时的航迹预测需求。针对此问题，提出基于注意力机制的CNN-LSTM模型的实时航迹预测方法。该模型首先使用一维卷积对航迹数据的多维度特征进行提取，从而减少输入特征的数量。其次利用获取的多维度时序数据作为LSTM的输入，通过LSTM提取上下文的信息。最后使用注意力机制为LSTM中不同时序节点的输出赋予权重，达到聚焦关键航迹信息的作用。经过实验验证：本文的模型与LSTM模型和CNN-LSTM模型相比，预测出的路径更接近真实航迹；文中的模型比LSTM模型的平均预测误差降低了29.7%，比CNN-LSTM模型降低了25.4%。综上所述，文中方法可以显著提高航迹预测的精度。     

微观轨迹信息驱动的Bi-LSTM合流区车速预测

为明确城市快速路合流区的微观速度特性,确保车辆在衔接段运行速度协调可控,使车辆安全运行。首先,基于无人机高空视频,从广域视角提取了典型多车道交织区全样本高精度车辆轨迹数据,分析车速的累积频率、分布趋势、特征百分位值等运行特性。然后,基于可有效捕捉前向历史速度数据的变化特征的LSTM模型,构建Bi-LSTM车速预测模型;考虑到人工设置训练参数对模型预测性能的影响较大、时间较长,提出基于遗传算法优化的Bi-LSTM速度预测模型(GA-BiLSTM)。最后,以R2、Error Mean、Error StD、MSE、RMSE、NRMSE、秩相关rs这7类评价指标,建立多指标融合的评价方案。结果表明：GA-Bi-LSTM速度预测模型表现较优,拟合指标R2、秩相关rs分别为0.904 6、0.949 5,误差指标Error Mean、Error StD、MSE、RMSE、NRMSE分别为0.004 1、0.447 0、0.199 7、0.446 9、0.076 5。研究成果可为城市快速路的合流区车速调控提供理论依据。     

基于Prophet-LSTM-PSO组合模型的医院住院量预测研究

针对医院住院量预测问题,首先利用先知模型（Prophet）与长短期记忆循环神经网络（LSTM）预测方法对2015年1月到2019年12月上海市东方医院呼吸内科住院量的时序数据进行建模分析,然后利用粒子群算法（PSO）求出两种模型对应的组合系数,从而得到最终的Prophet-LSTM-PSO组合模型,并通过RMSE和MA...     

使用AVL数据的公交到站时间CEEMD-LSTM预测模型

准确的公交到站时间预测具有重要意义，但现实公交运行受突发路况影响，运行速度具有非平稳性，本文结合时序特征处理技术和深度学习，建立一种使用AVL数据预测公交到站时间的互补集合经验模态分解-长短期记忆神经网络模型。模型收集公交自动车辆定位数据，经预处理后引入互补集合经验模态分解平稳化公交运行速度，再借助Adam参数寻优后的长短期记忆神经网络对福州市303路公交某日早高峰公交到站时间进行预测。结果表明：优化的公交到站时间预测模型平均绝对误差比单一模型低了1.69min，预测精度高于长短期记忆神经网络模型和经验模态分解的到站时间预测模型，可有效地为安装车载自动车辆定位系统的公交线路预测公交到站时间提供参考。