基于差分自回归移动平均模型、长短期记忆网络模型及相关模型的无人机俯仰角预测

为了提高无人机俯仰角故障数据处理和预测的精确性和可靠性,避免增加无人机试飞成本,利用长短期记忆网络（Long Short Term Memory,LSTM）、注意力机制+LSTM模型和差分自回归移动平均模型（Autoregressive Integrated Moving Average Model,ARIMA）模型预测无人机试飞俯仰角故障数据。结果表明,ARIMA预测结果：MAE（Mean Absolute Error）=0.35,RMSE（Root Mean Square Error）=0.73,MAPE(Mean Absolute Percentage Error)=23.80%;LSTM模型预测结果：MAE=0.49,RMSE=0.74,MAPE=45.20%;注意力机制+LSTM模型预测结果：MAE=0.17,RMSE=0.53,MAPE=18.93%。可见注意力机制+LSTM模型比其余两种模型更适合于试飞俯仰角的数据预测,以上三种方法对无人机故障数据预测都具有实际意义,有效的预测可以推进自动飞行器和移动机器人的异常检测或外国直接投资研究的最新进展,以进一步提高自动和远程飞行操作的安全性。     

基于长短时记忆网络的Encoder-Decoder多步交通流预测模型

交通流序列多为单步预测.为实现交通流序列的多步预测,提出一种基于编码器解码器(encoder-decoder,ED)框架的长短期记忆网络(long short-term memory,LSTM)模型,即ED LSTM模型.将自回归滑动平均、支持向量回归机、XGBOOST、循环神经网络、卷积神经网络、LSTM作为对照组进行实验验证.实验结果表明,当预测时间步长增加时,ED框架能够减缓模型性能的下降趋势,LSTM能够充分挖掘时间序列中的非线性关系.除此之外,在单变量输入的情况下,在PEMS-04数据集上,当预测时间步长为t+1到t+12的12个时间步时,ED LSTM模型的均方根误差(root mean squard error,RMSE)及平均绝对误差(mean absolute error,MAE)分别下降0.210～5.422、0.061～0.191.相较于单因素输入,多因素输入的ED LSTM模型在12个预测时间步长下,RMSE、MAE分别下降0.840、0.136.实验证明了ED LSTM模型能够有效地用于交通流序列的多步及单因素、多因素预测任务.     

基于动态时间规整和长短期记忆的空中交通流量短期预测

空中交通短期流量预测的准确性对于精准实施空中交通流量管理具有重要意义。为提高空中交通短期流量预测准确性,充分利用历史运行数据,本文提出了一种基于DTW-LSTM的空中交通流量短期预测方法。首先,分析了空中交通流的时空相关性特征,基于此特征采用DTW算法衡量扇区之间的空间相关性;然后,由空间相关性度量结果选取不同扇区的数据进行组合,构建输入时间序列长度不同的数据集,将历史时间数据输入LSTM模型中训练;最后,对不同时空参数组合模型的预测结果进行分析,与不考虑时空相关性LSTM模型、考虑时空特性的SVR模型的预测结果进行对比。实验结果表明,相比于传统方法,本文提出的空中交通流量短期预测方法通过考虑交通流的时空相关性,提高了预测结果的准确性,相比LSTM模型,MAE降低24.5%,RMSE降低31.4%,相比时空相关SVR模型,MAE降低36.4%,RMSE降低30.6%。     

基于ARIMA-LSTM-XGBoost组合模型的铁路货运量预测

为提升铁路货运量预测精度和泛化能力,综合考虑铁路货运量时间序列数据的线性和非线性特征,提出了基于ARIMA-LSTM-XGBoost组合模型的铁路货运量预测方法。首先使用ARIMA模型对我国铁路货运量进行初步预测,再利用LSTM网络对残差进行校正,并将其与XGBoost模型结合,采用误差倒数法确定权重,构建一种加权组合模型。最后将组合模型与ARIMA、ARIMA-LSTM、LSTM、XGBoost模型进行对比,借助均方误差(MSE)、均方根误差(RMSE)、平均绝对值误差(MAE)、平均绝对百分比误差(MAPE)对上述模型的预测精度进行对比分析。使用2007年-2021年全国铁路货运量月度数据进行实验,实验结果表明：组合模型的MSE、RMSE、MAE、MAPE分别为0.011 9、0.109 4、0.068 3、1.775 2%,预测误差均低于上述对比模型,模型的预测精度和泛化能力都有所提升。     

“数据分析与计算专栏”主持人语

<正>中国大数据和人工智能技术正处于蓬勃发展阶段,先进模型算法不断涌现。本期专栏推出3篇论文,以大数据和人工智能应用为中心,面向工业界和学术界的应用场景,介绍前沿模型算法的相关应用案例。第1篇是张冬雯等撰写的《基于长短期记忆神经网络模型的空气质量预测》。这是一篇算法类的文章,主要针对当前空气质量预测研究中预测精度低、效率低、缺失时间因素等问题,从时间角度提出了一种简单的空气质量预测方法——LSTM神经网络模型,使用MAPE,RMSE,R,IA和MAE等指标检测LSTM神经网络与对比模型的预测性能。实验结果表明,LSTM神经网络可以适应多个变量或多输入的时间序列预测问题,具有预测精度高、速度快和鲁棒性较强等优点,使用LSTM神经网络进行空气质量预测可以有效提高预测的准确性。     

LSTM和Prophet模型在肺结核发病数预测中的应用

为预测肺结核发病数,建立了两种能够较为精确描述以及预测肺结核发病数的模型.根据中国疾控中心提供的2007年7月至2019年6月肺结核发病数的数据,运用LSTM模型和Prophet模型对中国肺结核发病数进行预测,并将该两种模型的预测性能与ARIMA、GM(1,1)模型进行对比.结果表明,Prophet模型预测性能最佳,其MAE值与RMSE值分别为5 124.33、5 905.32,LSTM模型预测性能次之,ARIMA模型预测性能最差.     

基于HA-RF-SHAP的露天煤矿粉尘浓度预测模型

为了有效预测和控制煤矿粉尘浓度,保障煤矿工人健康及环境安全,以宝日希勒露天煤矿现场粉尘监测数据为基础,使用随机森林对粉尘浓度进行预测,提出了4种启发式智能优化算法优化随机森林超参数的方法,通过RMSE、MAE和皮尔逊相关系数R对模型进行评价,采用SHAP可解释模型分析影响露天煤矿粉尘浓度的因素。结果表明：PM2.5、PM10、TSP的最优模型分别为GWO-RF、WOA-RF和HHO-RF;超参数调整使模型整体RMSE指标提升约为1～3,MAE提升约为1～2.5,R提升约4%～6%;PM2.5的预测表现最好,训练集与测试集共同作用时,R为0.946 3,MAE为3.059,RMSE为4.919,其次是PM10、TSP;单因素作用时,湿度对于该矿粉尘浓度影响最大,双因素同时影响下湿度和气压对粉尘浓度变化影响最大。研究提供了一个有效的粉尘浓度预测方法,可准确预测粉尘浓度并确定粉尘最影响因素,对矿山粉尘管控具有重要参考价值。     

毫米波雷达数据驱动的桥梁挠度预测

为监测公路桥梁健康状况从而保证车辆行驶桥面的安全性,基于毫米波雷达监测的桥梁挠度数据,结合深度学习理论,提出了一种基于卷积神经网络（convolutional neural network, CNN）与门控制循环单元（gate recurrent unit, GRU）组合的桥梁挠度预测模型。首先,获取高速公路大桥高精度挠度数据,通过数据预处理,在保留原始数据特征的基础上,修复部分噪声数据;其次,将处理后的样本数据、时间步长和特征数的三维数据,以桥梁挠度数据序列构造的输入矩阵作为输入层,经过CNN-GRU组合模型的密集连接层后,输出预测桥梁挠度值。最后,选取具有代表性的监测点数据,利用均方根误差 (root mean square error, RMSE)、平均绝对误差 (mean absolute error, MAE)、平均百分比误差 (mean absolute percentage error, MAPE)进行预测效果验证。结果表明,CNN-GRU模型的精度更高：较于传统LSTM（long short-term memory）模型在RMSE上提升了59.65%,MAE提升了61.30%;较于CNN-LSTM模型在RMSE上提升了2.48%,MAE提升了4.87%。其对于桥梁挠度极值及趋势的判断基本准确,可以作为桥梁健康状况预测的科学依据。     

基于数值与文本特征的LSTM股票价格预测研究

行为金融学理论指出，由社交媒体文本数据所折射出的投资者情绪在一定程度上影响着股票市场的波动。为了利用投资者情绪对股票市场作出更准确的预测，本文爬取2020年8月31日至2021年9月1日的沪深300指数股吧评论文本数据，使用基于融合基础情感词典和金融词典的分析方法将评论文本数据量化为投资者情绪指标，并利用长短期记忆（Long short-term memory,LSTM）神经网络构建了融合股票历史交易数据和基于股吧评论的投资者情绪指标的多特征预测模型。实验结果表明，基于数值和文本特征的LSTM股票价格预测模型的平均绝对误差（Mean absolute error,MAE）、均方根误差（Root mean squared error,RMSE）和均方误差（Mean square error,MSE）值较LSTM数值特征预测模型降低了18.84、15.79、1486.54。较GRU(Gated recurrent unit)数值文本特征模型，其MAE、RMSE、MSE值则降低了11.42、10.49、931.75。实验结果表明本文提出的方法可以有效预测股票价格指数。     

基于时空LSTM的OD客运需求预测

客运需求预测是打造智能交通系统中的重要一环,精准的预测模型有助于预分配交通资源,改善用户出行体验.然而客运需求的动态时空特性导致准确预测客运需求具有很大的挑战.本文提出了一种基于时空长短期记忆网络(LSTM)的出发地—目的地(OD)客运需求预测模型(STLSTM-PDP),显式地建模了客运需求时间序列内部的时间依赖关系和序列之间的空间依赖关系,预测未来一段时间所有OD的客运需求量.在全国民航重点航线客运需求量数据集及某城市区域间出租车客运量数据集上进行了实验,结果表明:STLSTM-PDP模型优于其他现有的预测方法,其MAE比其他方法降低了4.4%～41.4%,RMSE降低了4.3%～49.1%.     

基于集成LSTM的泵站供水流量智能预测方法

城市二次加压供水泵站的供水流量预测是实现清水池补水、蓄水的依据,也是保证居民用水安全的前提.针对泵站供水流量受线性、非线性和时变等多种因素影响,导致传统模型的预测效果较差的问题,提出了一种基于长短时记忆网络与整合移动平均自回归模型相结合（LSTM ARIMA）的方法,建立泵站供水流量集成预测模型.首先将获取到的供水流量数据按照时间日期进行打标签及预处理;然后将处理后的数据分别放入LSTM模型和ARIMA模型中进行训练与测试,通过统计分析2个模型的历史预测准确次数来确定它们各自的基本权重,并在预测过程中自适应修正权重;最后,基于对应权重将2个模型集成,得到最终的供水流量预测结果.某供水泵站的现场数据验证表明：本文方法所得结果与其他2种方法所得的预测结果在均方根误差（RMSE）上分别降低了51.24%和66.52%,在平均绝对误差（MAE）上分别降低了49.84%和67.02%,验证了模型的有效性.     

基于长短时记忆与多影响因子的滑坡位移动态预测

针对传统滑坡位移预测模型存在对历史数据遗忘的问题,提出了一种基于长短时记忆（LSTM）网络的滑坡位移动态预测模型。首先,将滑坡累计位移分解为趋势项位移与波动项位移,利用多项式拟合预测趋势项位移;然后,通过灰色关联度筛选外界诱发因子并运用LSTM模型预测波动项位移;最后,叠加周期项位移与波动项位移,得到累计位移。以新滩滑坡为例,并与RNN模型以及传统静态神经网络模型BP、ELM进行对比分析,采用平均百分比误差（MAPE）,均方根误差（RMSE）,拟合优度（R2）分别对其进行评价。应用结果表明：相比于传统静态模型,LSTM与RNN均适用于滑坡位移动态预测;对比结果显示,LSTM模型具有较好的预测精度,MAPE与RMSE值分别为1.026%、0.327 mm,拟合优度R2为0.978。     

基于关联规则及组合模型的面料需求预测

由于服装的面料组成具有复杂性,企业在不同时间对不同规格型号面料需求量不一致,传统的人工预测及单维度智能预测模型难以解决问题。针对服装企业面料需求非确定性、预测难的痛点,提出基于关联规则及组合模型的面料需求预测方法。文章首先构建Apriori面料型号关联模型,挖掘多批多类面料间的型号关联规则;然后构建Prophet时间序列模型与长短期记忆神经网络(long short-term memory,LSTM)的组合预测模型Prophet-LSTM,结合其在解决面料需求预测问题上的优势;最后将挖掘出的高关联面料型号历史需求数据作为输入,采用量子粒子群算法(quantum particle swarm optimization,QPSO)优化组合模型权值系数,进行关联面料需求量预测。使用RMES(root mean squared error,RMSE)及MAE(mean absolute error,MAE)作为评价指标设计对比实验,实验结果表明：采用量子粒子群优化的QPSOProphet-LSTM面料需求预测模型RMES较Prophet降低5.464,较LSTM降低1.184;MAE较Prophet降低4.261,较LSTM降低0.819,需求预测精度更高,支持服装企业面料柔性生产。     

基于LSTM神经网络的畸形波预测

采用长短时记忆(LSTM)神经网络预测方法对某岛礁地形模型的四个典型波浪试验数据进行预测分析,并建立了单步和多步预测模型.首先对波高时间序列数据进行归一化处理;然后建立了包括输入层、隐藏层和输出层的LSTM网络模型框架;最后对测试样本进行单步预测,将预测结果与支持向量机(SVM)模型和反向传播(BP)模型进行了对比.结果表明:LSTM神经网络预测精度有明显优势;多步预测中,提高预测时长其预测精度并无明显降低.     

融合预训练的港口吞吐量LSTM预测模型

港口吞吐量时序变化数据量较小且变化快,传统LSTM神经网络在此类数据上易出现过拟合,导致模型预测性能不佳。针对此问题,本文提出融合预训练与LSTM时序模型,通过预训练捕获任务领域的全局信息,再用LSTM模型精确描述各个港口的吞吐量变化规律,以提升模型对全部港口吞吐量预测的准确性。以天津港等15个中大型港口过去二十一年的月吞吐量为实验数据,以BP、ARIMA、传统LSTM等预测模型和目前流行的GNN-LSTM模型为比较基准进行仿真实验,结果显示本文所提出的融合预训练的LSTM模型能有效解决LSTM神经网络的过拟合问题,整体预测准确率高于所有基准模型。与传统LSTM模型相比,基于预训练的LSTM的MAE指标平均降低45.2%%,最多降低80.0%。     

超短期风电功率预测的混合深度学习模型

针对风电功率预测(WPF)问题,提出一种基于离散小波变换(DWT)、时间卷积网络(TCN)和长短期记忆(LSTM)神经网络的混合深度学习模型(DWT-TCN-LSTM),对超短期风电功率进行预测.将DWT-TCN-LSTM模型分别与差分整合移动平均自回归(ARIMA)模型,支持向量回归(SVR)模型,长短期记忆神经网络模型和卷积长短期记忆(TCN-LSTM)混合模型进行对比实验,通过对称平均绝对百分比误差(SMAPE),均方根误差(RMSE)和平均绝对误差(MAE)3种评价指标值对各个模型进行评价.实验结果表明:DWT-TCN-LSTM模型具有较好的预测性能.     

双向LSTM神经网络的航空发动机故障预测

准确的航空发动机故障预测能够为维修决策提供依据,提高装备完好率,避免灾难性故障并最小化经济损失。根据航空发动机传感器数据特点,提出一种基于双向长短期记忆（LSTM）神经网络的故障预测方法,建立故障预测模型,包括数据预处理、网络模型设计、训练与测试,得到在多种工作条件和故障下具有较强泛化能力的神经网络预测模型。使用C-MAPSS数据集对模型进行仿真验证,所提出的双向LSTM故障预测模型通过与RNN、GRU、LSTM时间序列模型对比,误差下降33.58%,得到更高的预测精度,非对称评分下降71.22%,具有更好的适应性。     

基于PSO-Adam-GRU的煤矿瓦斯浓度预测模型

煤矿瓦斯浓度的精准预测是矿井瓦斯防治的关键。为了准确可靠地预测工作面瓦斯浓度,提出了一种基于门控循环单元方法的工作面瓦斯浓度预测模型。采用邻近均值法对数据缺失值和异常值进行补全,采用MinMaxScaler方法对实验数据进行归一化处理,为了提高模型精度和稳定性,采用粒子群算法和Adam算法对GRU超参数进行优化,从而构建了基于PSO-Adam-GRU的工作面瓦斯浓度预测模型。以崔家沟煤矿生产监测数据为样本数据进行模型训练,采用平均绝对误差、均方根误差、运行时间3种评价指标对预测模型性能进行评估,并将预测结果与BPNN和LSTM进行对比。结果表明:PSO-Adam-GRU较BPNN和LSTM具有更高的精度和稳定性,在预测过程中MAE可降低到0.058,RMSE可降低到0.005.结果表明,基于PSO-Adam-GRU的瓦斯浓度预测模型和参数优选方法可有效预测出瓦斯浓度,该模型在瓦斯浓度时间序列预测方面具有更高的准确性和鲁棒性,可为矿井瓦斯治理提供一定指导意见。     

基于SSA-VMD-LSTM-NKDE的短期风电功率概率预测

为进一步提高风电功率预测精度,提出一种基于麻雀搜索算法(SSA)优化VMD参数的组合预测方法。首先,使用麻雀搜索算法对VMD参数进行优化,并利用优化后的VMD对数据进行分解;其次,结合灰色关联分析法和熵权法对环境变量进行相关性分析,选择相关性最高的影响因素与分解得到的各模态分量组合作为LSTM预测模型的输入,获得更为精确的预测结果;最后,建立基于非参数核密度估计(NKDE)的风电功率概率预测模型,实现对风电功率预测结果不确定性的有效量化。结果表明,所提组合模型的MAE,RMSE和MAPE比VMD-LSTM模型的分别下降了39.51%,33.22%和40.39%。SSA-VMD-LSTM-NKDE组合模型不仅能够有效提高确定性预测的精度,而且还能够实现对风电功率预测结果不确定性的有效量化,为风电功率预测提供了科学决策依据。     

注意力机制的长短时记忆神经网络航线订座需求预测

针对航线订座需求预测中存在的预测结果不稳定,偏差较大的问题,提出了一种基于注意力机制 的长短时记忆神经网络(Long Short-term Memory Neural Network,LSTM)航线订座需求预测模型。首先, 对采集得到的航线订座需求数据进行数据清洗与指标计算处理,接着,对处理后的指标数据基于注意力机 制做权重分配,然后进行 LSTM 航线订座需求预测模型的建立,从而得到航线订座需求的最终预测结果 值。将训练优化得到的模型应用于国内某航司的航线订座需求预测中,计算出预测结果。实验结果表明, 基于注意力机制的 LSTM 航线订座需求预测模型预测精度较高,以厦门-上海为例,预测结果在与真实值 的对比下,平均绝对误差(Mean Absolute Error,MAE)为 13.1,均方根误差(Root Mean Square Error,RMSE) 为 17.2,相比较于移动平均法,指数平滑法,循环神经网络（Recurrent Neural Network,,RNN）,CNN-LSTM 混合模型有较好的预测效果。