基于卷积神经网络与门控循环单元的交通流预测模型

为对交通流进行多步预测,支持智能交通系统的长期决策任务,一种基于编码器-解码器（encoder-decoder,ED）的卷积神经网络(convolutional neural networks,CNN)-门循环单元(gate recurrent unit, GRU)模型,简称ED CNN-GRU。首先使用CNN作为编码器,对交通流序列进行信息捕捉,再将上述信息通过GRU解码器进行解释并输出。实验证明,对比CNN、GRU单个模型,ED框架有效解决了误差的迅速累积问题。对比其他基准模型,CNN、 GRU模型对于交通流序列的特征提取及解释能力较为优秀。对于未来12个步长的交通流量预测任务,对比其他基准模型,单因素输入情况的ED CNN-GRU模型的均方根误差下降约0.344～6.464,平均绝对误差下降约0.192～0.425。对比单因素输入,多因素输入下ED CNN-GRU模型拥有更好的预测能力。证明了ED CNN-GRU模型在不同输入维度的多步交通流预测中任务中均具有良好的预测能力,为数据获取条件不同的城市提供了一个支持单因素及多因素输入情况的多步交通流预测模型。     

毫米波雷达数据驱动的桥梁挠度预测

为监测公路桥梁健康状况从而保证车辆行驶桥面的安全性,基于毫米波雷达监测的桥梁挠度数据,结合深度学习理论,提出了一种基于卷积神经网络（convolutional neural network, CNN）与门控制循环单元（gate recurrent unit, GRU）组合的桥梁挠度预测模型。首先,获取高速公路大桥高精度挠度数据,通过数据预处理,在保留原始数据特征的基础上,修复部分噪声数据;其次,将处理后的样本数据、时间步长和特征数的三维数据,以桥梁挠度数据序列构造的输入矩阵作为输入层,经过CNN-GRU组合模型的密集连接层后,输出预测桥梁挠度值。最后,选取具有代表性的监测点数据,利用均方根误差 (root mean square error, RMSE)、平均绝对误差 (mean absolute error, MAE)、平均百分比误差 (mean absolute percentage error, MAPE)进行预测效果验证。结果表明,CNN-GRU模型的精度更高：较于传统LSTM（long short-term memory）模型在RMSE上提升了59.65%,MAE提升了61.30%;较于CNN-LSTM模型在RMSE上提升了2.48%,MAE提升了4.87%。其对于桥梁挠度极值及趋势的判断基本准确,可以作为桥梁健康状况预测的科学依据。     

基于关联规则及组合模型的面料需求预测

由于服装的面料组成具有复杂性,企业在不同时间对不同规格型号面料需求量不一致,传统的人工预测及单维度智能预测模型难以解决问题。针对服装企业面料需求非确定性、预测难的痛点,提出基于关联规则及组合模型的面料需求预测方法。文章首先构建Apriori面料型号关联模型,挖掘多批多类面料间的型号关联规则;然后构建Prophet时间序列模型与长短期记忆神经网络(long short-term memory,LSTM)的组合预测模型Prophet-LSTM,结合其在解决面料需求预测问题上的优势;最后将挖掘出的高关联面料型号历史需求数据作为输入,采用量子粒子群算法(quantum particle swarm optimization,QPSO)优化组合模型权值系数,进行关联面料需求量预测。使用RMES(root mean squared error,RMSE)及MAE(mean absolute error,MAE)作为评价指标设计对比实验,实验结果表明：采用量子粒子群优化的QPSOProphet-LSTM面料需求预测模型RMES较Prophet降低5.464,较LSTM降低1.184;MAE较Prophet降低4.261,较LSTM降低0.819,需求预测精度更高,支持服装企业面料柔性生产。     

融合VMD和GRU模型的城市道路行程时间预测方法

城市道路交通环境复杂多变,城市道路行程时间具有较强的非线性与非稳定性,为提高城市道路行程时间的预测精度,提出了基于变分模态分解(variational mode decomposition,VMD)与门控循环单元(gated recurrent unit,GRU)相结合的组合预测模型。与传统分解算法相比,VMD拥有非递归求解和自主选择模态个数的优点。首先利用变分模态分解算法将原始行程时间序列分解为若干时间子序列,降低原始序列的非平稳性;然后对每个时间子序列建立GRU预测模型;最后将各个预测结果进行融合,得到行程时间序列预测的最终结果。实验结果表明,变分模态分解与门控循环单元结合的组合模型预测结果要比对照组的单一模型预测结果精准度高,均方根误差(root mean squared Error,RMSE)及下降约3.99～4.37,平均绝对误差(mean absolute error,MAE)下降约3.02～3.35;在组合预测模型中,门控循环单元(GRU)预测效果要比长短期记忆(long short-term memory,LSTM)预测效果表现更佳,均方根误差(root mean squared error,RMSE)下降0.34,平均绝对误差(mean absolute error,MAE)下降0.22。     

基于动态时间规整和长短期记忆的空中交通流量短期预测

空中交通短期流量预测的准确性对于精准实施空中交通流量管理具有重要意义。为提高空中交通短期流量预测准确性,充分利用历史运行数据,本文提出了一种基于DTW-LSTM的空中交通流量短期预测方法。首先,分析了空中交通流的时空相关性特征,基于此特征采用DTW算法衡量扇区之间的空间相关性;然后,由空间相关性度量结果选取不同扇区的数据进行组合,构建输入时间序列长度不同的数据集,将历史时间数据输入LSTM模型中训练;最后,对不同时空参数组合模型的预测结果进行分析,与不考虑时空相关性LSTM模型、考虑时空特性的SVR模型的预测结果进行对比。实验结果表明,相比于传统方法,本文提出的空中交通流量短期预测方法通过考虑交通流的时空相关性,提高了预测结果的准确性,相比LSTM模型,MAE降低24.5%,RMSE降低31.4%,相比时空相关SVR模型,MAE降低36.4%,RMSE降低30.6%。     

“数据分析与计算专栏”主持人语

<正>中国大数据和人工智能技术正处于蓬勃发展阶段,先进模型算法不断涌现。本期专栏推出3篇论文,以大数据和人工智能应用为中心,面向工业界和学术界的应用场景,介绍前沿模型算法的相关应用案例。第1篇是张冬雯等撰写的《基于长短期记忆神经网络模型的空气质量预测》。这是一篇算法类的文章,主要针对当前空气质量预测研究中预测精度低、效率低、缺失时间因素等问题,从时间角度提出了一种简单的空气质量预测方法——LSTM神经网络模型,使用MAPE,RMSE,R,IA和MAE等指标检测LSTM神经网络与对比模型的预测性能。实验结果表明,LSTM神经网络可以适应多个变量或多输入的时间序列预测问题,具有预测精度高、速度快和鲁棒性较强等优点,使用LSTM神经网络进行空气质量预测可以有效提高预测的准确性。     

基于数值与文本特征的LSTM股票价格预测研究

行为金融学理论指出，由社交媒体文本数据所折射出的投资者情绪在一定程度上影响着股票市场的波动。为了利用投资者情绪对股票市场作出更准确的预测，本文爬取2020年8月31日至2021年9月1日的沪深300指数股吧评论文本数据，使用基于融合基础情感词典和金融词典的分析方法将评论文本数据量化为投资者情绪指标，并利用长短期记忆（Long short-term memory,LSTM）神经网络构建了融合股票历史交易数据和基于股吧评论的投资者情绪指标的多特征预测模型。实验结果表明，基于数值和文本特征的LSTM股票价格预测模型的平均绝对误差（Mean absolute error,MAE）、均方根误差（Root mean squared error,RMSE）和均方误差（Mean square error,MSE）值较LSTM数值特征预测模型降低了18.84、15.79、1486.54。较GRU(Gated recurrent unit)数值文本特征模型，其MAE、RMSE、MSE值则降低了11.42、10.49、931.75。实验结果表明本文提出的方法可以有效预测股票价格指数。     

基于季节性自回归积分滑动平均与深度学习长短期记忆神经网络的降水量预测

降水量数据是一种非线性、非平稳的时序序列,传统的方法较难获取数据的变化规律,深度学习LSTM能较好地处理好多要素变量与降水量之间的非线性关系。本文利用扬州市区1960-2019年8种气象基本要素数据,采用传统SARIMA和深度学习LSTM神经网络方法对降水量数据进行预测比对,并着重分析了LSTM在不同类型不同输入与输出模式形态下的预测水平差异。结果表明：(1)传统的SARIMA模型中静态模式较动态模式能更好地反映出扬州市区月降水量数据变化趋势,且与实际值差距较小。动态模式容易造成误差累积或整体易呈现周期性稳态变化,实时性欠缺。(2)深度学习LSTM 多输入单输出动态预测模式下,完整周期的数据输入可以让神经网络更好地学习数据的变化规律。然而将多个周期数据作为一个输入单位,易造成模型过拟合。LSTM模型(look_back=12)对扬州市区月降水量预测精度优于传统的SARIMA模型,RMSE训练值低0.02。(3)LSTM多输入单输出动态模式(look_back=12)较LSTM多输入多输出静态模式,RMSE测试值低0.33,体现出该模式对扬州市区月降水量预测准确度更高。与此同时,M-LSTM多输入多输出静态模式预测准确度优于LSTM多输入多输出静态模式,RMSE测试值低0.19,反映出M-LSTM多输入多输出静态模式的优点。     

基于GCN-GRU组合模型的基坑周边管线沉降预测

为提高基坑变形预测结果的准确性，在传统的单点时间序列预测基础上，引入监测数据的空间特征对预测方法进行改进.基于图卷积神经网络(graph convolutional network, GCN)和门控循环单元(gate recurrent unit, GRU),构建一种能捕获数据时空关联性的变形预测模型GCN-GRU,并将其应用于上海某基坑周边管线沉降的变形预测.结果表明，相比于GRU时间序列预测模型，考虑了空间关联性的GCN-GRU模型在单步预测中的均方根误差(root mean square error, RMSE)和平均绝对百分比误差(mean absolute percentage error, MAPE)分别降低了27.3%和25.0%,多步预测中的RMSE和MAPE降低了37.2%和37.3%,预测结果准确性较高.该方法可为同类基坑工程周边管线沉降变形预测提供参考.     

基于注意力机制的车辆行为预测

为了解决智能驾驶场景中对周边车辆未来行为的预测问题,研究了基于注意力机制的长短时记忆网络(LSTM)模型的车辆行为预测方法.首先提出了一种非均匀步长的时间序列数据划分方法,将属于特定行为的车辆时序信息进行分类;以LSTM为基本的神经网络框架,用注意力机制判断输入时序信息中各个时间步信息的重要程度,分配不同的权重值;以目标车辆及其周边车辆的历史轨迹信息作为算法输入,用来预测目标车辆将来的运动行为.结果表明:该算法可以解决固定步长的时序分类方法导致的信息遗漏或计算资源负担增加的问题,同时能够有效提高行为预测准确性,减少车辆行为预测时间.     

基于注意力Seq2Seq模型的终端区航空器航迹预测

为充分挖掘机场终端区航空器航迹时间依赖性,解决中长期、多步长航迹预测精度不稳定的问题,引入注意力机制(Attention Mechanism)和教师监督(Teacher Forcing)中的指数衰减(Exponential Decay)采样方法,提出了一种基于序列到序列框架的机场终端区航迹预测模型(Seq2Seq-Attention Mechanism-Exponential Decay, SAE)。序列到序列框架实现了多步长预测,注意力机制提高解码器预测精度,指数衰减采样方法加速了训练阶段模型收敛,在一定程度上提高了模型的泛化性。最后,为了验证提出方法的有效性,利用天津终端区28架次、90天ADS-B航迹数据构建原始数据集,以平均绝对误差(Mean Squared Error, MAE)和均方根误差(Root Mean Squared Error, RMSE)作为模型性能评价指标,进行了航迹预测实验,实验结果表明：高度、经度和纬度在序列到序列框架中的循环神经网络分别采用LSTM、GRU和LSTM可以获得最好预测性能;以四种预测长度1分钟、3分钟、5分钟和10分钟进行建模,与基线模型中预测性能最好的结果比较,所提出方法在验证集上的高度、经度和纬度指标表现最优,10分钟预测窗口下的平均绝对误差分别降低了66.30%, 54.62%和36.59%,均方根误差分别降低了65.45%, 38.16%和20.57%,同时,上述四种预测时长下所提出方法预测结果的均值和方差最小,表明随着预测时长的增加,模型预测结果的稳定性最好。此外,引入的注意力机制与指数衰减采样方法对有效捕捉航迹时间依赖性、提高模型泛化性均具有积极的贡献.     

基于Prophet-LSTM-PSO组合模型的医院住院量预测研究

针对医院住院量预测问题,首先利用先知模型（Prophet）与长短期记忆循环神经网络（LSTM）预测方法对2015年1月到2019年12月上海市东方医院呼吸内科住院量的时序数据进行建模分析,然后利用粒子群算法（PSO）求出两种模型对应的组合系数,从而得到最终的Prophet-LSTM-PSO组合模型,并通过RMSE和MAE统计学指标将组合模型与单一模型进行对比,同时利用公开数据集进行对比实验。结果表明,Prophet-LSTM-PSO组合模型较Prophet、LSTM、移动平均自回归模型等（ARIMA）等单一模型有效地降低了医院住院量预测的偏离性,提高了预测精度。     

超短期风电功率预测的混合深度学习模型

针对风电功率预测(WPF)问题,提出一种基于离散小波变换(DWT)、时间卷积网络(TCN)和长短期记忆(LSTM)神经网络的混合深度学习模型(DWT-TCN-LSTM),对超短期风电功率进行预测.将DWT-TCN-LSTM模型分别与差分整合移动平均自回归(ARIMA)模型,支持向量回归(SVR)模型,长短期记忆神经网络模型和卷积长短期记忆(TCN-LSTM)混合模型进行对比实验,通过对称平均绝对百分比误差(SMAPE),均方根误差(RMSE)和平均绝对误差(MAE)3种评价指标值对各个模型进行评价.实验结果表明:DWT-TCN-LSTM模型具有较好的预测性能.     

基于公交浮动车数据的城市主干道交通拥堵预测

交通拥堵预测是解决交通拥堵问题的前提。针对速度特性分析不全面的问题,基于公交浮动车数据,在速度时间相关性和空间相关性分析的基础上,加入了公交流量和时间占有率两个特征,提出了考虑时空特性和公交车流特性的改进粒子群优化的径向基函数神经网络(particle swarm optimization-radial basis function, PSO-RBF)速度预测模型。通过比较预测结果与速度阈值,得到城市主干道的交通拥堵情况。结果表明,与只考虑时空特性的预测结果相比,所提出的基于时空特性和公交车流特性的预测方法,可使模型预测的均方根误差(root mean square error, RMSE)、平均绝对误差(mean absolute error, MAE)分别降低13.58%、12.63%,决定系数达92.39%。同时,实例验证了改进的PSO-RBF神经网络模型的预测精度要优于标准的PSO-RBF神经网络。     

基于多时相InSAR技术的大渡河瀑布沟水电站形变监测与预测

形变监测与预测是对水电站异常情况进行预警和及时采取补救措施的关键。本文提出了一种长短期记忆(LSTM, Long Short-Term Memory)神经网络方法来预测大渡河流域瀑布沟水电站干涉合成孔径雷达(InSAR, Interferometric Synthetic Aperture Radar)的时间序列形变。该方法首先利用多时相干涉合成孔径雷达(MT-InSAR, Multi-temporal Interferometric Synthetic Aperture Radar)技术对2018-2020年瀑布沟水电站的哨兵一号(Sentinel-1)图像进行时间序列形变监测，然后基于时间序列InSAR形变数据采用LSTM神经网络建立了形变预测模型，最终获取瀑布沟水电站的形变速率结果和时序形变的预测结果。结果表明，瀑布沟水电站最大沉降速率达到-34 mm/a-1，LSTM预测模型训练和测试过程中点尺度的均方根误差(RMSE Root Mean Squared Error)和绝对误差平均值(MAE, Mean Absolute Error)最小值分别为2.343 mm和2.010 mm，2.094 mm和1.654 mm。LSTM形变预测模型的预测结果显示2020年5月-9月的累计沉降值将达到71.29 mm。本研究证明了LSTM神经网络是一种有效InSAR时序形变预测方法。同时该模型的预测结果也可用于瀑布沟水电站的形变预警和辅助决策。