基于ARIMA-LSTM-XGBoost组合模型的铁路货运量预测

为提升铁路货运量预测精度和泛化能力,综合考虑铁路货运量时间序列数据的线性和非线性特征,提出了基于ARIMA-LSTM-XGBoost组合模型的铁路货运量预测方法。首先使用ARIMA模型对我国铁路货运量进行初步预测,再利用LSTM网络对残差进行校正,并将其与XGBoost模型结合,采用误差倒数法确定权重,构建一种加权组合模型。最后将组合模型与ARIMA、ARIMA-LSTM、LSTM、XGBoost模型进行对比,借助均方误差(MSE)、均方根误差(RMSE)、平均绝对值误差(MAE)、平均绝对百分比误差(MAPE)对上述模型的预测精度进行对比分析。使用2007年-2021年全国铁路货运量月度数据进行实验,实验结果表明：组合模型的MSE、RMSE、MAE、MAPE分别为0.011 9、0.109 4、0.068 3、1.775 2%,预测误差均低于上述对比模型,模型的预测精度和泛化能力都有所提升。     

基于Prophet-DeepAR模型的Web流量预测

Web流量预测一直是数据中心网络的热点问题，对于提高网络服务质量具有重要意义。由于Web流量具有非线性、自相关性和周期性等复杂特点，对其准确预测有很大的挑战性。为充分挖掘出Web流量的可预测信息，同时使预测模型具有充分的可解释性和可配置性，本文提出一种基于Prophet和深度自回归(DeepAR)的组合预测模型。其中，Prophet是基于时序分解的加性模型，对Web流量的趋势、季节性周期、节假日信息进行建模。同时，使用基于概率预测的DeepAR模型对Prophet残差隐含的自回归信息建模，捕获长短期依赖关系，以减低Prophet残差的方差，并充分捕获Web流量的自回归信息。在真实的Web流量数据集上进行验证实验，结果表明在RMSE和MAE两项评价指标上均优于对比模型，验证了该组合模型的有效性。     

基于XGBoost的短时交通流预测模型

为提高路段短时交通流的预测精度,选取路段平均旅行时间作为预测指标,建立了一种基于极端样度上升(extrem gradient boosting,XGBoost)的短时交通流预测模型。首先通过对交通流数据的分析,在考虑交通流时空特性的基础上,分别构建目标路段时间序列训练集、测试集以及时空序列训练集、测试集,然后基于XGBoost模型以及构建的训练样本集建立时间序列预测模型以及时空序列预测模型,并利用训练好的模型进行预测,最后将模型预测结果与线性回归模型、神经网络模型预测结果进行比较。实验结果表明:基于XGBoost的短时交通流预测模型能够对路段未来时段平均旅行时间进行比较准确的预测,其中时间序列预测模型均方根误差为5. 32,时空序列预测模型均方根误差为4. 82,均低于线性回归模型和神经网络模型,且相比于仅考虑时间因素的短时交通流预测模型,同时考虑时空因素的预测模型得到的误差更低,预测效果更好。     

基于XGBoost与SVR变权组合模型致密油的采收率预测

致密油储层因具有渗透率与产能低下的特点,多采用大型水力压裂改造储层来提高采收率,根据不同的地质、压裂参数变化,预测改造后的采收率对于压裂施工改造有良好的指导作用。目前多因素影响的致密油压裂后采收率预测理论模型,难以实时准确地根据压裂方式及参数来预测压裂后油藏采收率变化。为进一步提升致密油的采收率预测精确度,本文引进机器学习进行预测,基于极限梯度爬升算法（XGBoost）和支持向量回归算法（SVR）进行了一定改进得到变权组合模型XGBoost-SVR,模型借鉴残差进化机制,实现加权融合系数的最优组合,该组合模型可对两种单模型进行优势互补,避免了因单一模型参数导致的范围性误差,增大模型预测容错率。本文首先对致密油的采收率影响因素进行收集整理,分析地质因素、储层因素和工程因素对采收率的影响,构造相关原始数据集;其次将预处理后数据集输入SVR单模型和XGBoost单模型分别进行训练,得出单模型预测值;最后采用基于残差的自适应的变权组合方法建立XGBoost-SVR组合模型,得到各模型最终预测结果,明确采收率影响因素及各影响因素权重比。模型预测结果表明：与SVR和XGBoost单模型相比,组合模型在预测精度达到94.63%,表现出更好的适应性。     

RBF-BL时间序列模型及其在建模和预测中的应用

基于传统的线性和非线性模型,提出了一种改进的非线性模型,即RBF神经网络的状态依赖双线性(RBF-BL)模型.以模型残差平方和最小为优化目标,介绍了模型参数辨识算法.以太阳黑子数据、Mackey-Glass序列数据和机床工作台爬行位移数据为数值算例,基于GNAR模型、BP模型、RBF模型和RBF-BL模型分别进行了数据建模和预测,以建模均方误差(MSEM)、预测均方误差(MSEP)、建模平均相对误差(MREM)和预测平均相对误差(MREP)作为误差衡量指标.结果表明,与传统的模型相比,RBF-BL模型表现出较好的建模和预测性能.对于太阳黑子数据,RBF-BL模型的误差衡量指标分别为0.009 6、0.026 6、0.002 7和0.003 9.对于Mackey-Glass序列数据,RBF-BL模型的误差衡量指标分别为7.982×10~(-6)、6.400×10~(-4)、0.002 5和0.025 0.对于机床工作台爬行位移数据,RBF-BL模型的误差衡量指标分别为7.590×10~(-4)、0.010 1、0.038 8和0.023 8.     

基于小波包分解的GJO-XGBoost水面蒸发量预测

为提高水面蒸发量预测精度,提出一种基于小波包变换(WPT)、金豺优化(GJO)算法和极端梯度提升(XGBoost)算法相融合的水面蒸发量时间序列预测模型,通过云南省龙潭站、董湖站、西洋站1991—2021年逐月水面蒸发量时序数据对模型进行检验.首先介绍GJO原理,在不同维度条件下选取4个标准函数对GJO进行仿真测试,并与粒子群优化(PSO)算法的仿真结果作对比.其次采用小波包变换(WPT)对逐月水面蒸发量时序数据进行分解处理,构建XGBoost算法输入输出向量.最后引入GJO算法对XGBoost超参数进行调优,建立WPT-GJO-XGBoost模型对各子序列分量进行预测和重构,并构建WPT-PSO-XGBoost、WPT-GJO-SVM、WPT-PSO-SVM、WPT-XGBoost作对比分析模型.结果表明：在不同维条件下GJO算法寻优精度优于PSO算法.WPT-GJO-XGBoost模型对龙潭站、董湖站、西洋站水面蒸发量预测的平均绝对百分比误差分别为5.491%、4.943%、5.024%,平均绝对误差分别为4.70、3.37、3.39 mm,预测精度优于WPT-PSO-XGBoos...     

基于改进集成学习算法的在线空气质量预测

为了实现空气质量的在线预测,提出了一种基于XGBoost算法的改进集成学习算法OPGBoost。首先对PI(plant information)实时数据库系统进行二次开发,构成大数据挖掘与分析平台,运用数据融合工具对原始数据进行预处理,并采用Boruta算法进行特征选择,从而构造出包含更多属性特征量的有效数据集。然后对XGBoost算法中的一阶和二阶导数进行优化,并通过时间滑动窗口和衰减函数机制获取训练数据以及训练模型的权重,最后采用Bagging集成学习策略构成OPGBoost组合模型。实验结果表明,针对基于PM2.5浓度和AQI表征的空气质量预测,本文方法与4种已有算法相比在准确性和实用性方面具有明显的优势,能够较精确地预测未来1、12、24h的空气污染情况。     

基于注意力机制的CNN-LSTM模型的航迹预测

基于数学模型或统计模型的传统航迹预测方法存在一定的局限性，无法满足现代航空领域对于高效、准确、实时的航迹预测需求。针对此问题，提出基于注意力机制的CNN-LSTM模型的实时航迹预测方法。该模型首先使用一维卷积对航迹数据的多维度特征进行提取，从而减少输入特征的数量。其次利用获取的多维度时序数据作为LSTM的输入，通过LSTM提取上下文的信息。最后使用注意力机制为LSTM中不同时序节点的输出赋予权重，达到聚焦关键航迹信息的作用。经过实验验证：本文的模型与LSTM模型和CNN-LSTM模型相比，预测出的路径更接近真实航迹；文中的模型比LSTM模型的平均预测误差降低了29.7%，比CNN-LSTM模型降低了25.4%。综上所述，文中方法可以显著提高航迹预测的精度。     

基于张量特征-GRU和多头自注意力机制的水质预测模型方法

针对现有水质预测模型对水质监测指标间存在数据特征利用不足,导致预测精度不高的问题,本文提出了一种基于张量分解融合门控神经网络(gate recurrent unit, GRU)和多头自注意力机制(Multi Head Self-Attention)的多指标水质预测模型(TGMHA)。该模型通过标准延迟嵌入变换(Standard delay embedding transform, SDT)将时序水质指标数据转换为张量数据,利用Tucker张量分解提取数据特征,然后结合多头自注意力机制挖掘多种水质指标数据特征之间的潜在关系,最后采用GRU模型实现多指标水质预测。对比实验证明了该模型预测相比传统GRU水质预测模型,得到的均方根误差(RMSE)、平均绝对误差(MAE)、平均绝对百分比误差(MAPE)和决定系数(R²)四个指标有5-10%的提升,有效提升了水质预测的精度,具有较好的鲁棒性,为水质预测和环境监测管理提供了科学决策依据。     

高速公路交通量预测的GM(1,1)残差改进模型

针对传统GM(1,1)模型在预测高速公路交通量中存在误差过大、计算复杂的问题,通过定义残差序列,对预测序列与残差序列进行累加再处理,构造新的序列数据;并且对新序列数据构造GM(1,1)残差改进模型,以进行预测。模型应用于某高速公路某收费站,对9期序列数据进行了模拟预测。结果表明,GM(1,1)残差改进模型的平均预测误差为7.25%,优于传统GM(1,1)模型预测的平均相对误差12.7%。     

基于Attention机制和ResNet的CNN-BiLSTM短期电力负荷预测模型研究

短期电力负荷预测有利于电力系统的高效运行,对电力市场实现有效调度有重要意义。短期电力负荷受多种因素影响,波动性大、随机性强,使得其预测准确率低。双向长短期记忆网络和卷积神经网络难以在短期负荷序列中提取足够多的信息,本文提出了一种结合注意力机制和残差网络的卷积神经网络-双向长短期记忆网络短期负荷预测方法。首先利用基准模型卷积神经网络-双向长短期记忆网络对输入特征进行信息提取,然后利用注意力机制突出提取到的关键信息,最后通过残差网络创建残差层以充分学习时序特征。通过某公开数据集进行实验,结果表明该方法的平均绝对百分比误差达到2.80%,均方根误差达到2.15,并与常用的五种模型预测结果对比,验证了所提模型的准确性及有效性。     

基于残差融合的时序数据离群点检测算法

物联网的快速发展产生了海量的高维时序数据,然而时间序列易受到外界变化的环境因素影响而产生离群点。针对现有的离群点挖掘算法不能兼顾时序数据的趋势性、季节性、循环性、不规则性的特点,从而导致检测效果不理想的问题,提出一种基于残差融合的时序数据离群挖掘(residual integration outlier,RIO)算法。首先利用线性自回归移动平均模型(autoregressive integrated moving average model,ARIMA)拟合数据,得到在相同时间粒度下的残差序列,并将该序列作为非线性模型长短期记忆网络(long short-term memory,LSTM)模型的输入,输出残差序列预测值,而后将经由ARIMA模型与LSTM模型处理的序列在相同时间粒度下融合,得到一条经由混合模型两次处理的残差序列。最后,利用基于直方图的离群点模型(histogram-based outlier score,HBOS)检测出该二次残差序列的离群点。实验表明,RIO算法的准确度得到了较为明显的提高,具备良好的实用价值。     

组合模型在港口集装箱吞吐量预测中的应用

根据某港的集装箱吞吐量的历史数据,分别利用时间序列的三次指数平滑法、改进的GM(1,1)残差模型以及组合预测方法对某港的集装箱吞吐量进行了探讨,并对未来几年某港集装箱吞吐量进行了预测.结果证明:组合预测模型融合了前两种预测方法的优点,其平均绝对误差、平均相对误差绝对值以及误差的标准差分别为4.5208,0.0343,49.5161,都小于单独用三次指数平滑法或改进的GM(1,1)残差模型时的平均绝对误差、平均相对误差绝对值以及误差的标准差,达到最优的精度等级.     

XGBoost-ESN组合模型股价预测方法

提出XGBoost-ESN组合模型股价预测方法.使用网格搜索法对XGBoost模型和ESN模型进行参数优化并改进模型结构,利用最小二乘法联合XGBoost和ESN进行数据预测.测试结果表明,改进的XGBoost-ESN组合模型能有效减少预测误差,对股票价格预测的精度更高.     

基于支持向量机的机械零件剩余寿命区间估计

为提高机械零件剩余寿命估计精度,提出了一种基于支持向量机(support vector machine,SVM)的剩余寿命区间估计模型.简要介绍SVM的线性及非线性理论,分析SVM输入变量与输出变量间的统计关系,将机械零件性能退化指标和剩余寿命分别作为SVM输入变量及输出变量.假设输入变量与残差相互独立且残差分布类型已知,采用极大似然法估计残差的分布参数,在此基础上推导一定置信水平下SVM输出变量置信区间.将均方误差作为SVM预测误差的衡量指标,应用变步长网格搜索法确定SVM参数.通过实例说明所提模型能够准确对机械零件剩余寿命进行区间估计,具有较强的工程应用价值及通用性.     

基于深度学习的盾构隧道施工地表沉降预测方法

针对现有盾构隧道施工引发地表沉降预测方法中存在的难以同时挖掘数据之间的非线性特征关系和双向时序信息的问题,通过融合卷积神经网络(CNN)、双向长短期记忆(BiLSTM)与自注意力机制(SA)提出一种基于深度学习的地表最大沉降预测方法(CNN-BiLSTM-SA)。该方法首先利用CNN提取网络输入数据之间的非线性特征关系,利用BiLSTM网络提取输入数据的双向时序信息,然后引入SA机制为CNN提取的特征分配相应的权重,有效捕获时间序列中的关键信息,最后通过全连接层输出最终地表沉降预测结果。以湖南万家丽路电力盾构隧道工程为依托构建地表沉降数据集,并选用ANN、RNN、LSTM、BiLSTM模型开展对比分析。研究结果表明：评估指标CNN-BiLSTM-SA的平均绝对误差(MAE)、均方根(RMSE)、决定系数(R2)、平均绝对百分误差(MAPE)均为最优,具有更好的地表沉降预测性能。     

基于区域信息融合的风电场平均年发电量预测

备选风电场在寿命周期内的平均年发电量是风电场宏观选址的一个重要参考判据.为了提高风电场平均年发电量的预测精度,提出了一种基于风电场附近多个气象站长期测风数据的区域信息融合的平均年发电量预测方法.首先分别建立各气象站与风电场同期小时风速之间的相关模型,应用相关模型得到多个长期小时风速预测值,再用神经网络对长期小时风速预测值进行融合处理得出最终的小时风速预测值,在此基础上进行风电场平均年发电量的估算.仿真结果表明:本文提出的区域信息融合方法对年平均发电量的预测误差比采用单一气象站数据的预测误差最高可降低11.32%.     

基于实测数据分析的风电功率预测

由于风力发电所利用的近地风能具有波动性、间歇性、低能量密度等特点,对风电场的发电功率进行尽可能准确的预测是风电发展的关键.本文根据某风场的实测数据,采用了时间序列中的自回归移动平均模型(ARMA),对风电功率进行了实时预测;为进一步提高风电功率实时预测的精确性,本文提出了一种基于BP神经网络和ARMA组合模型的预测方法,并对上述实测数据采用该方法进行了实时预测.预测结果表明:组合模型的预测结果与单独的自回归移动平均模型相比,风电功率的实时预测的均方根误差和百分比误差分别减少了4.01%和3.25%,工程中可以采用该组合模型对风电功率进行预测.     

基于融合Dropout与注意力机制的LSTM-GRU车辆轨迹预测

在智能驾驶环境的车辆轨迹预测环节,为更好地获取环境车辆的轨迹时序特征,在长短期记忆神经网络（LSTM）基础上,嵌入Dropout层以增强网络泛化性,引入注意力机制予以预测效果影响较大的时序数据更大权重从而提高预测结果的可靠性,且将改进的LSTM模型与门控循环单元GRU模型结合,构建LSTM-GRU预测模型以进一步提升环境车辆轨迹预测的准确性.在此基础上,使用NGSIM公开数据集对模型进行训练、验证和测试.研究结果表明,融合了Dropout和注意力机制的LSTM-GRU神经网络轨迹预测模型相较标准的LSTM长短期记忆网络以及GRU门控循环单元,在预测较长时序的车辆轨迹上具有优势,提高了轨迹预测的准确性,降低了实际轨迹和预测轨迹之间的均方根误差和平均绝对误差.     

基于混沌理论和MEA-BPNN模型的快速路短时交通流预测

为提高短时交通流预测的精度,在分析北京市二环路实测交通流数据时空特性和混沌性的基础上,利用混沌理论方法对交通流量时间序列进行相空间重构,并基于思维进化算法提出一种改进的BP神经网络模型,将重构的时间序列数据作为模型输入进行交通流预测。结果表明,基于该模型的预测结果与基于传统BPNN模型的预测结果相比,均方根误差、平均绝对误差和平均绝对百分误差分别下降31.11%、20.71%和37.28%,证明了模型具有更精确的预测能力。