一种基于组合模型的时间序列数据挖掘系统

提出了一种新的时间序列数据挖掘方法———基于BP(Back Propagation)神经网络和回归分析的组合时间序列数据挖掘模型.重点讨论了神经网络———回归———线性神经网络组合模型的建立过程,强调了通用性,并应用于浙江省可持续发展预测,取得了满意的结果.该组合模型采用神经网络技术来确定权重系数,提高了对复杂非线性系统的拟合能力,为时间序列数据挖掘提供了一种新的实用方法.     

基于考虑误差修正的非线性自适应权重组合模型的光伏发电功率预测

为了提高光伏电站光伏发电功率预测精度,解决极限梯度提升模型、长短期记忆模型2种传统单一模型及传统组合模型极限梯度提升-长短期记忆模型的光伏发电功率预测结果滞后、预测效果易突变、预测误差较大、线性拟合性较差等不足,基于极限梯度提升算法、长短期记忆算法和线性自适应权重,提出一种考虑误差修正的非线性自适应权重极限梯度提升-长短期记忆模型进行光伏发电功率预测;分别使用极限梯度提升算法和长短期记忆算法训练得到2种单一模型,将2种单一模型的初步预测值和真实值组成新的训练数据集,利用神经网络算法训练所提出的模型,对2种单一模型的初步预测值分配自适应权重系数,并根据训练时所提出模型的预测值大小分段统计预测误差的分布,预测时根据所提出模型的预测值在预测结果的基础上累加误差均值从而进行误差修正,进一步提高所提出模型的预测精度;利用Python语言分别对所提出的模型、传统组合模型和2种传统单一模型在晴天、阴天和雨天的光伏发电功率预测性能进行仿真。结果表明：与极限梯度提升-长短期记忆模型、极限梯度提升模型、长短期记忆模型相比,所提出模型的均方根误差分别减小28.57%、 39.39%、 49.79%,平均绝对...     

基于ARIMA与神经网络的备件需求组合预测方法

针对备件需求量波动大预测精度不高的问题,提出一种基于差分自回归移动平均(ARIMA)、BP神经网络、串联的卷积与长短期记忆神经网络(CNN-LSTM)组合模型的备件需求预测方法。该方法能够充分发挥ARIMA模型出色的线性拟合能力和神经网络突出的非线性拟合能力,克服了单一方法的局限性,并通过实例分析,验证了该组合预测模型的预测精确度高于单一预测模型。     

基于BP神经网络非线性组合的SARIMA-GRU犯罪预测模型

针对当前犯罪预测模型无法捕捉到犯罪时序数据的复合特征且无法及时反应环境变化等问题，提出基于BP神经网络非线性组合的SARIMA-GRU犯罪预测模型。该模型将SARIMA和GRU对犯罪数量的预测结果通过BP网络实现非线性组合，采用反向传播算法进行权重学习，将各层神经元所确定的权重矩阵作为两种方法在组合预测中的比重，综合利用SARIMA模型在线性时序预测中的优势和GRU网络在非线性特征挖掘上的优势，从而获得更好的预测结果。通过温哥华和旧金山的真实犯罪数据对组合后的模型与其他模型进行对比实验，结果表明，基于BP神经网络非线性组合的SARIMA-GRU模型可以捕捉到犯罪时序数据的复合特征，与其他模型相比具有更高的准确率。     

引入SSA的ARIMA-HPSO-Elman组合模型的汇率预测方法——基于人民币对美元汇率中间价数据

汇率兼有线性和非线性的双重混合行为特征,因此单一的线性模型或非线性模型均无法完美地胜任汇率的预测工作.对人民币对美元汇率中间价序列进行研究,首先通过奇异谱分析SSA方法对汇率序列去噪,并对重构后的汇率序列建立ARIMA模型进行拟合预测以提取出原汇率序列的线性成分,其次对残差部分通过基于杂交变异的混合粒子群优化算法优化的Elman神经网络进行建模并预测,两部分结果相加即为原汇率序列的预测值.实证结果表明,人民币汇率波动存在着周期振荡的特征,在汇率序列的样本外30日预测上,基于SSA方法的组合模型预测性能相对单一模型以及未采取SSA方法的组合模型而言,短期的表现均较优.     

基于ARIMA-LSTM-XGBoost组合模型的铁路货运量预测

为提升铁路货运量预测精度和泛化能力,综合考虑铁路货运量时间序列数据的线性和非线性特征,提出了基于ARIMA-LSTM-XGBoost组合模型的铁路货运量预测方法。首先使用ARIMA模型对我国铁路货运量进行初步预测,再利用LSTM网络对残差进行校正,并将其与XGBoost模型结合,采用误差倒数法确定权重,构建一种加权组合模型。最后将组合模型与ARIMA、ARIMA-LSTM、LSTM、XGBoost模型进行对比,借助均方误差(MSE)、均方根误差(RMSE)、平均绝对值误差(MAE)、平均绝对百分比误差(MAPE)对上述模型的预测精度进行对比分析。使用2007年-2021年全国铁路货运量月度数据进行实验,实验结果表明：组合模型的MSE、RMSE、MAE、MAPE分别为0.011 9、0.109 4、0.068 3、1.775 2%,预测误差均低于上述对比模型,模型的预测精度和泛化能力都有所提升。     

基于神经网络灰色Verhulst算法的装备研制费用预测模型

为了提高装备寿命周期费用LCC(life cycle cost)中研制费用的预测精度,对于呈S型的研制费用累加序列,利用灰色Verhulst模型对其预测.构造基于时间序列的人工神经网络输入输出模式对,利用BP神经网络对灰色Verhulst预测结果进行训练.仿真实例表明,该组合算法预测结果比单纯使用灰色Verhulst模型所得到的结果总体误差要小,将神经网络引入到灰色Verhulst模型中能较好地提高预测精度.     

基于ESMD-BP神经网络组合模型的中长期径流预报

径流预报的精度直接关系到流域水资源优化配置与综合利用的效益最大化.针对径流序列非线性、非平稳、直接预测精度低的特点,首次利用具有自适应性特点的极点对称模态分解(Extreme-point Symmetric Mode Decomposition,ESMD)方法对径流序列平稳化处理,结合可逼近任何非线性映射的误差反向传播网络(Back Propagation Neural Network,BP神经网络),建立ESMD-BP神经网络组合预报模型,并将其应用于黄河上游龙羊峡水库入库站唐乃亥站月径流和旬径流预报.首先,利用ESMD方法将径流序列中不同尺度的分量和趋势分量逐级提取出来,甄别了大尺度循环和非线性趋势;进而,分析径流周期和趋势变化规律;然后,利用BP神经网络将非平稳径流序列的直接预测转化为平稳的模态分量和趋势余项的预测,加和重构得到最终预测结果.并与单一BP神经网络、经验模态分解(Empirical Mode Decomposition,EMD)与BP神经网络组合模型作对比,结果表明:ESMD-BP神经网络组合模型的预报误差最小、预报精度最高.组合模型为"分解→预测→重构"模式,结合了EMD数据自适应分析和BP神经网络非线性映射的优点,提高了径流预报的准确率,为水文预报精度的提高开辟了新思路.     

基于ARIMA-SVM模型的快速公交停站时间组合预测方法

为了研究快速公交(BRT)系统公交站台停靠时间的可靠预测技术,对BRT车辆在站台停靠的物理过程进行分析.该过程既具有纵向时间相关性,又受到其他交通子系统的非线性作用,因此将BRT车辆停站时间拆解成线性部分和非线性部分.分别采用差分自回归移动平均(ARIM A)模型和支持向量机(SVM)方法对两部分进行预测,并将预测结果叠加,构成一种快速公交停站时间的组合预测方法.以常州BRT 2号线2个快速公交站的停站时间数据及其相关数据为样本进行建模,建模结果表明该组合预测方法行之有效.相较于单一的ARIMA模型和SVM模型,组合模型停站时间预测值的平均相对百分误差、均方误差均明显降低,误差1 s内命中百分率提高,且在训练数据足够时,组合模型的平均相对百分误差、均方误差分别为0.62%和4.05s2,误差1 s内命中百分率达到96.79%.     

基于灰色BP神经网络的装备保障费用预测模型

装备的保障费用是装备全寿命周期费用的重要组成部分,为了科学合理地预测武器装备的保障费用,通过分析装备保障费用的构成及其影响因素,考虑到装备保障费用数据量有限、复杂多变、非线性,用单一预测模型预测精度不高,因此建立了基于灰色系统理论和BP神经网络的组合预测模型,将灰色系统模型善于处理小样本数据和BP神经网络优于解决复杂非线性问题的优点有效地结合起来,对基于非线性时间序列的保障费用进行预测。仿真实例表明该组合模型的预测结果比传统单一模型所得到的预测结果总体误差要小,可以有效提高装备保障费用的预测精度。     

车用锂离子动力电池剩余寿命非线性组合预测研究

针对单一预测模型难以准确预测锂电池的剩余寿命（remaining useful life, RUL）难题,提出了非线性组合预测方法;利用相空间重构,对实验采集到的数据进行重构,将重构后的数据对改进Elman神经网络和非线性自回归（nonlinear autoregressive with exogenous input,NARX）神经网络这2个单项预测模型进行训练和预测;采用RBF神经网络对2个单项模型的预测值进行非线性组合,获得最终的RUL预测值．结果表明:非线性组合预测方法的均方根误差比PCA-NARX方法提高了近1%,比NARX方法提高了近2%,比改进Elman方法提高了近3%;非线性组合预测方法具有较高的精度及泛化能力,采用相空间重构技术有利于提高非线性组合方法的预测精度．      

基于Kalman滤波的ARIMA-NAR神经网络模型

深基坑变形监测在城市建设安全施工中显得越来越重要.鉴于监测数据不可避免地存在噪声及单个预测模型存在的预测残差问题,为提高基坑监测预测精度,以兰州市某深基坑监测中具有明显沉降的ZJ52为例,采取一种基于Kalman去噪的ARIMA-NAR神经网络组合模型进行预测分析.结果发现,经Kalman去噪后建立的ARIMA-NAR组合模型的预测结果的平均绝对误差、平均相对误差和残差方差分别为0.43、0.04、2.23 mm,预测结果均优于单一的ARIMA和NAR神经网络模型的预测结果,预测精度较好,其结果可为本项目的安全施工提供可靠指导.     

基于灰色-反向传播神经网络的江西省公路货运量预测

鉴于反向传播（Back Propagation,BP）神经网络算法收敛速度慢、局部极小化、结构选择不一的问题,提出结合灰色关联度分析的BP神经网络方法进行公路货运量预测,提高了模型的非线性学习和泛化能力及预测精度。该预测模型以江西省为例,首先利用灰色关联度分析确定预测目标的影响因子;然后,将关联度强的第一产业、第二产业和人均GDP作为公路货运预测模型的自变量,公路货运量和自变量作为训练样本,BP神经网络模型通过正向计算传播,误差反向传播,训练神经网络;最后,该方法应用于江西省公路货运量实际预测中进行有效性验证,结果表明该方法非线性拟合效果较好,具有较高的预测精度。     

基于XGBoost的短时交通流预测模型

为提高路段短时交通流的预测精度,选取路段平均旅行时间作为预测指标,建立了一种基于极端样度上升(extrem gradient boosting,XGBoost)的短时交通流预测模型。首先通过对交通流数据的分析,在考虑交通流时空特性的基础上,分别构建目标路段时间序列训练集、测试集以及时空序列训练集、测试集,然后基于XGBoost模型以及构建的训练样本集建立时间序列预测模型以及时空序列预测模型,并利用训练好的模型进行预测,最后将模型预测结果与线性回归模型、神经网络模型预测结果进行比较。实验结果表明:基于XGBoost的短时交通流预测模型能够对路段未来时段平均旅行时间进行比较准确的预测,其中时间序列预测模型均方根误差为5. 32,时空序列预测模型均方根误差为4. 82,均低于线性回归模型和神经网络模型,且相比于仅考虑时间因素的短时交通流预测模型,同时考虑时空因素的预测模型得到的误差更低,预测效果更好。     

时钟校准过程中的组合钟差预报模型

时间同步技术在分布式系统中应用广泛,时钟校准是时间同步的前提。针对时间校准过程中所需的时间信号可能出现传递失效等问题,在时间校准过程中引入钟差预报技术。同时为提高钟差预报模型的预报精度,提出一种GM-BP神经网络的钟差预报组合模型,首先利用已测钟差数据建立多个不同维数的GM(1,1)钟差预报模型,并对某时段的钟差进行预报,发挥多个不同GM(1,1)模型的优点;然后利用训练好的BP神经网络对预报结果进行非线性组合,最终的预报结果为BP神经网络非线性组合后的钟差。利用衰减器模拟对流层散射信道,设计对流层散射单向时钟校准试验,利用试验过程中实测的钟差数据进行组合模型精度验证。仿真结果表明,组合模型较单一预报模型,预报误差更加平稳,精度上提高53%~95%。     

基于离散型二项式系数组合模型的黄土湿陷性评估

为了快速精确地利用基本物性指标预测湿陷性黄土的湿陷性系数,基于多种数据挖掘方法提出了离散型二项式系数组合预测模型。首先,采用相关系数法和随机森林重要性指数法综合选取模型基本物性指标为饱和度、干密度、液性指数和天然含水量;然后,分别利用多元线性回归、BP神经网络、支持向量机回归（SVR）和随机森林（RF）回归对黄土湿陷性系数进行预测,并将预测结果进行组合,得到4种单一模型、2种传统组合模型和离散型二项式系数组合模型预测结果;最后,利用6种不同精度指标对上述7种预测模型展开精度分析。结果表明：组合预测模型精度整体高于单一预测模型,且提出的离散型二项式系数组合模型各精度指标均为最优,平均相对误差为3.43%。可见提出的离散型二项式系数组合模型可为湿陷性黄土地区的工程设计提供参考。     

基于Chebyshev神经网络的非线性动态系统预测

针对非线性动态系统的预测常受到噪声或其他过程的耦合影响,使得规律变得难以发现的问题,提出了以一组Chebyshev正交基函数作为神经网络中各隐神经元的激励函数的新型的Chebyshev基函数神经网络预测模型.将该模型作为非线性动态系统预测模型,并采用基于粒子群和模拟退火组成的文化基因算法优化神经网络的权值,可以达到很高的预测精度和很好的预测结果.Chebyshev神经网络与传统的BP(back propagation)神经网络相比,工作量大大减少,加快了收敛性.文化基因算法用于确定权值的Chebyshev神经网络分别与粒子群和模拟退火优化的Chebyshev神经网络相比具有更好的拟合效果.     

基于 KPCA-AGRU 神经网络的火电机组 NO x排放预测

针对火电机组锅炉燃烧过程中预测 NOx 排放过程存在的非线性和时序性特点,提出一种基于核主成分分析 (KPCA)和注意力机制(AM)的门控循环神经网络(GRU)氮氧化物预测模型。 首先选用 KPCA 对模型的输入变量 进行降维,消除冗余变量;其次,将筛选的变量数据作为 GRU 的输入,并采用网格搜索优化 GRU 的超参数;最后, 引入 AM 计算权值,实现区分输入特征功能,提高 NOx 预测模型精度。 通过某 330 MW 电站锅炉实际数据对 AGRU 预测模型仿真验证,并将 AGRU 模型、GRU 模型和 BP 神经网络模型的预测结果进行对比。 结果表明:基于 AGRU 的 NOx 预测模型的均方根误差和平均绝对误差较 BP 神经网络和 GRU 模型均有减少,可精准预测非线性时序燃 烧过程的 NO x 排放。     

Prediction of the Charpy V-notch impact energy of low carbon steel using a shallow neural network and deep learning

The impact energy prediction model of low carbon steel was investigated based on industrial data. A three-layer neural network, extreme learning machine, and deep neural network were compared with different activation functions, structure parameters, and training functions. Bayesian optimization was used to determine the optimal hyper-parameters of the deep neural network. The model with the best performance was applied to investigate the importance of process parameter variables on the impact energy of low carbon steel. The results show that the deep neural network obtains better prediction results than those of a shallow neural network because of the multiple hidden layers improving the learning ability of the model. Among the models, the Bayesian optimization deep neural network achieves the highest correlation coefficient of 0.9536, the lowest mean absolute relative error of 0.0843, and the lowest root mean square error of 17.34 J for predicting the impact energy of low carbon steel. Among the variables, the main factors affecting the impact energy of low carbon steel with a final thickness of7.5 mm are the thickness of the original slab, the thickness of intermediate slab, and the rough rolling exit temperature from the specific hot rolling production line.     

基于改进果蝇的混合小波神经网络交通流预测

为了提高交通流预测精度,提出了一种基于果蝇算法的混合小波神经网络模型.首先,选择果蝇优化算法对小波神经网络的初始参数进行调节,解决了小波神经网络预测对初始参数敏感的问题.其次,将迭代次数和当前解的情况作为搜索半径和种群规模的动态调整因子,对果蝇算法进行了改进,提高了果蝇算法的全局寻优能力和局部收敛速度.最后,鉴于小波神经网络预测误差存在一定的规律性,使用误差补偿法将调参后的小波神经网络与其他模型进行组合,进行二次误差提取.实验证明,所有混合模型均提高了交通流预测的准确度,其中,与随机森林模型的结合预测精度最高.