利用SVM-LSTM-DBN的短期光伏发电预测方法

为解决传统预测算法的不足,利用深度信念网络(DBN)耦合支持向量机(SVM)和长短期记忆神经网络(LSTM),提出一种新的光伏功率组合预测方法.分别构建以高斯径向基函数为核函数的支持向量机预测模型、4层长短期记忆神经网络为单项预测模型,通过深度信念网络组合,优化预测结果并输出.根据实际出力和预测结果的误差,利用DBN动态调整以获得最优值,进一步验证SVM-LSTM-DBN模型的有效性和准确性,并以新疆维吾尔自治区某光伏电站的实测数据进行仿真验证.结果表明:基于SVM-LSTM-DBN组合的光伏出力预测模型与单一模型相比,预测精度明显提高.     

基于经验模态分解-粒子群优化-长短期记忆的车间电力能耗预测方法

针对传统能耗预测方法不能充分提取数据特征并利用神经网络的学习、预测能力，提出了一种基于经验模态分解-粒子群优化-长短期记忆(EMD-PSO-LSTM)的电力能耗预测模型。该模型首先采用经验模态分解算法将时间序列数据分解为多个本征模函数分量和趋势分量，然后对每个分量分别建立长短期记忆网络进行预测。各个长短期记忆网络的参数则由粒子群算法分别进行最优化求解，最后将所有分量的预测结果进行叠加得到最终的能耗预测结果。将预测结果与实际能耗数据进行对比分析来验证所提模型的预测性能。试验结果表明，该方法能够对电力能耗数据进行合理预测，预测精度较高。     

使用AVL数据的公交到站时间CEEMD-LSTM预测模型

准确的公交到站时间预测具有重要意义，但现实公交运行受突发路况影响，运行速度具有非平稳性，本文结合时序特征处理技术和深度学习，建立一种使用AVL数据预测公交到站时间的互补集合经验模态分解-长短期记忆神经网络模型。模型收集公交自动车辆定位数据，经预处理后引入互补集合经验模态分解平稳化公交运行速度，再借助Adam参数寻优后的长短期记忆神经网络对福州市303路公交某日早高峰公交到站时间进行预测。结果表明：优化的公交到站时间预测模型平均绝对误差比单一模型低了1.69min，预测精度高于长短期记忆神经网络模型和经验模态分解的到站时间预测模型，可有效地为安装车载自动车辆定位系统的公交线路预测公交到站时间提供参考。     

指数趋势预测的BP-LSTM模型

本文根据股指、股价等数据的时序特征将人工神经网络(ANN)与深度学习中的循环神经网络(RNN)引入股指预测,基于BP神经网络模型与长短期记忆(LSTM)神经网络模型构建了BP-LSTM模型.基于上证指数,本文进行了进行数值实验.结果表明BP-LSTM预测模型的准确率相比传统机器学习模型有明显提升,与普通LSTM模型相比也有较大提升.     

基于深度学习的地铁短时客流量预测

为了对地铁短时客流流量进行准确预测,建立了一种基于深度学习的地铁短时客流预测方法。通过分析地铁的客流数据,发现周一至周四、周五以及周末的发展模式存在一定的差异。依据该发现,基于深度学习的理论框架,建立了双向长短期记忆网络的地铁短时客流量预测模型。最后以广州体育西路地铁站数据为例进行预测分析,并将预测结果与决策树模型、支持向量机算法以及长短期记忆网络的预测结果进行对比分析。结果表明,双向长短期记忆网络全面优于其他预测算法,且该算法的平均预测精度超过90%,对地铁运力的合理配置等有一定的应用价值。     

基于融合Dropout与注意力机制的LSTM-GRU车辆轨迹预测

在智能驾驶环境的车辆轨迹预测环节,为更好地获取环境车辆的轨迹时序特征,在长短期记忆神经网络（LSTM）基础上,嵌入Dropout层以增强网络泛化性,引入注意力机制予以预测效果影响较大的时序数据更大权重从而提高预测结果的可靠性,且将改进的LSTM模型与门控循环单元GRU模型结合,构建LSTM-GRU预测模型以进一步提升环境车辆轨迹预测的准确性.在此基础上,使用NGSIM公开数据集对模型进行训练、验证和测试.研究结果表明,融合了Dropout和注意力机制的LSTM-GRU神经网络轨迹预测模型相较标准的LSTM长短期记忆网络以及GRU门控循环单元,在预测较长时序的车辆轨迹上具有优势,提高了轨迹预测的准确性,降低了实际轨迹和预测轨迹之间的均方根误差和平均绝对误差.     

基于数据扩展的短时交通流量预测

多种机器学习和深度学习的模型和算法应用于短时交通流量预测,但是,大多数模型尤其是深度学习模型对训练样本的数量要求较高。为此,提出了一种基于数据扩展的短时交通流量预测方法,该方法基于自编码神经网络分别结合长短时记忆神经网络(LSTM)和支持向量机回归(SVR)构建预测模型,该模型利用自编码神经网络扩展的数据分别训练长短时记忆神经网络和支持向量回归进行交通流量的预测,结果表明,所提出的预测模型具有较高的精度和较好的泛化能力。     

基于Attention机制和ResNet的CNN-BiLSTM短期电力负荷预测模型研究

短期电力负荷预测有利于电力系统的高效运行,对电力市场实现有效调度有重要意义。短期电力负荷受多种因素影响,波动性大、随机性强,使得其预测准确率低。双向长短期记忆网络和卷积神经网络难以在短期负荷序列中提取足够多的信息,本文提出了一种结合注意力机制和残差网络的卷积神经网络-双向长短期记忆网络短期负荷预测方法。首先利用基准模型卷积神经网络-双向长短期记忆网络对输入特征进行信息提取,然后利用注意力机制突出提取到的关键信息,最后通过残差网络创建残差层以充分学习时序特征。通过某公开数据集进行实验,结果表明该方法的平均绝对百分比误差达到2.80%,均方根误差达到2.15,并与常用的五种模型预测结果对比,验证了所提模型的准确性及有效性。     

基于长短期记忆网络和注意力机制的油井产油量预测

准确地预测油井产油量在油田生产中至关重要,针对传统的线性预测方法存在适应性差的问题,以及在处理时序问题上难以很好拟合历史数据的问题,提出使用长短期记忆神经网络和注意力机制来解决数据中存在的时序关系以及增强模型的可移植性,并且分析了时间滞后、学习率衰减和神经元随机失活三个参数对油井产油量预测模型的影响,发现这三个参数分别为36、0.3和0.8时,模型表现最佳。使用最优参数建立油井产油量预测模型,并将该模型应用于XX油田的三口实验井数据上,其中井H3-32的后期实际产油总量为1470.5t,预测值为1442.33t,误差为1.92%;井H3-34的后期实际产油总量为1564.5t,预测值为1545.98t,误差为1.20%;井H3-35的后期实际产油总量为742.2t,预测值为772.12t,误差为4.05%。由此可见,基于长短期记忆神经网络和注意力机制的油井产油量预测模型的精度较高。本文研究成果可促进先进计算机技术在石油工业中的应用,对我国油田生产方案的制订和原油采收率的进一步提高具有非常重要的理论与现实意义。     

超短期风电功率预测的混合深度学习模型

针对风电功率预测(WPF)问题,提出一种基于离散小波变换(DWT)、时间卷积网络(TCN)和长短期记忆(LSTM)神经网络的混合深度学习模型(DWT-TCN-LSTM),对超短期风电功率进行预测.将DWT-TCN-LSTM模型分别与差分整合移动平均自回归(ARIMA)模型,支持向量回归(SVR)模型,长短期记忆神经网络模型和卷积长短期记忆(TCN-LSTM)混合模型进行对比实验,通过对称平均绝对百分比误差(SMAPE),均方根误差(RMSE)和平均绝对误差(MAE)3种评价指标值对各个模型进行评价.实验结果表明:DWT-TCN-LSTM模型具有较好的预测性能.     

基于灰色网络组合优化的年增油量预测

老井措施增油成为油田稳产、降低油田区块开发成本的必然选择。针对多项式回归预测的局限性、灰色理论不能反映影响因素特征、神经网络需求数据多且数据敏感性差等特征,通过建立最优控制模型,实现GM（1,1）灰色理论与神经网络的高精度组合预测。以某油田区块2011-2018年的措施增油为例,对影响措施增油量的因素进行识别,建立了最优控制灰色神经网络模型对老井措施年增油量进行预测,相比多项式回归预测、GM（1,1）预测及BP神经网络预测方法,新模型模拟效果更好,预测精度更高。新方法对2018年措施年增油量的预测精度达97.34%。基于最优控制的灰色神经网络模型可以作为一种人工智能组合最优化模型预测措施年增油量,为准确预测措施增油效果,指导油田开发决策提供了新的思路。     

基于深度森林算法的油井产量预测研究

为了克服传统机器学习算法产量预测模型的缺点,以深度森林算法理论为基础,综合油井相关各项数据,建立了油井产量预测新模型。首先应用KNN最邻近方法和Z-Score标准化方法对油井相关数据进行预处理,利用MDI特征选择方法选择对油井产量影响最大的特征向量,然后将选出的特征向量作为深度森林模型的输入变量,建立深度森林产量预测模型,利用网格化搜索优化模型参数,最后在测试集上运行模型,对模型性能进行评估。研究结果表明,相对于BP神经网络等传统机器学习算法模型,深度森林模型的产量预测精度更高,可以准确预测油井产量,同时相对于深度神经网络等复杂学习算法,该算法参数少、调参及应用简单,为油井产量预测提供了一种新的方法和思路。     

用深度学习挖掘油田开发指标预测模型的知识

油田开发指标变化特征被当作油田开发规划、油田开采状况评价、油田开发方案设计与调整及油田开发风险预测预警等决策管理问题的重要依据。针对至今没有很好解决的建立智慧油田的瓶颈问题之一——油田开发指标智能预测系统的选择预测方法和模型的知识挖掘问题，基于油田开发的海量数据，利用深度学习的卷积神经网络和循环神经网络，提取反映油田开发动态特征和知识。在此基础上，结合已建立的油田开发指标预测的模型库及知识库，利用深度学习的实体和关系的联合提取方法，提出通过油田开发输入信息、油田开发动态特征指标、油田开发指标预测的模型库和知识库挖掘选择油田开发指标最佳预测模型的知识方法。概念设计的模拟实例表明，提出的知识挖掘流程可实现只要输入油田开发的相关信息，就能自主获得恰当的油田开发指标预测模型。     

基于机器学习的海上多层砂岩油藏精细注水开发实践

针对海上多层水驱砂岩油田作业成本高、PLT测试数据少所导致的小层产、吸状况不清的问题，提出一种可同时学习多种井况条件的小层产、吸剖面预测模型。首先综合考虑影响小层产、吸状况的静态地质条件和动态开发特征，筛选并构造出主控因素，建立样本数据库。然后构建了巧妙的循环将神经网络算法和智能优化算法进行融合，内层循环以BP神经网络为模型框架，遍历所有井样本，实现多维主控因素与产、吸剖面的机器学习；中层循环以量子进化算法为优化手段，实现神经网络内部权重和阈值自动优化；外层循环以测试误差为控制条件，保证模型的可靠性与最优化。最后将产、吸剖面预测模型应用于渤海P油田，分别对73口油井和84口水井的样本数据进行交叉验证，结果表明模型的平均测试误差仅为6.60%、4.36%。示例井组经分层调配等措施的综合治理之后，实现了井组日增油60吨/天，综合含水率下降6%。该研究成果对老油田的精细注水和优化调整具有一定的指导意义。     

基于改进型深度网络数据融合的滚动轴承故障识别

针对传统智能诊断方法依赖于信号处理和故障诊断经验提取故障特征以及模型泛化能力差的问题,基于深度学习理论,提出将卷积神经网络算法结合softmax分类器,针对数据集不平衡问题引入加权损失函数、正则化以及批量归一化等模型优化技术搭建适于滚动轴承故障诊断的改进型深度卷积神经网络模型。模型从原始实测轴承振动信号出发逐层学习实现特征提取与目标分类。实验结果表明,优化后的深度学习模型可实现对早期微弱故障、不同程度故障的精确识别,在不平衡数据集上也可达到95%的识别准确率,并且模型拥有较快的收敛速度和较强的泛化能力。     

Prediction of the Charpy V-notch impact energy of low carbon steel using a shallow neural network and deep learning

The impact energy prediction model of low carbon steel was investigated based on industrial data. A three-layer neural network, extreme learning machine, and deep neural network were compared with different activation functions, structure parameters, and training functions. Bayesian optimization was used to determine the optimal hyper-parameters of the deep neural network. The model with the best performance was applied to investigate the importance of process parameter variables on the impact energy of low carbon steel. The results show that the deep neural network obtains better prediction results than those of a shallow neural network because of the multiple hidden layers improving the learning ability of the model. Among the models, the Bayesian optimization deep neural network achieves the highest correlation coefficient of 0.9536, the lowest mean absolute relative error of 0.0843, and the lowest root mean square error of 17.34 J for predicting the impact energy of low carbon steel. Among the variables, the main factors affecting the impact energy of low carbon steel with a final thickness of7.5 mm are the thickness of the original slab, the thickness of intermediate slab, and the rough rolling exit temperature from the specific hot rolling production line.     

基于灰狼算法优化深度学习网络的网络流量预测

针对深度学习网络在网络流量预测建模过程中的参数优化难题, 以改善网络流量预测结果为目标, 提出一种基于改进灰狼算法优化深度学习网络的网络流量预测模型. 首先, 收集网络流量历史数据, 并对数据进行相空间重构、 归一化等预处理; 其次, 引入灰狼算法快速搜索到全局最优深度学习网络的相关参数, 并根据最优参数对预处理后的网络流量历史数据进行学习, 建立能挖掘网络流量历史数据变化规律的预测模型; 最后, 与其他算法优化深度学习网络的网络流量预测模型进行对比分析. 实验结果表明, 基于改进灰狼算法优化深度学习网络的网络流量预测精度超过90%, 远高于其他对比模型, 且预测建模过程的建模时间少于对比模型, 可满足网络流量管理的高精度和实时性要求.     

基于机器学习的石油多峰模型研究及应用

油田在实际开发过程中，受新区块投产、开发方案调整和"三采"措施等因素的影响，年产量数据会呈现多峰形态。针对经典的Hubbert、HCZ等模型不能直接拟合多峰数据序列的问题，开展了基于机器学习的油田产量多峰预测模型研究。基于Hubbert模型，对多峰数据序列进行分段最小二乘拟合，在拟合误差函数中引入控制分段个数的罚分项，采用动态规划算法，自动求得最优分段的多峰预测模型，该模型运用在实际的油田产量数据上，预测结果达到预期目的。提出了一种通过自动最优分段的线性回归学习来建立油田产量多峰预测模型的方法，在实际应用中具有建模简单、自适应性强的优点。     

遗传算法优化的神经网络频谱预测模型训练

针对认知无线网络(CRN)中神经网络频谱预测模型原有的反向传播算法预测准确率不高的问题,提出一种遗传算法优化的神经网络频谱预测模型训练(GA-NN)算法。通过在选择、交叉、变异中加入随机性,使种群的个体收敛至包含全局最优解的集合内,再通过反向传播算法训练神经网络频谱预测模型(BPNN)快速搜索到全局最优解。仿真结果表明,GA-NN算法训练的神经网络频谱预测模型的预测准确率比BP-NN算法提高一倍以上,GA-NN算法在多种CRN中具有适用性。GA-NN算法提高了频谱预测模型的预测准确率,将促进频谱预测技术在CRN中的推广应用。     

西安市空气污染指数的神经网络预测模型

将BP神经网络模型引入到大气污染预测预报领域,利用西安市2005-2010年逐日空气污染指数,建立了一个空气污染指数的非线性时间序列神经网络模型.实验结果表明:独立样本的日空气污染指数的预测值的平均相对误差分别为27.4%,23.2%,12.2%,25.7%,独立样本的日空气污染指数的预测值与真实值的线性相关系数高.该...