改进型BP神经网络的港口吞吐量预测

为了提高港口吞吐量预测模型的适用性,满足港口决策的需求,对传统时间序列BP神经网络预测模型进行改进,将未来三年的吞吐量作为输出层参数,以tansig函数和logsig函数为传递函数,建立了改进型时间序列BP神经网络预测模型,利用trainlm函数训练神经网络,预测未来三年的港口吞吐量。对深圳港集装箱吞吐量进行了预测,结果表明,改进型时间序列BP神经网络模型泛化能力更强,拟合精度更高,且避免了传统预测模型循环预测产生的误差叠加,具有较好的适用性。     

基于CNN-LSTM混合神经网络的光伏发电量预测方法研究

光伏发电量受天气状况,光伏逆变器的质量,光伏组件的清洁度等诸因素影响,其中天气状况的时序性变化较大程度影响发电量。针对不同地区天气时序性变化导致的光伏发电量预测不准确等问题,提出了一种由卷积神经网络(CNN)和长短期记忆(LSTM)混合模型的光伏发电量预测方法,其中通过CNN建立地域之间的空间相关性,LSTM捕捉发电数据之间的时间依赖关系。对神木县红民发电厂和庆城县绿能动力发电厂的光伏发电数据进行测试,实验结果表明,本文所提出的CNN-LSTM混合神经网络方法在光伏发电量预测方面具有较高的准确性和稳定性,比LSTM神经网络模型精度提升4.3%左右。     

基于融合Dropout与注意力机制的LSTM-GRU车辆轨迹预测

在智能驾驶环境的车辆轨迹预测环节,为更好地获取环境车辆的轨迹时序特征,在长短期记忆神经网络（LSTM）基础上,嵌入Dropout层以增强网络泛化性,引入注意力机制予以预测效果影响较大的时序数据更大权重从而提高预测结果的可靠性,且将改进的LSTM模型与门控循环单元GRU模型结合,构建LSTM-GRU预测模型以进一步提升环境车辆轨迹预测的准确性.在此基础上,使用NGSIM公开数据集对模型进行训练、验证和测试.研究结果表明,融合了Dropout和注意力机制的LSTM-GRU神经网络轨迹预测模型相较标准的LSTM长短期记忆网络以及GRU门控循环单元,在预测较长时序的车辆轨迹上具有优势,提高了轨迹预测的准确性,降低了实际轨迹和预测轨迹之间的均方根误差和平均绝对误差.     

指数趋势预测的BP-LSTM模型

本文根据股指、股价等数据的时序特征将人工神经网络(ANN)与深度学习中的循环神经网络(RNN)引入股指预测,基于BP神经网络模型与长短期记忆(LSTM)神经网络模型构建了BP-LSTM模型.基于上证指数,本文进行了进行数值实验.结果表明BP-LSTM预测模型的准确率相比传统机器学习模型有明显提升,与普通LSTM模型相比也有较大提升.     

基于多变量时间序列模型的高含水期产量预测方法

针对油田高含水期地质条件复杂、地层物性变化多样导致产量预测正确率低的问题,提出一种基于多变量时间序列模型即多变量长短期记忆神经网络(LSTM)的产量预测方法。在基于极限梯度提升算法(XGBoost)筛选产量主控因素的基础上,建立综合考虑产量与地质、开发等影响因素之间相关性特征,并兼顾产量自身的时序性变化特征的产量预测模型;实验选取中国某中高渗透砂岩区块油田生产历史数据进行高含水期产量预测模型的训练和测试,并与单变量长短时记忆模型以及其他全连接网络模型结果进行比较。结果表明：该方法具有较好的预测性能,新模型克服了传统全连接神经网络无法描述产量时序数据相关性,以及单变量LSTM无法表征高含水期产量变化受多因素影响的问题,有效地提高了油田高含水期产量预测的准确性。     

基于DBN-LSTM的滚动轴承剩余寿命预测模型

针对滚动轴承退化数据的复杂性和传统的寿命预测方法不能充分利用数据的相关性从而导致预测精度不高的问题,提出了一种基于融合深度置信神经网络（deep belief neural , DBN）和长短时记忆神经网络（long-short term memory , LSTM）的剩余寿命预测模型。该模型首先采用带通滤波降噪对滚动轴承振动数据进行去噪,然后依据均方根特征和峭度特征在轴承全寿命周期内的趋势图确定模型的预测起始点;其次利用优化后的4层DBN网络完成深度特征提取并用于LSTM的训练与测试。通过轴承全寿命周期试验证明提出模型的可靠性,并且与传统LSTM、BP(back propagation)神经网络和DBN-BP模型的预测结果进行对比,验证了本文模型的有效性。     

基于注意力机制的CNN-LSTM模型的航迹预测

基于数学模型或统计模型的传统航迹预测方法存在一定的局限性，无法满足现代航空领域对于高效、准确、实时的航迹预测需求。针对此问题，提出基于注意力机制的CNN-LSTM模型的实时航迹预测方法。该模型首先使用一维卷积对航迹数据的多维度特征进行提取，从而减少输入特征的数量。其次利用获取的多维度时序数据作为LSTM的输入，通过LSTM提取上下文的信息。最后使用注意力机制为LSTM中不同时序节点的输出赋予权重，达到聚焦关键航迹信息的作用。经过实验验证：本文的模型与LSTM模型和CNN-LSTM模型相比，预测出的路径更接近真实航迹；文中的模型比LSTM模型的平均预测误差降低了29.7%，比CNN-LSTM模型降低了25.4%。综上所述，文中方法可以显著提高航迹预测的精度。     

宁波——舟山港货物吞吐量预测方法

港口货物吞吐量是港口物流的主要组成部分,对它的准确预测是确定港口规模建设的前提.根据舟山统计信息网提供的数据,整理得到宁波——舟山港2004年1月-2012年7月的港口货物吞吐量和外贸货物吞吐量.把货物吞吐量划分成训练集和测试集,分别用A'RIMA模型、分形预测方法、神经网络技术和支持向量机四种方法对该港的货物吞吐量进行了预测.以MATLAB为技术基础,对这四种方法进行了仿真计算.结果表明,四种预测方法均得到了满意的效果,但是利用神经网络预测误差较小,显示了神经网络模型在具有非线性随机的港口物流预测中的潜力.     

基于联合损失函数的小规模数据人脸识别

小规模数据人脸识别的难点在于数据量少而变化多,直接用深度神经网络进行训练易出现过拟合现象.针对此问题,本文提出了基于联合损失函数的小规模数据人脸识别算法,即利用联合损失函数,在基于Softmax损失函数的大规模公开人脸数据集上得到的预训练模型上重新训练.该方法既能充分使用模型参数,也能够提高模型的特征表征能力.除此之外,本文中还使用了传统特征后处理方法进行对比评估,证明了该方法在小规模人脸数据集上的有效性.实验表明,本文方法能大幅度提高模型在学校新生人脸数据集的检索精度.      

一种基于LSTM神经网络建模的时域电磁正演方法

针对传统计算电磁学在求解时域电磁散射特性时耗时较长的问题,该文提出了一种基于长短时记忆(LSTM)神经网络的时域电磁正演算法,以快速准确地求解时域电磁散射特性。首先,利用时域有限差分(FDTD)方法生成样本数据;然后,搭建一个适用于本问题的LSTM神经网络模型,将一部分样本作为训练数据输入到该LSTM神经网络中,另一部分作为测试数据来验证基于LSTM神经网络的电磁正演模型的可靠性。经过验证,基于LSTM神经网络的时域电磁正演建模方法与传统的FDTD方法相比,在保证足够精确度的前提下(平均相对误差低于2%),计算速度提高了1 809倍。实验结果表明,基于LSTM神经网络的时域电磁正演模型算法能够对不同形状、不同相对介电常数的散射体在不同位置时的电场做出正确的预测,并且计算速度显著提高。     

基于关联规则及组合模型的面料需求预测

由于服装的面料组成具有复杂性,企业在不同时间对不同规格型号面料需求量不一致,传统的人工预测及单维度智能预测模型难以解决问题。针对服装企业面料需求非确定性、预测难的痛点,提出基于关联规则及组合模型的面料需求预测方法。文章首先构建Apriori面料型号关联模型,挖掘多批多类面料间的型号关联规则;然后构建Prophet时间序列模型与长短期记忆神经网络(long short-term memory,LSTM)的组合预测模型Prophet-LSTM,结合其在解决面料需求预测问题上的优势;最后将挖掘出的高关联面料型号历史需求数据作为输入,采用量子粒子群算法(quantum particle swarm optimization,QPSO)优化组合模型权值系数,进行关联面料需求量预测。使用RMES(root mean squared error,RMSE)及MAE(mean absolute error,MAE)作为评价指标设计对比实验,实验结果表明：采用量子粒子群优化的QPSOProphet-LSTM面料需求预测模型RMES较Prophet降低5.464,较LSTM降低1.184;MAE较Prophet降低4.261,较LSTM降低0.819,需求预测精度更高,支持服装企业面料柔性生产。     

基于带噪预训练的刑期预测方法

刑期预测模型利用自然语言处理技术自动预测当前案件的建议刑期,对提高司法工作效率,维护司法审判的公平与公正,以及实现同案同判具有重要意义。现有的研究通常采用基于预训练语言模型的方法进行刑期预测建模,但由于存在裁判文书文本较长、专业性强及部分案由标注数据不足等问题,刑期预测任务依然具有较强的挑战性。针对上述问题,本文提出了基于带噪预训练的刑期预测方法。首先,根据刑期预测任务的特点,设计了融合罪名信息的刑期预测模型;其次,结合遮蔽语言模型(Masked Language Model,MLM)任务和自蒸馏策略减少刑期预测任务预训练数据中噪声的影响;最后,改进RoBERTa-wwm模型中的位置嵌入,增强模型的长文本建模能力。实验结果表明,本文提出的预训练方法能够极大地提升刑期预测任务的准确率,在小样本条件下也具有很好的表现。     

基于AM-LSTM模型的超短期风电功率预测

近年来,中国的风力发电产业高速发展。然而风力发电具有不稳定性,风电功率超短期预测结果的准确性直接影响到电网安全有效的运行。为了进一步提高风电功率超短期预测的精确度,提出了长短期记忆网络-注意力模型(AM-LSTM)风电功率预测模型,该模型将长短期记忆网络(long-term and short-term memory,LSTM)和注意力模型(attention model,AM)相结合, LSTM网络能够处理好风速、风向等时间序列变量与风电功率之间的非线性关系,注意力模型能够优化LSTM网络的权重,从而使预测结果更加准确。采用真实的风电场历史数据进行实验,结果表明:提出的AM-LSTM预测模型能够有效利用多变量时间序列数据进行风电场发电功率的超短期预测,比传统的BP神经网络和LSTM网络具有更精确的预测效果。该预测模型为风电场地电力调度提供了科学参考。     

高频数据下基于LSTM的协方差矩阵预测模型

协方差矩阵的建模与预测,对于金融风险管理、投资组合管理等至关重要。 针对时间序列模型 对高维变量预测精度较低的问题,利用长短记忆神经网络模型(LSTM),提出了基于深度学习的高频数据已 实现协方差矩阵预测模型。 利用金融高频数据得到已实现协方差矩阵,对其进行 DRD 分解,针对相关系数 矩阵 R 进行向量化处理,利用向量异质自回归模型(HAR)预测已实现相关系数矩阵 R;针对已实现波动率 矩阵 D,利用半协方差(semi covariance)思想,结合 LSTM 模型,得到已实现波动率矩阵 D 的深度学习预测模 型,构建了 LSTM-SDRD-HAR 已实现协方差矩阵动态预测模型。 LSTM 模型和 HAR 模型能捕捉实际数据 的长期记忆性,半协方差有利于捕捉金融数据的杠杆性。 实证分析表明:相较于传统向量 HAR 已实现协方 差矩阵预测模型,LSTM-SDRD-HAR 预测已实现协方差矩阵更为准确,基于 LSTM-SDRD-HAR 预测已实现 协方差矩阵构造的有效前沿组合投资效果更佳。     

混合算法在港口吞吐量预测中的应用

针对单一预测方法存在的不足,采用一种联合时间序列法和因果分析法的混合算法预测港口吞吐量.并以宿迁港吞吐量预测为例,对这种方法进行了详细说明.预测过程中借助主成分分析法提取出影响港口吞吐量的关键因子,利用改进的灰色模型理论对关键因子中远期未来值做出预估,最后通过吞吐量与关键因子的线性回归得出宿迁港在预测年份的吞吐量值.通过对混合算法预测模型误差的检验发现,此预测方法的模型精度较高,能够满足港口吞吐量预测的要求,可以推广到类似港口吞吐量的预测中.     

基于时序分解和SSA-LSTM-Attention模型的尾矿坝位移预测

针对尾矿坝位移变形的动态特性和传统预测模型在进行尾矿坝位移预测中的不足,提出了一种基于时序分解和麻雀搜索算法-长短时记忆-注意力机制(sparrow search algorithm-long short-term memory-attention mechanism, SSA-LSTM-Attention)模型的尾矿坝位移预测方法。首先,通过改进的自适应噪声完备集合经验模态分解算法(improved complete ensemble empirical mode decomposition with adaptive noise, ICEEMDAN)将尾矿坝位移监测数据进行分解为趋势项和波动项;其次,一方面采用高斯拟合方法对趋势项进行拟合预测,另一方面通过灰色关联度进行波动项相关影响因子筛选,并将注意力机制与LSTM相结合,建立了基于注意力机制及LSTM的波动项位移预测模型,同时利用SSA对该模型的超参数寻优;最后,将趋势项与波动项叠加得到总的位移预测值。以攀西地区尾矿库为例对模型性能进行了验证,并与反向传播(back propagation, BP)、LSTM、LSTM-Atte...     

长江外贸集装箱运量预测和码头装卸工艺优选

本文利用新陈代谢ＧＭ（１，１）模型、二次指数滑动平均法、计量经济学模型３种预测模型对上海港进行了外贸集装箱吞吐量的预测，并结合考虑长江各主要港口在共同航线上的运量分配及航线运量占该港吞吐量的比重，对各港口进行了外贸集装箱吞吐量和主要航线运量预测。然后，运用多目标决策理论中的线性分配法与层次分析法，分析了不同运量水平下港口装卸工艺系统的优选问题，并利用外贸集装箱的预测结果，得到了这些港口装卸工艺的优     

多价值链视角下基于深度学习算法的制造企业产品需求预测

多价值链协同发展背景下,制造企业没有充分考虑服务链、营销链等其他价值链对产品需求的影响。为提高制造企业产品需求预测的精度,本文提出了产品数据空间和一维卷积神经网络(One-dimensional convolutional neural networks, 1D-CNN)-长短期记忆神经网络(Long short-term memory, LSTM)的深度学习算法。首先,整合不同价值链对产品需求影响的相关数据构建产品数据空间。其次,从数据空间中获取多链数据集用于1D-CNN-LSTM模型的预测。其中,1D-CNN通过两次卷积池化操作获取数据的深层次特征,LSTM则通过进一步学习数据特征中的重要信息来进行时间序列预测。最后,通过某电气设备制造企业生产销售的环网柜产品的相关数据进行算例分析,并与其他几种模型进行预测结果比较。结果表明：1D-CNN-LSTM模型的预测效果优于神经网络模型和单一的LSTM模型。可见本文提出的1D-CNN-LSTM深度学习模型更具优越性,预测效果好。