基于门控循环单元神经网络的金融时间序列预测

针对循环神经网络(recurrent neural networks,RNN)网络结构存在的长期依赖问题,门控循环单元(gated recurrent unit,GRU)神经网络作为RNN的一种变体被提出。在继承RNN对时间序列优秀记忆能力的前提下,GRU克服了时间序列的长期依赖问题。本文针对金融时间序列数据存在的依赖问题,将GRU扩展应用到金融时间序列预测,提出了基于差分运算与GRU神经网络相结合的金融时间序列预测模型。该模型能够处理金融时间序列数据的复杂特征,如非线性、非平稳性和序列相关性。通过对标准普尔(SP)500股票指数的调整后收盘价进行预测,实验结果表明,所提出的方案能够提高GRU神经网络的泛化能力和预测精度,并且与传统预测模型相比该模型对金融时间序列的预测拥有更好的预测效果和相对较低的计算开销。     

LSTM和GRU在城市声音分类中的应用

不同类型的声音对城市居民的身心健康质量影响不同,将城市声音精准的分类有利于对其进行有效的评价,从而促进对城市声音的管理。深度学习在语音识别方面已有所应用,其中循环神经网络(RNN)表现最为突出。由于基本RNN存在明显的梯度消失、网络损耗大、准确率低等问题,应用改进的RNN对城市背景噪声进行分类。采用长短期记忆神经网络(LSTM)和门控循环单元(GRU)神经网络,构建深度循环神经网络模型,通过城市记录的公共数据集UrbanSound8K对搭建的深度神经网络的准确性进行测试分析。模型基于梅尔频率倒谱系数的基准实现,得出的结果与基本RNN相比有明显的提升。     

基于深度学习GRU网络的UWB室内定位优化

为减少信号传输质量和距离估计算法等因素对定位精度的影响,将深度学习应用于超宽带（ultra wide band,UWB）室内定位系统,利用门控循环单元（gated recurrent unit,GRU）网络代替传统UWB室内定位系统中的三边测量过程,以提高UWB室内定位精度。在得到定位标签到基站的距离信息后,将距离信息输入GRU网络中,输出最终位置坐标。GRU作为循环神经网络（recurrent neural network,RNN）的变种,既含有RNN处理时序数据的优势,又解决了RNN中的长程依赖问题。对GRU网络模型中不同学习率、优化器、批量大小、网络层数、隐藏神经元数量参数进行调整和训练。结果表明,基于GRU网络模型的UWB室内定位系统显著提高了定位精度,平均定位误差为6.8 cm。     

基于CEEMDAN-GRU的主泵电机绕组温度预测

针对核电站主泵电机绕组温度的预测问题，提出了基于自适应噪声完备集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)和门控循环单元(gated recurrent unit,GRU)的预测模型。首先使用CEEMDAN对采集到的绕组温度序列进行分解，经过分量重构得到其高、低频分量和趋势项，在此基础上分别构建各分量的GRU预测模型，将各分量的预测结果叠加集成得到绕组温度的整体预测值。仿真结果表明，与传统的循环神经网络(recurrent neural network,RNN)、长短期记忆(long short-term memory,LSTM)模型和GRU模型相比，本文提出的预测模型在多元评价指标方面均优于其他模型，具有更高的预测精度，验证了该模型的可行性。     

基于深度学习和支持向量机集成学习的PM2.5浓度24 h预测

提前24 h准确预测PM2.5浓度可以有效的避免严重污染天气对人体带来的不利影响.为了提高深度学习模型PM2.5浓度24 h预测的性能和泛化能力,在传统循环神经网络(RNN)模型上添加支持向量回归(SVR)作为下采样层提取非线性特征并降维;然后添加多核卷积神经网络(CNN)提升特征表达能力;最后利用门控循环网络(GRU...     

基于Savitzky-Golay滤波的双向门控循环单元神经网络汽轮机热耗率预测

汽轮机热耗率是火电机组运行过程中的一项重要监测指标。为建立更加准确的汽轮机热耗率预测模型,借助某1 000 MW火电机组的真实历史数据,提出一种基于双向门控循环单元(gated recurrent unit,GRU)神经网络的汽轮机热耗率预测模型。针对火电机组现场运行数据噪声大的问题,采用SG(Savitzky-Golay)滤波器对所选变量数据进行降噪处理,将处理后的数据作为建模样本构建双向GRU神经网络汽轮机热耗率预测模型。并将其与BP(back propagation)神经网络、传统循环神经网络等2种算法的模型预测结果进行对比,结果表明:双向GRU神经网络热耗率预测模型的预测精度更高,泛化能力和鲁棒性更强,能够满足现场的实际需求。     

双向LSTM神经网络的航空发动机故障预测

准确的航空发动机故障预测能够为维修决策提供依据,提高装备完好率,避免灾难性故障并最小化经济损失。根据航空发动机传感器数据特点,提出一种基于双向长短期记忆（LSTM）神经网络的故障预测方法,建立故障预测模型,包括数据预处理、网络模型设计、训练与测试,得到在多种工作条件和故障下具有较强泛化能力的神经网络预测模型。使用C-MAPSS数据集对模型进行仿真验证,所提出的双向LSTM故障预测模型通过与RNN、GRU、LSTM时间序列模型对比,误差下降33.58%,得到更高的预测精度,非对称评分下降71.22%,具有更好的适应性。     

基于融合Dropout与注意力机制的LSTM-GRU车辆轨迹预测

在智能驾驶环境的车辆轨迹预测环节,为更好地获取环境车辆的轨迹时序特征,在长短期记忆神经网络（LSTM）基础上,嵌入Dropout层以增强网络泛化性,引入注意力机制予以预测效果影响较大的时序数据更大权重从而提高预测结果的可靠性,且将改进的LSTM模型与门控循环单元GRU模型结合,构建LSTM-GRU预测模型以进一步提升环境车辆轨迹预测的准确性.在此基础上,使用NGSIM公开数据集对模型进行训练、验证和测试.研究结果表明,融合了Dropout和注意力机制的LSTM-GRU神经网络轨迹预测模型相较标准的LSTM长短期记忆网络以及GRU门控循环单元,在预测较长时序的车辆轨迹上具有优势,提高了轨迹预测的准确性,降低了实际轨迹和预测轨迹之间的均方根误差和平均绝对误差.     

基于门控循环单元的全断面掘进机稳定段掘进性能预测

全断面隧道掘进机（tunnel boring machine, TBM）一个正常掘进循环分为空推段、上升段和稳定段三个阶段,其中稳定掘进段为主要施工阶段,稳定段掘进性能的好坏是TBM掘进的关键。为实现TBM安全高效掘进,建立一种基于门控循环单元（gated recurrent unit,GRU）神经网络的预测模型,预测TBM稳定段掘进性能。模型以新疆某供水工程Ⅱ标段TBM施工数据为依托,5种掘进循环上升段主要参数的时间序列数据作为主要输入,围岩等级作为辅助输入来考虑岩体对掘进性能的影响,输出为稳定段的总推进力和刀盘扭矩,为稳定段TBM性能预判提供参考。为显示预测效果,对比传统循环神经网络（recurrent neural network,RNN）预测模型,并分析不同长度时间序列输入对模型预测精度的影响。结果表明：GRU模型预测拟合优度均在0.9以上,平均绝对百分比误差均小于12.25%,同时能够适用不同长度时序输入。由此可见,所建模型具有较高预测精度,泛化能力较好,能够辅助预判掘进机稳定段性能。     

融合聚类-卷积-门循环的居民用电短期负荷预测方法

对居民用电进行准确的短期负荷预测是电力部门合理制定每日调度计划的重要依据。提出了一种基于BIRCH(balanced iterative reducing and clustering using hierarchies)聚类算法-卷积神经网络(convolutional neural network, CNN)-门控循环单元(gated recurrent unit, GRU)的短期电力负荷预测方法。根据智能电表采集的历史负荷数据，该方法首先采用BIRCH聚类算法分析不同用户的用电习惯，将用户聚类为多个用户群；然后构建由负荷数据和时间以及气候信息组成的多特征时间序列数据集，并采用训练集进行CNN-GRU预测模型构建。训练集首先输入到基于一维卷积层设计的CNN网络，以提取不同特征变量之间的非线性关系；之后将数据输入GRU网络，以提取数据在时间维度上的时序特性，最后由全连接层输出短期负荷预测结果。以爱尔兰能源管理委员会提供的公开数据集作为实际算例，以ANN网络、CNN网络及CNN-GRU网络为对比模型，实验结果表明，所提出方法的平均绝对百分比误差达到了2.932 1%,有较高的预测精度和...     

一种基于循环神经网络的古文断句方法

提出一种基于循环神经网络的古文自动断句方法。该方法采用基于GRU(gated recurrent unit)的双向循环神经网络进行古文断句。在解码过程中,该算法不仅利用神经网络输出的概率分布,还进一步引入状态转移概率和长度惩罚,以便提高断句准确率。在大规模古籍语料上的实验结果表明,所提方法能够取得比传统方法更高的断句F1值。     

基于长短期记忆神经网络模型的共享单车短时需求量预测

共享单车具有很强的流动性和高随机性,为了更加准确地预测某区域内每小时的单车使用数量,通过爬取纽约市Citi Bike共享单车的天气特征数据信息,并分析时间因子、气象因子等对单车需求量的影响;采用长短期记忆(long short-term memory,LSTM)神经网络模型预测共享单车的短期需求量,并与传统的循环神经网络(recurrent neural network,RNN)和BP(back-propagation)神经网络模型预测结果进行比较。实验结果表明:影响单车需求量的主要因素包括温度、节假日、季节以及早晚高峰时间段等因素;与传统BP神经网络算法和循环神经网络RNN算法相比,LSTM鲁棒性高,泛化能力强,且预测结果曲线与真实结果曲线相吻合;预测精度高(精确度为0.860)均方根误差最小(为0.090),误差小。可见LSTM模型可以用来对共享单车的短时需求量进行预测。     

基于门控循环单元神经网络的公交到站时间预测

为提高用户公交出行积极性、方便管理部门合理调度公交班次,利用大数据分析公交浮动车辆历史GPS数据,考虑不同线路、公交站点地理位置、不同驾驶员、气象情况、时间分布等多因素的影响,建立了一种基于门控循环单元(gated recurrent unit, GRU)神经网络的公交到站时间预测模型。该模型结合5 000多万条原始数据,借助分布式Hadoop集群中的Spark弹性分布式数据集进行数据清理,并运用站点匹配算法进行源数据匹配、Lasso算法优化特征选项及去除干扰。实验仿真结果表明:改进的GRU模型R-square拟合度达到94.547%,并且算法效率较传统长短期记忆(long short-term memory,LSTM)神经网络提高了近14%,为进一步提高公交到站时间的预测精度与效率提供了参考。     

无相位远场数据反演散射障碍的神经网络方法

针对无相位信息反演障碍物位置及形状的问题, 提出一种两层门控循环单元(GRU)神经网络对门控循环单元神经网络的方法(MGNN), 并给出该方法的收敛性分析. 首先, 以无相位远场数据与障碍物边界曲线方程参数作为输入和输出, 通过GRU神经网络控制门思想与长期记忆功能, 有选择性地更新网络状态, 保存数据特征; 其次, 应用梯度下降算法更新模型权重和偏置, 解决了无相位信息的远场数据反演障碍物位置及形状的难题; 最后, 利用数值实验说明该方法的有效性.     

基于门控循环单元-支持向量回归组合模型的湖泊水位预测方法探索

为改善传统循环神经网络预测梯度消失的问题,并探讨组合模型在水位预测中的应用,提出了一种基于门控循环单元(Gated Recurrent Unit,GRU)和支持向量回归(Support Vector Regression,SVR)的组合预测模型,对猎德涌流域源头西湖水位进行预测。对GRU-SVR(多项式核、RBF核、Sigmoid核)模型进行了比选。组合模型通过GRU提取雨量与水位间时空特征,SVR增强整体的非线性预测能力。结果表明,与CNN-GRU及SVR相比,GRU-SVR(多项式核)模型在湖泊的降雨时期拥有较好的预测精度。     

无相位远场数据反演散射障碍的神经网络方法

针对无相位信息反演障碍物位置及形状的问题, 提出一种两层门控循环单元(GRU)神经网络对门控循环单元神经网络的方法(MGNN), 并给出该方法的收敛性分析. 首先, 以无相位远场数据与障碍物边界曲线方程参数作为输入和输出, 通过GRU神经网络控制门思想与长期记忆功能, 有选择性地更新网络状态, 保存数据特征; 其次, 应用梯度下降算法更新模型权重和偏置, 解决了无相位信息的远场数据反演障碍物位置及形状的难题; 最后, 利用数值实验说明该方法的有效性.     

基于改进遗传算法的递归神经网络模型辨识

将递归内时延神经网络应用于非线性动力学系统中，引入遗传算法作为其学习算法，提出遗传算法新的编码方案，并且在遗传操作中采用适应度的调整策略，通过仿真实验，表明该方法是有效的。     

基于改进门控循环单元神经网络的锂电池组荷电状态预测

准确预测锂电池组的荷电状态（state of charge，SOC）能够有效防止电池过度充电或者放电，是储能设备安全运行的重要保障。为了解决SOC无法通过测量直接获得的问题，提出了一种基于猎人猎物优化算法（hunter prey optimization，HPO）优化门控循环单元（gated recurrent unit，GRU）神经网络的预测模型。在GRU的基础上添加Dropout机制，来增强模型的泛化能力，并通过HPO算法优化GRU的超参数，使锂电池的数据特征与网络拓扑相匹配。为了验证HPO-GRU模型的有效性，以某储能公司现场采集的储能锂电池组历史数据进行仿真实验，并与反向传播神经网络（back propagation，BP）、长短期记忆网络（long short term memory，LSTM）和GRU三种预测模型的预测结果进行对比分析。可得HPO-GRU模型预测值与真实值的误差最小，在5%以内。可见HPO-GRU模型的预测精度最高，具有良好的鲁棒性以及较强的泛化能力。