VAE_LSTM算法在时间序列预测模型中的研究

针对长短期记忆网络(LSTM)算法对时间序列预测存在的不足,考虑到样本序列如果包含线性关系或含有噪音时LSTM算法预测将不准确,同时分析了变分自编码器(VAE)对异常样本修复的原理,提出了一种改进的LSTM时间序列预测算法VAE_LSTM,将VAE网络修复样本的思想加入到传统的LSTM网络,对样本序列进行修复后再输入LSTM神经网络训练,最终建立了时间序列预测模型.阐述了模型建立的方法与步骤,详细分析了模型的原理.使用长江汉口历史水文数据序列进行仿真实验,结果表明:VAE_LSTM算法预测模型在时间序列预测方面有较好表现,满足预测精度要求,比传统LSTM时间序列预测模型的预测准确性高,尤其中短期预测更为准确;对比实验同时表明此模型准确性高于ARIMA,RNN等预测模型.     

一种社交网络环境下并行短文本查询算法

随着移动社交网络的迅速发展,如何从海量带有时间属性和地理位置属性的短文本信息中快速查询到有效信息具有重要意义.社交网络环境下传统短文本查询算法忽略时间维度,并且在海量数据下无法满足用户快速响应的需求.针对以上问题,提出一种社交网络环境下并行短文本查询算法.提出的算法设计了基于MapReduce模型下的查询框架,该框架使用了基于滑动窗口下的多版本时空索引(MVSTR-tree),保证了查询过程中融合了时间和空间属性,实现了对海量数据高效查询的目标.最后,通过真实数据集的实验证明该算法能有效缩短查询时间.     

融合长短期记忆网络和图卷积网络的轨道交通短时客流起讫点预测

轨道交通客流起讫点(origin-destination,OD)矩阵存在时间相关性和空间相关性。根据客流OD的时空特征,提出长短期记忆(long short-term memory,LSTM)网络和图卷积网络(graph convolutional networks,GCN)的短时组合预测方法。预测方法主要利用LSTM网络来获取客流的时间相关性,利用GCN来获取客流的空间相关性,基于出站口建立客流OD矩阵,对整个路网的客流OD进行训练预测。实验表明:融合LSTM神经网络和GCN神经网络的短时预测模型能有效预测轨道交通客流OD。相较于单独的LSTM神经网络,组合模型在预测误差方面有所改善,更适用于短时客流OD的预测。     

基于注意力机制的LSTM长江汛期水位预测方法研究

为提高长短期记忆网络(Long Short-Term Memory,LSTM)在水位预测任务中的准确性,以及提高LSTM对数据中时空信息的利用率,本文提出了一种基于Softmax函数的注意力模块,并将其应用在LSTM的输入前,使模型可以根据输入数据中的时间和空间信息,自主地生成带有权重的词义向量,并赋予输入序列时间和空...     

多价值链视角下基于深度学习算法的制造企业产品需求预测

多价值链协同发展背景下,制造企业没有充分考虑服务链、营销链等其他价值链对产品需求的影响。为提高制造企业产品需求预测的精度,本文提出了产品数据空间和一维卷积神经网络(One-dimensional convolutional neural networks, 1D-CNN)-长短期记忆神经网络(Long short-term memory, LSTM)的深度学习算法。首先,整合不同价值链对产品需求影响的相关数据构建产品数据空间。其次,从数据空间中获取多链数据集用于1D-CNN-LSTM模型的预测。其中,1D-CNN通过两次卷积池化操作获取数据的深层次特征,LSTM则通过进一步学习数据特征中的重要信息来进行时间序列预测。最后,通过某电气设备制造企业生产销售的环网柜产品的相关数据进行算例分析,并与其他几种模型进行预测结果比较。结果表明：1D-CNN-LSTM模型的预测效果优于神经网络模型和单一的LSTM模型。可见本文提出的1D-CNN-LSTM深度学习模型更具优越性,预测效果好。     

基于时空贝叶斯模型的行程时间可靠性预测

为了全面、准确地分析路段行程时间的时空分布,将路段的时间序列和空间关联关系纳入两个邻近路段的行程时间可靠性预测过程.在时间维度上,通过广泛使用的卡尔曼滤波预测行程时间;在空间维度上,根据离散马尔科夫链构建上下游路段行程时间的关联模型.进而构建了时空贝叶斯模型(ST-BM),将时间维度和空间维度的行程时间分布进行融合,从而预测路段行程时间可靠性.实例分析结果表明,相比于先验分布数据,文中模型将两个实测邻近路段的可靠性预测误差分别降低了45.7%和29.2%,验证了ST-BM模型的有效性.     

基于机器学习算法预测核磁共振T2谱

近年来,深度学习算法被广泛应用于生成各种类型的数据。本文通过分析测井数据与核磁共振T2谱之间的映射关系,利用随机森林与LSTM网络模型实现了对核磁共振T2谱的重构。核磁共振测井每个深度获得的T2谱是在不同的时间序列中通过不同的布点数来显示形态上的变化的,随机森林算法能够处理高维度的核磁共振T2谱数据且不需要做特征选择,而LSTM可以很好地控制不同深度神经元对T2谱各分布点的影响,将这两种网络模型进行参数优化后对同一口井的预测结果进行对比分析。这里选取了中国海上A油田的测井数据作为例子进行方法测试。首先,利用灰色关联度算法分析T2几何均值与测井曲线的相关性。选取相关性高于设定值的测井曲线,将测井曲线标准化缩放在0~1后作为随机森林与LSTM模型的输入,预测同一地层T2谱形态分布规律并比较算法的优劣。在比较软件处理得到的核磁共振T2谱和预测结果后分析它们之间产生差异的原因。结果显示通过LSTM神经网络模型预测的数据与地层真实数据的符合度比随机森林算法更高,符合度可达90%以上。     

基于LSTM的舰船软件运行健康状态预测

针对舰船任务系统的复杂环境,综合考虑舰船软件自身性能、外在环境和运行工况等数据的影响,采用长短期记忆网络模型(LSTM)预测软件运行健康状态,并针对样本类别分布不均衡导致的预测效果不佳等问题,提出了一种加权焦点损失函数(WFL).实验结果表明:基于WFL与包含三个隐含层的LSTM模型(LSTM3-WFL)不仅比传统的机器学习算法能够更好地学习到特征在时间维度上的变化规律;而且相较于基于交叉熵损失函数的LSTM模型,该模型更容易学习到样本个数较少的类别信息,并最终在测试集上达到98.2%的准确率与0.947的宏平均F1-Socre值,在舰船软件运行健康状态的预测问题上有很高的应用价值.     

非参数触发算法对时空因果关系的优化研究

为了从多类型时空序列中稳定准确地提取事件类型间的因果关系,提出了一种非参数触发算法(NPTP).首先基于多变量Hawkes模型,用非参数条件强度函数约定出事件类型间的因果关系;然后通过迭代计算事件类型间触发关系的条件概率;最后由秩选择得到显著事件类型对的概率并将概率中值的均值作为显著性度量值,从而获得事件类型间的触发关系.仿真结果表明,与参数算法CSTP和单变量算法MISD相比,在算法的稳定性和准确性指标方面均有优化提升.     

基于核函数的混沌交通流预测

采用一种基于核函数的局域线性预测算法进行城市短时交通流预测．在对混沌时间序列进行重构的基础上,利用径向基核函数将相空间中邻近点投影到更高维的核空间,然后在核空间中用线性自适应算法对时间序列进行预测,现场数据的试算结果表明,该方法能有效提高短时交通流的预测精度．     

基于时空多维的VMD-GAT-Attention短时交通流量组合预测模型

文章针对短时交通流量时空依赖性、非线性的特点,为提高交通流量的预测精度,将时间建模和空间建模相结合,提出一种整合改进的变分模态分解(variational mode decomposition,VMD)结合图注意力网络(graph attention networks,GAT)与注意力模型搭建的组合预测模型.在时间维度上,利用改进粒子群算法(improved particle swarm optimization,IPSO)优化的变分模态算法分解交通流量,保证了VMD的充分分解,并得到相对平稳的交通流量序列,提高了组合模型的预测精度;在空间维度上,构建有效分解模态与原交通流量序列的GAT,提取不同时间序列中各交通节点之间的空间信息;引入注意力机制提高主要时空信息权重,降低次要时空信息权重,进一步提升了组合模型的预测精度.实验结果表明,该组合模型比IPSO-VMD-GAT-Attention模型以及VMD-GAT-Attention模型的均方根误差分别下降了31％ 和21％,而且对于VMD-GAT模型和GAT模型,均方根误差分别从14.1231和9.9136下降到2.2928,说明该模型达到较好的预测效果.     

打折最小平方RBF网络及其时间序列预测研究

借用打折最小平方(DLS)原理构建了基于误差平方准则的DLS-RBF网络的学习算法.打折最小平方原理考虑了时间序列本身的结构性变化,较好地刻画了预测点与其他时刻数据的相关性,而这些恰恰是现有的径向基函数神经网络(RBF)在预测过程中所忽视的.实验表明DLS-RBF网络在非平稳方差时间序列和某城市自来水实际的月用水量预测中的效果明显,并优于RBF网络,但在混沌时间序列预测的实验中,因其自身的混沌特性,预测效果并不十分明显.     

LSTM在煤矿瓦斯预测预警系统中的应用与设计

针对煤矿瓦斯浓度的预测的问题,以亭南煤矿正常生产期间302工作面的监测数据为研究背景,采用深度学习技术LSTM(Long Short Time Memory,长短时记忆网络)建立瓦斯预测模型,研究与设计了基于LSTM的煤矿瓦斯预测预警系统。LSTM网络针对时间序列数据具有较强的建模能力,能够实现信息的长期依赖,自动挖掘数据之间潜在的关联关系。采集煤矿正常生产期间的瓦斯监测数据作为训练数据,利用深度学习框架TensorFlow进行算法的仿真,并研究了不同时间步长、网络深度下的LSTM以及多信息融合对瓦斯预测模型性能的影响。实验结果在1 000条测试数据集上获得了3.61%平均相对偏差,LSTM瓦斯预测模型具有较高的准确度,泛化能力强。在系统研究与设计中,使用Spring,SpringMVC和Hibernate框架按照适应性、易用性、可扩展性等原则对系统进行了设计。系统部署阶段,将训练好的LSTM瓦斯预测模型部署在TensorFlow Serving服务器中,对外提供服务,实现了煤矿瓦斯预警系统,增强了煤矿瓦斯监控系统的预警能力,提高了煤炭企业安全生产管理水平,具有一定的实用价值。     

双变换算法在多维序列数据分析中的优化研究

在流数据中,降低维度是处理多维序列数据的重要因素.提出一种双变换算法(DTA),针对在线序列数据,分别进行酉变换和双曲线旋转变换的双变换处理,得到假设函数的参数,通过牛顿算法迭代预测误差值,直到小于所预设的阈值,从而得到最优预测值.仿真结果表明,对比OGD和RON两种算法,DTA算法在保障算法稳定性的前提下,有效减少计算时间.     

基于经验模态分解的CEEMDAN-FE-LSTM传染病预测

针对现有的传染病预测模型未充分考虑到时间序列的复杂度,提出了一种基于自适应噪声完备集合经验模态分解（CEEMDAN）和模糊熵（FE）改进长短时记忆网络（LSTM）的传染病组合预测模型.首先,运用CEEMDAN算法将序列分解成若干个不同频率的模态分量与残差分量,以降低原始时间序列的复杂度;然后,运用FE算法计算各分量的时间复杂度,并将其重构为不同尺度的序列以提高运算效率;最后,建立LSTM模型对重构序列分别进行预测,得到最终预测结果.根据2010年1月至2021年12月肺结核、乙肝、布鲁氏菌病和艾滋病发病数据进行模型预测,并与SARIMA模型、CEEMDAN-FE-SARIMA模型和LSTM模型进行对比.结果表明,提出的模型较常规模型可以更好地把握传染病发病的变化规律,降低时间序列的复杂度,提高传染病预测精度.     

基于GAN网络的时间序列预测算法

针对双阶段注意力自编码神经网络(DA-RNN)时间序列预测算法对随机数据预测效果较差和长时间预测中存在的累积误差问题进行改进,设计了一种基于生成式对抗网络(GAN)的时间序列预测算法.该算法以DA-RNN网络为生成网络,利用生成网络和判别网络之间的互补特性,消除DA-RNN网络对于长时间预测过程中存在的累积误差问题;引...     

基于双向LSTM的手写文字识别技术研究

手写文字识别是计算机视觉、自然语言处理领域中的重要问题和研究热点.本文针对手写文字识别问题,提出一种基于双向LSTM网络的手写文字识别方法.首先根据数据集特点进行归一化等预处理;然后使用CNN网络对图像的特征进行提取;接着通过双向LSTM网络来记忆手写文字序列的字句关系,并对文字序列进行预测;最后使用CTC-Loss作为损失函数,可以让整句标注的训练集在上述网络下收敛.对比实验表明本文提出的算法模型的有效性.     

耦合注意力机制大坝变形改进LSTM序列到序列预测模型

目前,大坝变形预测主要采用的浅层网络结构存在难以挖掘数据序列隐含深层特征的问题．常用的LSTM和GRU等模型虽然具有分析变形序列的时间自相关性特征的特点,但忽略了环境因子序列和变形序列之间的映射关系,且难以克服深度神经网络梯度下降训练易陷入局部最优的问题．针对上述问题,提出了耦合注意力机制大坝变形改进LSTM序列到序列预测模型．利用编码和解码双层LSTM构建序列到序列结构,同步提取输入影响因子和输出变形的序列特征,并耦合注意力机制,动态度量各影响因子对变形的贡献率,以提高预测精度．进一步利用蚁群信息素及双混沌优化改进鲸鱼捕食机制,构建基于改进鲸鱼优化算法的耦合注意力机制的LSTM序列到序列网络模型的无梯度环境,规避早熟收敛,弥补梯度下降本身的缺陷．工程应用结果表明,本文所提模型能够精确预测大坝变形,在各点位测试集上平均MAPE、MAE和RMSE分别为0.125%、0.604 mm和0.865 mm．此外,时效、水位和温度分量对点位变形的贡献率依次为51.93%、30.14%和17.93%．本研究为大坝安全监控提供理论与技术支撑．     

网络舆情信息扩散中距离的影响——以新浪微博“九寨沟地震”事件为例

为研究地理空间距离对网络舆情信息扩散的影响,以新浪微博平台全国范围内关于"九寨沟地震"事件的微博数据为支撑,采用舆情扩散特征指标提取、时间距离空间转换、幂函数模型拟合等方法,先分析网络舆情信息扩散的时空收缩现象,再分别从响应时间、响应强度、传播强度和主题分布等维度上对网络舆情信息扩散中距离的影响进行了研究.结果表明:1)距离对网络舆情信息扩散的响应时间、响应强度、传播强度存在摩擦阻抗作用,但其作用强弱受地理空间的网络基础资源、城市经济发展水平、是否有同类事件发生等因素影响,有地理依赖性;2)距离一定程度上会影响舆情主题的分布,与事件、人员关系较大的主题占比有随距离的增加而减小的趋势,而对事件的认识、情感态度类主题的占比随距离的增加而增大.结论:地理空间距离对网络舆情信息扩散有影响,但对于不同的传播特征,指标的作用存在差异.     

基于LSTM深度学习的ENSO预测及其春季预报障碍研究

利用长短期记忆网络(LSTM)深度学习算法构建一个热带太平洋Nino3.4指数预测模型, 并分析模型的季节预报误差。结果表明, LSTM模型能够较好地预测厄尔尼诺事件的变化趋势, 但针对不同类型的厄尔尼诺事件有不同的表现。对于1997/1998和 2015/2016强东部型厄尔尼诺事件, 该模型能较准确地预测事件的趋势和峰值, 距平相关系数(ACC)达到0.93以上。但是, 对于 1991/1992和2002/2003弱中部型厄尔尼诺事件, 在峰值预测方面表现不好。在厄尔尼诺增长期,预报误差的季节增长率最大值皆处于4—6月,存在明显的春季预报障碍(SPB)现象。在衰减期,同类型事件的季节增长率最大值分布相似:弱中部型厄尔尼诺事件的最大值皆处于春季,存在明显的SPB现象;强东部型厄尔尼诺事件的最大值分散在其他季度,不存在SPB现象。个体事件间存在一定的差异,可能与事件的特征(如事件类型和强度)有关。