基于CNN-BiLSTM-Attention的超短期电力负荷预测

在长短期记忆神经网络(LSTM)的基础上,运用双向的长短期记忆神经网络(BiLSTM),结合卷积神经网络(CNN)提出了一个预测模型,对超短期电力负荷预测.运用合肥市2019年全年数据对该模型进行训练及预测,结果显示,CNN-BiLSTM预测精度高于CNN-LSTM预测模型,为进一步提升预测精确度,在BiLSTM神经网络后面连接了一个Attention在输出,发现其预测精度进一步提升了.     

基于CNN和LSTM的图像隐写分析

为了进一步降低隐写分析算法的检测错误率,文章提出一种基于卷积神经网络(convolutional neural network, CNN)和长短期记忆网络(long short-term memory, LSTM)的隐写分析算法。该算法利用CNN捕获载体图像的结构特征,同时利用LSTM捕获图像的前后时序特征。为了验证混合神经网络的有效性,该算法以XuNet和SRNet为基准隐写分析网络,探讨CNN与LSTM的有效组合方式。实验结果表明,所提方法可以有效提高隐写分析算法的检测能力。     

基于VMD和时空网络变分自编码器的负荷聚类

为了解决用户用电负荷曲线数据维度高、特征提取困难以及序列存在信号模态混叠的问题,本文提出使用变分模态分解（variational mode decomposition,VMD）和改进基于时空网络的变分自编码器（variational auto-encoders,VAE）对电力负荷曲线进行特征提取。通过模态分解得到信号的固有模态,对模态重构得到时序特征较明显的序列信号。再通过长短期记忆网络（long short-term memory network,LSTM）和卷积网络（convolutional neural networks,CNN）组成的时空变分自编码器进行潜在特征提取,并构建网络分类器来联合损失优化自编码器模型。最后使用Minibatchkmeans算法聚类并计算聚类中心。使用UCI数据集中葡萄牙居民用电量作为实验数据,通过实验结果表明经模态分解后通过降维再聚类的算法在戴维斯丁堡指数（Davies-Bouldin Index,DBI）和轮廓系数（Silhouette Coefficient,SC）上表现出较好效果。     

基于CNN-LSTM网络的在线多任务销售预测模型

有效的销售预测利于企业制定正确的营销策略,针对当前销售预测研究中存在无法进行实时在线多任务销售预测、稳定获取序列数据中的时序特征等问题,提出了一种基于CNN-LSTM网络的在线多任务销售预测模型.该模型上层CNN网络抽取得到重要的时序数据特征,进而输入到下层LSTM网络中进一步抽取复杂的不规则特征进行建模,最终得到预测...     

基于CNN-LSTM-lightGBM组合的超短期风电功率预测方法

近年来,风电装机规模逐年增加,风电数据采集量呈现规模化增长,面对海量多维、强波动的风电数据,风电功率预测精度仍面临一定的挑战。为提高风电功率预测精度,提出了基于卷积神经网络(convolutional neural networks, CNN)-长短期记忆网络(long short-term memory, LSTM)和梯度提升学习(light gradient boosting machine, lightGBM)组合的超短期风电功率预测方法。首先,分别建立CNN-LSTM和lightGBM的风电功率超短期预测模型。其中,CNN-LSTM模型采用CNN对风电数据集进行特征处理,并将其作为LSTM模型的数据输入,从而建立CNN-LSTM融合的预测模型;然后,采用误差倒数法对CNN-LSTM和lightGBM的预测数据进行加权组合,建立CNN-LSTM-lightGBM组合的预测模型;最后,采用张北曹碾沟风电场的风电数据集,以未来4 h风电功率为预测目标,验证了组合模型的有效性。预测结果表明：相较于其他3种单一模型,组合模型具有更高的预测精度。     

CNLSTM模型预测城市积水

物联网平台能够为积水预测提供海量的传感器时间序列数据基础.为了精准且快速地预测城市内涝点积水趋势,提出一种基于神经网络的组合时序预测模型(CNLSTM),对多变量积水时间序列数据进行建模预测.此模型利用卷积神经网络(convolutional neural network,CNN)提取多变量数据之间的空间特征,得到具有...     

基于CEEMDAN和TCN-LSTM模型的短期电力负荷预测

针对短期电力负荷数据随机性强,难以实现准确预测的问题,提出了一种基于自适应噪声完备集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise, CEEMDAN)和时间卷积网络-长短期记忆网络(temporal convolutional network-long short-term memory network, TCN-LSTM)混合模型的预测方法。所提算法先使用CEEMDAN方法将负荷数据分解为一系列相对平稳的子序列。同时为了降低后续计算规模,通过引入排列熵的方法将各子序列进行重组。然后,将各个重组序列输入到TCN-LSTM组合模型中,利用TCN模型提取特征并构建序列的特征向量,再基于LSTM模型对其进行训练及预测。最后把全部预测值进行相加得到完整的预测负荷值。通过使用欧洲某地真实负荷数据进行验证。结果表明：所提算法与其他常见的预测算法相比具有更高的预测精度,可为负荷预测等研究工作提供相关参考。     

基于1DCNN-LSTM和迁移学习的短期电力负荷预测

针对在短期电力负荷预测中,当某区域电力负荷数据较少时,负荷预测精度较差的问题,提出一种基于1DCNN-LSTM(1D Convolutional Neural-Long Short-Term Memory Networks)和参数迁移的短期负荷预测方法,并采用1DCNN-LSTM结合迁移学习针对性提高预测精度。使用美国某地区的实际负荷数据进行仿真分析,实验结果表明,该方法能有效提升区域电力负荷数据缺失时负荷预测的精度。     

短期风力发电负荷预测的新方法

以陆上风力发电负荷数据作为研究对象,将注意力机制引入双向长短期记忆与卷积神经网络（CNN）的混合模型来预测短期电力负荷．结果显示:1）注意力机制通过对不同时步的输入进行加权,能够显著提升双向长短期记忆网络的预测性能;2）双向长短期记忆网络-CNN结构比CNN-双向长短期记忆网络结构更适用于短期负荷预测,前者相较后者能够充分利用时序信息,不会在输入初期就丢失关键信息;3）基于注意力机制的双向长短期记忆网络-CNN混合模型的均方根误差（RMSE）、平均绝对百分比误差（MAPE）分别达到了575.35和7.02%,比次佳模型（基于注意力机制的双向长短期记忆网络-CNN混合模型）分别降低了2.75%和9.65%,其在风电短期负荷预测方面有很好的应用前景．      

基于CNN-LSTM的脑电情感四分类研究

为深入研究脑电信号时空特征之间的关联,解决因手动提取特征导致的脑电情感识别准确率较低问题。将卷积神经网络（Convolutional neural network, CNN）和长短时记忆网络（Long short- term memory, LSTM）相结合,构造出了CNN-LSTM模型。首先,提取了5个频段的5个不同特征：功率谱密度(PSD)、差分熵(DE)、差分不对称(DASM)、理性不对称(RASM)和差分熵差分(DCAU)。其次,将特征输入CNN-LSTM模型,在DEAP数据集中的效价和唤醒两种情感维度上展开四分类实验。最后,将堆栈自编密码器(SAE),卷积稀疏自编码器(CSAE),深度置信网络(DBN)分别与LSTM组合,构造SAE-LSTM,CSAE-LSTM,DBN-LSTM三种混合模型同CNN-LSTM进行分类准确率比较。实验结果表明,DE特征的分类识别效果在五种特征中占最优,β和γ频段上所有特征的识别准确率远高于其他频段,尤其是γ频段。CNN-LSTM模型获得了最高的平均分类准确率92.48%,充分证明了CNN-LSTM模型的有效性。     

基于Attention机制的CNN-LSTM驾驶人意图识别方法研究

在自动驾驶系统中,系统需要准确识别驾驶人的意图,来帮助驾驶人在复杂的交通场景中安全驾驶。针对目前驾驶人意图识别准确率低,没有考虑优化特征对模型准确率影响的问题,运用深度学习知识,提出了一种基于时间序列模型的驾驶人意图识别方法。该方法基于Attention机制融合了卷积神经网络(convolutional neural networks, CNN)和长短时记忆网络(long short-term memory network,LSTM),引入车辆自身信息和环境信息作为时空输入来捕捉周围车辆的空间交互和时间演化。该方法可同时预测目标车辆驾驶人横向驾驶意图和纵向驾驶意图,并在实际道路数据集NGSIM(next generation simulation)上进行了训练和验证。实验结果表明,所提出的CNN-LSTM-Attention模型能够准确预测高速公路环境下驾驶人的驾驶意图,与LSTM模型和CNN-LSTM模型相比具有明显的优势,为自动驾驶系统的安全运行提供了有效保障。     

The surrounding vehicles behavior prediction for intelligent vehicles based on Att-BiLSTM

A surrounding vehicles behavior prediction method was presented for intelligent vehicles. The surrounding vehicles’ behavior is hard to predict since the significant uncertainty of vehicle driving and environmental changes. This method adopts bidirectional long short-term memory (BiLSTM) model combined with an encoder to ensure the memory of long-time series training. By constructing an attention mechanism based on BiLSTM, we consider the importance of different information which could guarantee the encoder’s memory under long sequence. The designed attention-bidirectional LSTM (Att-BiLSTM) model is adopted to ensure the surrounding vehicles’ prediction accuracy and effectiveness.     

融合注意力机制的煤层气产量动态预测

为了提升煤层气产量的预测精度,提出融合注意力(Attention)机制并结合卷积神经网络（convolutional neural networks,CNN）和长短期记忆神经网络（long short term memory,LSTM)的煤层气产量动态预测模型。利用随机森林变量筛选方法,确定井底流压、动液面高度、套压、冲次为排采过程中影响煤层气产量的主控因素;利用CNN信息提取优势,提取煤层气排采数据的特征向量,并将特征向量作为LSTM网络的输入;再将LSTM隐含层融合注意力机制提取重要信息权重,有效解决信息长期依赖性和信息丢失。实验结果表明：融合注意力机制的CNN-LSTM煤层气产量动态预测模型各方面均表现较优。具体表现为：1. 模型预测性能较好,利用不同模型对比预测,改进后的煤层气产量预测模型精度最高,比标准的LSTM预测精度提升了3%~4%;2. 泛化性能较优,预测同一区块不同生产天数的6口煤层气井产量时,预测60天日产气量的平均相对误差均小于5%,预测200天日产气量的平均相对误差均小于8%。     

基于Attention机制和ResNet的CNN-BiLSTM短期电力负荷预测模型研究

短期电力负荷预测有利于电力系统的高效运行,对电力市场实现有效调度有重要意义。短期电力负荷受多种因素影响,波动性大、随机性强,使得其预测准确率低。双向长短期记忆网络和卷积神经网络难以在短期负荷序列中提取足够多的信息,本文提出了一种结合注意力机制和残差网络的卷积神经网络-双向长短期记忆网络短期负荷预测方法。首先利用基准模型卷积神经网络-双向长短期记忆网络对输入特征进行信息提取,然后利用注意力机制突出提取到的关键信息,最后通过残差网络创建残差层以充分学习时序特征。通过某公开数据集进行实验,结果表明该方法的平均绝对百分比误差达到2.80%,均方根误差达到2.15,并与常用的五种模型预测结果对比,验证了所提模型的准确性及有效性。     

基于DK聚类模型的多工况速度预测器

车辆速度预测能为新能源汽车的能量管理策略提供重要的信息,但要准确地预测车速存在诸多困难。为克服交通状况、车辆类型和驾驶员意图等确定或随机因素对车速预测造成干扰的问题,提出了一种基于DK(DTW-based K-means)聚类模型的多工况速度预测器,该预测器通过DK模型对车速序列进行工况划分,并结合一维卷积神经网络和长短期记忆神经网络预测各工况下的未来车速。基于所提出的预测器,讨论了不同的输入序列长度及聚簇数对该预测器的影响,并比较了该预测器与其他常用模型的性能。结果表明,该预测器具有较好的多工况适应性,预测精度比其他模型更高。     

一种空气污染物浓度预测深度学习平台

在空气污染大数据预处理的基础上,提出了一个基于深度学习的空气污染物浓度预测平台.该平台架构分为数据采集层、模型层和可视化界面层3个层次,分别实现了数据采集与处理,基于长短期记忆(LSTM)网络模型的污染物浓度预测,以及预测结果可视化的功能,通过对用户个性化模型参数的设置,实现不同时间段污染物浓度时间序列的预测.     

中国投资者多角度舆情分析及其在股市预测中的作用

股市中存在与投资者舆情有关的非理性现象，舆情与股市关系的量化研究对发掘股市规律和辅助投资预测具有重要意义.本文基于论坛中的投资者发言，创新性地建立CNN-TLDA混合模型对舆情进行多角度量化分析，从积极度和关注主题两方面探究投资者舆情和股市的相互影响关系，并基于长短时记忆(LSTM)网络对舆情在股市预测中的作用进行探讨.研究表明:中国股市投资者普遍悲观，投资者乐观度和关注主题都与股市高度相关.多角度舆情分析使预测误差下降至41%.研究成果能够辅助投资者的投资决策，也能为股市中个体投资者舆情的分析与利用提供科学参考.