短期风力发电负荷预测的新方法

以陆上风力发电负荷数据作为研究对象,将注意力机制引入双向长短期记忆与卷积神经网络（CNN）的混合模型来预测短期电力负荷．结果显示:1）注意力机制通过对不同时步的输入进行加权,能够显著提升双向长短期记忆网络的预测性能;2）双向长短期记忆网络-CNN结构比CNN-双向长短期记忆网络结构更适用于短期负荷预测,前者相较后者能够充分利用时序信息,不会在输入初期就丢失关键信息;3）基于注意力机制的双向长短期记忆网络-CNN混合模型的均方根误差（RMSE）、平均绝对百分比误差（MAPE）分别达到了575.35和7.02%,比次佳模型（基于注意力机制的双向长短期记忆网络-CNN混合模型）分别降低了2.75%和9.65%,其在风电短期负荷预测方面有很好的应用前景．      

基于Attention机制和ResNet的CNN-BiLSTM短期电力负荷预测模型研究

短期电力负荷预测有利于电力系统的高效运行,对电力市场实现有效调度有重要意义。短期电力负荷受多种因素影响,波动性大、随机性强,使得其预测准确率低。双向长短期记忆网络和卷积神经网络难以在短期负荷序列中提取足够多的信息,本文提出了一种结合注意力机制和残差网络的卷积神经网络-双向长短期记忆网络短期负荷预测方法。首先利用基准模型卷积神经网络-双向长短期记忆网络对输入特征进行信息提取,然后利用注意力机制突出提取到的关键信息,最后通过残差网络创建残差层以充分学习时序特征。通过某公开数据集进行实验,结果表明该方法的平均绝对百分比误差达到2.80%,均方根误差达到2.15,并与常用的五种模型预测结果对比,验证了所提模型的准确性及有效性。     

基于改进Bi-LSTM和XGBoost的电力负荷组合预测方法

电力负荷预测在平衡能源分配、经济性和电力系统安全可靠运行方面发挥着重要作用,精准的负荷预测可以降低电力运行的成本和风险,提高电网环境效益和经济效益.首先根据加权灰色关联投影算法对数据进行预处理,然后应用注意力(Attention)机制来改进双向长短期记忆(Bi-LSTM)模型,并结合极端梯度提升(XGBoost)模型构...     

基于注意力机制优化长短期记忆网络的短期电力负荷预测

在电力系统的经济调度中,如何合理利用电力负荷的过去和现在来推测其未来价值,具有非常长远的社会经济价值.短期电力负荷数据具有明显的时间特征,传统的深度模型越来越多地应用于该领域.然而,深度模型可能存在梯度爆炸或梯度消失,为此,提出了一种注意力机制优化长短期记忆网络的短期负荷预测模型.该模型将长短期记忆网络单元中的激活函数改进为加权激活函数组,并加入注意力机制以提高预测精度.     

结合双向LSTM和注意力机制的车辆轨迹预测

为提升智能交通、自动驾驶等系统的管理和服务质量,提出一种双向长短期记忆网络结合注意力机制的车辆轨迹预测模型。采用道格拉斯-普克压缩算法对轨迹数据进行压缩预处理,减少数据中的冗余;在编码器中使用双向长短期记忆网络充分捕获时间相关性特征,并采用自注意力机制获得与邻近车辆之间的全局空间相关性特征;通过解码器的全连接层获取车辆的未来位置,并通过模型迭代获得完整的预测轨迹路线。实验结果表明,提出的模型预测性能优于对比模型。此外,消融实验结果表明,引入轨迹压缩算法与改进的长短期记忆网络结合注意力机制对预测准确度均有积极贡献。     

基于融合Dropout与注意力机制的LSTM-GRU车辆轨迹预测

在智能驾驶环境的车辆轨迹预测环节,为更好地获取环境车辆的轨迹时序特征,在长短期记忆神经网络（LSTM）基础上,嵌入Dropout层以增强网络泛化性,引入注意力机制予以预测效果影响较大的时序数据更大权重从而提高预测结果的可靠性,且将改进的LSTM模型与门控循环单元GRU模型结合,构建LSTM-GRU预测模型以进一步提升环境车辆轨迹预测的准确性.在此基础上,使用NGSIM公开数据集对模型进行训练、验证和测试.研究结果表明,融合了Dropout和注意力机制的LSTM-GRU神经网络轨迹预测模型相较标准的LSTM长短期记忆网络以及GRU门控循环单元,在预测较长时序的车辆轨迹上具有优势,提高了轨迹预测的准确性,降低了实际轨迹和预测轨迹之间的均方根误差和平均绝对误差.     

基于注意力机制及分层网络的危险驾驶行为预测方法

基于自然驾驶实验,获取“人-车-环境”多维驾驶行为数据,经过数据清洗与筛选构建危险驾驶行为标准数据库。采用显著性分析对指标进行筛选,并构建八维度的危险驾驶行为预测指标集。以神经网络为第一层,以基于注意力机制的长短期记忆（LSTM）网络为第二层,建立危险驾驶行为预测双层时序模型。结果表明：该模型能有效提升预测准确率（10%）;分层结构和注意力机制对预测准确率有较好的提升作用,分别为5%和3%。     

结合时间注意力机制的Bi-GRU-Atten的短时交通流预测

为使用深度学习模型预测未来高速公路交通流的情况,利用双向门控循环单元算法（Bi-GRU）从双向传播中提取信息,充分学习到历史交通流的时间相关特征,同时采用注意力机制通过正确分配权重来区分交通时间序列的重要性,进一步提高预测的计算效率。采用开源高速公路数据集对模型进行验证,结果表明：与递归神经网络算法、长短期记忆网络算法、双向长短期记忆网络算法,以及没有结合注意力机制的双向门控循环单元算法相比,本文所提算法在计算效率和预测精度方面更优,可以用于短时交通流的预测。     

基于CNN-BiLSTM-Attention的超短期电力负荷预测

在长短期记忆神经网络(LSTM)的基础上,运用双向的长短期记忆神经网络(BiLSTM),结合卷积神经网络(CNN)提出了一个预测模型,对超短期电力负荷预测.运用合肥市2019年全年数据对该模型进行训练及预测,结果显示,CNN-BiLSTM预测精度高于CNN-LSTM预测模型,为进一步提升预测精确度,在BiLSTM神经网...     

基于局部信息增强注意力机制的网络流量预测

针对网络流量具有强烈的非线性和不确定性导致传统统计方式或者机器学习方法难以准确预测的问题,为进一步提升网络流量预测精度,在传统时序序列预测模型的基础上设计实现了一种局部上下文信息增强的注意力机制,通过卷积计算将输入转换为注意力机制中的Query和Key,从微观角度对时间序列进行解释,提高了预测模型的局部感知能力。进而将提出的注意力机制分别与长短期记忆人工神经网络和门控循环单元两个时序预测模型相结合并将结合后的模型用于某运营商提供的两个不同网络流量数据集进行网络设备流量预测。实验结果表明基于局部上下文信息增强注意力机制的预测模型具有更好的预测效果。     

基于融合多注意力机制的深度学习的盾构荷载预测方法

盾构荷载作为盾构的主要性能指标,准确的荷载预测对于保证盾构安全高效工作和周边环境稳定具有重要意义.鉴于传统预测方法精度差的局限性,本研究以数据的高维度特征和时序特征为切入点,提出一种结合卷积神经网络、双向长短期记忆神经网络和注意力机制的混合模型(CNN-BiLSTM-Multiattention, CBM),对盾构荷载进行精准预测.该模型不仅可以提取数据的高维度特征和时序特征,还能突出高维度特征的重要性和关键时间节点信息.通过实验证明了相较于4种现有的模型,本文所提出的模型在3种评价指标上均优于其他模型,对推力和扭矩预测的准确率达到94.2%和96.2%.     

基于双向长短期记忆神经网络的风电预测方法

风电受天气条件的影响具有间歇性和波动性的特点,随着风电在电网中渗透率的提高,电网面临着新的挑战.对风电进行预测并根据预测值进行合理调度,可在一定程度上缓解风电的不确定性对电网的影响.本文提出了基于双向长短期记忆神经网络的风电预测方法,该模型可以同时利用过去和未来的数值天气预报信息,提高了风力发电的预测精度.首先,文章阐述了单向长短期记忆神经网络的原理和结构,在此基础上,添加反向隐含层成为双向长短期记忆神经网络;其次,基于双向长短期记忆神经网络,构建了风电预测架构,并分析了风电预测的评价指标;最后,利用实际数据进行了仿真验证,结果表明,相对于长短期记忆模型,以均方根误差、希尔不等系数和对称均值绝对值百分比误差三个指标衡量,双向长短期记忆神经网络的预测精度分别提高了10.25%、6.71%和12.18%.     

基于禁忌粒子群算法的热电联产负荷经济分配

根据热电联产机组热电负荷可行域,建立含热电联产机组的负荷优化分配模型与全厂热电负荷可行域模型,将粒子群优化算法的全局搜索能力与禁忌算法的局部搜索能力相结合.对优化分配模型进行求解,在电负荷指令和热负荷指令分别为200 MW和115 MW下求解各机组负荷,总成本为2 695.2美元.通过算例分析验证了所提模型及算法的有效性,分析了凝汽式、热电联产式和纯供热机组之间的组合对全厂可行域的影响,并在此基础上分析了节能潜力与热电负荷指令的关系.     

基于注意力机制及长短期记忆神经网络的慢性阻塞性肺疾病氧减状态辨识

为提高慢性阻塞性肺疾病氧减状态的辨识性能，该文将注意力机制有效融入长短期记忆神经网络，提出了一种基于注意力机制的长短期记忆神经网络方法：首先，抽取每个待辨识状态点的四种有效鉴别特征，包括血脉氧饱和度指数、脉搏、血脉氧饱和度指数的窗口特征以及梯度特征；其次，在此特征表示的基础上，通过引入注意力机制，使用训练集来训练基于注意力机制的长短期记忆神经网络；最后，使用测试集来验证所训练模型的有效性。与多个经典机器学习算法的对比实验结果表明：所提出的基于注意力机制的长短期记忆神经网络方法的辨识模型能够准确识别氧减状态，全局性能指标曲线下面积达到了0.853 1。所提方法对于慢性阻塞性肺疾病的准确诊断具有重要的参考价值。     

基于二向注意力循环神经网络的PM2.5浓度预测

针对PM2.5浓度预测模型效果不稳定、泛化能力差的问题,以循环神经网络和注意力机制为基础,提出了二向注意力循环神经网络（TDA RNN）。首先,TDA-RNN模型通过注意力机制获取输入数据的时序注意力和类别注意力,并将其进行融合;然后通过特征编码器对融合后的数据进行编码,获得中间特征;最后将中间特征与PM2.5浓度的历史信息融合,并通过特征解码器获取预测值。对北京地区的PM2.5浓度进行了预测。结果表明,相比前向型神经网络、长短期记忆神经网络、门控循环单元模型和滑动平均模型,TDA-RNN模型预测精度更高;在抗干扰测试中,当输入数据存在无关因素时,TDA RNN模型的预测精度出现轻微下降,但仍高于其他模型。该二向注意力循环神经网络特征提取能力强,预测精度高,同时可适用于其他场景的多变量时间序列预测。     

合肥热电联产发展历程

合肥热电联产城市集中供热起步于20世纪90年代初期。按照《合肥市热电联产规划》要求,在城市的东、西、南、北区域分别改建或新建热电厂。合肥市国资委于2007年整合合肥市热电联产资源组建而成立合肥热电集团有限公司,实现多热源联合供热,背压机承担基本热负荷,抽凝机承担调峰热负荷,根据用户的需求调整热电厂的供热参数,统一调度,降低热网的管损。在供热区域内取消分散小锅炉,改善城市环境,提升城市功能,提高市民生活质量。     

基于经验模态分解-粒子群优化-长短期记忆的车间电力能耗预测方法

针对传统能耗预测方法不能充分提取数据特征并利用神经网络的学习、预测能力，提出了一种基于经验模态分解-粒子群优化-长短期记忆(EMD-PSO-LSTM)的电力能耗预测模型。该模型首先采用经验模态分解算法将时间序列数据分解为多个本征模函数分量和趋势分量，然后对每个分量分别建立长短期记忆网络进行预测。各个长短期记忆网络的参数则由粒子群算法分别进行最优化求解，最后将所有分量的预测结果进行叠加得到最终的能耗预测结果。将预测结果与实际能耗数据进行对比分析来验证所提模型的预测性能。试验结果表明，该方法能够对电力能耗数据进行合理预测，预测精度较高。     

融合注意力机制的煤层气产量动态预测

为了提升煤层气产量的预测精度,提出融合注意力(Attention)机制并结合卷积神经网络（convolutional neural networks,CNN）和长短期记忆神经网络（long short term memory,LSTM)的煤层气产量动态预测模型。利用随机森林变量筛选方法,确定井底流压、动液面高度、套压、冲次为排采过程中影响煤层气产量的主控因素;利用CNN信息提取优势,提取煤层气排采数据的特征向量,并将特征向量作为LSTM网络的输入;再将LSTM隐含层融合注意力机制提取重要信息权重,有效解决信息长期依赖性和信息丢失。实验结果表明：融合注意力机制的CNN-LSTM煤层气产量动态预测模型各方面均表现较优。具体表现为：1. 模型预测性能较好,利用不同模型对比预测,改进后的煤层气产量预测模型精度最高,比标准的LSTM预测精度提升了3%~4%;2. 泛化性能较优,预测同一区块不同生产天数的6口煤层气井产量时,预测60天日产气量的平均相对误差均小于5%,预测200天日产气量的平均相对误差均小于8%。     

基于DTW-SC与Bi-LSTM网络的电动公交短期充电负荷预测

对电动公交车进行较为精准的短期充电负荷预测,有利于电网合理调度,从而在一定程度上缓解大规模电动公交车接入对电网冲击的影响。因此,提出一种基于DTW-SC与Bi-LSTM网络的电动公交短期充电负荷预测方法,以提高负荷预测精度。首先,结合电动公交车充电负荷具有的间歇性和波动性特点,提出基于动态时间规整(dynamic time warping, DTW)的改进谱聚类(Spectral Clustering, SC)方法,对公交车日充电负荷曲线进行聚类;其次,对每类负荷综合考虑时间、日类型、温度及历史负荷值等影响因素,利用双向长短期记忆(bi-directional-long short-term memory, Bi-LSTM)构建电动公交车短期充电负荷预测模型;最后,利用某市实际天气数据和历史负荷数据进行仿真验证,并与其它预测方法进行对比分析。实验结果表明,所提方法能提高短期充电负荷预测准确度。     

基于集成式长短期记忆神经网络模型的股价涨跌预测分析

在股价预测领域,预测的准确率比估计的相合性更有价值,因此保证相合估计的传统线性模型正逐渐被长短期记忆神经网络(long short-term memory,简称LSTM)等深度学习方法替代.然而,影响股价的因素是多源的,不仅包括股市历史交易信息,还包括企业基本面信息和宏观经济信息等,这些不同来源的信息间有长期确定关系,而关于此关系的数据记忆会被传统LSTM模型在学习过程中抛弃.构建"集成式长短期记忆神经网络模型"即ensemble LSTM,应用动态网络生成机制保证不同来源数据间的长期均衡关系不会被遗忘,且采用多个LSTM并联,让各神经网络独立处理单来源数据,再通过稠密层融合,因此该模型具有节约运算资源的能力.随机选取了16支个股,对比LSTM和ensemble LSTM在预测股价涨跌方面的性能,发现后者在节约运算资源上具有优势,且准确率也大多高于前者.