短期风力发电负荷预测的新方法

以陆上风力发电负荷数据作为研究对象,将注意力机制引入双向长短期记忆与卷积神经网络（CNN）的混合模型来预测短期电力负荷．结果显示:1）注意力机制通过对不同时步的输入进行加权,能够显著提升双向长短期记忆网络的预测性能;2）双向长短期记忆网络-CNN结构比CNN-双向长短期记忆网络结构更适用于短期负荷预测,前者相较后者能够充分利用时序信息,不会在输入初期就丢失关键信息;3）基于注意力机制的双向长短期记忆网络-CNN混合模型的均方根误差（RMSE）、平均绝对百分比误差（MAPE）分别达到了575.35和7.02%,比次佳模型（基于注意力机制的双向长短期记忆网络-CNN混合模型）分别降低了2.75%和9.65%,其在风电短期负荷预测方面有很好的应用前景．      

基于Attention机制和ResNet的CNN-BiLSTM短期电力负荷预测模型研究

短期电力负荷预测有利于电力系统的高效运行,对电力市场实现有效调度有重要意义。短期电力负荷受多种因素影响,波动性大、随机性强,使得其预测准确率低。双向长短期记忆网络和卷积神经网络难以在短期负荷序列中提取足够多的信息,本文提出了一种结合注意力机制和残差网络的卷积神经网络-双向长短期记忆网络短期负荷预测方法。首先利用基准模型卷积神经网络-双向长短期记忆网络对输入特征进行信息提取,然后利用注意力机制突出提取到的关键信息,最后通过残差网络创建残差层以充分学习时序特征。通过某公开数据集进行实验,结果表明该方法的平均绝对百分比误差达到2.80%,均方根误差达到2.15,并与常用的五种模型预测结果对比,验证了所提模型的准确性及有效性。     

基于改进Bi-LSTM和XGBoost的电力负荷组合预测方法

电力负荷预测在平衡能源分配、经济性和电力系统安全可靠运行方面发挥着重要作用,精准的负荷预测可以降低电力运行的成本和风险,提高电网环境效益和经济效益.首先根据加权灰色关联投影算法对数据进行预处理,然后应用注意力(Attention)机制来改进双向长短期记忆(Bi-LSTM)模型,并结合极端梯度提升(XGBoost)模型构...     

基于注意力机制与神经网络的热电联产锅炉负荷预测

热电联产机组的锅炉负荷准确预测对电厂生产管理及调度有直接作用.基于注意力机制和深度卷积-长短期记忆网络原理，提出一种新的热电联产长期负荷预测模型，该模型以锅炉出口蒸汽流量(负荷)历史数据和多维负荷影响因素为输入，对负荷进行长期预测.利用Pearson相关系数判定对原始数据进行筛选；将处理后的数据经卷积层进行特征提取和进一步降维，通过长短期记忆层进行拟合，并采取注意力机制对权值进行优化，实现对负荷的精准预测.以浙江桐乡电厂实测数据为例进行验证，结果表明所提方法的平均绝对百分比误差小于1%,能够实现锅炉负荷的精准预测，智能算法在热电联产领域的应用具有一定的借鉴意义.     

基于AMCNN-LSTM的电力无线接入专网异常流量检测

为了减轻电力无线专网系统因网络业务增多而带来的网络攻击以及异常流量入侵的安全事故隐患,提出了一种基于注意力机制的卷积-长短期记忆网络(convolution-long short-term memory network based on attention mecha-nism,AMCNN-LSTM)模型.该模型为避免序列特征稀疏分布的问题,采用卷积神经网络(convolutional neural net-work,CNN)提取时间序列数据特征并转化为维度固定的稠密向量;为防止记忆丢失和梯度分散问题,使用融合注意力机制的CNN单元来捕捉重要的时间序列细粒度特征;将CNN提取局部特征与长短期记忆网络(long short-term memory network,LSTM)提取序列特征的优势相结合,对电力接入专网流量数据进行异常检测.通过在电力网真实数据集上实验表明,基于注意力机制的算法能够在150轮次迭代下达到89.14％的召回率及89.67％的综合F-meas-ure得分.所提出的模型能够及时、准确地检测电力网络异常流量,有效提高检测效率及准确度.     

基于AM-LSTM模型的超短期风电功率预测

近年来,中国的风力发电产业高速发展。然而风力发电具有不稳定性,风电功率超短期预测结果的准确性直接影响到电网安全有效的运行。为了进一步提高风电功率超短期预测的精确度,提出了长短期记忆网络-注意力模型(AM-LSTM)风电功率预测模型,该模型将长短期记忆网络(long-term and short-term memory,LSTM)和注意力模型(attention model,AM)相结合, LSTM网络能够处理好风速、风向等时间序列变量与风电功率之间的非线性关系,注意力模型能够优化LSTM网络的权重,从而使预测结果更加准确。采用真实的风电场历史数据进行实验,结果表明:提出的AM-LSTM预测模型能够有效利用多变量时间序列数据进行风电场发电功率的超短期预测,比传统的BP神经网络和LSTM网络具有更精确的预测效果。该预测模型为风电场地电力调度提供了科学参考。     

基于注意力机制及长短期记忆神经网络的慢性阻塞性肺疾病氧减状态辨识

为提高慢性阻塞性肺疾病氧减状态的辨识性能，该文将注意力机制有效融入长短期记忆神经网络，提出了一种基于注意力机制的长短期记忆神经网络方法：首先，抽取每个待辨识状态点的四种有效鉴别特征，包括血脉氧饱和度指数、脉搏、血脉氧饱和度指数的窗口特征以及梯度特征；其次，在此特征表示的基础上，通过引入注意力机制，使用训练集来训练基于注意力机制的长短期记忆神经网络；最后，使用测试集来验证所训练模型的有效性。与多个经典机器学习算法的对比实验结果表明：所提出的基于注意力机制的长短期记忆神经网络方法的辨识模型能够准确识别氧减状态，全局性能指标曲线下面积达到了0.853 1。所提方法对于慢性阻塞性肺疾病的准确诊断具有重要的参考价值。     

基于CNN-BiLSTM-Attention的超短期电力负荷预测

在长短期记忆神经网络(LSTM)的基础上,运用双向的长短期记忆神经网络(BiLSTM),结合卷积神经网络(CNN)提出了一个预测模型,对超短期电力负荷预测.运用合肥市2019年全年数据对该模型进行训练及预测,结果显示,CNN-BiLSTM预测精度高于CNN-LSTM预测模型,为进一步提升预测精确度,在BiLSTM神经网络后面连接了一个Attention在输出,发现其预测精度进一步提升了.     

注意力机制下的EMD-GRU短期电力负荷预测

为进一步提高短期电力负荷预测精度,构建一种基于注意力机制的经验模态分解(EMD)和门控循环单元(GRU)混合模型,对时间序列的短期负荷进行预测.首先,对负荷序列进行EMD,将数据重构成多个分量;再通过GRU提取各分量中时序数据的潜藏特征;经注意力机制突出关键特征后,分别对各分量进行预测;最后,将各分量的预测结果叠加,得到最终预测值.仿真结果表明:相对于BP网络模型、支持向量机(SVR)模型、GRU网络模型和EMD-GRU模型,基于EMD-GRU-Attention的混合预测模型能取得更高的预测精度,有效地提高短期电力负荷预测精度.     

基于学习者能力的注意力机制知识追踪方法

基于学习者能力,针对基于循环神经网络（RNN）和长短期记忆（LSTM）网络的深度知识追踪（DKT）算法对早期知识点关注的不足,提出一种加入注意力机制的DKT算法,并用时隙聚类的方法对不同能力学习者动态分组并赋予不同的注意力权值,以建立更平衡、更客观的知识记忆程度权重分布模型.常用公开数据集上的实验结果表明：该模型优于2种基准模型和2种消融实验模型,说明所提出的模型能更好地表现学习者的知识状态.     

基于注意力与LSTM的航空发动机剩余寿命预测

预测性维护的核心技术之一是设备剩余寿命(remaining useful life, RUL)预测。为了提高航空发动机的剩余寿命预测精度,提出了一种基于注意力与长短期记忆(directional long short-term memory, LSTM)网络的航空发动机剩余寿命预测模型Attention-LSTM,通过引入注意力机制增强各时间点数据的特征权重,有效提升了模型预测精度。使用NASA C-MAPSS涡扇发动机仿真数据集进行实验,与未加注意力机制的长短期记忆网络等多种模型进行对比实验。实验结果表明,提到的Attention-LSTM模型的均方根误差相比较于未引入注意力机制的长短期记忆网络降低了17.8%,拟合度提升了3.2%,各项评估指标均也优于其他对比模型。     

超短期风电功率预测的混合深度学习模型

针对风电功率预测(WPF)问题,提出一种基于离散小波变换(DWT)、时间卷积网络(TCN)和长短期记忆(LSTM)神经网络的混合深度学习模型(DWT-TCN-LSTM),对超短期风电功率进行预测.将DWT-TCN-LSTM模型分别与差分整合移动平均自回归(ARIMA)模型,支持向量回归(SVR)模型,长短期记忆神经网络模型和卷积长短期记忆(TCN-LSTM)混合模型进行对比实验,通过对称平均绝对百分比误差(SMAPE),均方根误差(RMSE)和平均绝对误差(MAE)3种评价指标值对各个模型进行评价.实验结果表明:DWT-TCN-LSTM模型具有较好的预测性能.     

基于注意力机制和双向长短期记忆网络的电能质量扰动识别

提出一种基于深度学习的电能质量扰动信号分类新方法.该方法应用注意力机制和双向长短期记忆网络构建分类模型,并利用Matlab仿真产生训练数据集与验证数据集.考虑了7种常见的复合扰动信号,并将其作为序列数据直接输入到网络中进行训练和验证.实验结果表明,本方法能准确地识别不同的扰动信号,在验证集上模型的识别准确率可以达到99...     

结合时间注意力机制的Bi-GRU-Atten的短时交通流预测

为使用深度学习模型预测未来高速公路交通流的情况,利用双向门控循环单元算法（Bi-GRU）从双向传播中提取信息,充分学习到历史交通流的时间相关特征,同时采用注意力机制通过正确分配权重来区分交通时间序列的重要性,进一步提高预测的计算效率。采用开源高速公路数据集对模型进行验证,结果表明：与递归神经网络算法、长短期记忆网络算法、双向长短期记忆网络算法,以及没有结合注意力机制的双向门控循环单元算法相比,本文所提算法在计算效率和预测精度方面更优,可以用于短时交通流的预测。     

结合双向LSTM和注意力机制的车辆轨迹预测

为提升智能交通、自动驾驶等系统的管理和服务质量,提出一种双向长短期记忆网络结合注意力机制的车辆轨迹预测模型。采用道格拉斯-普克压缩算法对轨迹数据进行压缩预处理,减少数据中的冗余;在编码器中使用双向长短期记忆网络充分捕获时间相关性特征,并采用自注意力机制获得与邻近车辆之间的全局空间相关性特征;通过解码器的全连接层获取车辆的未来位置,并通过模型迭代获得完整的预测轨迹路线。实验结果表明,提出的模型预测性能优于对比模型。此外,消融实验结果表明,引入轨迹压缩算法与改进的长短期记忆网络结合注意力机制对预测准确度均有积极贡献。     

基于二次模态分解的LSTM短期电力负荷预测

为进一步提高短期电力负荷的预测精度,需要更深层次发掘负荷数据中隐藏的非线性关系。提出一种基于信号分解技术的二次模态分解的长短期记忆神经网络(long short-term memory network, LSTM)用于电力负荷的短期预测。所提算法先对原始负荷序列进行自适应噪声的完全集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise, CEEMDAN),再将CEEMDAN分解后分量中的强非平稳分量进行变分模态分解(variational mode decomposition, VMD),同时用中心频率法对VMD分解个数进行优化,然后将两次分解后得到的负荷子序列送入LSTM中进行预测,并将所得分量预测结果进行叠加。结果表明,本文所提方法对短期电力负荷预测结果精度和模型性能都有较大提升。     

基于RBF-ARX模型的短期电力负荷预测

为了提高短期电力负荷预测的精度,提出基于RBF-ARX模型的短期电力负荷循环预测法:将短期电力负荷预测看作非线性时间序列预测问题,并根据历史负荷数据建立电力负荷自回归预测模型(ARX模型),用RBF神经网络逼近ARX模型的参数,并用结构化非线性参数优化法(SNPOM)离线估计模型参数。用该方法对湖南某市电力负荷进行预测,将预测结果与实际负荷值进行比较,结果表明:基于RBF-ARX模型的短期电力负荷循环预测法精度高,可靠性强,具有很好的实用性。     

高比例风电下电力市场短期电价预测

为应对近年来国内风电渗透率不断增加、大量清洁能源并入电网给日前电价预测带来的挑战,提高高比例风电接入情况下电力市场短期电价预测精度,本文将高比例风电情况下的风电出力与负荷数据进行融合得到了一项改进的输入特征变量,代表风电与负荷共同对电价的影响程度。采用最大信息系数法分析各特征变量与电价之间的相关性,并结合长短期记忆神经网络（Long-short Term Memory, LSTM）与注意力机制(Attention)的特点构建了LSTM-Attetion预测模型,然后对不同输入条件下的预测结果进行对比分析,数据结果显示,引入该输入特征变量后模型的预测精度都有明显提升。经过进一步算例实验后表明,本文所提出的特征变量相比风荷比而言更能能够有效提高高比例风电情况下电价预测精度,适用于许多经典算法。     

基于联邦学习的短期负荷预测模型协同训练方法

针对机器学习方法在电力系统短期负荷预测领域的应用过程中,存在数据样本不 足、模型泛化能力差以及数据隐私保护要求较高等问题,以气象、日期以及历史负荷数据为输 入特征,构建基于长短期记忆（Long Short-Term Memory,LSTM）网络的短期负荷预测模型,提 出基于联邦学习（Federated Learning,FL）的短期负荷预测模型协同训练方法. 通过分散训练、 中心聚合的方式对模型参数进行迭代更新,实现各负荷运营商在保证数据隐私的情况下协同 构建预测模型. 在GEFCom2012比赛的多个地区负荷数据集上进行仿真验证,结果表明,所提 方法在保证各运营商数据隐私的同时,有效提升了短期负荷预测准确率,所训练出的模型在 多场景下具有优秀的泛化能力.     

基于Transformer的滑坡短期位移预测模型

通过将时序卷积网络(TCN)与Transformer解码器进行组合,提出一种基于Transformer的滑坡短期位移预测模型。将预处理过的位移与降雨序列作为模型的输入,以时序自回归方式输出未来3日的位移预测结果。实验结果表明,与支持向量机(SVM)和长短期记忆(LSTM)等传统模型相比,该模型精度较高,在快速变形期的预测优势尤为突出。对模型注意力机制的分析结果表明,模型关注的重点在位移峰值和大降雨附近,具有较高的可信度。