基于1DCNN-LSTM和迁移学习的短期电力负荷预测

针对在短期电力负荷预测中,当某区域电力负荷数据较少时,负荷预测精度较差的问题,提出一种基于1DCNN-LSTM(1D Convolutional Neural-Long Short-Term Memory Networks)和参数迁移的短期负荷预测方法,并采用1DCNN-LSTM结合迁移学习针对性提高预测精度。使用美国某地区的实际负荷数据进行仿真分析,实验结果表明,该方法能有效提升区域电力负荷数据缺失时负荷预测的精度。     

基于聚类的神经网络及其在预测中的应用

提出了一种基于聚类的神经网络算法，可以很好解决大样本情况引起的网络结构复杂、收敛性和泛化能力差等神经网络的固有问题．算法采用聚类算法为分类器，进行模式空间分解，以分类后的模式子空间为各样本集合，用神经网络集学习，最后根据重力模型计算检测样本对各样本子集的隶属度，整合各子空间的输出结果．通过实验对比表明该算法精度较高，容错性好．     

基于聚类中心分离的模糊聚类模型

在模糊C-均值聚类（FCM）目标函数的基础上按聚类中心分离原则增加一个聚类中心分离项来扩展FCM算法,提出基于聚类中心分离的模糊聚类模型(FCM_CCS)。该模型可使聚类过程中的聚类中心之间距离扩大,从而得到更好的聚类效果。由于该模型和FCM一样对噪声敏感我们提出它的可能性聚类模型(PCM_CCS),最后进一步扩展成它的可能性模糊聚类模型(PFCM_CCS)。基于聚类中心分离的可能性模糊聚类模型在处理噪声数据和克服一致性聚类问题方面表现出良好的性能。对数据集的测试实验结果表明了提出的PFCM_CCS能同时产生模糊隶属度和典型值,使聚类中心间距扩大,同时具有更好的聚类准确率。     

基于密度峰值聚类的高斯混合模型核电运行工况划分

核电厂运行数据记录了核电厂的运行状态,对核电数据进行处理分析从而完成准确的工况划分是实现核电厂运行状态监测的重要基础。为提高核电厂的运行工况划分准确性,本文提出了基于密度峰值聚类的高斯混合模型对核电厂的运行工况进行划分。首先,采用PCA（主成分分析）算法进行数据降维,然后利用密度峰值聚类算法中的决策图确定工况个数,最后利用高斯混合模型完成工况划分。基于真实的核电厂运行数据开展工况划分实验。实验结果表明,本文提出的方法能合理有效地划分出核电运行工况,其三类工况的划分准确率分别达到了99.29%、100%、97.57%,且错误率仅为1.25%。     

基于树型增长神经网络模型的遥感图像聚类

通过对天津海岸带遥感图像的研究，提出了基于树型增长神经网络模型的遥感图像聚类方法。该方法申神经模型的网络结构在训练过程中动态生成，用户可根据需要实现层次聚类，同时可以通过调节扩展因子SF的大小调节聚类的速度和精度，从而提高了聚类的精度和灵活性。     

基于多维聚类的配变负荷注意力短期预测方法

在大规模配变负荷预测中,由于负荷特性差别以及受影响因素不同,若使用统一模型,准确率低且泛化能力差,若针对单台配变进行负荷预测建模,计算资源消耗过大.提出了一种基于多维聚类的配变负荷注意力长短期记忆网络(Attention Long Short-Term Memory,Attention-LSTM)短期预测方法.首先提取...     

基于模糊聚类的多尺度空间数据挖掘模型及其矿山应用

基于空间数据的尺度特性,提出了多尺度空间数据挖掘的技术思想,建立了同一地理要素在不同尺度下的信息推理模型,即多尺度空间数据挖掘框架模型.以矿井煤层厚度为研究对象,以聚类分析为挖掘技术,实现了多尺度分析思想应用于空间数据挖掘领域的设想,证实了空间数据挖掘领域中的多尺度现象.研究成果丰富和发展了空间数据挖掘的基础理论.     

多价值链视角下基于深度学习算法的制造企业产品需求预测

多价值链协同发展背景下,制造企业没有充分考虑服务链、营销链等其他价值链对产品需求的影响。为提高制造企业产品需求预测的精度,本文提出了产品数据空间和一维卷积神经网络(One-dimensional convolutional neural networks, 1D-CNN)-长短期记忆神经网络(Long short-term memory, LSTM)的深度学习算法。首先,整合不同价值链对产品需求影响的相关数据构建产品数据空间。其次,从数据空间中获取多链数据集用于1D-CNN-LSTM模型的预测。其中,1D-CNN通过两次卷积池化操作获取数据的深层次特征,LSTM则通过进一步学习数据特征中的重要信息来进行时间序列预测。最后,通过某电气设备制造企业生产销售的环网柜产品的相关数据进行算例分析,并与其他几种模型进行预测结果比较。结果表明：1D-CNN-LSTM模型的预测效果优于神经网络模型和单一的LSTM模型。可见本文提出的1D-CNN-LSTM深度学习模型更具优越性,预测效果好。     

基于形变长短期记忆网络的换道意图预测

混行交通下的自动驾驶车辆需具备换道意图预测能力来保障行驶安全。为尽早预测车辆换道意图,提出一种基于形变长短期记忆(mogrifier long short-term memory, M-LSTM)网络的换道意图预测模型。首先采用S-G (Savitzky-Golay)滤波器对自然驾驶数据集NGSIM(next generation simulation)进行降噪筛选,按向左换道、向右换道、直线行驶对不同时间长度的轨迹序列标注,选取车辆运动信息与环境信息输入模型,最后采用softmax函数进行意图分类。试验结果表明,在不同预判时间下,模型准确率均高于支持向量机(support vector machine, SVM)、LSTM模型,且越接近换道点预测准确率越高,在1.0、2.5 s时预测准确率分别为93.83%与81.30%。提出的模型具有良好的准确性与预判性,能为自动驾驶车辆尽早识别换道意图提供技术支持。     

基于CNN-LSTM的综合能源系统负荷预测模型

负荷的准确预测是综合能源系统设计、运行、调度和管理的前提。现有的负荷预测模型中大都考虑了气象、日期因素,却没有考虑系统中电、冷、热负荷间的相关性,这会对模型的预测精度造成影响。使用了科普拉理论对系统中3种负荷之间的相关性进行分析。从分析结果看,它们之间具有强相关的关系。基于上述分析结果,提出了一种基于深度学习的智慧综合能源系统负荷预测模型,该模型使用卷积神经网络(convolutional neural network,CNN)来提取系统中电、冷、热负荷间的耦合特性相关的特征量。将得到的特征量转换为时间序列后,输入到长短期记忆(long short-term memory,LSTM)网络中进行负荷预测。实验显示,所提出的CNN-LSTM组合模型的预测精度更为精准,可为综合能源系统的负荷预测提供参考。     

基于Attention机制的CNN-LSTM驾驶人意图识别方法研究

在自动驾驶系统中,系统需要准确识别驾驶人的意图,来帮助驾驶人在复杂的交通场景中安全驾驶。针对目前驾驶人意图识别准确率低,没有考虑优化特征对模型准确率影响的问题,运用深度学习知识,提出了一种基于时间序列模型的驾驶人意图识别方法。该方法基于Attention机制融合了卷积神经网络(convolutional neural networks, CNN)和长短时记忆网络(long short-term memory network,LSTM),引入车辆自身信息和环境信息作为时空输入来捕捉周围车辆的空间交互和时间演化。该方法可同时预测目标车辆驾驶人横向驾驶意图和纵向驾驶意图,并在实际道路数据集NGSIM(next generation simulation)上进行了训练和验证。实验结果表明,所提出的CNN-LSTM-Attention模型能够准确预测高速公路环境下驾驶人的驾驶意图,与LSTM模型和CNN-LSTM模型相比具有明显的优势,为自动驾驶系统的安全运行提供了有效保障。     

基于组合神经网络的中文事件抽取

中文事件抽取通常使用循环神经网络(recurrent neural network, RNN)来进行事件和事件要素的抽取, 但 RNN 在处理长度较长的词语时容易丢失重要信息, 为此提出一种组合卷积神经网络(convolutional neural network, CNN)与双向长短期记忆(bidirectional long short-term memory, Bi-LSTM)网络的中文事件抽取模型 CNN-Bi-LSTM-CRF, 其中 CRF (conditional random field) 为条件随机场. 采用基于注意力机制和语义特征生成的字词联合向量, 使用 CNN 和 Bi-LSTM 模型对字词联合向量进行处理, 以获取其隐含表示, 最后通过 CRF 得出预测结果. 实验结果表明, 所提出的方法与其他现有的中文事件抽取方法相比, 准确率有明显提升.     

基于混合神经网络的序列推荐算法

为了提高推荐算法的推荐性能,在序列建模过程中,针对循环神经网络(recurrent neural network,RNN)无法并行运算导致建模速度与准确度较低,以及在偏好预测过程中对用户不同阶段偏好没有动态融合的问题,提出了一种基于混合神经网络的序列推荐算法.在算法模型的用户交互序列建模阶段,考虑到用户近期偏好变化频繁...     

基于粗糙集和RBF神经网络的风电场短期风速预测模型

结合粗糙集提出了一种RBF神经网络短期风速预测模型。采用粗糙集对预测模型的输入特征空间进行约简,找出对未来预测的风速具有主要影响的因素,以此作为RBF神经网络预测模型的输入变量;在RBF神经网络训练的过程中,采用在线滚动优化策略,将最新的样本加入训练集,从而使预测模型能够跟踪风速的最新变化。将提出的方法用于某风电场的1 h短期风速预测,仿真实验结果表明该方法具有结构简单、预测精度高的优点。     

CNLSTM模型预测城市积水

物联网平台能够为积水预测提供海量的传感器时间序列数据基础.为了精准且快速地预测城市内涝点积水趋势,提出一种基于神经网络的组合时序预测模型(CNLSTM),对多变量积水时间序列数据进行建模预测.此模型利用卷积神经网络(convolutional neural network,CNN)提取多变量数据之间的空间特征,得到具有...     

电话交谈语音识别中基于 LSTM-DNN 语言模型的重评估方法研究

近年来,神经网络语言模型的研究越来越受到学术界的广泛关注.基于长短期记忆(long short-term memory,LSTM)结构的深度神经网络(LSTM-deep neural network,LSTM-DNN)语言模型成为当前的研究热点.在电话交谈语音识别系统中,语料本身具有一定的上下文相关性,而传统的语言模型对历史信息记忆能力有限,无法充分学习语料的相关性.针对这一问题,基于LSTM-DNN语言模型在充分学习电话交谈语料相关性的基础上,将其应用于语音识别系统的重评估过程,并将这一方法与基于高元语言模型、前向神经网络(feed forward neural network,FFNN)以及递归神经网络(recurrent neural network,RNN)语言模型的重评估方法进行对比.实验结果表明,LSTM-DNN语言模型在重评估方法中具有最优性能,与一遍解码结果相比,在中文测试集上字错误率平均下降4.1％.     

基于注意力模型的卷积循环神经网络城市声音识别

环境声音识别（Eenvironment Ssound Rrecognition ,ESR）在基于情景感知和辅助技术等领域发挥着重要作用。卷积神经网络（CNN）和循环神经网络（RNN）作为两种最具代表性的特征提取方法,在语音和音乐信号处理方面都取得显著效果,然而二者都存在一定缺点,CNN无法有效提取时间特征,RNN在提取空间特征上也存在明显劣势。为了有效的提取并利用时间特征和空间特征,提出一种新模型,利用时间分布卷积神经网络（CNN）从梅尔频谱图中提取城市环境声音特征,然后应用双向长短时记忆网络（BiLSTM）从CNN输出中获取时间信息,最后在BRNN的输出序列上实施注意力机制,从而关注到与城市环境声音最相关的特征进而做出分类判断,注意力机制既提高了分类准确性,又增强了模型的可解释性。实验结果表明,在Urbansound8K数据集中,该模型可获得80.2%的分类准确率,这优于以前在同一数据集的报告结果     

基于自适应神经网络的云资源预测模型

为了避免容器云资源因资源供求不均衡而导致的资源利用率差等问题,需要对未来时刻的资源需求情况进行预测来进行更精准的调度和分配资源,因此,结合神经网络的高效学习能力与自适应调整的学习率,提出一种基于自适应神经网络的云资源预测模型。首先,融合卷积神经网络(convolutional neural network, CNN)和长短期记忆(long short-term memory, LSTM)网络的特点去挖掘历史数据的特征,预测未来的资源需求;然后,根据模型预测情况自适应调整学习率,提高模型预测的精度。使用Microsoft Azure公开数据集进行测试,相较于单一模型CNN、LSTM和未加入自适应学习率的神经网络模型,均方根误差分别下降了17.74%、18.27%和6%,证明了模型的有效性。