基于改进深度卷积生成对抗网络的入侵检测方法研究

针对入侵检测系统因采用的网络攻击样本具有不平衡性而导致检测结果出现较大偏差的问题,文章提出一种将改进后的深度卷积生成对抗网络(DCGAN)与深度神经网络(DNN)相结合的入侵检测模型(DCGAN-DNN),深度卷积生成对抗网络能够通过学习已知攻击样本数据的内在特征分布生成新的攻击样本,并对深度卷积生成对抗网络中生成网络所用的线性整流(ReLU)激活函数作出改进,改善了均值偏移和神经元坏死的问题,提升了训练稳定性。使用CIC-IDS-2017数据集作为实验样本对模型进行评估,与传统的过采样方法相比DCGAN-DNN入侵检测模型对于未知攻击和少数攻击类型具有较高检测率。     

基于误差修正的短期光伏功率预测

随着太阳能使用率的不断提高,太阳能资源的易变性使电网管理出现了困难。为了提高太阳能发电功率的预测精度,在安全稳定运行中保障工业电力系统的正常使用,提出一种结合改进的自适应噪声互补集成经验模态分解(improved complementary ensemble empirical mode decomposition with adaptive noise, ICEEMEDAN)与差分自回归移动平均(autoregressive integrated moving average, ARIMA)的长短期记忆(long-term and short-term memory, LSTM)神经网络模型,使用该复合模型对光伏发电功率进行预测,通过对影响光伏功率的不同变量进行评估,获取特征重要性并作为模型的输入,在时间尺度上利用改进后的LSTM模型进行建模,以R²等相关指标评判模型性能的优劣,从而实现完整的光伏功率预测。实验采用澳大利亚光伏数据集群(DKASC)中一光伏电站2016年实测数据进行验证,两组实验中修正预测模型较单一LSTM神经网络光伏功率预测模型的精确度分别提高...     

基于LSTM和注意力机制的蛋白质-配体结合亲和力预测

蛋白质-配体的结合亲和力预测是药物重定位回归中具有挑战性的任务。深度学习方法可以有效预测蛋白质与配体相互作用的结合亲和力,减少药物发现的时间和成本。由此,基于长短期记忆模块(LSTM)和注意力机制模块(attention)提出了一种深度卷积神经网络模型(DLLSA)。模型由嵌入LSTM和空间注意力模块(spatial-attention)的卷积网络并行模块构建,其中LSTM模块针对蛋白质-配体接触特征的长序列信息,spatial-attention注意力模块聚集接触特征局部信息。采用PDBbind(v.2020)数据集进行训练,CASF-2013和CASF-2016数据集进行验证,模型的皮尔逊相关系数相比于PLEC模型分别提高了0.6%和3%,实验结果显著优于其他相关方法。     

基于生成对抗网络的人脸图像修复

为了有效修复大面积破损的面部图像,通过生成对抗网络,使用解码器-编码器结构的卷积神经网络作为生成模型,增强生成模型的结构信息预测能力,同时引入对抗训练策略优化生成模型。该模型首先训练一个判别模型识别真实图像,再将判别待修复图像输入生成模型后所得到的结果是否真实,从此为生成模型提供优化梯度。结合卷积神经网络的结构信息预测能力和DCGAN对抗策略的优化能力,提高图像补全效果。通过在CeleBA人脸数据集上进行的实验结果表明:该方法在补全大面积破损的图像任务上性能明显优于其他方法。     

基于深度学习的小样本流体机械故障诊断方法

主要开展了深度卷积生成对抗网络（DCGAN）在流体机械故障诊断方面的应用研究,建立了基于深度学习和迁移学习在小样本条件下的流体机械故障诊断方法.仿真实验结果表明：基于DCGAN生成的数据能涵盖原始数据的主要特征,可被用于对流体机械小样本故障诊断数据的扩充.结合迁移学习和深度学习的故障诊断方法,采用不同流体机械的运行数据对模型进行实验验证,结果表明：该模型解决了小样本训练中的过拟合问题,诊断准确率为98%~100%.     

基于小规模手写体汉字数据集的数据增强方法

针对深度卷积生成对抗网络（DCGAN）在小规模手写体汉字数据集下生成数据重复多样、分类效果较差的问题,提出结合传统数据增强方法的结合式生成方法X-DCGAN。该方法通过预增强模块给予神经网络部分更充足多样的训练数据,减少因网络过拟合与训练不充分而出现的样本重复率高、学习效果较差的状况。实验结果表明,本文方法生成的样本数据较单一方法在样本多样性方面显著提高,生成数据进行分类测试时获得的平均识别率较DCGAN方法提升了9.67%。X-DCGAN充分发挥了传统数据增强方法和生成式方法各自的优势,能够更加有效地解决小规模数据集的扩展与增强问题。     

一种用于肺结节恶性度分类的生成对抗网络

针对肺结节数据集中良恶性样本数比例失衡的问题,首次引入深度卷积生成对抗网络(deep convolutional generative adversarial networks,DCGAN)模型,该模型根据输入的肺结节图像,生成与输入图像具有相似纹理特征的肺结节并将生成图像用于训练DCGAN模型.此外,将图像来源分类问题改为图像来源分类和肺结节等级1~5分类问题,从而增强了DCGAN模型的抗噪能力和实现了DCGAN模型对肺结节的等级分类.实验表明,改进的DCGAN中G模型在生成图像时具有良好的抗噪能力且生成图像中大约有90.42%的图像判别为真实图像,D模型对肺结节图像的等级分类具有较好的判别能力且肺结节等级分类准确率为70.89%,肺结节良恶性分类准确率为80.13%.     

基于DCGAN和改进YOLOv5s的桥梁表面缺陷检测识别

针对人工检测桥梁表面缺陷存在精度低、速度慢和漏检率高等问题,该文提出了基于深度卷积生成式对抗网络(deep convolutional generative adversarial networks,DCGAN)和改进YOLOv5s的桥梁表面缺陷检测识别模型.首先,通过DCGAN网络对自主采集的桥梁表面缺陷图像进行数据增强,建立每类缺陷样本数量较为均衡的数据集; 其次,在YOLOv5s模型基础上嵌入CBAM注意力机制模块,使模型将注意力集中于缺陷区域,从而提升图像分类的准确率; 最后,为验证所提方法的适用性,将包含4类桥梁表面缺陷的数据集进行训练与测试.实验结果表明:该文提出的模型在桥梁表面缺陷检测上的准确率为92%,相比其他深度学习模型具有更高的检测精度和鲁棒性.     

基于ResNet模型的甲状腺SPECT影像诊断

为了降低医生利用SPECT影像对甲状腺疾病进行临床诊断时的误诊率,提高深度学习算法在核医学影像辅助诊断中识别交叉影像特征的准确率,提出了基于ResNet模型的甲状腺SPECT影像诊断方法。利用深度卷积生成对抗网络(DCGAN)和高分辨率生成对抗网络(SRGAN)生成影像并提高分辨率,弥补训练数据的不足。同时,将残差块输出信息加上具有交叉特征影像信息的x_i,在保留已学习影像特征的基础上增加对交叉特征的学习,改进了模型。对于交叉影像特征,使用交叉训练集对经过单一特征影像训练完成的改进ResNet神经网络模型进行再训练。实验结果表明,经过100轮迭代,交叉训练集训练的改进ResNet神经网络模型验证精度高达0.963 3,验证损失降到0.118 7,并趋于稳定;识别结果,召回率、精确率、特异度和F_1分数都在93.8%以上。经过改进的神经网络模型和新的训练方法对甲状腺SPECT影像表现出的典型症状识别率较高,优于其他基于卷积神经网络(CNN)的方法,对临床影像诊断具有参考价值。     

基于改进DCGAN轮胎缺陷图像生成方法

针对深度卷积生成对抗网络的数据扩充方法存在生成图像质量差、模型框架不稳定、模型收敛速度慢等问题，提出一种改进DCGAN轮胎缺陷图像生成模型。将残差网络和注意力机制嵌入到DCGAN模型中，提升模型特征的提取能力；同时摒弃DCGAN损失函数JS散度，使用带有梯度惩罚项的Wasserstein距离，提高模型训练的稳定性。实验结果表明，使用给定模型生成的轮胎缺陷图像质量优于使用DCGAN，WGAN，CGAN与SAGAN所生成图像，其平均FID值可以达到116.28，最小FID值可以达到84.94。所提出的模型可以稳定生成质量更好的轮胎缺陷图像，为轮胎缺陷样本数据集的扩充提供了一种有效途径，有助于有效解决深度学习在缺陷检测领域发展所面临的小样本问题。     

基于CNN-LSTM-Attention的短期风向预测研究

风向预测对提高风能转化率、保障风力发电机偏航系统安全运行及增加风力发电效益具有重要意义。为准确预测风向,提出一种基于CNN-LSTM-Attention的短期风向预测模型。首先,利用卷积神经网络(Convolutional Neural Network, CNN)提取风向数据动态变化特征,然后将所提取的特征向量构成时间序列作为长短期记忆(Long Short-Term Memory,LSTM)网络的输入,最后使用注意力机制(Attention mechanism)分配LSTM隐含层不同权重,增强重要特征的作用,完成风向预测。采用北部湾海域历史风向数据,通过实验与其他神经网络预测模型进行对比,结果显示,CNN-LSTM-Attention模型的相对平均误差(MAPE)值为3.2119%,R²为0.982 6, 优于其他对比模型。所得结果为广西北部湾海域海上风电探索发展提供参考。     

基于时序卷积网络的云服务器性能预测模型

目前基于深度学习的主机性能预测模型大部分缺乏普适性，实验数据缺乏公正性，无法准确预测能耗或性能峰值点且时间开销较大.为解决这些问题，文章提出了一种基于改进时序卷积网络的云服务器性能预测模型(ATCN模型).该模型将CPU利用率作为主机过载的衡量标准，利用多维性能指标构建N+1维能耗向量，建立输入向量与预测标准之间的关系；调整TCN中的卷积核大小并不断增大扩张因子，实现长期记忆效果.基于阿里云开源数据集的实验结果表明:ATCN模型具有强自适应性，在不同硬件配置和资源使用情况下，预测准确率和效率方面比LSTM模型提升大约20%.     

利用SVM-LSTM-DBN的短期光伏发电预测方法

为解决传统预测算法的不足,利用深度信念网络(DBN)耦合支持向量机(SVM)和长短期记忆神经网络(LSTM),提出一种新的光伏功率组合预测方法.分别构建以高斯径向基函数为核函数的支持向量机预测模型、4层长短期记忆神经网络为单项预测模型,通过深度信念网络组合,优化预测结果并输出.根据实际出力和预测结果的误差,利用DBN动态调整以获得最优值,进一步验证SVM-LSTM-DBN模型的有效性和准确性,并以新疆维吾尔自治区某光伏电站的实测数据进行仿真验证.结果表明:基于SVM-LSTM-DBN组合的光伏出力预测模型与单一模型相比,预测精度明显提高.     

基于AM-LSTM模型的超短期风电功率预测

近年来,中国的风力发电产业高速发展。然而风力发电具有不稳定性,风电功率超短期预测结果的准确性直接影响到电网安全有效的运行。为了进一步提高风电功率超短期预测的精确度,提出了长短期记忆网络-注意力模型(AM-LSTM)风电功率预测模型,该模型将长短期记忆网络(long-term and short-term memory,LSTM)和注意力模型(attention model,AM)相结合, LSTM网络能够处理好风速、风向等时间序列变量与风电功率之间的非线性关系,注意力模型能够优化LSTM网络的权重,从而使预测结果更加准确。采用真实的风电场历史数据进行实验,结果表明:提出的AM-LSTM预测模型能够有效利用多变量时间序列数据进行风电场发电功率的超短期预测,比传统的BP神经网络和LSTM网络具有更精确的预测效果。该预测模型为风电场地电力调度提供了科学参考。     

基于CEEMD-LSTM光伏短期功率预测

为解决传统机器学习方法在面对多变的环境因素和不平稳序列时导致光伏功率预测精度低的问题,本文提出一种基于完全经验模态分解(Complete Ensemble Empirical Mode Decomposition , CEEMD)和长短期记忆神经网络(Long Short-Term Memory , LSTM)相结合的光伏短期功率预测模型。首先充分考虑影响光伏出力的太阳辐照度,相对湿度,大气压力和空气温度4种环境因素,通过CEEMD将气象因素特征曲线分解为多模态特征数据,准确捕捉其不同的时间尺度和频率特征,进而充分保留环境数据的不平稳特征。在此基础上,利用LSTM网络对多模态特征数据进行时间序列建模,旨在保留时间序列的季节性和不平稳特征,为后续建模提供更准确的输入特征。最后,通过对分解后的信号开展训练,根据输入数据的变化自适应调整预测模型参数,迭代生成特定场景下的预测模型,从而灵活应对实时环境变化,得到相应功率预测结果。本文在海南一孤立海岛分布式光伏电站37kW子阵的8个月气象和功率数据集进行验证,实验结果表明,所提方法在保留环境数据细节和局部特性上具有显著优势,在不同气象条件均具有良好的自适应性,有效提高了光伏短期功率预测精度。     

基于局部信息增强注意力机制的网络流量预测

针对网络流量具有强烈的非线性和不确定性导致传统统计方式或者机器学习方法难以准确预测的问题,为进一步提升网络流量预测精度,在传统时序序列预测模型的基础上设计实现了一种局部上下文信息增强的注意力机制,通过卷积计算将输入转换为注意力机制中的Query和Key,从微观角度对时间序列进行解释,提高了预测模型的局部感知能力。进而将提出的注意力机制分别与长短期记忆人工神经网络和门控循环单元两个时序预测模型相结合并将结合后的模型用于某运营商提供的两个不同网络流量数据集进行网络设备流量预测。实验结果表明基于局部上下文信息增强注意力机制的预测模型具有更好的预测效果。     

多价值链视角下基于深度学习算法的制造企业产品需求预测

多价值链协同发展背景下,制造企业没有充分考虑服务链、营销链等其他价值链对产品需求的影响。为提高制造企业产品需求预测的精度,本文提出了产品数据空间和一维卷积神经网络(One-dimensional convolutional neural networks, 1D-CNN)-长短期记忆神经网络(Long short-term memory, LSTM)的深度学习算法。首先,整合不同价值链对产品需求影响的相关数据构建产品数据空间。其次,从数据空间中获取多链数据集用于1D-CNN-LSTM模型的预测。其中,1D-CNN通过两次卷积池化操作获取数据的深层次特征,LSTM则通过进一步学习数据特征中的重要信息来进行时间序列预测。最后,通过某电气设备制造企业生产销售的环网柜产品的相关数据进行算例分析,并与其他几种模型进行预测结果比较。结果表明：1D-CNN-LSTM模型的预测效果优于神经网络模型和单一的LSTM模型。可见本文提出的1D-CNN-LSTM深度学习模型更具优越性,预测效果好。     

基于注意力机制的CNN-LSTM模型的航迹预测

基于数学模型或统计模型的传统航迹预测方法存在一定的局限性，无法满足现代航空领域对于高效、准确、实时的航迹预测需求。针对此问题，提出基于注意力机制的CNN-LSTM模型的实时航迹预测方法。该模型首先使用一维卷积对航迹数据的多维度特征进行提取，从而减少输入特征的数量。其次利用获取的多维度时序数据作为LSTM的输入，通过LSTM提取上下文的信息。最后使用注意力机制为LSTM中不同时序节点的输出赋予权重，达到聚焦关键航迹信息的作用。经过实验验证：本文的模型与LSTM模型和CNN-LSTM模型相比，预测出的路径更接近真实航迹；文中的模型比LSTM模型的平均预测误差降低了29.7%，比CNN-LSTM模型降低了25.4%。综上所述，文中方法可以显著提高航迹预测的精度。