基于生成对抗网络的气缸套表面缺陷图像生成

针对气缸套缺陷检测中缺陷样本不足限制气缸套缺陷检测性能提升问题,采用基于生成对抗网络的气缸套表面缺陷检测算法.首先,为了保持缺陷图像中原有缺陷位置与特征不变,通过循环生成对抗网络模型学习有缺陷气缸套图像与正常图像的关系;其次,利用学习得到的模型对有缺陷气缸套图像进行风格迁移,即把有缺陷气缸套图像背景替换成无缺陷气缸套图像背景,实现对气缸套缺陷数据集的扩充与增强;最后,通过基于数据增强的RetinaNet网络模型对生成图像的有效性进行验证.试验结果表明,通过生成对抗网络生成的气缸套数据集可以提升缺陷检测性能,进一步证明了生成对抗网络在工业应用的可行性.     

一种基于同类融合的工业数据扩充算法

在基于深度网络的工业板材表面缺陷检测应用中,缺陷图像的类别不平衡和数量不足严重制约了深度网络的应用性能.为了解决此问题,提出一种基于同类融合的工业数据扩充方法以丰富表面缺陷图像训练集.首先根据缺陷特征将表面缺陷图像集中的样本进行分类,随机选择属于同一类别的多个样本执行融合操作以扩充数据量和丰富样本类型,然后将原始数据和扩充的人工数据组合起来作为新训练集,以提升模型分类和检测的能力.以实际生产中采集的钢材表面缺陷图像进行实验,并与生成算法扩充的样本进行比较.实验结果表明,该算法不仅在扩充表面缺陷图像质量上超过了卷积生成对抗网络(DCGAN)和循环一致生成对抗网络(CycleGAN)等生成算法,并在缺陷目标分类和检测任务上取得了更有效的扩充效果.     

改进CycleGAN的钢材表面缺陷图像生成方法

针对工业钢材表面缺陷检测过程中存在的样本采集困难、成本较高，以及缺陷种类较多难以覆盖全部导致的小样本问题，提出一种改进循环生成对抗网络(cycle-consistent generative adversarial networks, CycleGAN)的钢材表面缺陷图像生成方法。首先，将通道注意力(class activation map, CAM)和空间注意力(spatial attention map, SAM)机制嵌入到CycleGAN模型中，增强模型的特征提取能力；其次，引入权重解调(weight demodulation, WD)机制修复特征伪影和白斑，进一步提高生成图像的质量；再次，引入形状一致性损失对生成器训练过程进行监督，解决图像几何变换过程中内在模糊性问题；最后，将改进前后的模型在NEU-DET数据集上进行试验。结果表明，改进后的模型在缺陷图像生成的效果上更具多样性和准确性，PSNR，SSIM分别提高了13.0％和7.8％，FID值降低了33.1％。该方法能够稳定地生成高质量的各类钢材表面缺陷图像，可以达到增加训练数据的目的，对于其他缺陷数据集的扩增具有参考价值。     

司法机器阅读理解的优化策略研究

针对司法领域阅读理解数据集缺乏、现有模型在不可回答问题样本和噪声样本上表现不佳等问题,提出了三种优化策略.首先,采用通用领域阅读理解数据集对RoBERTa-wwm模型进行预训练;然后,采用基于UniLM的问句生成模型生成不可回答问题样本,扩充已有训练集;最后,在微调阶段采用对抗训练算法对模型进行优化,增强模型的鲁棒性....     

OMECNN:一种基于有序马尔可夫枚举器和判别神经网络的口令生成模型

基于口令的身份鉴别是目前最流行的鉴别方式之一,利用口令生成技术进行大规模口令集的生成,进而检测现有用户口令保护机制的缺陷、评估口令猜测算法效率等,是研究口令安全性的重要手段.本文提出一种基于有序马尔可夫枚举器和判别神经网络的口令生成模型OMECNN,使用有序马尔可夫口令枚举器按照口令组合概率的高低生成组合口令,同时基于判别神经网络进行打分筛选口令,选出得分高于阈值的口令组成最终口令集.采用本文提出方法生成的口令集具有按照口令组合概率高低排序的特点,以及符合真实训练口令集的口令分布的特点.实验结果表明,在生成10~7条口令时,OMECNN模型生成的口令集在Rockyou测试集上的匹配条目比OMEN模型高出16.60%,比PassGAN模型高出220.02%.     

无监督的句法可控复述模型用于对抗样本生成

针对使用句法可控的复述生成模型生成对抗样本时模型性能受限于复述平行语料的领域和规模的问题,提出仅需要单语语料训练的无监督的句法可控复述生成模型,用以生成对抗样本.采用变分自编码方式学习模型,首先将句子和句法树分别映射为语义变量和句法变量,然后基于语义变量和句法变量重构原始句子.在重构过程中,模型可以在不使用任何平行语料...     

基于改进DCGAN轮胎缺陷图像生成方法

针对深度卷积生成对抗网络的数据扩充方法存在生成图像质量差、模型框架不稳定、模型收敛速度慢等问题，提出一种改进DCGAN轮胎缺陷图像生成模型。将残差网络和注意力机制嵌入到DCGAN模型中，提升模型特征的提取能力；同时摒弃DCGAN损失函数JS散度，使用带有梯度惩罚项的Wasserstein距离，提高模型训练的稳定性。实验结果表明，使用给定模型生成的轮胎缺陷图像质量优于使用DCGAN，WGAN，CGAN与SAGAN所生成图像，其平均FID值可以达到116.28，最小FID值可以达到84.94。所提出的模型可以稳定生成质量更好的轮胎缺陷图像，为轮胎缺陷样本数据集的扩充提供了一种有效途径，有助于有效解决深度学习在缺陷检测领域发展所面临的小样本问题。     

基于图像去噪和图像生成的对抗样本检测方法

针对现有对抗样本检测方法存在检测准确率低和训练收敛速度慢等问题,提出一种基于图像去噪技术和图像生成技术实现的对抗样本检测方法.该检测方法将对抗样本检测问题转换为图像分类问题,无须事先得知被攻击模型的结构和参数,仅使用图像的语义信息和分类标签信息即可判定图像是否为对抗样本.首先,采用基于swin-transformer和vision-transformer实现的移动窗口式掩码自编码器去除图像中的对抗性噪声,还原图像的语义信息.然后,使用基于带有梯度惩罚的条件生成式对抗网络实现的图像生成部分根据图像分类标签信息生成图像.最后,将前两阶段输出的图像输入卷积神经网络进行分类,通过对比完成去噪的图像和生成图像的分类结果一致性判定检测图像是否为对抗样本.在MNIST、GTSRB和CIAFAR-10数据集上的实验结果表明,相比于传统检测方法,本文提出的对抗样本检测方法的平均检测准确率提高6%~36%,F1分数提高6%~37%,训练收敛耗时缩减27%~83%,存在一定优势.     

CWGAN-DNN：一种条件Wasserstein生成对抗网络入侵检测方法

针对现有的基于机器学习的入侵检测系统对类不平衡数据检测准确率低的问题,提出一种基于条件Wasserstein生成对抗网络(CWGAN)和深度神经网络(DNN)的入侵检测(CWGAN-DNN).CWGAN-DN N通过生成样本来改善数据集的类不平衡问题,提升对少数类和未知类的检测效率.首先,通过变分高斯混合模型(VGM)对原始数据中的连续特征进行处理,将连续特征的高斯混合分布进行分解;然后利用CWGAN学习预处理后数据的分布并生成新的少数类数据样本、平衡训练数据集;最后,利用平衡训练集对DNN进行训练,将训练得到的DNN用于入侵检测.在NSL-KDD数据集上进行的实验结果表明:利用CWGAN生成的数据进行训练,DNN的分类准确率和F1分数提升了5％,AUC下降了2％;与其他类均衡方法相比,CWGAN-DNN的准确率至少提升了3％、F1分数和AUC提升了1％.     

面向问答领域的数据增强方法

针对当前自动问答数据增强方法需要大量外部数据的问题,提出一个面向问答模型缺陷的数据增强方法.首先,在训练集上训练好问答模型、问题生成模型以及问答匹配模型;然后,获取问答模型在训练集上预测的所有答案,并选取其中预测错误的答案;再后,使用问题生成模型对这些答案生成相应问题;最后,通过问答匹配模型对生成的问答对进行过滤,保留...     

基于k-WTA的对抗样本防御模型研究

为提高图像分类神经网络的鲁棒性,提出一种基于k-WTA的对抗样本防御模型Att-k-DefGAN.模型在Rob-GAN的基础上做出改进,并利用k-WTA激活函数的不连续性与模型训练中的对抗攻击预处理形成对抗,进一步提高分类神经网络的鲁棒性.实验结果表明,在CIFAR-10数据集和ImageNet子集上,Att-k-De...     

融合双神经网络的PCB缺陷检测方法

印刷电路板(PCB)缺陷检测是电子工业领域的一个重要研究课题.PCB电路密集复杂,缺陷非常小,传统检测方法检测精度低,漏检率高.针对以上问题,提出一种融合YOLOv3和VGG19神经网络的双网络小目标检测方法,实现对PCB缺陷的高质量检测.将PCB缺陷数据集输入YOLOv3和VGG19网络进行训练,生成缺陷检测模型M1...     

基于SMOTE和机器学习的网络入侵检测

网络入侵检测已经广泛运用机器学习模型,但是研究者们多关注模型选择和参数优化,很少考虑数据不平衡的影响,往往会导致少数类入侵样本的检测效果较差.针对该问题,以SMOTE （synthetic minority oversampling technique）数据再平衡算法为研究重点,应用入侵检测数据集KDD99作为原始训练集,使用简单抽样和SMOTE算法生成再平衡训练集.采用多种机器学习模型分别在原始训练集和再平衡训练集进行5折交叉验证.实验结果表明,与原始训练集相比,使用再平衡训练集建模能够在不降低甚至提高多数类样本识别效果前提下,使少数类样本的识别准确率和召回率增强10%～20%.因此,SMOTE算法对不平衡样本下的网络入侵检测有显著的提升作用.      

用于邮件过滤的标准样本生成系统研究

由于缺乏标准的中文邮件样本集，无法评测不同垃圾邮件过滤系统的性能.通过 分析邮件样本收集过程中存在的各种问题，研究了生成标准样本涉及的问题，设计了一个基于真实环境的标准邮件样本生成系统结构，并希望以此推出一个用于衡量邮件过滤系统性能的标准的邮件样本集，最终作为邮件过滤技术研究的基本语料.     

基于注意力机制CGAN的对抗样本去噪方法

卷积神经网络已被广泛应用于各种计算机视觉任务中,然而研究发现卷积神经网络极易受到精心设计的对抗样本攻击。为了抵御对抗攻击,提出一种基于注意力机制的条件生成对抗网络防御方法(attention conditional generative adversarial net, Attention-CGAN)。本算法利用对抗样本作为Attention-CGAN的训练样本,同时将生成器的生成样本输入分类器,得到注意力损失和分类损失;通过这两种损失函数训练Attention-CGAN,从而保证去噪样本的注意力区域与原始干净样本一致。在CIFAR10(Canadia Institute for Advanced Research)和ILSVRC2012(ImageNet Large Scale Visual Recognition Challenge)2个数据集上进行大量试验,结果表明去噪之后的样本分类准确率保持在70%以上。基于注意力机制CGAN的对抗样本去噪方法能提高卷积神经网络的鲁棒性,可为深度学习模型防御对抗攻击提供参考。     

基于改进深度卷积生成对抗网络的入侵检测方法研究

针对入侵检测系统因采用的网络攻击样本具有不平衡性而导致检测结果出现较大偏差的问题,文章提出一种将改进后的深度卷积生成对抗网络(DCGAN)与深度神经网络(DNN)相结合的入侵检测模型(DCGAN-DNN),深度卷积生成对抗网络能够通过学习已知攻击样本数据的内在特征分布生成新的攻击样本,并对深度卷积生成对抗网络中生成网络所用的线性整流(ReLU)激活函数作出改进,改善了均值偏移和神经元坏死的问题,提升了训练稳定性。使用CIC-IDS-2017数据集作为实验样本对模型进行评估,与传统的过采样方法相比DCGAN-DNN入侵检测模型对于未知攻击和少数攻击类型具有较高检测率。     

基于M-DCGAN的缺陷检测数据集增广方法

针对智能制造中表面缺陷检测数据集不足问题，提出基于M-DCGAN的数据集增广方法。首先，向判别器添加上采样模块，搭建类U-Net结构并提升判别器与生成器的网络深度；设计基于Canny边缘检测的缺陷位置二值化掩膜提取方法；定义图像掩膜依赖的损失函数，建立缺陷目标位置关注引导机制；插入谱归一化层和Dropout层以提高训练稳定性，保持生成图像数据多样性。带钢缺陷数据集实验结果表明，该模型生成图片质量高于DCGAN、WGAN-GP和InfoGAN。采用本文M-DCGAN算法增广训练数据，能够显著提升并超过传统增广算法在YOLOv5、SSD、Faster R-CNN、YOLOv3等八种经典方法中的缺陷检测精度，验证了本文算法的有效性。     

融合特征增强模块的小样本农业害虫识别

基于深度学习的图像识别技术在具体应用前必须先经过大量带标签样本的训练,然而在实际场景中目标域样本可能非常稀缺,小样本图像识别技术应运而生.为了提升小样本场景下的图像识别准确率,本文提出一个通用的两阶段训练模型以融合现行主流方法并增强其表现.首先,针对训练时不同害虫种类背景相似度过高的问题提出融合双注意力机制的特征加强模块;其次,针对小样本情况下预测可能产生的过拟合问题提出基于高斯分布的特征生成模块以提高泛化能力;最后,将三种典型小样本识别方法统一成两阶段训练模型以融入提出的方法.将该思路及改进首次应用于传统害虫分类数据集IP102,识别准确率可以在基准方法上取得2.11%到6.87%的提升.为了进一步验证本文方法的有效性,在小样本领域公开数据集Mini Imagenet也进行了相应的实验,提升效果同样显著.     

士兵目标的少样本深度学习检测方法

针对敌士兵数据集样本较少的问题,提出一种基于YOLOv3的少样本深度学习目标检测方法.利用数据增广提高少样本目标检测模型的鲁棒性,改进网络结构将浅层网络特征图跨层连接至深层网络,采用k-means聚类获取适合士兵目标特性的锚点框,利用预训练提高模型训练收敛速度.实验结果表明,本文方法对少样本敌士兵目标检测成功率mAP达到85.6%、检测精度IOU达到82.18%,且对小型和遮挡目标检测效果较好;部署在NVIDIA TITAN V GPU计算机和NVIDIA Xavier嵌入式计算平台上的检测速度分别达到54.6和26.8 fps,实时性好.      

小样本数据生成及其在异常检测中的应用

在不平衡数据的应用中,少量的负样本(异常数据)往往是检测准确率低的重要原因,如在主机异常检测领域中,异常样本过少使得检测效果不佳.为解决这一问题,该文改进了深度卷积生成对抗网络,使其更易于收敛和生成样本.再通过将改进的深度卷积生成对抗网络用于入侵检测评测数据集ADFA-LD异常样本的训练,构造出更多的异常样本.最后,为验证生成样本的效果,以多种异常检测方法检测对上述增加样本后的平衡数据进行实验,实验结果发现新增加的异常样本能被全部检测出,而且已测出的异常样本无漏检,实现了高检测率和低误报率.对比实验表明该文提出的小样本数据生成方法能有效解决某些数据不平衡的应用问题.