多生成器生成对抗网络

生成对抗网络(Generative adversarial networks,GAN)广泛应用于各种领域,尤其在图像生成方面.该模型由生成网络与判别网络2部分组成,在无监督的训练方式下,2个网络相互竞争相互提高.然而,GAN在训练时经常出现模式崩溃问题,进而导致模型收敛较慢,生成样本多样性较差.为解决这一问题,在深度卷积神经网络的基础上提出了一种多生成器生成对抗网络模型.该模型包含多个生成网络,每个生成网络均使用残差网络进行搭建,同时在生成网络间引入协作机制,以加快模型获取信息并减少参数量,最后将各生成网络的特征图进行融合得到最终图像输入到判别网络中.GAN在训练过程中还会出现梯度消失、训练不稳定问题.为避免出现这些问题,将Wasserstein距离和梯度惩罚引入模型的损失函数.通过在多个数据集上与多种相关方法进行实验比较,结果表明提出的模型在缓解模式崩溃问题、加快模型收敛速度以及减少参数量上均明显优于其他几种方法.     

GPR图像的数据集构建及其DRDU-Net去噪算法

为了解决生成对抗网络（Generative Adversarial Network,GAN）在生成探地雷达（Ground Penetrating Radar,GPR）图像时存在训练不稳定的问题,提出利用带有梯度惩罚的Wasserstein距离生成对抗网络（WGAN-GP）生成GPR图像,并结合时域有限差分法和实地采集图像提出了一种构建GPR图像数据集的方法.相较于原始GAN与Wasserstein GAN等方法,WGAN-GP具有更好的稳定性,而且生成的GPR图像更接近真实图像.在此基础之上,将密集残差块和U-Net相结合提出了一种适合于GPR图像的密集残差去噪U-Net方法.该方法利用U-Net中编码-解码结构提高了GPR图像的去噪性能;同时,密集残差块的引入加强了GPR图像的特征复用,且使U-Net训练更加稳定.最后,利用仿真实验验证了所提去噪方法的性能,并与三维块匹配（BM3D）和U-Net方法进行了对比.结果表明：所提方法与BM3D以及U-Net去噪方法相比,具有更好的去噪效果.当σ等于20时,在模拟和实测数据上取平均值,其峰值信噪比分别提升了约6.5 dB和2.4 dB;结构相似性分别提升了约0.09和0.04.     

基于生成对抗网络的恶意网络流生成及验证

针对基于深度学习的分类器面对对抗样本时缺乏稳定性的问题,基于生成对抗网络(GAN)提出了一种新的模型,用于生成对抗样本。该模型首次实现了直接以恶意网络流为原始样本的对抗样本生成,并首次提出了弱相关位的概念,用于保证恶意网络流对抗样本的可执行性和攻击性。利用该模型生成的对抗样本能够有效地欺骗基于深度学习的网络安全检测器,且通过实验验证了该对抗样本具有实际攻击效果。     

基于WGAN反馈的深度学习差分隐私保护方法（英文）

针对攻击者可能通过某些技术手段如生成式对抗网络(GAN)等窃取深度学习训练数据集中敏感信息的问题,结合差分隐私理论,提出经沃瑟斯坦生成式对抗网络(WGAN)反馈调参的深度学习差分隐私保护的方法.该方法使用随机梯度下降进行优化,设置梯度阈值进行梯度裁剪,对深度学习的优化过程添加噪声实施隐私保护;利用WGAN生成与原始数据相似的最优结果,对比生成结果与原始数据的差异进行反馈调参.实验结果表明,该方法可以有效保护数据集的敏感信息并且具有较好的数据可用性.     

基于图像条件的二元合成生成算法

生成对抗网络(GAN)是一种无监督学习方法,该算法巧妙地利用博弈的思想来学习生成式模型,但由于GAN通常从单个潜在源采样,因此常常丢失场景中的多个实体交互信息。为了捕获不同对象之间的复杂交互,包括它们的相对缩放,空间布局,遮挡,提出了一种基于图像条件的生成对抗网络,利用"分解—合成"的流程,模型可以根据输入对象的纹理和形状从它们的关节分布生成逼真的合成图像。通过使用Shapenet数据集,在2D和3D图像中分别对55个常见对象类别约51 300个图像模型进行试验,比起传统的SLP和cGAN,算法的图片质量有4%以上的提高。     

利用图像掩膜优化基于生成对抗网络的图像超分辨率模型

深度学习在一定程度上解决了从低分辨率图像中恢复出高分辨率图像这一图像超分辨率问题。目前基于生成对抗网络（generative adversarial network,GAN）的方法可以从超分辨率数据集中学习低/高分辨率图像映射关系,从而生成具有真实纹理细节的超分辨率图像。然而,基于GAN的图像超分辨率模型训练通常不稳定,其结果往往带有纹理扭曲和噪声等问题,提出了采用掩膜（mask）模块以辅助对抗网络训练。在网络训练过程中,掩膜模块根据生成网络输出的超分辨率结果和原始高分辨率图像,计算得到相应观感质量信息,并进一步辅助对抗网络训练。在实验中对3个最近提出的基于GAN的图像超分辨率模型进行修改,引入掩膜模块,修改后的模型在超分辨率图像输出的观感和真实感量化指标上均有明显地提升。掩膜模块的优点是可以进一步提升基于GAN的图像超分辨率网络输出的超分辨率图像观感质量,并仅需对生成对抗网络训练框架进行修改,因此适用于多数基于GAN的图像超分辨率模型的进一步优化。     

基于改进GAN算法的电机轴承故障诊断方法

提出一种基于改进GAN(生成对抗网络)的滚动轴承故障诊断方法,以振动信号作为主要依据,结合连续小波变换处理非平稳信号的能力和半监督生成对抗网络(semi-supervised generation adversarial networks,SSGAN)处理和识别图像的功能,在半监督生成对抗网络的基础上引入条件模型并对损失函数进行优化,指导生成器和判别器的训练.首次将改进GAN算法应用于故障诊断领域并利用其生成模型和半监督学习能力分别解决了样本数据不足和样本标记问题.实验表明,连续小波变换与改进GAN 结合的故障诊断方法与其他主流诊断方法相比能达到较高准确率.     

基于隐变量后验生成对抗网络的不平衡学习

针对现有不平衡分类问题中过采样方法不能充分利用数据概率密度分布的问题,提出了一种基于隐变量后验生成对抗网络的过采样(LGOS)算法.该方法利用变分自编码求取隐变量的近似后验分布,生成器能有效估计数据真实概率分布,在隐空间中采样克服了生成对抗网络采样过程的随机性,并引入边缘分布自适应损失和条件分布自适应损失提升生成数据质...     

迭代化代价函数及超参数可变的生成对抗网络

为了解决生成对抗网络(Generative adversarial networks,GAN)的训练难问题,该文在Wasserstein GAN(WGAN)方法基础上提出了迭代化代价函数及超参数可变的生成对抗网络。为了对原始WGAN中的惩罚项进行改进,用迭代的方法增加惩罚项代替原始随机选取的方法。针对WGAN中固定代价函数惩罚项的超参数,提出变动超参数策略,其变动的依据是仿分布和真实分布之间的距离。在MNIST手写字体数据集和CELEBA人脸数据集上的实验表明,与传统WGAN方法相比,该文方法在生成器的拟合速度上有了显著提高,充分验证了方法的有效性。     

基于CT-GAN的半监督学习窃电检测方法研究

针对电网公司获取有标签数据成本高、难度大,而获取的无标签数据难以训练有效窃电检测模型的问题,提出了在少量有窃电标签数据场景下基于联合训练生成对抗网络（Co-training Generative Adversarial Networks, CT-GAN）的半监督窃电检测方法.首先,探究了生成对抗网络及半监督生成对抗网络的原理与结构.其次,提出了采用Wasserstein距离取代JS（Jensen-Shannon）散度和KL（Kullback-Leibler）散度距离以解决生成对抗网络因梯度消失和模式崩溃原因导致的模型训练不稳定和生成数据质量低的问题,并构建了多判别器联合训练模型,避免了单个判别器分布误差高的问题,同时增强了GAN生成标签样本数据的能力,通过扩充标签样本数据集,提升了模型检测准确度和泛化能力.最后,采用爱尔兰电网数据集验证了该方法的准确性和有效性.     

基于生成对抗网络的肺结节良恶性诊断算法

针对实性肺结节CT影像数据量少、人工标注耗时耗力等问题,提出一种结合生成对抗网络和集成学习的实性肺结节良恶性计算机辅助诊断方法.首先,使用基于梯度惩罚的生成对抗网络对肺结节CT影像数据集进行扩充,缓解由数据量少、样本类别不均衡导致的模型过拟合.然后,利用卷积神经网络进行CT影像特征提取,并通过主成分分析对深度特征进行降维.最后,联合CT图像特征和有效临床信息,采用集成学习方法构建分类模型预测实性肺结节良恶性.基于多中心临床数据分析表明,相比于传统卷积神经网络模型,所提出方法有更好的预测性能.     

基于生成对抗网络与深度学习的少数据云资源预测

精确的云资源预测对计算平台实现安全运行具有十分重要的意义,针对新公司的云计算资源缺乏足够数据样本而造成预测模型精度降低的问题,本文提出一种基于WasserStein生成对抗网络和双向门控循环单元网络的少样本云计算资源预测模型。通过生成对抗网络去学习原始少样本数据的分布规律,以高斯噪声作为输入生成与原始数据具有相同分布的新样本数据,实现数据增强的行为;由于传统门控单元网络无法完全利用数据的时间信息,本文采用双向门控循环单元网络对数据的前向、反向时间信息进行双向提取并预测。以Google公开数据集进行仿真,对无增强数据和增强数据后的不同机器算法模型的预测结果进行对比。实验结果表明,使用WasserStein生成对抗网络数据增强后的双向门控循环单元网络模型精度的达到98.3%,所提方法适用于少样本数据的云计算资源预测。     

基于GAN的视频隐写算法

视频隐写术是一种将视频作为嵌入载体实现隐蔽通信的技术。为了解决视频隐写算法中最优修改概率矩阵生成困难的问题,提高信息传输的隐蔽性,提出了一种基于生成对抗网络(generative adversarial network, GAN)的视频隐写算法,该算法包含两种生成对抗网络,分别生成原始载体与修改概率矩阵,前者能够生成视频的静态后景、动态前景与掩模;后者将前景作为隐写生成器的输入,以提高修改概率矩阵的内容自适应性,并利用Tanh-simulator函数拟合最优嵌入函数,促进梯度的反向传播,基于三维卷积网络的隐写分析器作为隐写判别器,它与隐写生成器进行博弈训练以提高载密样本的抗检测性。实验结果表明,视频生成模块不仅能生成逼真的视频,且前景能够代表视频中的时空特征信息,本算法与经典的S-UNIWARD算法相比,在0.05、0.1、0.3 bpc(bit per channel)的嵌入率下,抵抗彩色隐写分析器SCRM检测的能力提高了0.65%～3.26%。     

基于改进GAN的水力测功器轴承故障在线诊断方法

基于数据驱动的轴承故障诊断方法已成为轴承故障诊断领域研究的重点,但由于水力测功器轴承故障情况极少,导致基于数据驱动的轴承故障诊断准确率低。针对上述问题,本文提出了一种基于改进生成对抗神经网络（Generative Adversarial Networks）的水力测功器轴承故障在线诊断方法,首先对生GAN训练方法进行改进,用改进的GAN交替训练判别器和生成器学习原始数据的分布特性,建立了水力测功器轴承故障数据增强模型得到合成数据。然后结合原始数据和合成数据训练得到基于SVM的轴承故障诊断模型。最后采用该轴承故障诊断模型实现水力测功器轴承故障在线诊断。仿真结果表明,所提出的故障在线诊断方法通过改进GAN增强训练极大提升了轴承故障诊断的实时准确率,并具有抗噪声干扰性强的特点。     

生成式对抗网络的应用综述

生成式对抗网络(GAN)是一种优秀的生成式模型,能够不依赖任何先验假设,学习到高维复杂的数据分布。这一强大的性能使得它成为近年来研究的热点,并在诸多应用领域取得了显著的研究成果。首先介绍了生成式对抗网络的基本原理,各种目标函数以及常用的模型结构。然后,详细分析了生成式对抗网络在条件限制下生成图片的各种演进方法。此外,介绍了生成式对抗网络在不同领域的应用,包括高分辨率图像生成、小目标检测、非图像数据生成、医学图像分割等方面的最新研究进展。最后,总结了生成式对抗网络训练过程中的优化技巧。旨在通俗地阐明GAN的基础理论以及发展历程,并从应用角度对未来工作进行了展望。     

基于改进深度卷积生成对抗网络的入侵检测方法研究

针对入侵检测系统因采用的网络攻击样本具有不平衡性而导致检测结果出现较大偏差的问题,文章提出一种将改进后的深度卷积生成对抗网络(DCGAN)与深度神经网络(DNN)相结合的入侵检测模型(DCGAN-DNN),深度卷积生成对抗网络能够通过学习已知攻击样本数据的内在特征分布生成新的攻击样本,并对深度卷积生成对抗网络中生成网络所用的线性整流(ReLU)激活函数作出改进,改善了均值偏移和神经元坏死的问题,提升了训练稳定性。使用CIC-IDS-2017数据集作为实验样本对模型进行评估,与传统的过采样方法相比DCGAN-DNN入侵检测模型对于未知攻击和少数攻击类型具有较高检测率。     

基于数据增强的DBN-ELM入侵检测方法

随着工业4.0时代的到来,工控安全事件频发,工控信息安全问题已经备受关注。由于工控环境较为复杂,导致传统机器学习方法在分类大量工控数据时存在收敛速度慢、泛化性较差以及数据分布不均衡等问题。为了解决此类问题,本研究采用一种基于WGAN-GP数据增强并运用深度信念网络和极限学习机相结合的深度学习入侵检测方法,本方法基于一种梯度惩罚的生成对抗网络数据增强并将深度信念网络（deep belief network,DBN）自动提取特征的能力与极限学习机（extreme learning machine, ELM）快速学习的能力相结合。采用加拿大网络安全研究所公布的 CICIDS2017 数据集对所提出的算法进行测试,经过对比实验证明了该方法精度更高,收敛速度更快。为了验证所提出算法在工控环境中的适用性,本研究同时采用密西西比州立大学天然气管道数据集进行验证,证明了该算法在工业环境中具有高精度、误报率低等优点,为工业入侵检测的研究提供了一种新的研究思路。     

Two-parameter banach space valued strong martingales and characterizations ofp-smoothable spaces

In this paper we introduce the concept of two-parameterB-valued strong martingales and investigate some features of these strong martingales. We also characterizep-smoothable Banach spaces in terms of these strong martingales. Biography: GAN Shi-xin (1939-), male, Professor, research interest is in probability theory in Banach space.     

一种利用年龄编辑改进年龄估计的方法

人脸年龄估计(face age estimation)作为一种新兴的生物特征识别技术,是计算机视觉中一个经典的学习问题.基于生成对抗网络(generative adversarial network,GAN)强大的数据生成能力,提出了一种利用年龄编辑改进年龄估计的方法,并通过分阶段联合训练年龄编辑网络StarGAN和年...