差分隐私生成式对抗网络的框架与方法综述

生成式对抗网络因使用真实样本迭代训练判别器存在隐私泄露风险,为此已有工作基于差分隐私实现生成式对抗网络的隐私保护。因此,很有必要系统地综述目前差分隐私生成式对抗网络的研究成果。首先,概述和分析重复使用差分隐私的累积隐私预算估计方法,以及介绍生成式对抗网络及其常见变式。其次,总结和分析生成式对抗网络的隐私威胁模型及其评价指标。然后,针对存在的隐私攻击模型,归纳和分析差分隐私生成式对抗网络框架,并对比分析其方法与评价指标;同时,概括和分析差分隐私联邦生成式对抗网络框架,并比较分析其方法与评价指标。最后,分析目前工作存在的问题,并对差分隐私生成式对抗网络的未来研究进行展望。     

基于卷积神经网络的人脸图像隐私保护

针对现有基于深度生成网络模型的人脸图像隐私保护方法无法提供可证明隐私保证、合成图像与原始图像保持语义一致性的问题,提出一种基于卷积神经网络的人脸图像隐私保护方法。该方法首先基于卷积自动编码器和差分隐私实现人脸图像的预训练,对原始人脸图像进行解耦和身份信息的差分隐私保护;然后利用卷积生成对抗网络合成伪图像代替原始图像发布,在保留原始人脸图像的关键特征的基础上,生成与原始图像的关键人脸属性高度匹配的伪图像。该方法可保证合成图像与原始图像语义一致性,并提供可证明的隐私保证。与现有的基于深度生成模型人脸图像隐私方法相比,所提出的方法达到了更好的隐私保护与数据可用性之间的优化权衡。     

基于特征优化生成对抗网络的在线交易反欺诈方法研究

为了降低在线交易欺诈数据的不平衡性对欺诈检测效果的影响,提出了一种基于特征优化生成对抗网络的在线交易反欺诈方法。该方法建立了WGAN网络包括生成模型和判别模型,对数据进行Key特征选取,在数据生成过程中进行Gumbel-softmax技巧采样输出,优化生成数据质量和提高训练稳定性;交替训练判别模型和生成模型直至模型收敛;接着将收敛的生成模型作为样本生成器生成少数类样本对原始数据进行平衡处理;利用平衡处理后的数据训练分类模型并进行模型评估。通过实验证明,该方法生成数据的效果优于SMOTE及其变种方法。     

基于差分隐私保护的社交网络发布图生成模型

社交网络在帮助人们建立社会性网络应用服务的同时,收集了大量的用户资料和敏感数据,通过分析这些数据可能泄露潜在的隐私信息.目前差分隐私保护模型对隐私泄露风险给出了严谨、定量化的表示和证明,极大地保证了数据的可用性.设计了一个满足差分隐私保护的社交网络发布图生成模型,首先通过图模型表示社交网络结构,并将原图按照节点特征分类为多个子图;然后利用四叉树方法对子图的密集区域进行划分,在树的叶子节点添加满足差分隐私保护的噪声;通过子图重构的方式,生成待发布图.最后,利用度分布、最短路径、聚类系数等统计分析方法,实验验证了该模型的可行性和有用性.     

生成式对抗网络的应用综述

生成式对抗网络(GAN)是一种优秀的生成式模型,能够不依赖任何先验假设,学习到高维复杂的数据分布。这一强大的性能使得它成为近年来研究的热点,并在诸多应用领域取得了显著的研究成果。首先介绍了生成式对抗网络的基本原理,各种目标函数以及常用的模型结构。然后,详细分析了生成式对抗网络在条件限制下生成图片的各种演进方法。此外,介绍了生成式对抗网络在不同领域的应用,包括高分辨率图像生成、小目标检测、非图像数据生成、医学图像分割等方面的最新研究进展。最后,总结了生成式对抗网络训练过程中的优化技巧。旨在通俗地阐明GAN的基础理论以及发展历程,并从应用角度对未来工作进行了展望。     

MDPA:基于MCL的社会网络差分隐私数据发布算法

社会网络数据发布的隐私保护是为了确保数据集中隐私信息的安全.针对社会网络数据发布所面临的隐私保护问题,引入严格的差分隐私保护模型,设计了一种基于马尔科夫算法(Markov cluster algorithm,MCL)并且满足ε-差分隐私的社会网络差分隐私数据发布方法.设计实现了满足ε-差分隐私(MCL differential privacy algorithm,MDPA)算法,以Si为抽样频率,对网络边权重添加满足ε的隐私保护预算,服从拉普拉斯分布的噪声.真实数据集上的实验结果表明,MDPA算法满足用户在社会网络中的差分隐私要求,并提高了数据效用性.     

多类别图像数据分类隐私保护算法

为了对所收集的未标记数据进行划分归类,用已知数据生成预测模型成为一种热门方法。针对模型会隐式地记住训练数据集而导致数据隐私泄露的问题,为保护训练集的隐私安全,将差分隐私应用于多类别图像数据集分类任务中,提出Diff-RN方法。该方法将多类别图像数据分成多个互斥的数据集,通过黑盒的方式对互斥数据集分别进行非公开的教师模型训练,并使用拉普拉斯机制对教师模型结果聚合注入噪声与非敏感公共数据集结合,利用深度残差网络训练公开的学生模型,实验结果表明,在数据集cifar-100上,Diff-RN方法训练得到的模型分类精确度提高,训练过程中数据损失量降低,隐私保护程度更高,并且整个训练过程满足ε-差分隐私。     

基于生成式零样本学习的未知恶意流量分类方法

未知恶意流量是网络安全的重大安全挑战,对未知恶意流量的分类能够增强网络威胁识别能力,指导网络防御策略.未知恶意流量由于缺乏样本,无法满足现有的深度学习方法对大量数据的需要.本文提出了一种基于生成式零样本学习的未知恶意流量分类方法.从原始的网络流量中提取出关键的恶意流量信息并转化为二维图像,提出将恶意流量的属性信息作为辅助语义信息,利用条件生成对抗网络生成类别样本.同时,本文还添加了类级别的对比学习网络,使得生成的类别样本质量更高并且更具有类间区分度.实验结果表明,该方法在未知恶意流量分类问题上平均准确率能够达到90%以上,具有较高的应用价值.     

5G网络环境下云计算数据差分隐私保护算法研究

为了解决5G网络环境下云计算环境的复杂性和不确定性因素导致其差分隐私保护效果较差这一问题，该文研究了5G网络环境下云计算数据差分隐私保护算法。建立5G网络环境下云计算数据差分隐私保护架构，利用信息熵抑制方式，消冗处理5G网络环境下云计算数据。将5G网络环境内云计算数据看作一个社区，并对社区内的云计算数据添加拉普拉斯噪声。通过重构云计算数据社区内的边和社区之间的边，实现5G网络环境下云计算数据差分隐私保护。实验结果表明：该算法对云计算数据消冗处理后，数据结构复杂度最大降低1.2,对数据实施差分隐私保护后，信息泄露比明显降低，表明该研究方法具有较为显著的应用效果。     

基于深度学习的小样本流体机械故障诊断方法

主要开展了深度卷积生成对抗网络（DCGAN）在流体机械故障诊断方面的应用研究,建立了基于深度学习和迁移学习在小样本条件下的流体机械故障诊断方法.仿真实验结果表明：基于DCGAN生成的数据能涵盖原始数据的主要特征,可被用于对流体机械小样本故障诊断数据的扩充.结合迁移学习和深度学习的故障诊断方法,采用不同流体机械的运行数据对模型进行实验验证,结果表明：该模型解决了小样本训练中的过拟合问题,诊断准确率为98%~100%.     

基于B+树索引的动态社会网络差分隐私保护

针对当前社会网络的动态更新速度越来越快,而社会网络中差分隐私保护方法迭代速度慢的问题,提出一种基于B+树索引的动态社会网络差分隐私保护方法.使用B+树索引社会网络图的边,根据差分隐私并行性组合的特点,对B+树的索引数据划分,为数据分配不同的ε并添加拉普拉斯噪声,实现数据隐私后的整体高效用性和局部强保护性;在迭代时利用B+树的高效索引对欲更新的信息快速定位,实现动态社会网络差分隐私保护的快速迭代.实验表明,B+树索引有效提高了动态社会网络差分隐私保护的迭代速度,同时差分隐私的并行性提高了数据的效用性.     

基于深度卷积生成对抗网络的植物图像识别方法的研究

提出使用深度卷积生成对抗网络进行植物图像识别方法.首先,利用生成式对抗网络生成植物图像样本,然后,利用判别网络中的卷积神经网络来提取图像特征,实现对生成网络产生的样本进行判别,以提升模型对图像数据分布的理解,从而达到了通过构建卷积神经网络对生产样本的质量进行测试的目标.实验结果表明,该方法生成的植物图像能够有效的提高卷积神经网络的识别准确率.     

多生成器生成对抗网络

生成对抗网络(Generative adversarial networks,GAN)广泛应用于各种领域,尤其在图像生成方面.该模型由生成网络与判别网络2部分组成,在无监督的训练方式下,2个网络相互竞争相互提高.然而,GAN在训练时经常出现模式崩溃问题,进而导致模型收敛较慢,生成样本多样性较差.为解决这一问题,在深度卷积神经网络的基础上提出了一种多生成器生成对抗网络模型.该模型包含多个生成网络,每个生成网络均使用残差网络进行搭建,同时在生成网络间引入协作机制,以加快模型获取信息并减少参数量,最后将各生成网络的特征图进行融合得到最终图像输入到判别网络中.GAN在训练过程中还会出现梯度消失、训练不稳定问题.为避免出现这些问题,将Wasserstein距离和梯度惩罚引入模型的损失函数.通过在多个数据集上与多种相关方法进行实验比较,结果表明提出的模型在缓解模式崩溃问题、加快模型收敛速度以及减少参数量上均明显优于其他几种方法.     

基于WGAN的多孔材料三维重建

为探索多孔材料在孔径尺度下的相关性质,充分了解材料内部孔隙结构,采用深度学习的方法近似多孔材料的真实概率分布,并利用随机数进行三维重建。首先,对已有的二值图像进行分割以获得大小合适、数量充足的数据集。然后,将WGAN(Wasserstein Generative Adversarial Networks)改造成能处理三维数据的生成对抗模型,并利用生成模型和服从高斯正态分布的随机噪声生成数据。最后,通过生成数据和真实数据对WGAN进行训练。通过生成图像计算两点相关函数、 Minkowski泛函和渗透率,考察孔隙率、比表面积与函数曲线的拟合情况等相关参数,并采用不同数据集进行测试。结果表明,基于WGAN的三维重建模型在不同的输入条件下均具有较高准确性,同时该算法还具有低时间复杂度的特性,而且生成模型可以存储,并能得到重复利用。     

基于多尺度密集特征融合的生成式对抗除雾网络

在真实雾天场景下,针对除雾网络无法去除远处雾气、天空区域容易出现噪声的问题,提出了一种基于多尺度密集特征融合的生成式对抗除雾网络,并采用制作的合成雾天数据集进行对抗训练.首先,对除雾网络进行设计,构建了网络模型;其次,从合成晴朗天气图像中利用深度标签生成逼真的雾天数据集,以适用于真实雾天除雾领域;最后,在真实雾天数据集上测试,选取近几年具有代表性的6种基于深度学习的除雾网络进行主观视觉效果,并借助除雾领域常用的无参考图像质量评价指标进行客观分析.研究结果表明:提出的除雾网络在真实场景下的除雾效果较其他网络有显著提升,主观视觉效果明显优于对比的除雾网络,在无参评价指标上综合表现优于其他除雾网络.     

迭代化代价函数及超参数可变的生成对抗网络

为了解决生成对抗网络(Generative adversarial networks,GAN)的训练难问题,该文在Wasserstein GAN(WGAN)方法基础上提出了迭代化代价函数及超参数可变的生成对抗网络。为了对原始WGAN中的惩罚项进行改进,用迭代的方法增加惩罚项代替原始随机选取的方法。针对WGAN中固定代价函数惩罚项的超参数,提出变动超参数策略,其变动的依据是仿分布和真实分布之间的距离。在MNIST手写字体数据集和CELEBA人脸数据集上的实验表明,与传统WGAN方法相比,该文方法在生成器的拟合速度上有了显著提高,充分验证了方法的有效性。     

基于对抗样本的深度学习图像压缩感知方法

压缩感知是研究数据采样压缩与重构的信号处理新理论,近年来研究人员将深度学习运用到图像压缩感知算法中,显著提高了图像重构质量.然而,图像信息常与隐私关联,高质量的重构图像在方便人们观赏的同时,带来了隐私保护的问题.本文基于深度学习理论,提出一种对抗的图像压缩感知方法.该方法将压缩理论和对抗样本技术统一于同一个压缩感知算法,通过设计损失函数,联合重构误差和分类误差来训练压缩感知深度神经网络,使得压缩感知重构样本同时也是一个对抗样本.因此,重构图像在保证重构质量的同时,也能对抗图像分类算法,降低其识别率,达到保护图像隐私的效果.在Cifar-10和MNIST图像集上进行的实验结果表明,和已有的压缩感知方法相比,我们提出的对抗压缩感知方法以损失仅10%的图像重构质量为代价,使得图像分类精度下降了74%,获得了很好的对抗性能.     

推荐系统与隐私保护研究综述

推荐系统为了能够给用户提供更好的推荐服务,须要收集大量的用户个人信息,在收集这些信息的同时增加了用户隐私泄露的风险．首先,介绍了推荐系统中的关键技术,包括基于协同关系的实体表示学习和基于图模型的实体表示学习;然后,通过对相关研究的归纳和总结,将推荐系统中的隐私保护问题按照用户敏感信息类型进行分类整理,主要分为对用户私有敏感属性的保护、对用户与物品历史交互信息的保护和对用户提交给推荐系统的信息的保护三类;在此基础上,对匿名化、差分隐私、联邦学习和对抗学习四种关键隐私保护技术进行了总结和分析,并重点梳理了这些技术的实现方法、适用场景和优缺点;最后,分析了考虑隐私保护的推荐算法中存在的问题,并尝试给出了未来可能的研究方向．     

面向磁共振影像超分辨的WGAN方法研究

针对磁共振成像（magnetic resonance imaging,MRI）超分辨率重构任务,提出了Wasserstein 生成式对抗网络（Wasserstein generative adversarial network,WGAN）,构建了合适的网络模型与损失函数;基于残差U-net WGAN 后端上采样超分模型,设计了感知、纹理和对抗损失,用于恢复低分辨率MRI影像中的细节信息．此网络在2D-MRI的3 000张脑影像上获得的峰值信噪比（peak signal to noise ratio,PSNR）是33.09 dB,结构相似度（structural similarity index measure,SSIM）的平均值为0.95;PSNR与SSIM的值与经典超分法相比较,分别增加了4.09 dB和0.06．这表明:网络能更好地学习MRI从低分辨率到高分辨率影像之间的映射关系;该方法有效稳定,可以广泛应用于相似系统．      

基于梯度惩罚生成对抗网络的过采样算法

在不平衡数据分类问题中，为了更注重学习原始样本的概率密度分布，提出基于梯度惩罚生成对抗网络的过采样算法（OGPG）。该算法首先引入生成对抗网络（GAN），有效地学习原始数据的概率分布；其次，采用梯度惩罚对判别器输入项的梯度二范数进行约束，降低了GAN易出现的过拟合和梯度消失，合理地生成新样本。实验部分，在14个公开数据集上运用k近邻和决策树分类器对比其他过采样算法，在评价指标上均有显著提升，并利用Wilcoxon符号秩检验验证了该算法与对比算法在统计学上的差异。结果表明该算法具有良好的有效性和通用性。