基于子图采样的大规模图对抗性攻击方法

为提高对抗性攻击在大规模图上的攻击效率,提出了基于子图采样的对抗样本生成方法. 该方法通过引入PageRank、余弦相似度及K跳子图等技术,提取与目标节点高度相关的子图,在大规模图上缓解了计算梯度效率较低的问题,在降低被攻击模型准确性的同时提升了攻击的隐蔽性. 实验结果表明： 所提出的对抗性攻击方法与基于梯度攻击的GradArgmax算法相比,在Cora数据集上提升了30.7%的攻击性能,且在Reddit大规模数据上能够计算GradArgmax算法无法计算的攻击扰动.     

基于图神经网络的兴趣点推荐的隐私保护框架

传统的基于图神经网络的兴趣点模型的研究是通过简单的注意力机制进行权重定义,或仅仅将多种因素简单进行线性组合,缺乏从多角度考虑用户和兴趣点自身的语义信息和交互信息。此外,现有的图神经网络推荐依赖于图结构信息的集中式存储和训练,存在隐私泄露风险。为了解决上述问题,提出基于图神经网络的兴趣点推荐的隐私保护框架(privacy of POI recommendations for graph neural networks, PPGNN)。首先,通过引入多特征模式和注意力机制对图结构进行强化,构建强化用户社交关系图模型;其次,通过多场景角度提出兴趣点邻居结点采样算法以及重新设计卷积聚合机制,对异质图使用语义级别注意力机制进行聚合;最后,提出了可变动态梯度的客户端差分隐私算法,达到边优化边反馈的效果。通过在Yelp和Gowalla不同的数据集上进行大量实验,证明该方案具有有效性,弥补了图神经网络推荐因隐私威胁带来的局限性,优于集中式图神经网络推荐方法,同时也优于传统兴趣点推荐方法,并且PPGNN可以更好地克服推荐中的数据稀疏和冷启动问题。     

基于神经网络模型的成员推理防御算法

【目的】针对机器学习模型在训练过程中可能泄露训练数据隐私,为成员推理攻击所利用,进而窃取用户敏感信息的问题,提出了一种基于神经网络的期望均衡优化算法(EEO).【方法】采用对抗训练并优化的策略,分为内外两层循环来实现：内层循环假设一个足够强大的对手,其目标为最大化攻击模型期望;外层循环有针对性地进行防御训练,其目标为最大化目标模型期望。利用小批量梯度下降法使内外两层循环的损失值都达到最小,从而既保证模型精度,又降低对手成员推理的能力。【结果】采用3个有代表性的图像数据集MNIST、FASHION、Face,将EEO应用于优化后的神经网络模型进行成员推理攻击实验,3个数据集的测试精度分别损失了2.2%、4.7%和3.7%,而攻击模型的精度分别下降了14.6%、16.5%和13.9%,并且已接近50%,即随机猜测。【结论】实验结果表明该算法较好地兼顾了模型的高可用性与高隐私性,尽管仍会不可避免地产生隐私泄露,但训练出的神经网络模型对成员推理攻击有很强的防御效果,且对目标模型的影响可以忽略。     

基于卷积神经网络的人脸图像隐私保护

针对现有基于深度生成网络模型的人脸图像隐私保护方法无法提供可证明隐私保证、合成图像与原始图像保持语义一致性的问题,提出一种基于卷积神经网络的人脸图像隐私保护方法。该方法首先基于卷积自动编码器和差分隐私实现人脸图像的预训练,对原始人脸图像进行解耦和身份信息的差分隐私保护;然后利用卷积生成对抗网络合成伪图像代替原始图像发布,在保留原始人脸图像的关键特征的基础上,生成与原始图像的关键人脸属性高度匹配的伪图像。该方法可保证合成图像与原始图像语义一致性,并提供可证明的隐私保证。与现有的基于深度生成模型人脸图像隐私方法相比,所提出的方法达到了更好的隐私保护与数据可用性之间的优化权衡。     

数据挖掘中的隐私保护策略

本文首先分析了由于数据挖掘技术的出现而引发的隐私问题,接着在讨论传统的隐私保护方法的基础上给出了保护隐私的新策略,最后对进一步的研究工作提出了展望。     

面向路网环境速度预测攻击的隐私保护

针对路网环境中攻击者利用速度预测获得用户位置隐私的问题,提出了一种提高当前路段查询密度值的密度压缩算法。该算法在用户真实位置附近添加大量噪声用户,通过噪声用户影响当前路段查询密度,进而降低速度预测的准确性,破坏攻击者通过概率转移矩阵预测用户行驶速度的攻击行为,以此保护用户在路网环境中的位置轨迹隐私。该算法通过密度压缩使真实用户和噪声用户表现出相同速度,提高了真实用户与噪声用户之间的相似程度,降低了噪声用户被识别的机率,进一步隐藏了真实用户。实验结果表明,与其他主流算法相比,密度压缩算法能够更有效地抵抗基于速度预测的攻击行为,具有更好的隐私保护能力。在执行时间和隐私保护成功率等方面的实验结果进一步表明,该算法更适合在路网环境下提供隐私保护服务,具有广阔的应用前景。     

基于卷积神经网络的服务机器人听觉隐私信息分类算法

为获得机器人听觉行为隐私感知方法,解决语音监听设备存在的隐私泄露风险,本文提出了基于卷积神经网络的服务机器人听觉隐私信息分类算法(APICA)。首先,设计了基于卷积神经网络的服务机器人听觉隐私信息分类算法及其卷积神经网络模型;其次,给出了机器人的听觉隐私信息监听系统工作流程;最后,为评估该听觉隐私信息分类算法性能,构建了训练和测试数据集,并在服务机器人平台上部署和实现了该算法。测试结果表明:系统识别隐私信息的平均精确率P、召回率R和F1值分别为96.35%、93.20%和94.53%,具有良好的识别和分类效果。     

基于差分隐私的学生成绩隐私保护系统

基于学生成绩的数据挖掘技术出现了许多创新,设计了一个基于差分隐私技术的学生成绩隐私保护系统,该系统从考虑保护学生成绩隐私角度出发,在发布学生成绩数据前,先对静态数据进行差分隐私保护处理,再将数据应用到真实教育数据发布中,最终不仅方便用户根据不同需求发布结果,而且达到对学生的个人隐私数据进行保护的目的。     

NDN中基于神经网络的兴趣洪泛攻击综合防御方案

命名数据网络(named data networking, NDN)中的请求-应答通信模式及有状态的转发滋生了新的分布式拒绝服务(distributed denial of service, DDoS)攻击方式—兴趣洪泛攻击(interest flooding attack, IFA)。IFA是NDN中主要的拒绝服务威胁,虽然IFA防御方案被广泛研究,但目前缺乏系统的解决方案。针对这一问题,基于粒子群优化的后向传播神经网络算法提出一种新的IFA检测方法,并结合基于基尼不纯度的恶意前缀识别方法和兴趣包回溯方法来缓解攻击危害,形成一种综合的防御方案。通过ndnSIM仿真实验证明,提出的方案不仅可以准确检测和有效防御IFA攻击,而且解决了基于窗口检测方案无法检测连续攻击的问题。     

数据服务中心的隐私保护框架设计与应用研究

针对北京大学数据服务中心在为全校提供数据共享和数据再利用服务的同时,也存在很多信息和隐私安全方面的问题,分析了数据服务中心的隐私安全问题,设计了数据服务中心的隐私保护框架(DSP-PPF),并且基于这个框架在隐私数据的分类方法、隐私数据的访问控制和面向数据发布的隐私保护三个方面展开应用研究.通过应用所提技术进行隐私数据组织和管理,结果表明数据既能得到合理的保护,又能最大程度地发挥效用.     

基于本地差分隐私的Wi-Fi指纹定位隐私保护方法

针对当前位置隐私保护中遭遇的背景知识攻击,服务器不可靠等原因所造成的问题,在Wi-Fi指纹定位技术的基础上,结合RAPPOR算法,提出了一种满足本地差分隐私的室内位置隐私保护方法.该方法通过参考点的无线电信号特征来划分位室内环境的区域,使得用户数据满足RAPPOR算法的输入,最后将扰动向量作为输出发送到服务器端.在真实数据集上的实验也表明,该方案在保证位置隐私的前提下也能得到不错的数据效用性.     

用户为中心的差分扰动位置隐私保护方法

基于隐形区的位置混淆技术是实现位置隐私广泛研究的技术,但该技术需要可信第三方且无法防止基于背景信息的推理攻击,容易泄露位置隐私。针对这一难题,提出了以用户为中心的差分扰动位置隐私保护方法,不需要可信第三方,同时增强了用户位置隐私。该方法采用修改的Hilbert曲线映射技术将地图中用户的每个位置投影到一维空间,通过组合k匿名和差分隐私技术随机产生扰动,并将扰动位置作为用户真实位置提交给服务商。为了解决移动设备资源受限问题,采用基于四分树的方法将用户的上下文存储和转换为比特流,由此获得了有效的时空复杂度和很高的检索准确率。安全分析表明,该方法能有效保护用户位置隐私;实验评估表明,与采用标准Hilbert曲线映射的方法相比检索准确率平均提高了15.4%。所提方法在隐私保护和服务精度之间取得了较好的权衡,对隐私保护系统设计具有一定的理论和实际意义。     

基于空间混淆位置隐私保护的位置隐私区域生成算法

为提高位置隐私区域的切换成功率,实现个性化位置隐私保护,基于空间混淆位置隐私保护方法提出了两种位置隐私区域生成算法,即初级形心偏移法和高级形心偏移法.初级形心偏移法通过将切换后的位置隐私区域的形心相对切换前的位置隐私区域发生一定的偏移来实现,偏移幅度由用户周围其他用户的分布决定.高级形心偏移法将切换前位置隐私区域的形心偏移至切换后位置隐私区域的外部,再根据用户周围其他用户的分布生成与切换前位置隐私区域无重叠的新的位置隐私区域.实验结果表明:在中心点攻击下,初级形心偏移法的切换成功率保持在90%以上,高级形心偏移法的切换成功率亦接近100%;在无差别攻击下,高级形心偏移法的切换成功率亦接近100%.     

数据库驱动认知无线电网络位置隐私的攻击与保护

针对数据库驱动认知无线电网络(cognitive radio networks)存在的位置隐私泄露风险,提出两种攻击方法:覆盖交集攻击和频道切换攻击,可根据二级用户(secondary user,SU)频道使用情况,在不直接获取查询信息中的位置信息的前提下,间接推断SU位置。为应对上述攻击,提出查询信息盲化机制来实现隐私保护的频谱查询,同时对频道选择方案进行优化使得SU能够最大程度地保护自身位置隐私。根据真实数据进行的攻击实验提高了对SU的定位精度,基于模拟数据的隐私保护方案验证实验证明了本文提出的保护方案的有效性和效率。     

云计算环境下基于全同态加密的神经网络分类预测研究

在云计算环境下,数据挖掘应用中的数据共享和服务外包在产生巨大财富的同时,也带来了隐私泄漏的风险,其信息安全问题亟待解决。对云计算环境下神经网络预测分类服务外包中存在的风险以及全同态加密算法的应用进行了分析,使用平方函数作为神经网络中的非线性激活函数,设计并实现了一种密文域的数据分类预测方案,并对该方案运行过程中的5个主要步骤：模型训练、模型加密、数据加密、密文计算和解密结果进行详细描述。设计的测试实验结果验证了该方案的可行性,保证了模型和数据在整个神经网络处理过程中不被泄漏,可有效保障数据和模型的安全与隐私。     

基于差分隐私的LBS用户位置隐私保护方案

为了兼顾共享位置数据的可用性和隐私保护需求,针对第三方收集的用户共享位置信息,提出了一种基于差分隐私的LBS用户位置隐私保护方案.首先,对共享位置数据集进行预处理,使用字典查询方式构建位置事务数据库,采用Trie树结构存储位置数据和频率,提高查询效率,减少加噪次数;其次,在Trie树上进行频繁位置选取,并使用差分隐私下...     

面向云存储基于属性的隐私保护算法

针对隐私保护在复杂社会场景下可能面临的问题,提出一种非加密的隐私保护算法.该算法将复杂社会场景抽象成多属性关联模型,通过关联属性分离的方式,将关联隐私的属性组合分离存储于不同的数据块中解决数据隐私保护问题.同时,为了保证数据重构的效率,还提出一种组合关联属性分离算法,达到了在数据隐私保护性能与数据利用效率之间的最大优化.     

基于可信计算平台的隐私保护机制

针对网络服务环境下有关隐私数据保护的问题,提出了一种基于可信计算平台的保护方案,分别描述了安全策略与隐私数据的分发协议及安全使用协议.该框架基于可信实体身份与访问平台构建,提供了安全的数据使用环境,保证了数据的完整性和安全性.     

面向共谋攻击的位置隐私保护方案

在位置隐私保护中,协作用户之间可能存在共谋是一个难以避免的问题,针对这一问题,从信息论的角度加以分析,并提出了基于网格划分和属性基加密处理的隐私保护方法。该方法通过信息流分析了潜在的共谋信息披露量,利用属性基加密防止协作用户共谋获取隐私信息,同时进一步使用网格划分有效的防止中心服务器和位置提供商对用户隐私信息的获取。     

一种基于主成分分析的稀疏数据模式分类隐私保护算法

 模式分类过程涉及到对原始训练样本的学习,容易导致用户隐私的泄露。为了避免模式分类过程中的隐私泄露,同时又不影响模式分类算法的性能,提出一种基于主成分分析（PCA）的模式分类隐私保护算法。该算法利用PCA 提取原始训练数据的主成分,并将原始训练样本集合转化为主成分的新样本集合,然后利用新样本集合进行分类学习。选用Adult 数据集和KDDCUP 99 数据集进行仿真实验,并采用正确率和召回率进行性能评价,结果表明,该隐私保护算法通过PCA 提取原始数据特征属性的主成分,可避免原始属性的泄露,同时PCA 在一定程度上可实现去噪,从而使分类器的分类性能优于原始数据集的分类性能。与已有算法比较,该隐私保护算法具有更好的模式分类精度和隐私保护性能。